Opinião
Sylvain Duranton - Líder global da BCG X
|
Vanessa Lyon - Líder global de cyber e risco digital da BCG
27 de Março de 2025 às 14:00
O que a IA pode aprender com a segurança da aviação
Tal como a aviação conquistou a confiança do público ao adotar medidas rigorosas de segurança, a indústria da IA deve introduzir proteções para evitar alucinações, manipulações, invasões e problemas de latência antes que causem danos no mundo real.
- Partilhar artigo
- ...
Num teste de segurança recente, um "chatbot" bancário de inteligência artificial (IA) generativa, projetado para auxiliar clientes em pedidos de crédito, foi manipulado para divulgar informações financeiras confidenciais. Quem estava a realizar o teste ultrapassou os controlos de segurança e conseguiu uma lista completa de aprovações de empréstimos, incluindo os nomes de clientes.
Mais artigos do Autor
Ver maisCapa do Jornal
