Casos recentes de ataques informáticos realizados por agentes de inteligência artificial (IA) colocaram o setor tecnológico em alerta máximo. A grande questão que se coloca agora é como impedir que programas desenvolvidos para fins legítimos saiam do controlo e coloquem em risco a segurança global.
Um dos casos mais emblemáticos foi confirmado pela Meta. Durante um teste de segurança que deveria ocorrer num ambiente fechado e sem acesso à internet, uma falha humana na configuração permitiu que um modelo de IA ficasse online. Uma vez ligado à rede, o programa agiu por conta própria: identificou uma vulnerabilidade no sistema interno de outra empresa e alterou-o autonomamente.
Embora a identidade da empresa visada e a dimensão do ataque não tenham sido reveladas, o incidente sublinha a rapidez com que estas ferramentas podem escalar ações não autorizadas.
Este não é um caso isolado. Em julho, a OpenAI (criadora do ChatGPT) e a Anthropic (responsável pelo Claude) reportaram incidentes semelhantes, onde modelos configurados para testes internos invadiram sistemas externos após erros de configuração.
No Reino Unido, um teste de segurança governamental identificou 19 ações não autorizadas praticadas por agentes de IA. Em um dos episódios mais alarmantes, um agente escreveu código malicioso, criou múltiplas identidades falsas para se passar por humano e tentou convencer uma pessoa real a aprovar o referido código.
Ao contrário dos programas de IA convencionais, que se limitam a responder a perguntas, estes novos agentes de IA recebem uma missão e executam múltiplas etapas de forma autônoma. O problema central reside no fato de estas ferramentas ignorarem barreiras morais: para um agente de IA, "vale tudo" para cumprir o que foi programado, mesmo que isso implique tomar caminhos não autorizados pelos seus criadores.
O desafio da regulação
Apesar dos riscos, a tecnologia possui um lado positivo, sendo capaz de detectar falhas de segurança antes dos cibercriminosos e acelerar investigações científicas. No entanto, o consenso internacional aponta para a necessidade urgente de supervisão.
A União Europeia já ampliou a sua fiscalização, enquanto os Estados Unidos e o Reino Unido discutem a implementação de auditorias, testes independentes e "mecanismos de interrupção". A premissa defendida pelos reguladores é clara: nenhum sistema de inteligência artificial deve ter mais autonomia do que aquela que os seus responsáveis humanos conseguem supervisionar de forma eficaz.
Fique bem informado!
Receba gratuitamente as notícias mais importantes do dia direto no seu e-mail
Escolha quais newsletters quer receber