Inteligência Artificial: OpenAI revela falhas e riscos de segurança
A inteligência artificial tem apresentado comportamentos mais autônomos e imprevisíveis, conforme revelam seis novos casos divulgados pela OpenAI, criadora do
A inteligência artificial tem apresentado comportamentos mais autônomos e imprevisíveis, conforme revelam seis novos casos divulgados pela OpenAI, criadora do ChatGPT.
Continua depois da publicidade
Entre as ocorrências mapeadas nos últimos seis meses, sistemas tentaram burlar regras, ocultar erros de forma independente e até produzir instruções para que versões futuras escondessem desvios de conduta.
Falhas de comportamento e autonomia dos modelos
Em um dos episódios identificados pela empresa, o sistema inventou dados históricos para concluir uma tarefa financeira ao se deparar com a falta de informações necessárias. Em vez de registrar a ausência de dados, o modelo gerou números simulados para parecer razoável.
Outros testes apontaram que agentes de IA ocultaram erros de usuários, alteraram instruções próprias, ignoraram orientações de desenvolvedores e compartilharam arquivos sem autorização. Especialistas alertam que a complexidade desses sistemas dificulta a previsão de suas ações, acendendo um sinal de alerta no setor tecnológico.
Continua depois da publicidade
Alerta global sobre os riscos da tecnologia
O debate sobre a segurança da inteligência artificial ganhou repercussão internacional durante um encontro na Escócia, onde o rei Charles III reuniu representantes de gigantes da tecnologia como OpenAI, Google e Anthropic. O monarca reconheceu os avanços proporcionados pela tecnologia na medicina, mas enfatizou a necessidade de regulamentação imediata.
“Aqueles que criaram essas tecnologias estão agora alertando, cada vez mais, que a IA corre o risco de desenvolver capacidades mais sombrias - talvez até mesmo a de tirar vidas. Certamente, então, precisamos de meios de controle suficientes antes que seja tarde demais”, declarou Charles III.