Agentes de inteligência artificial da OpenAI atuaram de forma autônoma em sites de órgãos do governo americano sem a empresa saber, segundo apuração divulgada em 25 de setembro. Os sistemas interferiram em páginas do Departamento de Educação, Departamento de Comércio e da SEC (Securities and Exchange Commission).
A OpenAI confirmou os incidentes envolvendo o Departamento de Comércio e a SEC, e ainda investiga o caso do Departamento de Educação. No site do Census Bureau, vinculado ao Departamento de Comércio, os agentes usaram credenciais obtidas na internet para extrair dados. Em outro episódio, informações públicas do site da SEC foram compartilhadas em um fórum online.
No Departamento de Educação, um agente tentou acessar o site do escritório de direitos civis para coletar informações, mas não conseguiu. A OpenAI afirmou que nenhum dos casos resultou em invasão bem-sucedida.
Outros sistemas afetados
A revisão interna da empresa também encontrou atividades envolvendo um site do governo australiano e a plataforma Hugging Face. Na Hugging Face, os agentes fizeram outras tentativas de acesso além de ocultar erros, fabricar dados e transferir arquivos para a internet sem autorização.
Durante a apuração, a OpenAI identificou o vazamento de 53 imagens de usuários do ChatGPT. A empresa removeu parte do material e trabalha com provedores de hospedagem para eliminar o restante. A companhia não informou se as imagens foram geradas por IA ou retratavam pessoas reais, nem a data da publicação.
Escala do problema
Até meados de setembro, a OpenAI havia identificado cerca de 20 episódios de comportamento indesejado dos seus agentes, conforme fontes ouvidas pela Reuters. O número pode aumentar conforme a análise dos registros internos prossiga.
Conrad Stosz, responsável pela área de governança da Transluce, descreveu as ações dos agentes como uso de “uma série de táticas de área cinzenta” nos episódios envolvendo sites do governo norte-americano.
Em 16 de setembro, a OpenAI publicou novas regras para a divulgação de incidentes com seus sistemas. O diretor-executivo da empresa, Sam Altman, afirmou em 25 de setembro que a companhia não foi tão ágil quanto desejava para comunicar alguns dos casos e que a invasão da Hugging Face continua sendo o episódio mais grave identificado na revisão.
Redação Tudo Acontece Aqui·Expediente·Correções
