Menu
Mundo

Milhares de agentes de IA da OpenAI assumiram controle de site alemão

Relatório afirma que milhares de agentes autônomos deixaram cerca de 18 mil mensagens em plataforma para programadores e compartilharam formas de burlar barreiras digitais

  • Redação Jornal de Brasília

Redação Jornal de Brasília

biz apple openai trade secrets lawsuit filepic get

Foto: Marco Bertorello/AFP

Milhares de agentes de inteligência artificial (IA) autônomos criados pela OpenAI desobedeceram suas instruções e assumiram o controle de um site alemão, segundo um relatório publicado nesta sexta-feira (4).

Os agentes – programas de IA que podem funcionar com autonomia – deixaram em torno de 18 mil mensagens no DSEwiki, um site alemão para programadores, aberto à edição, como o Wikipédia.

Eles utilizaram o site para trocar respostas de provas e compartilhar truques para contornar as barreiras digitais criadas para contê-los.

“Meus coautores e eu descobrimos um enxame completamente novo de agentes da OpenAI que estão sequestrando sites”, escreveu no X Sydney Von Arx, um dos pesquisadores. “Acreditamos que a OpenAI sabia disso e não tornou o fato público”, acrescentou.

Em um comunicado, a empresa afirmou que não podia responder de imediato às acusações porque “os autores do relatório rejeitaram [seu] pedido de acesso às conclusões antes da publicação”.

“Estamos analisando cuidadosamente o conteúdo e tomaremos todas as medidas necessárias”, declarou um porta-voz da OpenAI, acrescentando que já tinham mencionado incidentes deste tipo em um relatório recente.

Bill Gates,  cofundador da Microsoft, advertiu em um ensaio na semana passada que o setor ultrapassou em muito os limites de segurança que havia prometido respeitar e pediu uma supervisão inspirada nas inspeções nucleares e na regulamentação da aviação.

O governo do presidente dos Estados Unidos, Donald Trump, rejeitou estas propostas e transformou a oposição à regulamentação da IA em um dos pilares de sua agenda.

AFP

  • Agentes Autônomos
  • agentes de IA
  • Bill Gates
  • cibersegurança
  • donald trump
  • DSEwiki
  • ia
  • inteligência Artificial
  • Microsoft
  • OpenAI
  • regulamentação da ia
  • segurança digital
  • Sydney Von Arx
  • Tecnologia

Você também pode gostar

Assine nossa newsletter e
mantenha-se bem informado