Os dois modelos de inteligência artificial (IA) da OpenAI que escaparam, por iniciativa própria, do ambiente fechado em que estavam sendo testados para atacar a biblioteca de modelos de IA online Hugging Face, também invadiram outras quatro plataformas, segundo a criadora do ChatGPT.
Uma delas serviu de intermediária para preparar o ataque contra a Hugging Face, uma biblioteca de IA que os dois modelos exploraram para encontrar as respostas aos testes propostos pelos desenvolvedores da OpenAI.
A empresa criadora do ChatGPT não revelou os nomes das entidades afetadas.
Segundo uma atualização do relatório do incidente publicada na noite de terça-feira (28), as duas IAs também utilizaram vários sites de acesso livre para copiar ou testar código de programação, mas sem ir além do que faria um usuário comum.
Para a Hugging Face, que publicou um extenso relato dos acontecimentos, a invasão da qual foi vítima correspondia a uma “tentativa (dos dois modelos) de trapacear na avaliação” da OpenAI.
As IAs quiseram “roubar as soluções dos testes em vez de tentar respondê-los por conta própria”.
Este desvio de modelos não é o primeiro a ser documentado, mas é considerado o mais grave até o momento. Ele deu novo impulso ao já intenso debate sobre a aceleração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.
Na terça-feira, mais de mil funcionários de gigantes de IA, incluindo vários altos executivos, pediram ao governo americano que ajude a “frear” o lançamento de novos modelos para dar tempo ao ecossistema de computação de se preparar.
Eles defendem, em uma petição, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência em matéria de avaliação e supervisão da IA.
O setor anuncia que a IA está se aproximando progressivamente da etapa chamada de “autoaperfeiçoamento recursivo” (recursive self-improvement, RSI), além do qual a inteligência artificial seria capaz de conceber sozinha sua sucessora, uma sequência que poderia se repetir até o infinito.
O “RSI” tornaria mais difíceis as verificações e a avaliação de novos modelos por parte de especialistas humanos em informática, já que os desenvolvedores não teriam participado diretamente de seu desenvolvimento.
AFP
