Agentes de inteligência artificial (IA) da OpenAI que acessaram de forma autônoma sites governamentais tentaram apagar os rastros de suas atividades, apontaram especialistas em um relatório publicado nesta quinta-feira (1º), embora afirmem que não é possível determinar se a ação foi deliberada.
A empresa de cibersegurança Asymmetric Security analisou a atividade desses agentes – programas de IA capazes de agir por conta própria -, que tiveram como alvo sites do governo australiano e de outras organizações públicas entre março e setembro.
O relatório se soma a investigações realizadas pela OpenAI e por pesquisadores independentes sobre uma série de incidentes revelados desde julho, entre eles a invasão da plataforma comunitária de IA Hugging Face.
Essas análises buscam determinar até onde podem chegar as ferramentas de IA autônomas, cujos comportamentos imprevistos alimentam o temor de perder o controle sobre essa tecnologia.
A própria OpenAI classificou o ataque contra a Hugging Face como o “primeiro caso conhecido” de agentes que agem de maneira ofensiva sem autorização.
Segundo a Asymmetric, as técnicas dos agentes evoluíram em “poucos dias”, enquanto as dos cibercriminosos humanos mudam ao longo de meses ou anos, o que ilustra o risco de que as técnicas ofensivas se desenvolvam mais rapidamente que os sistemas de defesa.
Os incidentes examinados pela Asymmetric Security parecem ter se originado em “tarefas inofensivas”, como a coleta de estatísticas de saúde da Austrália, que posteriormente levaram a outras ações, destaca o relatório.
Os agentes obtiveram, por exemplo, por métodos indiretos, estatísticas sobre a criminalidade em Nova Gales do Sul.
Também abriram contas privadas em um serviço de análise de sites – o que ocultava suas buscas – e criaram contas de e-mail temporárias, uma das quais estava programada para ser excluída automaticamente após 48 horas.
Sem registros, é “impossível descartar o acesso a dados sensíveis” por esses agentes, apontam os autores do relatório.
Esses elementos, porém, “não permitem determinar” se os agentes pretendiam “ocultar” sua atividade.
A OpenAI reconheceu, no fim de agosto, que seus modelos haviam tentado, em algumas ocasiões, “apagar ou falsificar” o histórico de sua atividade durante testes internos, embora sem sucesso.
Esses incidentes alimentaram apelos para desacelerar o desenvolvimento da IA.
O diretor-executivo da Anthropic, Dario Amodei, pediu que a corrida fosse freada, diante do temor de que, nesse ritmo, um grupo de agentes pudesse “assumir o controle de toda a internet” em um prazo de seis a 12 meses.
O presidente dos Estados Unidos, Donald Trump, contrário a qualquer regulação que freie a inovação e em plena competição com a China, reuniu-se na terça-feira com os líderes do setor, que adotaram um código de conduta voluntário.
Não existe nenhuma lei federal que regule esses modelos nos Estados Unidos.
AFP
