PEDRO VILAS BOAS
SÃO PAULO, SP (UOL/FOLHAPRESS)
Uma mulher de 31 anos, moradora do Rio de Janeiro, registrou na sexta-feira (2) boletim de ocorrência após uma foto que ela publicou no X ser editada com a IA da plataforma, chamada de Grok, para que ela aparecesse de biquíni e compartilhada na rede social.
A jornalista Julie Yukari também denunciou parte das publicações ao X, que foram removidas pela plataforma. O UOL ainda conseguiu localizar um dos posts com a imagem editada.
Mulher publicou a foto ao lado da gata dela celebrando o Ano-Novo. “Quando fui descendo o post, tinha uma pessoa pedindo para o Grok colocar um biquíni em mim. Eu tinha bloqueado o Grok e nem pensei que ele pudesse fazer isso. Depois, quando vi várias pessoas tendo as imagens delas editadas, desbloqueei a IA e vi que também estavam editando minha foto”, conta Julie à reportagem.
Reportagem encontrou diversas publicações, a maioria em inglês, de fotos de mulheres editadas com biquíni. Usuários homens escrevem “hey Grok” e em seguida pedem para que a ferramenta faça a edição, que é compartilhada publicamente na plataforma.
“Estou lidando da forma que consigo, que é falando sobre isso. Pensei em apagar tudo, não postar mais nada, mas, se eu fizer isso, vai ser uma vitória para eles por estarem controlando minhas ações”, afirma a jornalista.
Grok também gerou imagens que simulam nudez infantil. A reportagem encontrou diversas publicações feitas pela ferramenta após pedidos de um mesmo usuário em inglês. Alguns dos posts foram removidos pela plataforma após serem denunciados.
A reportagem não conseguiu localizar representantes do X. Porém, a IA respondeu a um usuário, que criticava a publicação com nudez infantil, dizendo que houve falhas na segurança e que elas seriam corrigidas com urgência.
Inicialmente, Elon Musk debochou da publicação. O dono do X compartilhou um post em que uma torradeira aparece vestida com biquíni e escreveu: “Não sei porquê, mas não consegui parar de rir disso”.
Neste sábado (3), ele fez um novo post em que diz que “qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que quem publica conteúdo ilegal”.
VÍTIMAS PODEM PEDIR INDENIZAÇÃO
As mulheres que forem vítimas desse tipo de edição devem processar o X, diz advogada. Com isso, a empresa pode ser obrigada pela Justiça a apagar a publicação – sem depender da avaliação da própria plataforma – e receber uma indenização pelo caso, explica Isabela Godoy à reportagem.
Usuários que fizeram o pedido à IA e compartilharam a imagem editada podem responder criminalmente. “Criminalmente, a plataforma não tem responsabilidade penal, tem a responsabilidade civil. Quem terá que responder criminalmente é a pessoa que deu o comando à ferramenta ou divulgou a imagem”, afirma a especialista em Direito Digital e Inteligência Artificial do escritório Failla Lima Riva Advogados.
Os usuários podem ser condenados a uma pena de seis meses a 1 ano de prisão. Já quem produzir ou compartilhar conteúdo sexual de vulneráveis pode receber uma pena entre 4 e 10 anos de prisão.
