A inteligência artificial já deixou de ser uma tecnologia distante e passou a fazer parte da rotina de empresas, profissionais e usuários. À medida que sistemas de IA ganham espaço em decisões, análises e atividades do dia a dia, um novo desafio jurídico ganha força: entender quem responde quando a tecnologia falha, fornece uma informação incorreta ou provoca algum tipo de prejuízo.
Para Renato Opice Blum, advogado, economista, especialista em Direito Digital e sócio do Cescon Barrieu, a responsabilidade pelos erros da inteligência artificial depende de uma análise de toda a cadeia envolvida. Sócio-fundador da Opice Blum Advogados e professor da ESPM, FAAP, Insper e Ibmec, ele atua nas áreas de proteção de dados, inteligência artificial e segurança da informação.
Segundo Renato, é necessário identificar quem efetivamente deu causa ao erro. Se houver uma falha na programação, por exemplo, a responsabilidade pode recair sobre o desenvolvedor. Se o problema surgiu durante a implementação, por descumprimento de alguma norma técnica, o implementador também pode responder. Já o usuário pode ter responsabilidade quando tinha condições de compreender os riscos ou verificar a informação produzida pela ferramenta.
“Depende da apuração de quem deu causa àquele comando”, resume Renato.
De acordo com o advogado, a análise também pode mudar conforme a relação existente entre as partes. Em relações de consumo, por exemplo, existem regras específicas que podem influenciar a forma como a responsabilidade será apurada. Para o especialista, a evolução da tecnologia reforça justamente a necessidade de compreender melhor essas diferentes cadeias de responsabilidade.
Outro fator importante, segundo o especialista, é o nível de conhecimento de quem utiliza a ferramenta. Para ele, a análise da responsabilidade pode mudar quando o usuário possui conhecimento técnico e condições de avaliar se determinada resposta está correta, diferentemente de quem utiliza a tecnologia sem domínio sobre seu funcionamento e suas limitações.
Renato explica que esse é um dos pontos mais delicados do debate. A responsabilidade também passa pela possibilidade de o usuário perceber o risco, pelos avisos apresentados pela ferramenta e pela necessidade de revisão humana.
“Depende muito de quem está usando. Se quem está usando tem conhecimentos técnicos e condições de aferir, fica mais difícil de responsabilizar a ferramenta. Se não, e está usando sem conhecimentos, aí aumenta essa possibilidade”, afirma.
No ambiente empresarial, usar inteligência artificial com segurança exige mais do que adotar a tecnologia. Renato destaca a importância da governança, com definição de responsabilidades, testes e acompanhamento contínuo, já que, segundo ele, esse é um processo que precisa acompanhar a própria evolução das ferramentas.
“Isso não é algo que se implemente e para. Isso é dinâmico”, afirma.
Para o especialista, o uso da IA pelas empresas precisa ser técnico, profissional e acompanhado de uma avaliação constante dos riscos. Ao mesmo tempo, ele chama atenção para um ponto que pode parecer contraditório. Em determinadas situações, deixar de utilizar recursos tecnológicos disponíveis também pode representar uma forma de omissão.
“Aquele que não usar pode ser responsabilizado por omissão. Mas aquele que usa tem que usar com responsabilidade”, explica.
A própria natureza dos sistemas de inteligência artificial também exige cautela. Renato lembra que modelos de linguagem trabalham a partir de cadeias estatísticas e, por isso, não funcionam como instrumentos absolutamente lógicos ou infalíveis.
“Os modelos de linguagem são instáveis por natureza. Então, eles não são instrumentos superlógicos, pelo contrário, eles usam a cadeia da estatística. Então, erros sempre acontecerão.”
Renato destaca que a possibilidade de erro faz parte da própria natureza da inteligência artificial, mas não elimina a necessidade de prevenção e controle. Segundo ele, desenvolvimento, treinamento, testes e atualização são fundamentais para identificar onde ocorreu uma falha e, a partir disso, definir quem deve responder por eventuais danos.
Quando a inteligência artificial utiliza informações pessoais, a proteção de dados também passa a fazer parte da discussão. Renato chama atenção para a necessidade de respeitar os princípios e regras da Lei Geral de Proteção de Dados (LGPD), desde a forma como essas informações são inseridas nas ferramentas até as políticas adotadas pelas empresas para garantir um uso adequado e seguro.
Para o advogado e especialista na área, o treinamento dos usuários, a homologação das ferramentas, a definição de regras e a governança são fundamentais para reduzir os riscos de violações à LGPD. Isso inclui atenção ao uso dos chamados prompts, já que as informações inseridas nas ferramentas de IA podem envolver dados pessoais e comprometer a proteção dessas informações.
Esse processo, segundo o advogado, passa por um aprendizado contínuo. Em vez de uma capacitação pontual, as empresas precisam manter seus profissionais atualizados sobre o que pode ou não ser feito com as novas ferramentas.
“O principal ponto hoje é o letramento, é a atualização, é passar a conscientização de como se utilizar essas ferramentas, o que pode ser feito e o que não pode ser feito” finaliza.
A velocidade da evolução tecnológica exige que empresas e profissionais acompanhem de perto as novas ferramentas e seus riscos. Para Renato Opice Blum, esse cenário reforça a importância do Direito Digital na orientação sobre inteligência artificial, proteção de dados e responsabilidade, áreas que fazem parte de sua atuação profissional.
A atuação responsável diante da inteligência artificial passa pela capacidade de prevenir riscos, orientar empresas e preparar profissionais para lidar com as novas ferramentas. Nesse processo, Renato defende um “letramento permanente”, com atualização e conscientização contínuas para acompanhar os avanços da tecnologia e transformar conhecimento em decisões mais seguras.
