A próxima grande disputa envolvendo a inteligência artificial não vai acontecer entre máquinas, e sim dentro da própria sociedade. Entre a conveniência de delegar decisões aos algoritmos e a necessidade de preservar a autonomia humana. Para Elaine Keller, advogada especialista em Direito Digital, economista, doutora em Direito pela PUC-SP e pós-doutoranda pela Universidade de Sevilha, essa será uma das questões centrais das próximas décadas.
“O que está em jogo é a definição de quem continuará sendo o sujeito da decisão”, afirma Elaine. Para ela, a IA pode ampliar a capacidade humana de analisar informações e produzir ganhos expressivos no campo da eficiência, mas não deveria assumir o lugar de quem escolhe, pondera valores e responde pelas consequências. “O que não podemos transferir aos modelos algorítmicos é o poder de decidir e, sobretudo, a responsabilidade pelas consequências dessas decisões”, complementa.
Segundo a pesquisadora, o problema já aparece de maneira menos evidente no cotidiano. Sistemas algorítmicos são utilizados em concessão de crédito, processos de seleção profissional e na definição dos conteúdos apresentados pelas plataformas digitais. Mesmo quando a decisão final continua formalmente nas mãos de uma pessoa, o algoritmo pode selecionar informações, classificar riscos e estabelecer prioridades.
É aí que surge uma zona cinzenta e que pode ser o início de um alerta maior: o momento em que o ser humano deixa de analisar e passa apenas a confirmar tudo aquilo que a máquina sugeriu. “Por isso, talvez o problema não seja saber se a máquina já está decidindo por nós, mas perceber quando o ser humano passa apenas a confirmar aquilo que o sistema sugeriu”, pontua.
Brasil e Europa diante do mesmo desafio
A discussão também coloca Brasil e Europa diante de uma mesma questão, mas com abordagens diferentes. A União Europeia avançou na regulamentação da inteligência artificial com uma abordagem baseada em níveis de risco e obrigações mais rigorosas conforme o impacto sobre direitos fundamentais. Para Elaine, o Brasil pode observar não apenas o texto europeu, mas seus efeitos práticos.
Porém, o desafio brasileiro é adaptar essa experiência a uma realidade marcada por desigualdades, diferentes níveis de acesso à tecnologia e características institucionais próprias. Na visão de especialistas, o país precisa proteger direitos sem criar barreiras que acabem concentrando ainda mais o desenvolvimento tecnológico nas mãos de grandes empresas.
Em tramitação no Congresso, o Projeto de Lei nº 2.338/2023 segue uma lógica de classificação de riscos e busca conciliar inovação tecnológica e proteção de direitos fundamentais. Na avaliação da advogada, o Brasil tem a vantagem de poder acompanhar os efeitos concretos do modelo europeu antes de consolidar sua própria estrutura regulatória.
Mas a regulamentação é apenas uma parte da disputa. O controle da inteligência artificial também envolve poder econômico e geopolítico. Dados, capacidade computacional, semicondutores, infraestrutura de nuvem e capital se tornaram ativos estratégicos. “Não se trata apenas de saber quem terá a tecnologia mais avançada, mas de quem estabelecerá as regras e controlará a infraestrutura de uma tecnologia que tende a atravessar praticamente todas as atividades econômicas e institucionais”, explica Keller.
Soberania tecnológica é a próxima fronteira
Nesse cenário, Elaine avalia que o Brasil ainda não possui autonomia tecnológica suficiente para disputar em igualdade de condições com os grandes polos tecnológicos do mundo. No entanto, isso não significa que o país esteja condenado a ser apenas consumidor.
O Brasil reúne capacidade científica, grande volume de dados, instituições relevantes e recursos naturais estratégicos. Entre eles estão as terras raras, fundamentais para cadeias de alta tecnologia. Na visão da economista, o desafio é transformar esses ativos em conhecimento, infraestrutura e produtos de maior valor agregado produzidos no próprio país.
Para Elaine, essa é uma decisão econômica tão importante quanto a própria discussão regulatória. “A meu ver, a pergunta que o país precisa fazer é muito objetiva: queremos apenas regular e consumir a tecnologia desenvolvida por outros países ou queremos criar condições para participar da produção da riqueza gerada por essa nova economia?”, questiona.
A transformação também chega ao mercado de trabalho despertando preocupação por parte dos brasileiros em serem “substituídos por IA”. Mas ao invés de uma substituição uniforme de profissões, Elaine prevê uma mudança profunda nas funções, com tarefas automatizadas, novas competências e uma possível ampliação da desigualdade entre quem consegue utilizar a tecnologia para aumentar sua capacidade profissional e quem não tem acesso a ela ou à qualificação necessária.
O perigo de deixar de pensar
Mas para a pesquisadora existe uma consequência da inteligência artificial que pode ser ainda mais profunda do que seus efeitos econômicos ou jurídicos. A possibilidade de a sociedade abrir mão voluntariamente do próprio esforço intelectual.
“O cenário que mais me preocupa é o de uma sociedade que, voluntariamente, passa a abrir mão da própria capacidade de decidir em nome da conveniência e da eficiência.” Elaine teme que a delegação progressiva do ato de pensar, criar, interpretar e escolher torne as pessoas menos capazes de produzir conhecimento original e, consequentemente, menos inteligentes.
A preocupação se estende à arte, à música, ao Direito e à produção cultural. Se experimentar, errar e criar forem substituídos pela reprodução de padrões algorítmicos, a questão deixa de ser apenas tecnológica e passa a envolver o legado de uma geração.
De acordo com a advogada, o grande dilema que deve acompanhar a expansão da IA nos próximos anos vai muito além de autonomia. “O maior risco não é que a inteligência artificial se torne autônoma demais. É que nós nos tornemos dependentes demais dela”, alerta.
Para Elaine Keller, preservar a autonomia humana significa proteger não apenas o direito de decidir, mas a própria capacidade de pensar, criar e produzir conhecimento que possa ser deixado para as próximas gerações.
