SÃO PAULO — A Justiça de São Paulo determinou que a rede social X (antigo Twitter) remova publicações geradas por sua ferramenta de inteligência artificial, o Grok, contendo informações falsas e difamatórias sobre um advogado brasileiro. A decisão estabelece um importante precedente sobre a responsabilidade de plataformas de tecnologia pelo conteúdo produzido por suas ferramentas de inteligência artificial generativa.
O caso teve início após o causídico constatar que o Grok estava associando indevidamente o seu nome e imagem a condutas ilícitas e processos criminais com os quais não tinha qualquer relação. Ao ser questionada por usuários sobre o advogado, a IA formulava respostas atribuindo-lhe acusações inverídicas, afetando diretamente sua reputação profissional e pessoal.
Diante do prejuízo à sua honra e imagem, o profissional acionou o Poder Judiciário requerendo a remoção imediata dos conteúdos falsos gerados pelo chatbot, além do bloqueio de novas gerações de texto com o mesmo teor pejorativo.
Decisão e penalidades
A magistrada responsável pelo caso deferiu o pedido de liminar (tutela de urgência), ressaltando que a liberdade de expressão e a inovação tecnológica não podem se sobrepor aos direitos fundamentais de personalidade, como a honra e a imagem.
A ordem judicial estabeleceu que a plataforma X cumpra a remoção das respostas geradas pelo Grok em relação ao advogado dentro de um prazo determinado, sob pena de multa diária em caso de descumprimento.
Debate sobre IA e responsabilidade civil
A decisão reacende o debate jurídico sobre o conceito de “alucinação” em modelos de linguagem generativos — termo técnico utilizado quando ferramentas de IA inventam fatos ou misturam dados reais com informações falsas.
Especialistas em Direito Digital apontam que, embora o Marco Civil da Internet isole provedores de responsabilidade direta sobre conteúdos gerados por terceiros (até que haja ordem judicial específica), o cenário muda quando a própria plataforma desenvolve ou fornece o assistente de inteligência artificial que gera o conteúdo nocivo.
Até o momento, a defesa da rede social X não se manifestou publicamente sobre o cumprimento da ordem. O processo segue em andamento para análise do mérito e do pedido de indenização por danos morais.
