Encontre uma notícia real sobre um sistema de IA que causou algum problema — uma decisão automatizada contestada, um viés identificado, uma multa regulatória, um incidente de privacidade. Qual era o sistema de IA envolvido e qual problema ocorreu? Qual foi o modelo de adoção? ☐ Desenvolvido internamente ☐ SaaS com IA embutida ☐ Modelo fundacional / LLM ☐ Não foi possível identificar. Por quê? Quem foi responsabilizado? Quem você acha que deveria ter sido? Que ponto de governança, se existisse, poderia ter evitado ou mitigado o problema?
**RESPOSTA: **
SISTEMA E MODELO DE ADOÇÃO: Sistema de IA generativa usada para criação de minutas judiciais. Pelas características, época e popularidade, provavelmente foi uma plataforma não dedicada, tipo ChatGPT.
PROBLEMA E QUEM FOI RESPONSABILIZADO: Trata-se de uma ação reclamatória de anulação de justa causa. O juiz trabalhista deferiu o pedido do reclamante. A empresa reclamada recorreu e usou o sistema de Inteligência Artificial para criar uma minuta de Recurso Ordinário. Contudo, a IA “alucinou” e inseriu jurisprudência inexistente, que foi apresentada no recurso interposto e seguiu ao tribunal. Contudo, os advogados do reclamante, ao revisar o recurso, identificaram e denunciaram a alucinação, provavelmente em sede de contrarrazões. O tribunal não apenas confirmou a sentença como aplicou multa por litigância de má-fé ao advogado responsável, que havia alegado que o erro foi causado por estagiários, tendo sido também determinado o oficiamento do advogado à Seccional da Ordem dos Advogados.
CORREÇÃO DA PENALIZAÇÃO: O tribunal agiu certo quanto à desconsideração das escusas do advogado responsável pela defesa da reclamada, bem como quanto à aplicação de multa e oficiamento da Ordem dos Advogados sobre a atuação irregular do advogado. O patrono da causa responde pelo conteúdo das peças processuais e pela administração do processo, independente de delegação da elaboração e origem do conteúdo.
GOVERNANÇA. A primeira ação de governança era a Supervisão. Já era obrigação do advogado supervisionar o trabalho executado pelos estagiários. O uso de IA redobra a necessidade de supervisão dos resultados, já que o advogado passa a responder também pelo conteúdo gerado pela IA, independente da revisão dos estagiários.Uma correta avaliação de riscos poderia ter levado o escritório a contatar sistemas dedicados, com treinamento específico alimentado por dados de jurisprudência e auditado por especialistas, minimizando o risco de inserção de alucinações nas peças.
