A integração da inteligência artificial no ambiente de trabalho vem sendo marcada por inúmeros desafios éticos, como o caso do juiz que utilizou o ChatGPT para redigir uma decisão judicial, e a plataforma inventou uma jurisprudência inexistente do Superior Tribunal de Justiça como base para a decisão.
O advogado representante da parte derrotada na ação descobriu essa situação e formalizou uma denúncia junto à Corregedoria Regional de Justiça Federal da 1ª região. O juiz, por sua vez, minimizou o ocorrido como um "mero equívoco", atribuindo-o à sobrecarga de trabalho e alegando que uma parte da sentença foi produzida por um servidor.
Em um comunicado circular, o desembargador Néviton Guedes, corregedor da Justiça Federal da 1ª região, disse que o caso chegou ao seu conhecimento e reforçou os deveres de cautela, de supervisão e de divulgação responsável dos dados do processo, quanto ao auxílio de IA para a elaboração de decisão judicial. Além disso, recomendou que não sejam utilizadas ferramentas de inteligência artificial generativa que não sejam homologadas pelos órgãos de controle do Poder Judiciário para pesquisa de precedentes jurisprudenciais.
Incidentes como esse ressaltam a importância de uma abordagem cuidadosa ao incorporar o uso da IA de forma profissional. O especialista em inteligência artificial e engenheiro de software, Paul Hodel destaca que não podemos confiar cegamente no conteúdo fornecido por essas ferramentas. “A saia justa enfrentada pelo juiz ressalta uma verdade inescapável desta nova era: a inteligência artificial é uma ferramenta que, sem o discernimento humano, pode afetar vidas, trazer injustiças, agravar a desinformação e alienar os jovens.”
A IA, quando utilizada corretamente, pode proporcionar ganhos significativos em eficiência, automação de tarefas e análise de dados. No entanto, é essencial reconhecê-la como uma ferramenta complementar ao conhecimento humano, não uma substituta. O engenheiro ressalta que em campos como medicina, direito e tecnologia, os resultados gerados pela IA devem ser meticulosamente revisados por profissionais qualificados. “Um diagnóstico médico, por exemplo, pode ser auxiliado por softwares de IA, mas a palavra final deve sempre ser do médico. Da mesma forma, no campo jurídico, um advogado pode utilizar a IA como assistente para aumentar sua produtividade, mas sem abdicar do rigor e de uma revisão minuciosa do conteúdo”, destaca Paul.
A perspectiva de que a inteligência artificial substituirá completamente os profissionais é algo questionável para o engenheiro. Ele ressalta que, embora a IA tenha um impacto significativo no mercado de trabalho, também cria novas oportunidades. Profissionais que combinam suas habilidades com as capacidades da IA podem elevar seu desempenho, minimizar erros e aprimorar a qualidade de seu trabalho. “A simbiose entre a inteligência humana e a artificial é o caminho para uma era de produtividade e inovação sem precedentes. Para isso precisamos nos comprometer a supervisionar de perto as decisões geradas, garantindo que estejam em conformidade com os princípios éticos e legais", conclui Paul Hodel.
