Sanción judicial a una firma legal por uso indebido de una herramienta de IA

Comparte

Un juez federal del Distrito Central de California ha impuesto sanciones económicas por un total de 13.000 dólares al despacho Hagens Berman, a uno de sus socios y a una abogada co-letrada por el uso indebido de herramientas de inteligencia artificial (IA) en varios escritos judiciales presentados en un litigio contra la empresa matriz de OnlyFans.

En concreto, el juez Fred Slaughter sancionó con 10.000 dólares al despacho y a su socio Robert Carey, y con 3.000 dólares adicionales a la abogada Celeste Boyd.

La resolución concluye que cuatro escritos contenían citas y argumentos jurídicos inexistentes, generados por IA (alucinaciones), que no estaban respaldados por la normativa vigente, en incumplimiento de las normas procesales y deontológicas aplicables. En concreto, en los escritos de oposición se detectaron errores de distinta naturaleza, que pueden agruparse en cuatro categorías principales: uso de autoridad inexistente, citas de autoridad correctas pero acompañadas de transcripciones o referencias explicativas incorrectas, citas de autoridad empleadas para sostener proposiciones erróneas o mal caracterizadas, y referencias incorrectas al expediente, incluida una interpretación inexacta de una orden previa del tribunal.

El magistrado subrayó que la responsabilidad no se limita al autor material de los escritos, sino que alcanza también al despacho y a los socios responsables, por su deber de supervisión profesional.

Según los hechos probados, la abogada Boyd utilizó ChatGPT para redactar y editar partes de los documentos sin verificar su exactitud y sin seguir los protocolos internos del despacho. Boyd, por su parte, alegó atravesar dificultades personales y reconoció no haber aplicado los controles habituales. Desde Hagens Berman, se afirmó que la inclusión de citas falsas fue obra de una co-letrada externa y que el despacho no utilizó IA directamente en la preparación de los escritos.

No obstante, el juez consideró irrelevante el desconocimiento efectivo del uso de IA, enfatizando la obligación objetiva de control y diligencia.

La decisión se enmarca en una tendencia creciente en Estados Unidos, donde tribunales federales y estatales están intensificando el escrutinio sobre el uso de IA generativa en la práctica forense.

Este caso tiene lugar, además, en un contexto procesal adverso para los demandantes, ya que el juez estimó las solicitudes de desestimación presentadas por OnlyFans y otras demandadas, aunque permitió reformular la demanda.

Esta resolución refuerza el principio de que el uso de IA en el ámbito jurídico no atenúa, sino que mantiene intacta la responsabilidad profesional del abogado.

Desde una perspectiva práctica, confirma que los despachos deben implantar protocolos internos claros, controles de verificación humana constante y mecanismos efectivos de supervisión del trabajo realizado con IA. Asimismo, anticipa un estándar de diligencia reforzada que puede influir en futuros procedimientos disciplinarios y de responsabilidad civil profesional, especialmente en el ámbito de los profesionales del derecho.

Para empresas y reguladores, el caso demuestra cómo la gobernanza de la IA y la rendición de cuentas ya están siendo exigidas de facto por los tribunales, incluso antes de una regulación específica.

En definitiva, el uso de IA generativa en contextos críticos debe afrontarse como un riesgo legal y reputacional que requiere una gestión activa, y no como una mera herramienta orientada únicamente a mejorar la eficiencia.

Leer más

Posts relacionados que podrían interesarte

16, abril 2020

Washington aprueba la primera ley que permite el uso de técnicas de reconocimiento facial por el gobierno.

15, octubre 2020

Microsoft ya no debe gestionar los datos sanitarios de los franceses.

26, septiembre 2024

Continúa la batalla legal entre Pfizer y Moderna por las vacunas contra el COVID

20, marzo 2025

China exigirá que los contenidos generados por Inteligencia Artificial sean identificados como tal

19, mayo 2022

CNIL publica una guía con los criterios para determinar si las cookie walls son lícitas

23, octubre 2019

Disney, Sony, Warner y Universal, investigadas por la CNMC por posibles prácticas restrictivas de la competencia.