por el equipo de El Reportero
California ha promulgado una nueva ley que exige a los abogados verificar la información generada por inteligencia artificial antes de presentarla ante los tribunales, en respuesta a la creciente preocupación por casos judiciales inventados, citas legales incorrectas y la protección de información confidencial de los clientes.
El Proyecto de Ley del Senado 574 (SB 574), firmado por el gobernador Gavin Newsom el 30 de septiembre, entrará en vigor el 1 de enero de 2027. La legislación establece nuevas salvaguardias que regulan el uso de inteligencia artificial generativa por parte de abogados y árbitros en procedimientos legales.
Según la ley, los abogados deberán tomar medidas razonables para verificar la información generada por inteligencia artificial, corregir errores y confirmar personalmente las citas legales incluidas en documentos judiciales. También deberán revelar el uso de inteligencia artificial generativa en los documentos presentados ante los tribunales.
La legislación prohíbe a los abogados delegar el ejercicio de la profesión jurídica a sistemas de inteligencia artificial. Asimismo, restringe la introducción de información confidencial de los clientes en sistemas que no garanticen una protección adecuada de esos datos.
Los árbitros, encargados de resolver disputas fuera de los tribunales tradicionales, tampoco podrán delegar sus responsabilidades de decisión a herramientas de inteligencia artificial. Deberán ejercer su propio criterio al evaluar pruebas y emitir resoluciones.
La medida surge ante el aumento de informes sobre abogados que presentan documentos con casos inexistentes o referencias legales incorrectas producidas por sistemas de inteligencia artificial. Estos errores, conocidos como alucinaciones de la inteligencia artificial, pueden inducir a los tribunales a conclusiones equivocadas y exponer a los abogados a sanciones disciplinarias o económicas.
A principios de este año, una jueza federal magistrada de San Francisco multó a una abogada con $1,000 y le ordenó completar capacitación adicional sobre ética profesional después de presentar argumentos que incluían referencias a tres casos inexistentes, según información proporcionada por JOTO PR Disruptors.
Crawford Appleby, socio del bufete de abogados Wisner Baum y miembro de su comité de inteligencia artificial, destacó que exigir transparencia por sí sola podría no ser suficiente para evitar errores.
“Las normas de divulgación por sí solas no resuelven el problema. Lo más importante es que los bufetes y los tribunales cuenten con sistemas de verificación”, afirmó Appleby en una declaración distribuida a los medios de comunicación.
La legislación plantea interrogantes más amplias sobre cómo incorporar tecnologías que avanzan rápidamente al sistema judicial sin comprometer la responsabilidad profesional.
Para los residentes de California, incluidos quienes enfrentan disputas migratorias, laborales, de vivienda o civiles, estas salvaguardias podrían contribuir a proteger la integridad de la representación legal.
Aunque la inteligencia artificial puede ayudar a los abogados en investigaciones jurídicas y preparación de documentos, la nueva ley reafirma un principio fundamental: la responsabilidad por el asesoramiento legal, los documentos judiciales y las decisiones jurídicas debe permanecer en manos de profesionales humanos calificados.
Fuentes: Proyecto de Ley del Senado de California 574, California Courts Newsroom, Reuters y JOTO PR Disruptors.
