Lilia González
Han sido publicados en Gaceta de Gobierno los lineamientos para el uso responsable, ético, seguro y asistencial de la Inteligencia Artificial en el Poder Judicial del Estado de México, los cuales este 11 de noviembre entrarán en vigor.
Su propósito es regular el desarrollo, la adquisición, la integración y el uso de los sistemas y herramientas de IA en las labores jurisdiccionales y administrativas, enfatizando que el Tribunal Superior de Justicia, el Órgano de Administración Judicial y el Tribunal de Disciplina Judicial, serán las autoridades responsables de coordinar acciones y vigilar el estricto cumplimiento de los lineamientos, así como controlar y validar de forma continua todo el insumo generado por una herramienta automatizada, pudiendo instaurar las medidas de supervisión, seguimiento y responsabilidad administrativa o disciplinaria.
Los lineamientos se encuentran integrados por ocho Capítulos y 33 Artículos, dentro de los que se especifica que las herramientas tecnológicas deben ponerse al servicio del justiciable para reducir plazos, simplificar procesos y facilitar el acceso a la justicia, por lo que ningún desarrollo o uso tecnológico podrá restringir, limitar o menoscabar derechos procesales o sustantivos.
Dentro de ellos se advierte que cuando un contenido sea generado total o sustancialmente con inteligencia artificial sin haber sido debidamente cotejado, validado o supervisado por la persona servidora pública competente, se impondrán responsabilidades administrativas o de otra naturaleza que correspondan, también serán sancionados quienes dicten resoluciones sin verificación.
“El dictado de resoluciones sin supervisión y verificación humana o la exposición no autorizada de datos sensibles procesales en plataformas abiertas de inteligencia artificial, constituirá falta administrativa y será sancionada”, señala.
También se prohíbe ingresar, transcribir o volcar expedientes judiciales incompletos o completos, datos personales no anonimizados, información sujeta a secrecía, testimonios de niños, niñas y adolescentes, o datos sensibles en chatbots o plataformas abiertas de IA general que operen en internet o fuera de la infraestructura bajo control institucional.
“Previo a cualquier procesamiento automatizado de textos que no sea canalizado a través del entorno interno seguro, la información deberá someterse a filtros automáticos y manuales de anonimización para suprimir nombres, identificadores únicos y datos sensibles”, refiere.
Los lineamientos también prevén proyectos de formación continua, capacitación y cultura digital para los servidores judiciales; evaluaciones y auditorías y reglas técnicas para el uso asistencial, jurisdiccional y administrativo.
