Casi todos hemos experimentado con alguna Inteligencia Artificial Generativa (IAGen). Le hemos pedido a ChatGPT que redacte un correo, que resuma un texto largo o que nos dé ideas para un proyecto. Es una herramienta poderosa y accesible que se ha integrado a nuestra vida cotidiana con una velocidad asombrosa. Pero, ¿qué sucede cuando estas herramientas tan accesibles entran en un campo de altas consecuencias como el sistema de justicia?
Esta pregunta fue respondida por la Resolución 238/24 de la Procuración General. Lo ha hecho estableciendo un "Protocolo de Buenas Prácticas" que regula cómo sus magistrados, funcionarios y empleados deben utilizar la IAGen. Este esfuerzo no surge en el vacío; se construye sobre guías establecidas por referentes como el Poder Judicial del Reino Unido, el laboratorio IALAB de la Universidad de Buenos Aires y el Superior Tribunal de Justicia de Río Negro, insertando a la provincia en una conversación global y nacional sobre el tema.
Puntos clave del Protocolo
Esta normativa interna establece una serie de directrices claras, que se pueden agrupar en una serie de premisas rectoras.
1. La IA es solo un Asistente
El principio más importante y repetido a lo largo del protocolo es la delimitación estricta del rol de la IA. La tecnología está ahí para ayudar, para optimizar tareas y para ser un apoyo, pero jamás para tomar el lugar del criterio humano. El propio documento lo establece como su pilar fundamental:
El eje rector es que la IAGen constituye siempre un gestor que complementa las habilidades humanas y no sustituye las competencias públicas.
Esta distinción es crucial. Significa que la responsabilidad final de cualquier decisión, de cada palabra en un escrito de un funcionario o magistrado fiscal, y de cada análisis de un caso recae exclusivamente en los operadores de la Fiscalía. No pueden delegar su juicio, su interpretación de la ley ni su evaluación de los hechos en la máquina. La IA es una herramienta de asistencia, no de sustitución.
2. Cuidado con las "Alucinaciones"
Uno de los riesgos más contraintuitivos de la IAGen es su capacidad para "alucinar". El protocolo aborda este peligro de frente, reconociendo que la IA puede generar respuestas que suenan expertas, seguras y perfectamente estructuradas, pero que son completamente falsas.
El documento define este fenómeno explicando que la IA puede arrojar respuestas "coherentes y convincentes" pero que "pueden ser incorrectas o falsas", y añade que en estos casos "se suele decir que el modelo 'alucina'". En un entorno legal, donde la veracidad de un dato puede cambiar el curso de un caso, este riesgo es inaceptable. Por ello, el protocolo impone la "validación obligatoria del contenido generado con IAGen", exigiendo que cada dato o afirmación producida por la IA sea revisado críticamente y contrastado con fuentes de información confiables.
3. No es un buscador, es una máquina de probabilidades
Este riesgo de "alucinaciones" no es un fallo aleatorio, sino una consecuencia directa de la naturaleza fundamental de estas herramientas, que el protocolo acierta en diferenciar de un motor de búsqueda tradicional. Quizás uno de los puntos más reveladores es su explicación sobre un Modelo de Lenguaje Grande (LLM), como el que impulsa a ChatGPT. El documento advierte sobre la "falsa ilusión de recupero de información", desmintiendo la creencia popular de que estas herramientas funcionan como un buscador de internet superpotente.
La diferencia es clave: los LLM no "recuperan información", sino que "construyen asociaciones de palabras" basándose en los patrones que aprendieron de enormes cantidades de texto. Sus respuestas, por lo tanto, son “‘estadísticamente’ probables mas no son factualmente precisas”. Esta idea cambia por completo la forma en que debemos interactuar con la IA. No es una base de datos a la que consultamos, sino un generador de texto probabilístico. Por esta razón, el protocolo advierte explícitamente "evitar usarlas como motores de búsqueda", especialmente para encontrar información concreta y verificable.
4. La responsabilidad es 100% Humana (y su Ausencia se Sanciona)
El protocolo no se queda en meras recomendaciones. Deja en claro que el uso de la IAGen no diluye en lo más mínimo la responsabilidad funcional y ética de los fiscales, funcionarios y empleados judiciales. Son ellos, y solo ellos, los responsables del producto final.
Para que no queden dudas, la Resolución N° 238/24 PG que aprueba el protocolo lo formaliza con consecuencias concretas, estableciendo que la violación de estas buenas prácticas "implica falta e infracción a los fines del Reglamento Disciplinario", lo que conlleva consecuencias administrativas y profesionales reales para el infractor. Esta directriz se complementa con una "prohibición de delegación" explícita, reforzando que el juicio humano debe prevalecer en todo momento. En resumen: si un fiscal utiliza la IA para redactar un documento y este contiene errores, la responsabilidad es 100% del fiscal.
5. Prohibido ingresar datos sensibles
La confidencialidad es un pilar del sistema judicial. El protocolo establece una regla estricta para protegerla: está prohibido incluir datos personales, información confidencial de un caso o cualquier dato sensible en los prompts (las instrucciones que se le dan a la IA).
Sabiendo que la mayoría de las herramientas públicas utilizan los datos ingresados para entrenar sus modelos, el protocolo ofrece una solución práctica e indispensable: implementar técnicas y herramientas para "convertir en anónimos" los documentos antes de utilizarlos con la IAGen. Esta medida de anonimización es fundamental para proteger la integridad de las investigaciones, la privacidad de las víctimas, los testigos y los acusados, y en última instancia, la confianza pública en el sistema.
Un futuro de colaboración crítica
El protocolo del Ministerio Público Fiscal fomenta la innovación y la eficiencia, pero lo hace velando por la rigurosidad, la ética y la indispensable supervisión humana. Advierte sobre otros peligros como los sesgos algorítmicos y el riesgo de una excesiva dependencia en la tecnología, y establece un plan de capacitación obligatorio que ya fue cumplido por un altísimo porcentaje de los integrantes del MPF de toda la provincia. La resolución establece que la guía debe ser revisada y actualizada constantemente, para garantizar su evolución junto a la de la tecnología.