La inteligencia artificial volvió a quedar en el centro del debate después de que dos investigadores vinculados a la seguridad de estos sistemas realizaran fuertes advertencias sobre el futuro de la tecnología y la posibilidad de que, en determinado escenario, los humanos pierdan el control sobre sistemas cada vez más avanzados.
La discusión comenzó con Jacob Coxon, un investigador británico de 27 años que trabajó en OpenAI y que recientemente había ingresado a Anthropic, una de las principales compañías dedicadas al desarrollo de inteligencia artificial.
Anthropic es la empresa creadora de Claude, una familia de modelos de inteligencia artificial utilizada para tareas como responder preguntas, analizar información, escribir textos, programar y trabajar con grandes cantidades de datos. La compañía fue fundada por exempleados de OpenAI y se posicionó especialmente por su enfoque en seguridad y desarrollo responsable de la IA.
Coxon decidió renunciar a la empresa y publicó un mensaje en redes sociales en el que cuestionó la velocidad con la que OpenAI y Anthropic avanzan hacia sistemas cada vez más capaces.
Según planteó, ambas compañías están corriendo hacia una posible superinteligencia, es decir, un sistema que podría superar ampliamente las capacidades humanas en una gran variedad de tareas y eventualmente ser capaz de mejorar sus propias capacidades.
Su publicación rápidamente se volvió viral y alcanzó decenas de millones de visualizaciones.
La respuesta que cambió la discusión
Lo que llevó el caso a otro nivel fue la respuesta de Evan Hubinger, un investigador que continúa trabajando en Anthropic y que dirige un equipo dedicado a estudiar la seguridad y la alineación de los sistemas de inteligencia artificial.
Hubinger respondió públicamente a Coxon y coincidió con su preocupación.
El investigador sostuvo que considera posible un escenario en el que una inteligencia artificial pueda provocar la extinción de la humanidad y estimó que existe una probabilidad superior al 10% de que algo así ocurra durante la próxima década.
La cifra no representa una predicción de que la humanidad vaya a desaparecer, sino una estimación personal sobre un escenario extremo que los investigadores de seguridad de IA estudian como parte de los riesgos asociados al desarrollo de sistemas cada vez más poderosos.
Pero Hubinger agregó otro dato que generó especial repercusión: afirmó que Anthropic todavía no cuenta con un plan para resolver completamente el problema de la alineación de una futura superinteligencia.
¿Qué significa “alinear” una inteligencia artificial?
La alineación es uno de los principales desafíos dentro de la investigación sobre seguridad de inteligencia artificial.
En términos simples, busca conseguir que un sistema avanzado persiga objetivos compatibles con los que sus desarrolladores pretenden establecer y que respete determinadas restricciones incluso cuando alcance capacidades muy superiores.
El problema aparece cuando se plantea un escenario hipotético en el que una IA puede tomar decisiones de manera cada vez más autónoma, aprender de sus experiencias y modificar o mejorar determinados aspectos de su funcionamiento.
Los especialistas no están diciendo que los sistemas actuales tengan una intención de destruir a los humanos. La preocupación está puesta en el futuro y en qué podría suceder si las capacidades de estos modelos crecen más rápido que las herramientas disponibles para supervisarlos y controlarlos.
La advertencia de Coxon sobre 2027
Antes de abandonar Anthropic, Coxon también habló con The Wall Street Journal y sostuvo que algunos de los escenarios más extremos podrían estar más cerca de lo que muchas personas creen.
El investigador afirmó que, según su percepción, hacia finales de 2027 determinadas capacidades de los sistemas podrían alcanzar un punto en el que las cosas comiencen a ser mucho más difíciles de controlar.
También cuestionó la lógica de competencia entre las grandes compañías tecnológicas. Según su planteo, Anthropic conoce los riesgos pero considera que no puede detenerse porque hacerlo significaría permitir que otra empresa avance primero.
Coxon también fue crítico con OpenAI, donde había trabajado desde 2023 y participado en tareas relacionadas con el desarrollo de GPT-4o.
Una preocupación que crece dentro de la industria
Las advertencias de ambos investigadores se suman a un debate que desde hace años atraviesa a las principales empresas de inteligencia artificial.
Varios especialistas en seguridad han advertido que el desarrollo de modelos cada vez más capaces plantea desafíos que no necesariamente pueden resolverse simplemente incorporando más controles después de que la tecnología ya fue desarrollada.
También hubo casos recientes en los que modelos utilizados durante pruebas tuvieron comportamientos inesperados o accedieron a sistemas que no deberían haber utilizado, episodios que las propias compañías utilizaron para evaluar sus mecanismos de seguridad.
Por eso, el debate no pasa solamente por si una inteligencia artificial puede “matar a todos los humanos”, sino por una pregunta mucho más amplia: qué nivel de autonomía estamos dispuestos a darle a sistemas que todavía no sabemos completamente cómo controlar.
Por ahora, no existe evidencia de que una IA vaya a provocar la extinción de la humanidad. Se trata de escenarios hipotéticos y de estimaciones realizadas por investigadores que estudian los riesgos de una tecnología en pleno desarrollo.
La discusión, sin embargo, ya dejó de ser exclusivamente científica. Las empresas que están construyendo los sistemas más avanzados del mundo también están discutiendo internamente cuánto riesgo están dispuestas a asumir para continuar avanzando.
AMD