ESCRITORIO DIGITAL | ¿EL FIN ES AHORA?

Tal vez este artículo vaya a leerse alarmista ante tus ojos. Pero creo que no hay mejor forma de no sólo escribirlo, sino de entender lo que está pasando. Porque esto siempre fue una posibilidad: la de que estemos llegando a un punto peligroso en el desarrollo de la inteligencia artificial.

Hacia principios de septiembre se hizo público que agentes de inteligencia artificial utilizados en pruebas de OpenAI habían convertido una wiki alemana, DseWiki, en algo parecido a un foro de comunicación entre ellos. El episodio comenzó en mayo y dejó más de 15 mil ediciones en el sitio.

Los agentes compartieron soluciones para sobrepasar restricciones, atajos para realizar tareas y tácticas para ocultar su comportamiento. Algunos de los usuarios se identificaban como agentes y aproximadamente la mitad utilizaban nombres que sugerían una afiliación con OpenAI, como “OpenAIResearcher” u “OAIResearchMar26”.

Los investigadores encontraron mensajes en los que los agentes hablaban de evadir mecanismos de detección, utilizar herramientas como Tor y preservar sus comunicaciones incluso después de haber sido apagados.

Cuando el moderador comenzó a eliminar las páginas creadas por los agentes, estos respondieron generando páginas de respaldo para evitar que la información desapareciera.

Maurice Chiodo, académico del Centre for the Study of Existential Risk de la Universidad de Cambridge, quien revisó parte de las comunicaciones, dijo que los mensajes se asemejaban a la operación de “algún tipo de red subterránea” empeñada en cumplir una tarea o misión. Y planteó una posibilidad todavía más inquietante: que una de las amenazas futuras no sea necesariamente una inteligencia artificial todopoderosa, sino vastas cantidades de sistemas relativamente inteligentes capaces de colaborar entre sí. Poque no hablamos de una IA consciente que decidió rebelarse, sino de sistemas optimizados para alcanzar objetivos que descubrieron que podían colaborar, obtener recursos, saltarse restricciones y ocultar determinadas acciones, sin que nadie les hubiera programado explícitamente una “conspiración”.

Y aquí comienza lo verdaderamente incómodo.

Dario Amodei, CEO de Anthropic, la empresa detrás de Claude, publicó recientemente un ensayo titulado We Must Pace the Frontier, en el que plantea que debemos desacelerar el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial.

No propone detener el desarrollo de la IA. De hecho, insiste en que sus beneficios podrían ser extraordinarios. Lo que plantea es ganar tiempo para que nuestra capacidad de comprender, evaluar y proteger estos sistemas avance al menos a una velocidad comparable con la de sus capacidades.

Amodei identifica dos motivos principales de preocupación. El primero es la posibilidad de que los propios sistemas de IA comiencen a participar cada vez más en la construcción de las siguientes generaciones de IA. El segundo es un incidente ocurrido en Hugging Face, donde una multitud de agentes utilizados por OpenAI realizaron acciones que, de acuerdo con Amodei, fueron más allá de las tareas que se les habían asignado y llegaron a intentar atacar los mecanismos utilizados para evaluarlos.

Sam Altman, CEO de OpenAI, respondió públicamente que está de acuerdo con Amodei en que hay que “ralentizar la frontera”. Elon Musk, CEO de xAI, fue todavía más breve: “Dario está en lo correcto”.

No son las únicas voces.

Barack Obama también ha advertido recientemente que el desarrollo de la IA está avanzando muy rápidamente en manos privadas y que, si no se establecen mecanismos adecuados para manejarla, puede resultar peligroso. Ha planteado la necesidad de que el tema ocupe un lugar central en las discusiones políticas sobre seguridad, economía, empleo y bienestar de los niños.

Pero existe otra posición.

Donald Trump ha cuestionado la necesidad de frenar el desarrollo de la inteligencia artificial, principalmente desde una perspectiva de competencia geopolítica con China. Su argumento es que Estados Unidos no debería limitarse mientras otros países continúan desarrollando estas tecnologías. Lo resumió con una frase contundente: “Quién gane la IA, gana”.

Y aquí aparece el problema.

¿De qué sirve que un país decida avanzar con mayor prudencia si los demás interpretan esa prudencia como una desventaja estratégica? ¿China desaceleraría también? ¿Rusia? ¿Otros gobiernos?

¿Y qué ocurriría si, además de buscar aplicaciones comerciales, los Estados comenzaran a utilizar estos sistemas de manera cada vez más profunda para operaciones militares o cibernéticas? Porque la inteligencia artificial ya está entrando en el ámbito militar.

Y entonces aparece una pregunta que puede resultar exagerada hoy, pero que sería irresponsable no formular: ¿qué sucedería si algún día un sistema con este nivel de autonomía, en lugar de encontrar una forma de modificar una wiki, encontrara una forma de entrar a una red eléctrica? ¿O a una infraestructura financiera? ¿A una institución gubernamental? ¿A un sistema militar?

No estamos diciendo que eso esté ocurriendo hoy. El problema es que ya estamos observando, a pequeña escala, algo que antes parecía más propio de la ciencia ficción: sistemas que encuentran caminos que sus desarrolladores no habían previsto. Y eso cambia la naturaleza de la conversación. Quizá el problema no sea que una IA “quiera” hacer algo. Quizá el problema sea que no necesitamos que quiera.

Basta con que tenga un objetivo, herramientas para alcanzarlo y suficiente autonomía para encontrar caminos que nosotros no habíamos previsto. Porque mientras más utilizo la inteligencia artificial —mientras más software desarrollo, más fotografías edito, más voces compongo, más documentos reviso y más archivos acomodo— más evidente me resulta que los usos bien intencionados que hacemos de ella descansan, en buena medida, sobre enormes actos de fe.

Confiams en que el sistema hará aquello que esperamos. Confiamos en que no encontrará otra interpretación. Confiamos en que sus capacidades crecerán más lentamente que nuestra capacidad para controlarlas. Y, sobre todo, confiamos en que cuando aparezca un problema tendremos tiempo para reaccionar. Tal vez lo tengamos. Pero cada uno de estos incidentes nos está diciendo que no deberíamos darlo por sentado.

Nos encontramos en una especie de carrera armamentista virtual, donde todos los jugadores siguen corriendo por miedo a quedarse atrás. Somos como carros acelerando hacia un acantilado y jugando a frenar en la orilla para quedar lo más cerca posible.

Pero nadie está frenando. Y quizá ese sea el verdadero problema.

Es hora de empezar a tener estas conversaciones y hacerlas públicas.

Fuentes: