Notas del fin del mundo

¿Nos empezamos a despedir?

El actual debate sobre la inteligencia artificial nos está obligando a imaginarnos el fin de la humanidad … pronto. Esto es algo que los ingenieros especializados en sistemas cibernéticos llevan años discutiendo, pero para nosotros, los mortales, es relativamente nuevo.

Todo comenzó por las declaraciones de un joven y desconocido ingeniero llamado Jacob Coxon, quien trabajaba para la empresa Anthropic y que antes había estado con OpenAI, el cual renunció de una manera muy pública. En su cuenta de X, el pasado 8 de septiembre, acusó a ambas compañías de actuar de manera irresponsable y de “apostar con nuestras vidas”.

Pero la frase de Coxon que causó un revuelo mundial fue esta: “La gente que está construyendo la IA cree fervientemente que nos puede matar para el final de la década”. Si esto es cierto, nos quedarían tres o cuatro años de vida.

Coxon no es el único.

Cuando le preguntaron en la BBC a Geo•rey Hinton, el premio Nobel mejor conocido como el “padrino de la IA”, cuáles eran las probabilidades de que desapareciera toda la humanidad debido a las nuevas tecnologías, contestó que “un 10% no es un cálculo irracional para mí, pero realmente nadie sabe cómo calcularlo”. Y cuando la periodista lo presionó para que fuera específico, creó aún más incertidumbre y temor. “Llegué a pensar que sería entre 30 y 50 años [el fin de los humanos] pero luego lo reduje a entre 10 y 20 años. Ahora pienso que serían 10 años o menos. Y hay otra gente que piensa que sería mucho más pronto que eso”.

A partir de esos dos comentarios - el de Coxon y el de Hinton - se ha desatado un debate a nivel mundial sobre cómo evitar que esos pronósticos se conviertan en realidad. Entonces la pregunta es: ¿quién controla los sistemas de inteligencia artificial? La trágica respuesta es que nadie lo está haciendo. Las compañías se están autorregulando, y, en el futuro, eso puede dar muchas desagradables sorpresas.

Las dos grandes compañías estadounidenses que controlan el mercado de IA son Anthropic -que maneja el sistema Claude - y OpenAI - que tiene a ChatGPT. Entre las dos, han obtenido cerca del 80 por ciento de las inversiones en la industria, según Forbes. Pero la misma revista sacó una lista de 50 empresas más pequeñas que también se dedican a la inteligencia artificial. La IA es el futuro y el presente. ¿Pueden las mismas empresas impedir que sus máquinas y sistemas tomen control del mundo? La respuesta debería ser no, aunque la realidad es que no sabemos. Y por eso esta preocupación global.

El principal peligro es lo que llaman en inglés “recursive self-improvement” (no me gusta la traducción al español de “automejora recursiva”). Este es un proceso a través del cual máquinas “ultra inteligentes” podrían crear y reproducir sus propios sistemas sin la ayuda de seres humanos. Y si las máquinas toman el control de sí mismas y extienden su dominio por todo el planeta, ahí es cuando los seres humanos estaríamos en problemas. La empresa OpenAI reportó recientemente sobre seis incidentes en que sus máquinas actuaron independientemente de las instrucciones que tenían. Son seis señales de alarma.

Los escenarios catastróficos son muchos, y antes estaban relegados sólo a la ciencia ficción. Nos podríamos imaginar y especular mil cosas: que estas máquinas ultra inteligentes hackearan plantas nucleares, bases militares o los sistemas de agua potable. Supongo, por ejemplo, que podrían dejarnos sin internet y conexiones telefónicas, o cortar la electricidad, poner en cero nuestras cuentas bancarias, bloquear las redes sociales y liberar los más contagiosos virus de los laboratorios. Quizás sería posible que crearan un caos en las torres de control de los aeropuertos y obligaran en todo el planeta a una prohibición de vuelos como la que ocurrió en Estados Unidos el 11 de septiembre en el 2001. En fin, tú te lo imaginas. (Escribe aquí tu propio escenario apocalíptico.)

Para estos escenarios no hay un botón rojo que, con tan solo apretarlo, desconecte a todas esas reproductoras máquinas ultra inteligentes. En el Congreso de Estados Unidos, han surgido muchas propuestas para que sean los políticos, y no los ingenieros, los que impongan las restricciones a la IA. Pero hay cosas que se les escapan de las manos.

Estados Unidos podría llegar a un acuerdo entre políticos y científicos para regular y limitar los alcances de la IA. Pero, ¿qué ocurriría si otros países como China, Rusia o dictaduras industrializadas no se ajustaran a las nuevas regulaciones? ¿Quién los podría obligar? ¿Cómo?

El peor escenario es que Donald Trump tome el control del proceso. En su cuenta de redes sociales, escribió Trump que “el único control que necesita la IA es un presidente fuerte y listo [con un alto IQ] y Estados Unidos tiene eso”. Solo por esa declaración está claro que el ocupante de la Casa Blanca no debería tener la última palabra sobre este asunto.

No estoy listo para despedirme ni para decirle adiós a todos. Lo que jamás me imaginé es que algún día estaríamos hablando seriamente sobre el fin del mundo.