La IA más peligrosa ya está suelta, ¿y ahora qué?

Eduardo Ruiz-Healy

El martes pasado escribí en este espacio que Claude Mythos, el modelo de IA que Anthropic se negó a poner a la venta por considerarlo demasiado peligroso, terminaría inevitablemente en manos equivocadas. Advertí que el crimen organizado, con dinero ilimitado y acceso a mercados negros, era un comprador lógico del modelo. Lo que no imaginé fue qué tan rápido caería en esas manos equivocadas.

El mismo martes, las agencias de noticias Bloomberg y Reuters reportaron que un grupo de hackers no identificado obtuvo Mythos sin autorización y que ya lo tenía el 7 de abril, día en que Anthropic lo anunció públicamente. Desde entonces lo ha usado regularmente y, como evidencia de que ya lo tenía, le proporcionó a Bloomberg capturas de pantalla y una demostración en vivo. Estos hackers son miembros de un foro privado en línea y de un canal de Discord dedicado a rastrear modelos de IA no publicados.

La forma en que lo obtuvieron es significativa porque no hackearon directamente a Anthropic. Obtuvieron el modelo a través de un proveedor externo de esta empresa, adivinando su ubicación en línea a partir del formato que Anthropic utiliza para otros modelos. Un descuido de un tercero bastó para conseguirlo. Anthropic asegura que sus sistemas internos no fueron comprometidos, pero Mythos ya no es exclusivo de las 40 empresas que, por motivos de seguridad, lo recibieron hace unas semanas.

El detalle más revelador no es que alguien haya burlado los controles de Anthropic, sino que lo haya hecho por la puerta trasera de un contratista. Precisamente el tipo de vulnerabilidad que describí el martes al hablar de México: La cadena de seguridad se rompe por el eslabón más débil, no por el más visible. Esta vez ese eslabón no fue el SAT ni el INE; fue un proveedor externo de la propia empresa que construyó la herramienta que supuestamente es la más peligrosa del mundo.

Anthropic pasó semanas advirtiendo sobre los riesgos de Mythos. Convocó reuniones de emergencia en Washington. Movilizó al secretario del Tesoro y al presidente de la Reserva Federal para reunirse con los principales bancos de EE.UU para analizar el peligro. Construyó un relato de control absoluto: Dio el modelo sólo a 40 empresas seleccionadas, bajo condiciones estrictas, para uso exclusivamente defensivo.

Según Bloomberg, el grupo de hackers no tenía intenciones maliciosas. Sólo quería explorar el modelo y eso hace que la noticia sea más preocupante. Porque el método que usaron ahora es público y replicable y los cárteles mexicanos, que ya operan con drones, comunicaciones cifradas y redes de lavado digital, no necesitan ser genios de la computación para seguir el mismo camino. Necesitan dinero para contratar a quien lo haga. Y eso, como escribí el martes, les sobra.

La proliferación de la capacidad de hackear cualquier sistema informático del mundo, de forma autónoma y a escala industrial, no es un riesgo futuro. Es un proceso que ya comenzó y ocurre más rápido que cualquier respuesta institucional. Si Anthropic, con todos sus recursos, no pudo contener el acceso no autorizado a su propio modelo, ningún Gobierno debería asegurar que sí podrá hacerlo. Mucho menos uno que, como el mexicano, aún no ha dicho una sola palabra al respecto.

Ya pasó. Y ahora, ¿qué sigue?

Eduardo Ruiz-Healy

Twitter: @ruizhealy

Facebook: Eduardo J Ruiz-Healy

Instagram: ruizhealy

Sitio: ruizhealytimes.com