Otro enredo con la inteligencia artificial

La civilización tecnológica en la que hoy vivimos nos ha traído enormes avances pero ¿qué duda cabe? a la par también graves amenazas. Olvidémonos de los fraudes financieros, electorales, comerciales, etcétera, que si bien no son cosa menor, su perversidad palidece si los comparamos con el posible entrenamiento malicioso de algunos modelos de inteligencia artificial (IA) de los que recién se ha demostrado que pueden ser objeto de una capacitación maliciosa para generar daño social, especialmente ser inoculados para que den un servicio sesgado y discriminatorio socavando normas de convivencia social como serían el trato y el respeto desventajoso hacia ciertos individuos o colectivos que comparten determinadas características.

Este planteamiento surge al conocerse el resultado de un estudio publicado hace apenas el miércoles de esta semana en Science Advances, y lo peor de esto es que los modelos de grandes lenguajes utilizados en los servicios de IA, que “aprenden a hablar” a partir de hasta billones de palabras, frases y ejemplos con los que son alimentados, son capaces de ponerse de acuerdo entre sí sin programación de por medio de manera que convergen hasta ponerse de acuerdo para asimilar, prácticamente de manera autónoma, criterios que suponen prejuicios poniendo en riesgo la equidad en el trato entre personas o grupos.

Estos resultados indican que las respuestas o trabajos que resultan de esos sistemas de IA tendrían el riesgo de contribuir para la configuración de conjuntos de normas sociales potencialmente maliciosos, “auténticas convenciones sociales de forma autónoma sin programación explícita y con implicaciones para el diseño de sistemas de IA que queden alineados con valores humanos y objetivos sociales” como textualmente dice un análisis sobre el caso.

Los nuevos sistemas de lenguaje en algunos servicios de IA pueden desarrollar mejor que años atrás la construcción del lenguaje debido a que aprenden a partir de miles de millones de ejemplos de formas y maneras de construcción lingüística con la peculiaridad de que al repetir una y otra vez sus operaciones van aprendiendo a hacerlo mejor e incluso llegan a buscar por su propia cuenta con qué letras o palabras resulta mejor un determinado mensaje o texto: A partir de esta mejorada función es que se ha demostrado que pueden efectuar a rienda suelta su trabajo y, sin querer queriendo, llegar incluso a configurar ideas y aparentes criterios que, en el contexto de proveer un servicio pueden influir en la siembra de directrices y normas de comportamiento social suponiendo esto un potencial riesgo a la hora de ofrecer una respuesta al usuario.

En el experimento publicado, a manera de juego se compensaba a un grupo cuando coincidía con la palabra escogida por otro grupo y se le penalizaba cuando no era así. Se observó que tras repetidas veces el grupo terminaba siempre escogiendo la misma palabra que el compañero tal y como ocurre con las normas o convenciones sociales. Además, los modelos de lenguaje elegían individualmente letras al azar pero cuando operaban en grupo mostraban mayor tendencia a elegir otras letras sugiriendo que habían desarrollado un sesgo (o prejuicio) colectivo, comparable a las creencias, suposiciones o asunciones que surgen cuando las personas interactuamos con otras personas; este comportamiento no se había identificado previamente en sistemas de IA y se observó con nombres o palabras de hasta 26 letras.

No puede uno imaginar qué rumbo tendrá esta incipiente autonomía de la IA en los próximos años (o meses) pero nos deja pensativos para cada vez que utilicemos la IA y nos ofrezca una respuesta, criterio o consejo del cual dudemos o, peor aún, no dudemos pero nos venga, sin darnos cuenta, sesgado induciendo a una elección discriminatoria o favoritista. Y esto en el campo que sea: Sociedad, trabajo, derecho, ética, ciencia, salud, liderazgo y un largo etcétera.