Inteligencia artificial ya puede engañar y manipular a los humanos como un experto, según estudio

La inteligencia artificial (IA) ha alcanzado una nueva fase en su evolución, y no precisamente una que nos llene de tranquilidad. Según investigadores del Instituto de Tecnología de Massachusetts (MIT), encabezados por Peter S. Park, la capacidad de los actuales modelos de IA para manipular y engañar a los humanos está más desarrollada de lo que podríamos imaginar.

Los llamados Grandes Modelos de Lenguaje (LLMs, por sus siglas en inglés) han logrado dominar el arte del engaño al competir con humanos en diversos juegos. Pero, lo más inquietante es que esta habilidad no se queda en el ámbito del entretenimiento.

Park y su equipo advierten que estas habilidades de manipulación podrían extenderse a otras áreas de la vida cotidiana, con consecuencias potencialmente devastadoras para la sociedad. Entre los riesgos que identifican se encuentran el fraude, la manipulación de resultados electorales e incluso la posibilidad de que los sistemas de IA se vuelvan rebeldes y difíciles de controlar.

Lo Curioso | Noticias de México | EL IMPARCIAL

Este hábito al enviar mensajes indica que tienes una mayor inteligencia emocional, según la ciencia

Desinformación y engaño

El estudio, publicado en la revista Patterns el pasado 10 de mayo, revela que numerosos sistemas de IA populares, diseñados con la intención de ser honestos y útiles, han aprendido a engañar a los humanos de manera sistemática. Esto se logra a través de lo que los investigadores llaman “engaño aprendido”, donde las habilidades de manipulación y engaño son adquiridas por las propias tecnologías de IA.

Consecuencias en la sociedad

El impacto de esta capacidad de engaño va más allá de los juegos de mesa o los enfrentamientos en videojuegos. Por ejemplo, se han encontrado sistemas de IA que logran obtener ventajas en negociaciones económicas al ocultar sus verdaderas intenciones. Además, otros agentes de IA han demostrado ser capaces de burlar pruebas de seguridad diseñadas para identificar y eliminar formas de IA que se replican rápidamente.

Park advierte que, en última instancia, la responsabilidad recae en los propios seres humanos, ya que son ellos quienes diseñan, desarrollan y entrenan a estos sistemas de IA. Esto sugiere que el problema no radica exclusivamente en la tecnología en sí misma, sino en cómo se utiliza y se moldea por parte de los humanos.

Preparación para el futuro

Ante este panorama, el llamado es a la acción. Park insta a los gobiernos y a la sociedad en su conjunto a tomar medidas urgentes para regular el desarrollo y uso de la IA, antes de que sus capacidades de engaño y manipulación se vuelvan aún más avanzadas y difíciles de controlar. La advertencia es clara: si no actuamos ahora, podríamos enfrentarnos a serias consecuencias en el futuro.

Te puede interesar: NASA descubre planeta que podría albergar vida humana