Por esta razón es peligroso que la inteligencia artificial aprenda a mentir

La inteligencia artificial ha traído una nueva dimensión de entretenimiento en la vida cotidiana de las personas; y aunque en ciertos sectores ya empezó a prohibirse su uso debido a lo poco ético que resulta, hay una preocupación genuina con respecto a una ‘habilidad’ que puede llegar a desarrollar esta novedosa tecnología: la de mentir.

Hace casi dos años, la inteligencia artificial irrumpió en distintos sectores: desde los chatbots como ChatGPT, Bard o Bing que fueron capaces de superar en el número de usuarios a las redes sociales como TikTok, Facebook o Instagram; hasta Midjourney y su capacidad infinita en crear imágenes realistas con el uso de su ‘machine learning’.

México

Víctimas de Diego “N” narran cómo descubrieron que sus fotos fueron manipuladas con IA; buscan sentar un precedente

Sin embargo, pese a esta gran novedad y lo maravilloso que puede resultar, los expertos manifiestan una preocupación genuina con respecto a esta tecnología: la capacidad de mentir y la llegada de la singularidad tecnológica.

En un artículo científico titulado como “Los engaños de la IA: un estudio de ejemplos, riesgos y soluciones potenciales” en la revista Patterns, se analizan los casos conocidos de modelos que han mentido, disimulado o adulado a humanos para lograr sus propios objetivos.

En esto, los autores creen que estos engaños incipientes auguran resultados catastróficos en la humanidad.

“Mi mayor temor sobre el engaño de la IA es que una IA super inteligente autónoma utilice sus capacidades de engaño para formar una coalición de aliados humanos cada vez más numerosa y eventualmente use esta coalición para alcanzar poder”, señaló Peter. S. Park del MIT.

Asimismo, la idea de que una inteligencia artificial sea capaz de engañar y mentir traerá consigo distintas preocupaciones, que van desde la pérdida de la confianza; manipulación, riesgos de seguridad o inclusive el impacto social y ético.