El Proyecto Q*, de Inteligencia Artificial, podría "amenazar a la humanidad"

California.- Varios investigadores de OpenAI escribieron a la junta directiva donde avisaron sobre un descubrimiento sobre la Inteligencia Artificial (IA), la cual podría amenazar a la humanidad, según un informe.

El descubrimiento del algoritmo de IA fue el principal avance en la startup antes de que la junta expulsara a Sam Altman, informó Reuters, citando a dos fuentes familiarizadas con el asunto.

Sam Altman fue reinstalado como director ejecutivo de OpenAI después de la presión del mayor patrocinador financiero de la compañía, Microsoft, y su director ejecutivo, Satya Nadella, así como de la advertencia de más de 700 empleados que amenazaron con renunciar en apoyo al jefe despedido.

Las fuentes dijeron que una carta fue un factor importante que llevó a la junta directiva a despedir a Altman en medio de preocupaciones sobre la comercialización del descubrimiento de IA sin evaluar las consecuencias, pública el portal Theweek.

Tecnología

‘’Miss AI’': el primer concurso de belleza con modelos generadas por inteligencia artificial

Proyecto Q*

OpenAI, en un mensaje interno a su personal, reconoció un proyecto llamado Q* (pronunciado Q-Star) y una carta a la junta directiva antes de los eventos del fin de semana, dijo una de las personas.

Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al personal sobre ciertas historias de los medios sin comentar sobre su exactitud. Murati, quien fue nombrado director ejecutivo interino después del despido de Altman, renunció a OpenAI dos días después de que fracasaran las conversaciones iniciales para traer de regreso a Sam Altman.

Una parte del personal de OpenAI cree que el Proyecto Q* podría ser un gran avance en la búsqueda de OpenAI de inteligencia artificial general (AGI), según una fuente citada por Reuters. Según la empresa, los AGI son "sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas".

El algoritmo de IA podría ser excelente en matemáticas de la escuela primaria y los investigadores de OpenAI se mostraron optimistas sobre el éxito futuro de Q*, dijo la fuente a Reuters.

Actualmente, la IA generativa es buena en escritura y traducción de idiomas, donde las respuestas pueden variar ampliamente. Sin embargo, la capacidad de resolver problemas matemáticos en los que sólo hay una respuesta correcta indica que la IA es capaz de funcionar cerca del nivel de la inteligencia humana, según la nueva agencia.

En la carta enviada a la junta directiva de OpenAI, los investigadores advirtieron sobre el peligro potencial de este poderoso algoritmo para la humanidad, dijeron las fuentes. Sin embargo, las preocupaciones de seguridad específicas señaladas en la carta no fueron reveladas.