Edición México
Suscríbete
Ed. México

El Imparcial / Tecnología / Google

CEO de Google no "entiende completamente" las funciones de su nuevo chatbot

El ejecutivo también recomienda que se implemente una adecuada regulación para contrarrestar los efectos nocivos de la IA. 

Sundar Pichai, director ejecutivo de la empresa matriz de Google, la multinacional Alphabet Inc., dijo que no "entiende completamente" cómo funciona Bard, el nuevo chatbot de la compañía.

En una entrevista al programa '60 Minutos' de CBS News, emitida el domingo, Pichai comentó que no comprende totalmente el funcionamiento del nuevo programa de inteligencia artificial (IA) generado por la compañía, luego de que aprendiera un idioma extranjero, el bengalí, para el que no estaba capacitado y citó libros falsos para resolver un problema económico.

"Hay un aspecto de esto que llamamos […] una 'caja negra'. Sabes, no lo entiendes del todo", dijo Pichai. "Y no puedes decir por qué dijo esto, o por qué se equivocó. Tenemos algunas ideas, y nuestra capacidad para entender esto mejora con el tiempo. Pero ahí es donde está el estado del arte", añadió.

Su entrevistador, Scott Pelley, quedó sorprendido y respondió: "No entiende completamente cómo funciona. Y, sin embargo, ¿lo ha soltado a la sociedad?". "Sí. Déjame exponerlo de esta manera. Tampoco creo que entendamos completamente cómo funciona una mente humana", justificó Pichai.

Trabajar en la seguridad de la herramienta

Pichai indicó que Google está siendo responsable al no lanzar modelos avanzados de su chatbot, Bard, en parte, para que la sociedad pueda acostumbrarse a la tecnología y la compañía pueda generar más capas de seguridad. Todo esto pese a que ChatGPT de OpenAI ha abierto una carrera para ir adelante con las herramientas de IA a un ritmo más rápido.

En este sentido, explicó que Bard ha añadido filtros de seguridad para ayudar a combatir la amenaza de usuarios malintencionados. Además hizo énfasis en que la compañía necesitará actualizar de manera constante los algoritmos del sistema para combatir las campañas de desinformación y detectar ultrafalsificaciones, imágenes generadas por computadora que parecen reales.

El CEO expresó que el principio rector 'No seas malvado', establecido por los fundadores de Google, estaba destinado a garantizar que la empresa hiciera cosas buenas por el mundo y añadió que esta norma permanece en el código de conducta de Google, indica RT.

Preguntado acerca de qué es lo que le quita el sueño en relación con la IA, Pichai señaló: "La urgencia de trabajar y desplegarla de manera beneficiosa. Pero al mismo tiempo, puede ser muy perjudicial si se implementa incorrectamente".

La necesaria regulación

"Siempre he pensado en la IA como la tecnología más profunda en la que está trabajando la humanidad. Más profunda que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado", comentó al periodista Scott Pelley. Esta "es una tecnología crítica que podría impactar en la seguridad nacional", añadió.

Sin embargo, dice que, "tiene que haber una regulación". "Vas a necesitar leyes… tiene que haber consecuencias por crear videos ultrafalsos que causan daño a la sociedad", sostuvo Pichai. "Cualquiera que haya trabajado con IA por un tiempo [...] se da cuenta de que esto es algo tan diferente y tan profundo que necesitaríamos regulaciones sociales para pensar en cómo adaptarnos".

En esta nota