Empleados de Google trataron de bloquear el lanzamiento del rival de СhatGPT

Dos empleados de Google que revisan los productos de inteligencia artificial (IA) de la empresa, en marzo, trataron de impedir que la compañía lanzara su chatbot de IA Bard, advirtiendo que la herramienta generaba afirmaciones imprecisas y peligrosas, informa The New York Times.

Los investigadores de los gigantes tecnológicos como Google y Microsoft dicen que las empresas se están arriesgando al lanzar una tecnología que incluso sus propios desarrolladores no comprenden totalmente. Google lanzó Bard luego de años de desacuerdo interno sobre si los beneficios de la inteligencia artificial generativa– la tecnología que alimenta los chatbots– superaban los riesgos.

El equipo de Innovación Responsable de la compañía documentó una serie de problemas con los chatbots, como por ejemplo que podrían generar información falsa, perjudicar a los usuarios que se encariñan emocionalmente con ellos y permitir la "violencia facilitada por la tecnología" mediante el acoso masivo en línea, indica RT.

Tecnología

Candy Crush despide a 200 empleados y los reemplaza con IA que ellos mismos entrenaron

Dos revisores de ese equipo habían presentado una evaluación de riesgos de Bard en la que recomendaban bloquear su lanzamiento, pero a pesar de las medidas de seguridad que tomaron, consideraban que el chatbot no se encontraba preparado. No obstante, la directora del equipo de Innovación Responsable, Jen Gennai, editó el documento, eliminó las recomendaciones y minimizó la gravedad de los riesgos de Bard, según fuentes cercanas al asunto.

En declaraciones a The New York Times, Gennai defendió sus acciones indicando que Bard es solo un experimento, por lo que los revisores no deberían compartir sus opiniones sobre el proceder de la empresa. Añadió que "corrigió suposiciones inexactas" y que por el contrario sumó "más riesgos y daños que necesitaban consideración". Esto hizo que el chatbot fuera más seguro, insistió.

Hasta hace poco las empresas tecnológicas tenían aversión al riesgo, pero ahora se encuentran realizando movimientos agresivos en su intento por hacerse con el control de lo que podría ser el próximo gran avance de la industria: la IA generativa.