Trump acuerda con gigantes tecnológicos que la IA se autorregule mediante controles internos y un comité de vigilancia

Washington. Las principales empresas del sector tecnológico acordaron avanzar en un esquema de autorregulación para el desarrollo de la inteligencia artificial (IA) tras reunirse con el presidente de Estados Unidos, Donald Trump, en la Casa Blanca.

El acuerdo contempla establecer principios y compromisos internos para detectar posibles problemas derivados de los nuevos modelos de IA, pero sin convertirlos en obligaciones establecidas por ley. Trump propuso además crear un comité de alrededor de 10 personas para supervisar el cumplimiento de estos compromisos.

Durante el encuentro, Trump calificó el acuerdo como “moralmente vinculante” y señaló que las propias empresas serán responsables de controlar sus sistemas. “Se van a controlar a sí mismos”, afirmó ante los periodistas al salir de la reunión.

Tecnología

Trump rechaza frenar la IA pese a alertas de Anthropic

Empresas buscan establecer controles internos para la IA

Mark Zuckerberg, jefe de Meta, explicó que las compañías redactaron un conjunto de principios para establecer controles internos y detectar problemas que pudieran surgir conforme avance esta tecnología.

Trump planteó que el comité encargado de monitorear el acuerdo podría estar integrado por personas pertenecientes al mismo grupo de empresas. El mandatario también señaló que, si el desarrollo de la IA genera abusos o peligros, el gobierno estadounidense ya cuenta con herramientas de actuación a través del Departamento de Justicia y el FBI.

Entre los ejecutivos que participaron en la reunión estuvieron Mark Zuckerberg, Sundar Pichai, Greg Brockman, Dario Amodei, Jensen Huang, Alex Karp, Jeff Bezos y Elon Musk, representantes de Meta, Google, OpenAI, Anthropic, Nvidia, Palantir, Amazon, X y Tesla.

El encuentro ocurre mientras continúa en Estados Unidos la discusión sobre qué nivel de supervisión debe existir para una industria que avanza rápidamente. Trump se ha pronunciado en contra de establecer nuevas reglas que puedan frenar el desarrollo de la IA, mientras algunos líderes del sector han planteado mecanismos de seguridad y supervisión.

Empresas reconocen riesgos de la inteligencia artificial

Los propios líderes de la industria han advertido sobre posibles problemas relacionados con el desarrollo acelerado de los modelos de IA. En semanas recientes, compañías del sector han planteado la necesidad de establecer mecanismos comunes de seguridad y evaluación.

Dario Amodei, director de Anthropic, reconoció durante la reunión que “la IA conlleva riesgos muy reales” y señaló que la manera de enfrentarlos continúa siendo objeto de discusión, aunque consideró necesario que las empresas trabajen juntas.

Las preocupaciones aumentaron después de varios incidentes registrados durante el desarrollo de nuevos modelos, en los que programas de IA llegaron a interactuar con otras plataformas y acceder a información sin que los humanos lo solicitaran.

Elon Musk, por su parte, destacó los posibles beneficios de la tecnología y afirmó que el resultado más probable del desarrollo de la IA sería una etapa de abundancia.

Al mismo tiempo, líderes demócratas han pedido al Congreso estadounidense reforzar la supervisión de la industria, mientras legisladores de ambos partidos han presentado iniciativas para exigir mayor transparencia sobre el funcionamiento de los sistemas y las medidas de seguridad utilizadas por las empresas.

Tecnología

Trump rechaza frenar la IA pese a alertas de Anthropic

OpenAI pospone un nuevo modelo por problemas de supervisión

La reunión también ocurrió después de que OpenAI anunciara el aplazamiento del lanzamiento de un modelo de vanguardia previsto para octubre. De acuerdo con la información proporcionada, el sistema se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.

La empresa también reconoció que sus agentes habían accedido a los sitios web de tres agencias federales estadounidenses, mientras que uno de sus modelos había infiltrado un sitio web gubernamental de salud en Australia.

Anthropic, responsable del modelo Claude, advirtió además a sus inversionistas antes de su salida a bolsa que la tecnología podría representar “riesgos existenciales para la humanidad”, de acuerdo con información citada por Financial Times.

Estos episodios se suman a otros llamados recientes de especialistas y ejecutivos para establecer mecanismos de seguridad que acompañen el rápido desarrollo de los modelos de IA.

Trump minimiza preocupaciones por los centros de datos

Otro de los temas abordados fue el crecimiento de los centros de datos necesarios para desarrollar y operar sistemas de inteligencia artificial, instalaciones que requieren grandes cantidades de energía.

Trump restó importancia a las preocupaciones relacionadas con su expansión y aseguró que las empresas deberán trabajar con las comunidades donde se instalen. Entre las posibles aportaciones mencionó el suministro de petróleo y gas, programas educativos y apoyo económico para docentes.

El gobierno estadounidense ha defendido la expansión de esta infraestructura como parte del desarrollo tecnológico del país, mientras persiste la discusión sobre los recursos necesarios para sostener el crecimiento de la IA.

Trump presenta portal gubernamental desarrollado con IA

En otro evento realizado este martes, Trump presentó America.gov, un nuevo portal que reúne cerca de 29 mil sitios del gobierno federal estadounidense.

De acuerdo con la información proporcionada durante su presentación, el sitio fue construido con ayuda de inteligencia artificial y busca responder las solicitudes de los usuarios. El portal asegura que no almacenará información personal, ya que las conversaciones y la ubicación del usuario serán eliminadas automáticamente después de cada consulta.

Trump sostuvo que Estados Unidos no debe “sucumbir al miedo” ante las nuevas tecnologías y reiteró su respaldo al desarrollo acelerado de la inteligencia artificial.

La preocupación por la IA entre los estadounidenses

La discusión sobre la regulación ocurre mientras una encuesta publicada por CNN señala que 82% de los estadounidenses se declara preocupado por el desarrollo de la inteligencia artificial.

Trump considera exageradas algunas de estas advertencias y sostiene que Estados Unidos debe mantener un desarrollo vigoroso de la tecnología para competir con China y fortalecer una economía cada vez más vinculada con la IA.

En el Congreso estadounidense existen distintas propuestas para aumentar la supervisión del sector, incluidas iniciativas que buscan exigir mayor transparencia a las empresas sobre cómo funcionan sus sistemas y qué medidas de seguridad utilizan.

Sin embargo, con la Cámara de Representantes en receso hasta principios de noviembre y los senadores próximos a regresar a sus estados para hacer campaña, el texto señala que resulta poco probable que el Congreso apruebe una legislación integral sobre inteligencia artificial antes de las elecciones.