Sam Altman advierte en la ONU peligros de la IA y propone supervisión democrática

ESTADOS UNIDOS. — Directores de empresas de inteligencia artificial solicitaron a las Naciones Unidas establecer marcos de regulación sobre el desarrollo tecnológico.

La petición busca evitar riesgos para la población mundial y prevenir que el control de las herramientas se concentre en un solo país o corporación.

De acuerdo con información de la agencia AP Noticias, las intervenciones ocurrieron durante una sesión convocada por el Consejo de Seguridad de la ONU.

Mundo

Guterres pide regular la IA y poner fin a las guerras

El encuentro centró la discusión en el impacto que el crecimiento de la tecnología genera en la seguridad internacional.

Durante la jornada, autoridades del organismo y ejecutivos abordaron los mecanismos de supervisión necesarios para evitar que la capacidad de los sistemas supere la contención humana.

Advertencias de los ejecutivos ante el Consejo de Seguridad

Durante las intervenciones en la sede de las Naciones Unidas, los directores expusieron la necesidad de establecer límites normativos a nivel internacional:

• Riesgo global: Dario Amodei, director ejecutivo de Anthropic, expresó: “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”.
• Control del futuro: Sam Altman, director ejecutivo de OpenAI, afirmó: “Podríamos perder el control del futuro ante la IA”.
• Establecimiento de salvaguardas: Ambos directores pidieron fijar contrapesos operativos para evitar que la tecnología quede fuera de alcance.
• Distribución de la tecnología: Solicitaron que el poder derivado del desarrollo informático no se concentre en una sola entidad corporativa o gubernamental.

El debate sobre las decisiones de vida o muerte y la autonomía de las máquinas

La sesión del Consejo de Seguridad revisó la integración de sistemas informáticos en decisiones operativas y militares:

• Toma de decisiones: Las autoridades evalúan si las determinaciones de vida o muerte deben mantenerse bajo criterio humano o si serán delegadas a sistemas automatizados.
• Advertencia de la secretaría general: El secretario general de la ONU, António Guterres, advirtió sobre la presencia de “robots asesinos”.
• Postura de especialistas: Expertos y representantes europeos señalaron que las armas autónomas son una realidad en uso o en fase de despliegue.

• Preguntas clave de regulación: La deliberación del organismo aborda de qué manera se aplicarán las reglas, quién coordinará la supervisión y los plazos requeridos para implementar la regulación.