México enfrenta el reto de regular la inteligencia artificial ante los riesgos de decisiones automatizadas, ciberataques y pérdida de control humano

El crecimiento acelerado de la inteligencia artificial (IA) está transformando la manera en que empresas y gobiernos procesan información, automatizan tareas y toman decisiones. Sin embargo, mientras su adopción avanza, los marcos jurídicos y las políticas para supervisar su utilización todavía presentan importantes desafíos.

Esta fue una de las principales preocupaciones abordadas durante México IA+, encuentro realizado el 4 y 5 de noviembre en Expo Santa Fe, Ciudad de México, con el patrocinio de Nvidia. El evento reunió a académicos, funcionarios públicos, empresarios y especialistas en innovación tecnológica para analizar las oportunidades y los riesgos de esta tecnología.

Entre las conclusiones de los participantes destacó la necesidad de mantener la supervisión humana en los procesos automatizados. Advirtieron que los sistemas de IA no asumen responsabilidades por sus errores y que, cuando se delegan decisiones sin controles adecuados, puede perderse la capacidad de identificar cómo se llegó a un resultado.

Mundo

Musk dice que ahorrar para el retiro dejará de tener sentido

Por ello, señalaron que tanto las instituciones públicas como las empresas necesitan establecer reglas internas, validar los procesos y designar personas responsables de supervisar el uso de estas herramientas.

¿Quién debe asumir la responsabilidad cuando la IA se equivoca?

Durante la conferencia De los datos a las decisiones: IA aplicada a ciudades, Juan Pablo de Botton Falcón, secretario de Finanzas de la Ciudad de México, explicó que la capital avanza en su proceso de digitalización con el objetivo de convertirse en una ciudad inteligente.

Sin embargo, consideró que los alcances de la inteligencia artificial todavía no se han difundido suficientemente entre la población y que es necesario impulsar una mayor adopción cultural de estas herramientas.

Como ejemplo mencionó el proyecto de semáforos inteligentes, anunciado por la jefa de Gobierno, que busca utilizar tecnología para reducir los tiempos de traslado de los habitantes de la capital.

El funcionario indicó que los avances de esta iniciativa se esperan para el próximo año, debido a la complejidad de su planeación.

No obstante, uno de los temas que quedó sobre la mesa fue la necesidad de establecer mecanismos de supervisión y transparencia para los sistemas automatizados que intervengan en servicios públicos.

Proponen una Ley General para regular la inteligencia artificial en México

En una mesa dedicada a la gobernanza tecnológica, Alonso Tamez Vélez, secretario técnico de la comisión de inteligencia artificial en el Senado, advirtió sobre los riesgos de incorporar sistemas automatizados en las estructuras gubernamentales sin mecanismos suficientes de vigilancia.

Entre sus preocupaciones mencionó la posibilidad de que se desarrolle una especie de Estado paralelo, en el que decisiones importantes se tomen mediante sistemas automatizados poco transparentes, especialmente en ámbitos sensibles como la seguridad nacional.

También alertó sobre la llamada atrofia estratégica del Estado, concepto que utilizó para describir el riesgo de que las instituciones pierdan capacidad para tomar decisiones de manera autónoma al depender excesivamente de herramientas tecnológicas.

Estilos

Almadía suspende novela premiada por sospechas de IA

El especialista adelantó que en las próximas semanas se presentaría una propuesta de Ley General para regular la inteligencia artificial en México. Según explicó, su elaboración consideró las inquietudes expresadas por distintos sectores durante conversatorios con legisladores realizados desde 2024.

El objetivo, señaló, es construir un modelo de regulación que responda a las condiciones y necesidades específicas del país.

Tamez Vélez también recordó que ya existen disposiciones legales relacionadas con el uso de estas tecnologías, particularmente en materia de protección de datos personales.

En ese sentido, enfatizó que la ausencia de una legislación específica no significa que las empresas estén exentas de responsabilidades.

La IA también puede reproducir desigualdades y relaciones de poder

La doctora Claudia Jiménez, presidenta del Consejo Latinoamericano de Ética en Tecnología (CLET), señaló que la inteligencia artificial llegó a América Latina en un contexto marcado por la diversidad social y la desigualdad estructural.

Desde su perspectiva, los grandes modelos tecnológicos no siempre consideran las particularidades de las sociedades donde se implementan, por lo que sus resultados pueden reproducir sesgos o profundizar desigualdades existentes.

La especialista sostuvo que la tecnología no debe analizarse de manera aislada de las relaciones de poder y que la gobernanza de la IA debe ir más allá del cumplimiento de las normas.

Esto implica incorporar aspectos éticos, históricos y sociales, además de cuestionar quién obtiene beneficios de su utilización y qué sectores podrían resultar perjudicados.

Por su parte, Jaime Gómez Balderrama, fundador y socio de la consultoría Ética Integral, resumió uno de los principales desafíos de la automatización con una advertencia: “En caso de un error, la IA no rinde cuentas”.

Empresarios alertan sobre el aumento de los ciberataques con IA

Los riesgos tecnológicos también ocuparon un lugar importante en las discusiones empresariales. Especialistas en ciberseguridad advirtieron que la inteligencia artificial puede facilitar ataques más rápidos, sofisticados y de mayor alcance.

Felipe Sánchez Romo, especialista en ciberseguridad, explicó que las consecuencias económicas de un ataque informático pueden concentrarse en tres áreas:

• Interrupción de operaciones: pérdidas ocasionadas por la suspensión de actividades y servicios.
• Costos de personal: recursos necesarios para atender incidentes, recuperar sistemas y restablecer operaciones.
• Pérdida de confianza: daños a la reputación de las empresas y a la relación con sus clientes.

El especialista también describió cambios en las estrategias utilizadas para cometer fraudes mediante ingeniería social, una técnica que recurre a la manipulación y el engaño para obtener información o dinero.

Como ejemplo, señaló que anteriormente muchos correos fraudulentos solicitaban directamente documentos, transferencias o recursos económicos. Ahora, algunos ataques buscan establecer primero una conversación con la víctima, generar confianza y realizar la solicitud fraudulenta después de varios intercambios.

Este tipo de estrategias dificulta la identificación de los engaños, pues los mensajes pueden parecer parte de una comunicación legítima.

Empresas necesitan capacitar a sus trabajadores y proteger su información

Durante el encuentro, Carlos Bravo, de CISO Spin, y Guillermo Martell, de Fortinet, destacaron la importancia de contar con profesionales especializados en ciberseguridad.

Por su parte, Miguel Alegre, director de ISDI México, Escuela de Negocios Digitales, señaló que existe una brecha de conocimiento sobre los riesgos de la inteligencia artificial que abarca tanto a los niveles directivos como al resto de los colaboradores.

Ante este panorama, los especialistas recomendaron a las organizaciones adoptar medidas como:

• Clasificar la información para identificar cuáles datos son confidenciales y requieren protección especial.
• Evaluar la madurez tecnológica y de seguridad de la empresa para detectar vulnerabilidades.
• Capacitar al personal en el uso responsable de herramientas de inteligencia artificial y en la identificación de amenazas.
• Incorporar soluciones de IA en ciberseguridad para detectar, contener y mitigar posibles ataques.

Estas medidas son particularmente relevantes para las pequeñas y medianas empresas, que pueden utilizar la inteligencia artificial como una herramienta de protección, pero también están expuestas a los riesgos derivados de su uso inadecuado.

¿Qué es la Shadow IA y por qué preocupa a las empresas?

Otro de los conceptos abordados durante México IA+ fue el de Shadow IA, que hace referencia al uso de herramientas de inteligencia artificial por parte de los empleados sin conocimiento o autorización de los responsables de la organización.

Esta práctica puede representar un riesgo cuando los trabajadores introducen información confidencial, datos personales o documentos internos en plataformas externas sin conocer sus políticas de privacidad y tratamiento de datos.

El problema no se limita al uso de aplicaciones no autorizadas: también incluye la ausencia de reglas internas que establezcan qué herramientas pueden utilizarse, qué información está permitido compartir y quién debe supervisar su funcionamiento.

Por ello, los especialistas consideraron necesario que las empresas establezcan políticas claras sobre el uso de IA y ofrezcan alternativas seguras para que sus trabajadores aprovechen estas tecnologías sin comprometer información sensible.

La regulación y la capacitación, retos para el futuro de la IA en México

Las discusiones de México IA+ dejaron en evidencia que la adopción de inteligencia artificial requiere algo más que infraestructura y herramientas tecnológicas.

Los participantes coincidieron en que es necesario fortalecer la regulación, establecer responsabilidades humanas, proteger los datos personales y desarrollar una cultura de ciberseguridad tanto en las instituciones como en las empresas.

El desafío consiste en aprovechar las ventajas de la automatización sin perder la transparencia, la capacidad de supervisión ni el control sobre las decisiones que afectan a las personas.

La inteligencia artificial puede funcionar como una herramienta de innovación y protección, pero su implementación requiere reglas claras, personal capacitado y mecanismos para identificar quién responde cuando algo sale mal.