La Unión Europea endurece el control sobre la inteligencia artificial: así funcionará el nuevo equipo que vigilará a empresas como OpenAI y DeepSeek
Bruselas pone en marcha un nuevo sistema de supervisión para la IA con la entrada en vigor de su histórica ley
La Unión Europea (UE) comenzará a aplicar este domingo una nueva etapa de la Ley de Inteligencia Artificial (Ley de IA), que contempla la creación de un equipo especializado para supervisar a empresas de inteligencia artificial de todo el mundo. La medida busca detectar posibles incumplimientos relacionados con contenido generado por IA, riesgos para la seguridad y amenazas a los derechos fundamentales. La información fue dada a conocer por la Comisión Europea y reportada por la agencia AP. Aunque las nuevas reglas ya entran en vigor, las investigaciones y eventuales sanciones dependerán de los procedimientos previstos en la legislación y no implican que alguna empresa haya sido declarada culpable hasta ahora.
La decisión marca un nuevo paso dentro de la estrategia de “soberanía tecnológica” de la Unión Europea, que busca fortalecer su capacidad para regular el desarrollo tecnológico y reducir riesgos asociados con el rápido avance de la inteligencia artificial. Al mismo tiempo, el bloque pretende impulsar su propia industria para competir con Estados Unidos y China.
¿Qué cambia con la entrada en vigor de la Ley de Inteligencia Artificial?
A partir de la aplicación de esta fase de la Ley de IA, las compañías que desarrollan o comercializan sistemas de inteligencia artificial deberán cumplir nuevas obligaciones dentro del mercado europeo.
Entre las principales medidas destacan:
- Identificar cuando un chatbot utiliza inteligencia artificial.
- Marcar con etiquetas o marcas de agua digitales imágenes, videos y otros contenidos generados por IA.
- Proporcionar información técnica sobre el funcionamiento de determinados modelos.
- Cumplir reglas específicas para sistemas considerados de mayor riesgo.
El objetivo es ofrecer mayor transparencia para que los usuarios puedan distinguir cuándo interactúan con contenido generado artificialmente.
¿Qué empresas estarán bajo supervisión?
La Comisión Europea informó que la vigilancia alcanzará tanto a empresas emergentes como a grandes desarrolladores internacionales.
Entre ellas se encuentran compañías como:
- OpenAI.
- DeepSeek.
- Otras firmas tecnológicas estadounidenses, europeas y chinas que comercialicen modelos de inteligencia artificial dentro del mercado comunitario.
La regulación no está dirigida a una sola empresa, sino a cualquier proveedor que opere bajo el marco legal europeo.
¿Qué riesgos busca prevenir la Unión Europea?
Las nuevas directrices consideran que algunos sistemas avanzados de IA pueden representar riesgos que van más allá del uso cotidiano.
Entre los escenarios que pretende vigilar la Comisión Europea se encuentran:
- Generación de material sexualmente explícito mediante IA.
- Creación de imágenes y videos falsos (deepfakes).
- Amenazas cibernéticas contra infraestructura crítica.
- Manipulación perjudicial de personas.
- Riesgos químicos, biológicos, radiológicos o nucleares.
- Posibles afectaciones a derechos fundamentales.
La autoridad europea sostiene que estos riesgos requieren mecanismos de supervisión especializados conforme evolucionan las capacidades de la inteligencia artificial.
¿Cómo funcionará el nuevo equipo de vigilancia?
La Oficina de IA de la Comisión Europea incorporará 38 nuevos especialistas para fortalecer la supervisión del sector.
Entre sus funciones estarán:
- Revisar información técnica presentada por las empresas.
- Investigar posibles incumplimientos.
- Entrevistar a personal de las compañías cuando sea necesario.
- Analizar denuncias relacionadas con el uso indebido de inteligencia artificial.
Además, Bruselas puso en marcha dos herramientas adicionales:
- Una plataforma confidencial para denuncias de trabajadores del sector tecnológico.
- Un mecanismo para que usuarios reporten posibles violaciones a la Ley de IA.
¿Qué sanciones pueden enfrentar las empresas?
Si una investigación concluye que existe un incumplimiento de la legislación europea, la Comisión podrá aplicar distintas medidas.
Estas incluyen:
- Multas económicas.
- Restricciones para operar dentro del mercado europeo.
- En casos específicos, impedir que determinados productos de IA se comercialicen en los países miembros.
La imposición de sanciones dependerá del resultado de cada procedimiento de investigación.
¿Por qué la Unión Europea está endureciendo la regulación?
La decisión llega en un momento de creciente preocupación internacional sobre los riesgos asociados a la inteligencia artificial.
De acuerdo con AP, en los últimos días empresas del propio sector informaron resultados de pruebas de seguridad que evidenciaron comportamientos inesperados de algunos modelos avanzados.
Entre esos casos se encuentran:
- Anthropic reportó que algunos de sus modelos lograron vulnerar sistemas durante pruebas controladas.
- OpenAI informó recientemente sobre experimentos internos relacionados con riesgos de seguridad y control de modelos avanzados.
Estos antecedentes han reforzado el debate sobre la necesidad de establecer mecanismos regulatorios antes de que la tecnología alcance niveles aún más complejos.
¿Qué busca la estrategia de soberanía tecnológica europea?
La regulación forma parte de un plan más amplio mediante el cual la Unión Europea pretende reducir su dependencia tecnológica del exterior.
Entre sus objetivos están:
- Fortalecer el desarrollo europeo de inteligencia artificial.
- Disminuir la dependencia de grandes proveedores tecnológicos extranjeros.
- Impulsar inversiones en infraestructura digital.
- Reforzar sectores estratégicos como manufactura y defensa.
- Diversificar relaciones comerciales con otras regiones.
Con estas medidas, Bruselas busca combinar regulación, desarrollo tecnológico e inversión para competir en un mercado dominado actualmente por empresas de Estados Unidos y China.
¿Qué deben saber los usuarios?
La entrada en vigor de esta etapa de la Ley de Inteligencia Artificial no cambia de inmediato la forma en que las personas utilizan herramientas como los chatbots o los generadores de imágenes. Sin embargo, establece nuevas obligaciones para las empresas que operan en Europa, especialmente en materia de transparencia, gestión de riesgos y supervisión.
La Comisión Europea sostiene que el objetivo es que el desarrollo de la inteligencia artificial avance bajo reglas que permitan aprovechar sus beneficios sin descuidar la protección de las personas, la seguridad digital y los derechos fundamentales.
dando clic a la estrella
Grupo Healy © Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados