La Unión Europea ha dado un paso significativo al implementar la primera ley en el mundo que regula el uso de la inteligencia artificial (IA), tanto en el ámbito personal como empresarial. Esta ley, que entró en vigor ayer, establece un marco legal que clasifica los sistemas de IA según el nivel de riesgo que representan para los ciudadanos y dicta restricciones correspondientes para proteger los derechos fundamentales.
Categorización de Riesgos y Restricciones
La nueva normativa identifica cuatro categorías de sistemas de IA:
- Riesgo Inaceptable: Prohíbe cualquier sistema de IA que amenace los derechos fundamentales, como aquellos que realizan categorización biométrica basada en creencias políticas, religiosas, filosóficas, raza u orientación sexual.
- Alto Riesgo: Sistemas que son esenciales en sectores críticos pero que estarán sujetos a estrictos requisitos para garantizar que respetan los derechos fundamentales.
- Riesgos de Transparencia: Incluye sistemas como los chatbots, que deberán informar claramente a los usuarios que están interactuando con una IA.
- Riesgo Mínimo: La mayoría de los sistemas de IA que se utilizan en aplicaciones menos críticas y que no estarán sujetos a regulaciones estrictas.
Prohibiciones Específicas y Excepciones
La legislación prohíbe explícitamente los sistemas de IA que manipulan el comportamiento humano, expanden bases de datos faciales de manera indiscriminada, o reconocen emociones en lugares como el trabajo o las escuelas. Además, establece límites estrictos para la vigilancia masiva, permitiendo su uso solo bajo autorización judicial y en circunstancias excepcionales, como la prevención de amenazas terroristas.
Implicaciones para las Empresas
Los sistemas de IA de uso general, como ChatGPT de OpenAI y Bard de Google, enfrentarán nuevas obligaciones. Estos sistemas deberán divulgar si los contenidos como textos, canciones o fotografías han sido generados mediante IA y asegurar que los datos utilizados en su entrenamiento respeten los derechos de autor.
Las empresas que incumplan con la nueva regulación enfrentarán multas significativas, que podrían alcanzar hasta el 7% de su facturación global anual para infracciones relacionadas con aplicaciones prohibidas.
Implementación y Vigencia
La mayoría de las disposiciones de esta ley entrarán en vigor el 2 de agosto de 2026, aunque las normas para sistemas de riesgo inaceptable serán efectivas en seis meses, y las reglas para IA de uso general se aplicarán dentro de un año.