Con el primer sí, se inicia la fase de negociación con el Consejo y la Comisión para llegar al acuerdo final.
Las nuevas reglas tienen como objetivo garantizar que la IA desarrollada y utilizada en Europa cumpla con los derechos y valores europeos.
Las nuevas normas siguen un enfoque basado en el riesgo y establecen una serie de obligaciones para los proveedores y operadores de sistemas de IA, entre las que se incluye el cumplimiento de la prohibición total de uso de: - Sistemas de IA que utilizan la práctica del punteo social, es decir, la clasificación de las personas en base a su comportamiento social o a sus características personales; - Sistemas de identificación biométrica remota "en tiempo real" en espacios accesibles al público; - Sistemas de categorización biométrica basados en características sensibles como, por ejemplo, género, raza, etnia, ciudadanía, religión y orientación política; - Sistemas de policía predictiva, es decir, basados en perfiles, ubicación o conducta delictiva pasada; - Sistemas de reconocimiento de las emociones utilizados por las fuerzas del orden, en la administración de fronteras, en el lugar de trabajo y en las instituciones educativas; -Extracción no dirigida de datos biométricos de Internet o de filmaciones de telecámaras de circuito cerrado para crear una base de datos de reconocimiento facial. Más allá del total de casos en los que el uso de la Inteligencia Artificial está prohibido, el reglamento define como de alto riesgo -y, por lo tanto, para someter a un monitoreo riguroso- a los sistemas de IA utilizados para influenciar a los electores en las elecciones.
Los sistemas de IA generativa, como Chat GPT, en cambio, deberán respetar nuevos requisitos de transparencia, como por ejemplo imponer la declaración que el contenido fue generado por la IA, ayudando así a distinguir las llamadas imágenes "deep-fake" (video con imágenes falsas) de aquellas reales, y proporcionar salvaguardas para evitar la generación de contenidos ilegales.
TODOS LOS DERECHOS RESERVADOS © Copyright ANSA