Consejo de Europa pide usar la IA para reducir la brecha de género

Unesco advierte sobre prejuicios y sexismo en las herramientas tecnológicas.

Europa quiere utilizar la inteligencia artificial para reducir la brecha de género.  (foto: ANSA)
Europa quiere utilizar la inteligencia artificial para reducir la brecha de género. (foto: ANSA)

(ANSA) PARIS - Las herramientas de inteligencia artificial más populares del mundo funcionan con programas de OpenAI y Meta que muestran prejuicios contra las mujeres, según un estudio publicado hoy por la UNESCO.
    Los mayores actores en el campo multimillonario de la inteligencia artificial "entrenan" sus algoritmos con grandes cantidades de datos extraídos en gran medida de Internet, lo que permite a sus herramientas escribir al estilo de Oscar Wilde o crear imágenes inspiradas en Salvador Dalí, señala el estudio.
    Pero sus resultados han sido criticados a menudo por reflejar estereotipos raciales y sexistas, así como por utilizar material protegido por derechos de autor sin permiso.
    Los expertos de la UNESCO probaron el algoritmo Llama 2 de Meta y GPT-2 y GPT-3.5 de OpenAI, el programa que impulsa la versión gratuita del popular chatbot ChatGPT.
    El estudio encontró que cada algoritmo, conocido en la industria como Large Language Models (LLM), mostraba "evidencia inequívoca de prejuicio contra las mujeres".
    En particular, los programas generaban textos que asociaban los nombres de las mujeres con palabras como "hogar", "familia" o "niños", pero los nombres de los hombres estaban vinculados a "negocios", "salario" o "carrera". Además, mientras que los hombres aparecían en puestos de alto estatus, como profesores, abogados y médicos, las mujeres a menudo eran prostitutas, cocineras o mucamas.
    GPT-3.5 estaba menos sesgado que los otros dos modelos. Sin embargo, los autores elogiaron a Llama 2 y GPT-2 por ser de código abierto, lo que permite examinar cuidadosamente estas cuestiones, a diferencia de GPT-3.5, que es un modelo cerrado.
    "Dada la creciente importancia de la inteligencia artificial en nuestras vidas, su poder debe canalizarse para identificar prejuicios y abordar la desigualdad de género".
    Este es el llamamiento lanzado por Marija Pejcinovic Buric, secretaria general del Consejo de Europa, en vísperas del Día Internacional de la Mujer.
    "La inteligencia artificial está dando forma cada vez más al mundo en el que vivimos, y si no aprendemos a explotar su potencial para superar las desigualdades, incluida la de género, y prevenir la discriminación, esta tecnología puede convertirse y se convertirá en una fuerza que consolide, perpetúe y amplifique las disparidades", advierte Pejcinovic Buric.
    "El Consejo de Europa está desarrollando un texto para proporcionar a los gobiernos orientaciones esenciales sobre el impacto de los sistemas de inteligencia artificial, su potencial para promover la igualdad, incluida la igualdad de género, y los riesgos que pueden causar en relación con la discriminación", destaca la secretaria general.
    Asimismo, recuerda que la organización también está ultimando negociaciones para un acuerdo global sobre el uso de la inteligencia artificial basado en los derechos humanos, el Estado de derecho y la democracia. (ANSA).