Bengio fue además supervisor del Informe Internacional sobre Seguridad de la IA, fruto del trabajo de unos 100 expertos nominados por 30 países, la OCDE, la Unión Europea y Naciones Unidas.
El texto final, que nació de una iniciativa tomada en 2023 durante una cumbre de seguridad británica, se discutirá formalmente en la Cumbre de IA de París los días 10 y 11 de febrero.
Bengio, un destacado experto en la materia y profesor de la Universidad de Montreal, destaca los riesgos de la IA que ya son ampliamente reconocidos, como su uso para crear contenidos falsos o engañosos en línea y su impacto en el empleo; pero añade que "cada vez aparecen más pruebas de riesgos adicionales, como ataques biológicos o cibernéticos". Y a largo plazo teme una posible "pérdida de control".
El investigador pide una regulación internacional más estricta y una investigación más profunda sobre la seguridad de la inteligencia artificial, que por ahora representa "una pequeña parte" de las enormes inversiones realizadas en el sector. "Sin la intervención del gobierno, no sé cómo vamos a superar esto", añadió, refiriéndose al abandono por parte de Estados Unidos del intento del expresidente Joe Biden de regular el desarrollo.
Cuando ChatGPT de OpenAI apareció en la escena pública hace dos años, Bengio señaló: "Sentí la urgencia de pensar en el tema de la seguridad" y "lo que más me asusta es la posibilidad de que la humanidad pueda desaparecer en 10 años". Sobre esta cuestión, señala The Guardian, el informe reconoce estos temores, pero dice que las opiniones varían "considerablemente".
(ANSA-AFP).
TODOS LOS DERECHOS RESERVADOS © Copyright ANSA