VALÈNCIA, 14 de septiembre. La Universitat Politècnica de València (UPV) ha iniciado una innovadora iniciativa a nivel europeo enfocada en fortalecer la seguridad de los sistemas de Inteligencia Artificial (IA) contra ciberataques. Este proyecto se dedica especialmente a mitigar los efectos de los ataques adversarios, que buscan manipular la percepción de datos por parte de la IA.

El objetivo de estos ataques es desviar el funcionamiento de la IA, haciéndola interpretar información dañina como si fuese legítima. Salvador Cuñat, investigador del grupo SATRD de la UPV, advierte que la prevalencia de estos ataques es alarmante, especialmente en campos críticos como la seguridad informática, la visión por computador y el procesamiento del lenguaje natural, tal como indica un comunicado de la universidad.

Los ejemplos de ataques adversarios son preocupantes: desde la modificación de malware para que software antivirus lo ignore, hasta la creación de correos electrónicos sutilmente alterados, que logran esquivar los filtros de spam. Asimismo, pueden alterar huellas digitales para eludir sistemas de identificación o manipular textos con errores intencionados para evadir filtros de contenido sensible como discursos de odio o noticias falsas.

Cuñat enfatiza que estas acciones pueden acarrear desde problemas menores, como confusiones en la identificación de animales, hasta consecuencias graves como accidentes, fraudes o vulneraciones de seguridad. Esto subraya la necesidad urgente de desarrollar soluciones efectivas que enfrenten estos desafíos.

En este sentido, una de las metas del proyecto es crear una plataforma de seguridad que robustezca los sistemas de IA, haciéndolos más resistentes a esta clase de ataques cibernéticos. También se propone la implementación de herramientas como Cyber Ranges, dirigidas a formar expertos en IA sobre ciberseguridad.

La iniciativa está orientada principalmente a desarrolladores de inteligencia artificial, analistas de datos, empresas de distintos sectores que utilicen IA, asociaciones industriales y proveedores de ciberseguridad, así como a la comunidad científica en general.

Cuñat concluye que este esfuerzo busca no solo ofrecer una mayor protección y resiliencia frente a los ataques adversarios, sino también avanzar en la seguridad y la privacidad en el ámbito de la IA, fomentando así una ola de confianza y una adopción más amplia de esta tecnología a lo largo de Europa.

El proyecto, denominado CPAID, cuenta con financiamiento de la Unión Europea a través del programa Horizon Europe (HORIZON-CL3-2023-CS-01) y es coordinado por Uni Systems Luxembourg Sàrl, con una duración prevista hasta septiembre de 2027.