Los riesgos que la IA generativa abre en privacidad

La privacidad y la protección de datos han sido, desde un primer momento, uno de los puntos clave en la estrategia de ciberseguridad de las empresas. Por un lado, estos datos resultan tan valiosos para los cibercriminales que han protagonizado una ingente cantidad de ataques. Por otro, las normativas en privacidad (cada vez más presentes a lo largo del globo) obligan a tomárselo muy en serio. Así, han ajustado sus estrategias y han establecido patrones de control para evitar brechas. Sin embargo, en el futuro inmediato se introducirá un elemento de riesgo más, la IA generativa.

Eso es lo que advierte uno de los estudios recientes de Gartner. Según sus estimaciones, para 2029 la principal fuente de fallos en privacidad llegará por culpa de la IA y sus inferencias. Esto es, no se trata de que haya agujeros que han llevado a que se expongan datos personales (algo que seguirá siendo peligroso y en lo que se necesitará seguir trabajando), sino que la inteligencia artificial ha sido capaz de juntar puntos usando diferentes informaciones e inferir así esos perfiles e informaciones de la base de clientes que no se querrían haber compartido.

Esto obligará a las empresas a reajustar sus estrategias de seguridad, porque el cómo y el qué habrá cambiado. Las amenazas no serán solo como las que habitualmente han vivido, sino que se convertirán en mucho más sofisticadas. El margen de exposición es más amplio y la protección que deben desplegar mucho más compleja. «Las organizaciones se han centrado tradicionalmente en proteger los datos personales en crudo», explica Bart Willemsen, analista vicepresidente de la consultora, «pero la IA puede ahora reconstruir datos muy privados sin haber franqueado los sistemas de control de datos».

Las compañías deberán proteger el acceso a los datos, pero también lo que se podría llegar a denominar como su lectura. Esto es, deben estar preparadas para que la IA pueda llegar a conclusiones usando información variada, especialmente en un contexto en el que hay tanta información disponible.

Esto es fundamental porque, igualmente, los datos que puede usar como palanca la IA pueden parecer «inocuos» o simple información anonimizada, y así poco peligrosos, pero se pueden volver un agujero de seguridad cuando se combinan con mucha otra información. Por eso, el análisis advierte que es cada vez más sencillo para la inteligencia artificial extraer información que resulta realmente valiosa de todo ese barullo de datos sin valor. De ese modo, y de unos datos en apariencia poco peligrosos en caso de filtración, puede llegar a conclusiones ultrasensibles, como pueden ser datos sensibles sobre salud o patrones de comportamiento.

Y, al tiempo, descubrir que la empresa ha sido víctima de todo este proceso es muy complicado: como advierte el análisis, los ataques de inferencia «son particularmente peligrosos porque evaden los métodos de detección tradicionales».

Lo que esto implica

Todo esto obliga a reajustar las estrategias de seguridad. Blindar los datos personales sigue siendo fundamental, pero también lo es ver la privacidad de un modo mucho más holístico y comprender todos estos matices de riesgo. «La próxima frontera de los riesgos de privacidas está en cómo la IA interpreta los datos, no solamente en cómo los almacenan las empresas», asegura el experto.

FAQs

¿Qué es un ataque de inferencia?

La IA permite crear perfiles complejos y personales sin usar, de entrada, datos ultrasensibles. Los ataques de inferencia intentan hacerse con información en apariencia irrelevante (y que las empresas consideran menos crítica), para a partir de ahí inferir conclusiones mucho más valiosas.

¿Son fácilmente identificables estos ataques?

No, y eso es uno de sus problemas fundamentales. A las empresas les cuesta más saber que han sido víctimas de ellos.