Inteligencia artificial
y confianza digital

Autenticidad de los contenidos

La IA generativa permite crear copias muy realistas del contenido original. Esta capacidad, además de plantear posibles riesgos relativos a la propiedad intelectual para las empresas que generen contenidos con la IA, ofrece a los ciberdelincuentes la posibilidad de robar todo tipo de datos, crear copias realistas de ellos y hacerlas pasar por creaciones originales o bien utilizarlas para perpetrar otros ataques. 

Manipulación de identidades

La IA generativa puede crear imágenes y vídeos ultrarrealistas en cuestión de segundos, e incluso modificar vídeos en directo según se generan. Esto puede minar la confianza en diversos sistemas esenciales (como el software de reconocimiento facial o los vídeos utilizados como pruebas en el ámbito jurídico, además de poder utilizarse como arma de desinformación política) y hacer que prácticamente todas las formas de identidad visual dejen de ser fiables. 

Phishing con dinamita

Los atacantes pueden utilizar herramientas de IA generativa para simular rostros, voces y estilos de escritura con un gran nivel de realismo, así como para emular identidades de marca o corporativas con el fin de lanzar ataques de phishing muy eficaces y difíciles de detectar. 

Inyección de prompts

Como muchas empresas utilizan modelos de IA generativa listos para usar, podrían estar exponiendo la información empleada para entrenar o dar instrucciones a su instancia a ataques de inyección que los ciberdelincuentes ajustan para dirigirlos contra modelos populares. Sin protecciones rigurosas y actualizaciones frecuentes, un ataque al modelo de base podría poner en peligro a cualquier empresa que utilice dicho modelo.  

Alucinaciones artificiales

Aunque en general la IA es capaz de producir textos escritos u orales a gran velocidad, no siempre funciona bien. Esto resulta problemático en particular para las empresas que recurren a la IA para generar contenido informativo o de asistencia para los usuarios, así como para las que usan el aprendizaje automático para detectar amenazas, pues en estos casos los resultados anómalos pueden salir especialmente caros. 

Ataques sofisticados

Como la IA escribe código funcional a una velocidad sobrehumana, podría utilizarse para lanzar ataques con una rapidez y un nivel de complejidad sin precedentes. Además, la IA se podría utilizar para detectar vulnerabilidades en un código expuesto y podría ampliar el alcance de los atacantes mediante la eliminación de las protecciones.  

Malware personalizado

Aunque los modelos de lenguaje de gran tamaño (LLM) más utilizados tienen ciertas protecciones para evitar que los usuarios creen código malicioso, los ciberdelincuentes más avanzados saben cómo sortearlas o superarlas. Además, es posible despojar los modelos robados o copiados de dichas protecciones, lo que permite generar con rapidez ataques prácticamente indetectables y muy personalizables. 

Datos envenenados

Los ataques no tienen por qué aprovechar la IA en sí. En ocasiones, lo que hacen es atacar los datos utilizados para entrenar un modelo de aprendizaje automático con el fin de falsear los resultados. Después, esto podría aprovecharse para crear vulnerabilidades dentro del propio modelo (por ejemplo, para falsificar una secuencia de ADN en una base de datos de delincuentes) o simplemente para producir resultados que perjudiquen a la organización atacada.  

Filtraciones de datos confidenciales

Cuando la IA se entrena con datos confidenciales o maneja este tipo de información, esta podría verse expuesta, ya sea debido a un fallo, como ha ocurrido con varios de los principales modelos comerciales, o a causa de un ataque dirigido.