Künstliche Intelligenz
und digitales Vertrauen

Authentisch wirkende Inhalte

Generative KI kann Originalinhalte äußerst realistisch kopieren. Wenn KI in guter Absicht zur Inhaltserstellung eingesetzt wird, drohen dadurch eventuell Urheberrechtsverletzungen. Nutzern mit schlechten Absichten bietet sich die Chance, mit gestohlenen Daten überzeugende Kopien der Inhalte als Eigenkreationen auszugeben oder weitere Angriffe einzuleiten. 

Identitätsmanipulation

In Sekundenschnelle kann generative KI ultrarealistische Bilder und Videos erstellen und sogar Videos während der Aufnahme verändern. Das kann das Vertrauen in eine Reihe kritischer Systeme – wie Gesichtserkennungssoftware, juristische Videobeweise und politische Informationskanäle – und praktisch jede Form des visuellen Identitätsnachweises erschüttern. 

Dynamit-Phishing

Mit generativer KI lassen sich Gesichter, Stimmen und Schreibstile, aber auch Unternehmens- und Markenidentitäten so gut simulieren, dass sie in äußerst effektiven, schwer aufzudeckenden Phishing-Angriffen eingesetzt werden können. 

Prompts als Einfallstore

Viele Unternehmen nutzen GenAI-Modelle „von der Stange“ und laufen bei deren Training oder praktischen Verwendung Gefahr, Opfer von Prompt Injection zu werden. Damit bringen böswillige Akteure die beliebten Tools dazu, vertrauliche Informationen preiszugeben. Unternehmen müssen ihre Modelle streng absichern und regelmäßig aktualisieren, um Exploits zu entgehen, die auf das jeweilige Basismodell abgestimmt sind.  

Halluzinationen

Die von KI so schnell generierten Erwiderungen oder Texte sind in der Regel überzeugend, aber inhaltlich nicht immer korrekt. Dies stellt gerade für Organisationen ein Problem dar, die mittels KI Informations- oder Hilfetexte für Nutzer erstellen oder die für die Bedrohungserkennung maschinelles Lernen einsetzen. An solchen Stellen können Fehler besonders teuer werden. 

Raffiniertere Angriffe

KI erstellt blitzschnell einsatzbereiten Code, der für breitgefächerte Angriffe von bisher unerreichter Geschwindigkeit und Komplexität genutzt werden kann. Gleichzeitig kann KI Schwachstellen in einer kompromittierten Codebase ausmachen, Angreifern den Zugang erleichtern und die Angriffsfläche dadurch vergrößern.  

Individuelle Malware

Beliebte Large Language Models (LLM) sind in gewissem Maß gegen Nutzer geschützt, die damit Schadcode erstellen wollen. Ein Angreifer muss allerdings nur ein wenig raffinierter vorgehen, dann bröckelt die Abwehr. Diese Sicherheitsvorkehrungen lassen sich aus gestohlenen oder kopierten Modellen entfernen, sodass Bedrohungsakteure schnell sehr gut verschleierte, äußerst flexible Exploits entwickeln können. 

Manipulierte Daten

Angriffe müssen nicht unbedingt auf die KI selbst abzielen. Mit der Absicht, den Output zu verfälschen, können es Angreifer auch auf die Daten abgesehen haben, mit denen Modelle des maschinellen Lernens trainiert werden. Dieses Einfallstor wird dann genutzt, um Exploits im Modell selbst zu platzieren (z. B. gefälschte DNA-Sequenzen im Strafregister) oder für das betroffene Unternehmen schädliche Ergebnisse zu erzeugen.  

Datenlecks

KI, die mithilfe von sensiblen Daten trainiert wird oder solche Daten nutzt, kann diese Daten preisgeben, sei es durch einen Fehler – so geschehen bei mehreren der bekannten kommerziellen Modelle – oder durch eine gezielte Attacke.