fbpx

Generative KI

By alfred gunsch | Mai 2, 2024

Generative KI, kurz für Generative Künstliche Intelligenz, bezieht sich auf eine Art von KI-Systemen, die in der Lage sind, neue Daten zu generieren, die denen ähneln, die sie während ihres Trainings gesehen haben. Im Wesentlichen sind diese Systeme in der Lage, Daten zu erzeugen, sei es Bilder, Texte, Audio oder andere Formen von Informationen, die auf den Mustern und Strukturen basieren, die sie aus ihren Trainingsdaten gelernt haben.

Eine typisches Umsetzung für generative KI passiert mit sogenannte Generative Adversarial Networks (GANs). Bei GANs konkurrieren zwei neuronale Netzwerke miteinander: ein Generator und ein Diskriminator. Der Generator erstellt neue Daten, während der Diskriminator versucht, zwischen echten und generierten Daten zu unterscheiden. Im Laufe der Zeit verbessern sich sowohl der Generator als auch der Diskriminator, wodurch der Generator immer realistischere Daten erzeugen kann.

Im Kontext von Cyberkriminalität können böswillige Akteure generative KI verwenden, um gefälschte E-Mails, Texte oder andere Inhalte zu erstellen, die täuschend echt aussehen und schwer von echten Inhalten zu unterscheiden sind. Dies wird oft bei Phishing-Angriffen eingesetzt, bei denen Angreifer versuchen, Benutzer dazu zu verleiten, sensible Informationen preiszugeben oder schädliche Aktionen auszuführen.

Zwei Komponenten erhöhen das Risiko: KI erstellt massenhaft Inhalte – und passt diese an den Empfänger an. Diese Kombination ist „unwiederstehlich“.

ing. alfred gunsch, siplan sicherheitsexperte

Die Nutzung generativer KI in der Cyberkriminalität macht es schwieriger, bösartige Aktivitäten zu erkennen und zu bekämpfen, da die erstellten Inhalte immer raffinierter und realistischer werden. Daher ist es für Sicherheitsanbieter von entscheidender Bedeutung, ebenfalls auf KI-Technologien zu setzen, um diesen fortschrittlichen Angriffen effektiv entgegenzuwirken und Unternehmen vor den damit verbundenen Risiken zu schützen.

Comments are closed.