KI und die Gefahren der KI

Die Welt erlebt gerade einen absoluten KI-Boom. Die Anwendungsgebiete und potenzielle Einsatzmöglichkeiten scheinen grenzenlos zu sein. Man kann sich innerhalb von wenigen Minuten Texte, Bilder, Präsentationen und Videos erstellen lassen, für die man früher Stunden oder gar Tage gebraucht hätte. Selbst eigene Songs mit vorgegebenem Text und Musikstil sind möglich. Auch Zusammenfassungen von Meetings übernehmen elektronische Assistenten und weitere Aufgaben in den verschiedensten Bereichen und Sprachen sind möglich. Ganze Bücher nach relevanten Informationen durchsuchen und aufbereiten. Die Liste der Einsatzmöglichkeiten könnten wir so ewig weiterführen und fast täglich kommen neue Funktionen und Einsatzgebiete hinzu.

Aber natürlich müssen wir auch die Schattenseiten betrachten. Leider kommen durch nahezu jede neue Technologie auch neue Möglichkeiten für bösartige Akteure hinzu. Im Februar 2024 wurde ein Unternehmen in Hongkong um umgerechnet 24 Millionen Euro betrogen. Dies gelang den Betrügern durch eine äußerst perfide Erweiterung der sogenannten „Chef-Masche“. Im Allgemeinen funktioniert die „Chef-Masche“ so: ein Betrüger gibt sich zum Beispiel per E-Mail als Person mit weitreichenden Befugnissen innerhalb einer Organisation aus und versucht Mitarbeiter zur Herausgabe von Informationen oder zur Überweisung von Geld zu bewegen. Dabei wird im Vorfeld versucht möglichst viele Informationen über das Unternehmen und das direkte Umfeld bestimmter Personen zu sammeln und diese Informationen zu einem ausgeklügelten Angriffsplan zusammenzutragen. Der Fall aus dem Februar hatte allerdings eine völlig neue Dimension der „Chef-Masche“ aufgezeigt. Denn hier wurde nicht nur eine E-Mail, sondern ein ganzer Web-Call gefälscht. Dabei wurden die Kollegen und Chefs des Opfers per Deepfake und Sprach-KI so überzeugend nachgestellt, dass es dem Mitarbeiter erst durch ein Gespräch mit dem richtigen Chef klar wurde, was passiert war. Deepfakes gibt es nun leider schon seit einiger Zeit und konnten teilweise schon vor dem KI-Boom durchaus überzeugende Ergebnisse liefern.