ChatGPT Phishing E-Mails – Wie Sie sich schützen können
Der KI-Bot ChatGPT wird unseren Alltag verändern – darüber sind sich IT-Experten einig. Er erstellt glaubwürdige, fehlerfreie Texte in Sekunden und stellt damit ganze Branchen vor neue Herausforderungen. Kriminellen steht mit ChatGPT ein Werkzeug zur Verfügung, mit dem absolut glaubwürdige Phishing-E-Mails massenhaft generiert werden können. In unserem Blogartikel zeigen wir Ihnen, wie Sie sich vor solchen Phishing-Mails schützen können.
Was ist ChatGPT?
ChatGPT ist der Prototyp eines Chatbots, der auf Maschinenlernen basiert. GPT steht für Generative Pre-trained Transformer, einem Modell, das auf dialogische Weise mit Benutzereingaben interagiert. Das bedeutet, dass ChatGPT nicht nur Antworten auf Eingaben liefert, sondern auch Folgefragen beantworten, Fehler zugeben, falsche Prämissen in Frage stellen und unangemessene Anfragen zurückweisen kann. ChatGPT ist ein Geschwistermodell von InstructGPT, das darauf trainiert ist, einer Anweisung in einer Eingabeaufforderung zu folgen und eine detaillierte Antwort zu geben.
Wer steckt hinter ChatGPT?
ChatGPT wurde vom US-amerikanischen Unternehmen OpenAI entwickelt, das ihn im November 2022 veröffentlichte. Das Sprachmodell GPT-3.5 (eine verbesserte Version von GPT-3, die ebenfalls von OpenAI stammt) bildet die Grundlage von ChatGPT.
Wie funktioniert ChatGPT?
GPT basiert auf Transformern, also einer Methode, mit der ein Computer eine Folge von Zeichen in eine andere Folge von Zeichen übersetzen kann. Dies wird beispielsweise eingesetzt, um Text von einer Sprache in eine andere zu übersetzen. Dazu wird ein Transformer auf einer (großen) Menge von Beispiel-Daten trainiert, bevor das Modell dann zur Übersetzung verwendet werden kann.
Das Training von ChatGPT lässt sich in drei Phasen unterteilen:
Warum wird das Erkennen von Phishing jetzt noch schwieriger?
Wie wir bereits vor einiger Zeit erläuterten, kann man den Einfluss Künstlicher Intelligenz auf die kriminellen Machenschaften von Phishing-Betrügern nicht unterschätzen: Schon GPT-3 war mitverantwortlich dafür, dass Künstliche Intelligenz Phishing skalierbar macht. Auch die typischen Merkmale von Phishing-E-Mails können spätestens mit ChatGPT nicht mehr als zuverlässige Indikatoren für Angriffe gelten: Rechtschreibfehler und nigerianische Prinzen gehören wohl der Vergangenheit an.
Doch nicht nur das: Nicht nur ist die Qualität der künstlich erzeugten Texte sehr gut, es lassen sich auch problemlos Variationen einer Phishing-E-Mail erzeugen, die dann umso besser an den jeweiligen Kontext oder die vorangegangenen Konversationsverläufe angepasst ist. Zumal im Vorfeld Social Engineering dafür genutzt wird, um beispielsweise die Angriffsmethode des Business Email Compromise (BEC) zu nutzen.
Beispiel einer ChatGPT Phishing-Mail
Den folgenden Text generierte ChatGPT innerhalb von wenigen Sekunden:
Wann ist eine Phishing-Mail glaubwürdig?
Forscher bei der Government Technology Agency (GTA) in Singapur legen in Ihrer Studie dar, dass es dreierlei Zutaten bedarf, um eine glaubwürdige Phishing-E-Mail zu verfassen:
Mit ChatGPT lassen sich nun nicht nur Ansprache und Kontext sehr differenziert anpassen, sondern auch Antworten auf Rückfragen erzeugen. Bedrohlich ist hier vor allem die Tatsache, dass sich alle Phishing-Texte in Sekunden automatisiert erstellen und in beinahe beliebige Sprachen übersetzen lassen. Zielgerichtete, hoch skalierbare Spear-Phishing-Angriffe sind für Kriminelle in naher Zukunft problemlos durchführbar.
Fake Support und weitere „Features“
Zukünftig werden noch weitere Gefahren hinzukommen: Bereits jetzt nutzen zahlreiche Unternehmen KI-basierte Chatbots für den Kundenkontakt – und so werden Kriminelle auch diesen Angriffsvektor auszunutzen wissen und beispielsweise scheinbar menschlichen Kundendienst auf gefälschten Banking-Websites anbieten, um an sensible Informationen zu gelangen.
Zudem wird ChatGPT bereits jetzt eingesetzt, um bösartigen Code für das Verschlüsseln und Exfiltrieren von Daten zu erstellen. ChatGPT macht es möglich, Angriffe schneller auszuführen und Code zu verbessern.
ChatGPT steht erst am Anfang
Der Hype um ChatGPT ist nicht unbegründet. Die generierten Texte haben eine nie dagewesene Qualität und stellen zahlreiche gesellschaftliche Bereiche vor Herausforderungen, von Schule bis Wissenschaft und eben IT-Sicherheit. Welche Auswirkungen die Investitionen von Microsoft in OpenAI und die Integration von ChatGPT in die Suchmaschine Bing haben werden, lässt sich dabei noch nicht einmal absehen.
Prüfung der Absenderreputation schützt gegen Phishing-E-Mails
Wenn sich der generierte Text nicht mehr von menschlichem Text unterscheiden lässt, müssen andere, bewährte Verteidigungsmechanismen in den Fokus rücken: die Auswertung der Absenderreputation bei der potenziell gefährlichen E-Mail selbst. Diese bietet eine wirkungsvolle Möglichkeit, Phishing-Angriffe zu verhindern und ist einfach und ohne teure Werkzeuge umsetzbar.
SPF ist eine einfache und wirksame Methode, um den Missbrauch von Absenderdomains zu verhindern.
DomainKeys Identified Mail (DKIM)
DKIM ermöglicht es also, sowohl die Authentizität als auch die Integrität einer E-Mail zu überprüfen.
Domain-based Message Authentication, Reporting and Conformance (DMARC)
DMARC beantwortet die folgenden Fragen:
- Wie soll der empfangende Server die Authentifizierung vornehmen?
- Was soll im Falle einer fehlgeschlagenen Überprüfung passieren?
- Wen soll der empfangende Server über die durchgeführten Authentifizierungsmaßnahmen und das Ergebnis informieren?
Anhänge und URLs genauer betrachten
Auch der Umgang mit E-Mail-Anhängen ist im Umfeld von Künstlicher Intelligenz ein entscheidender Faktor in der Bekämpfung von Malware. NoSpamProxy ermöglicht es, Anhänge im Word-, Excel- oder PDF-Format regelbasiert und automatisiert in unkritische PDF-Dateien umzuwandeln. Dabei wird potenziell vorhandener Schadcode eliminiert und dem Empfänger so ein garantiert ungefährlicher Anhang zugestellt. Zahllose weitere Dateiformate wie beispielsweise ausführbare Dateien können gezielt erkannt werden, so dass der Anhang blockiert oder die komplette E-Mail abgewiesen werden kann.
Der URL Safeguard erlaubt das Umschreiben von URLs in eingehenden E-Mails, damit zum Zeitpunkt des Anklickens durch den Nutzer erneut geprüft wird, ob für diese URL negative Einschätzungen vorliegen. Das erhöht die Sicherheit, da manche Angreifer das Ziel von URLs einige Stunden nach dem Versand verändern. Dabei kann der URL Safeguard individuell konfiguriert und beispielsweise nur für unbekannte Kommunikationspartner aktiviert werden.
32Guards bietet Schutz
32Guards in NoSpamProxy sammelt und analysiert Metadaten zu E-Mails und Anhängen. Seine große Stärke liegt darin, die Daten der zahlreichen verteilten NoSpamProxy-Instanzen zentral zu bündeln und darauf aufbauend verdächtige Trends früh zu erkennen.
Gerade weil 32Guards nicht die komplette E-Mail, sondern nur die Metadaten betrachtet, ist er im Kampf gegen KI-basiertes Phishing wirksam: Der KI-generierte Text mag noch so gut sein – Phishing-Links und die zu Grunde liegenden Muster sowie gefährliche Anhänge erkennt er zielsicher.
Sie möchten sich vor ChatGPT Phishing-Mails schützen und haben noch kein NoSpamProxy im Einsatz?
Mit NoSpamProxy schützen Sie Ihr Unternehmen zuverlässig vor Cyberangriffen. Fordern Sie jetzt Ihre kostenfreie Testversion an!
