• Rss
  • LinkedIn
  • Youtube
  • Twitter
  • Instagram
  • English English Englisch en
  • Deutsch Deutsch Deutsch de
Sales: +49 5251 304-800 | Support: +49 5251 304-636
NoSpamProxy
  • HOME
  • PRODUKT
    • NoSpamProxy Cloud
    • NoSpamProxy Protection
    • NoSpamProxy Encryption
    • NoSpamProxy Large Files
    • NoSpamProxy Disclaimer
  • SUPPORT
    • Knowledge Base
    • Forum
    • Schulungen
    • Supportanfrage
    • Software-Download
    • Ressourcen
  • PARTNER
    • Partner finden
    • Partner werden
    • Partnerportal
  • UNTERNEHMEN
    • Team
    • Referenzen
    • Karriere
    • Kontakt
  • EVENTS
    • Events
    • Webcasts
  • BLOG
    • Blog
    • Newsletter
  • KOSTENFREI TESTEN
    • Preisanfrage stellen
    • Kostenfrei testen
  • Deutsch
    • English
  • Search
  • Menu Menu
  • ChatGPT Phishing-E-Mails

ChatGPT Phishing E-Mails – Wie Sie sich schützen können

Stefan Feist | Technischer Redakteur
Autor: Stefan FeistTechnischer Redakteurhttps://www.linkedin.com/in/stefan-feist-23b257b0/–Auf LinkedIn vernetzen

Der KI-Bot ChatGPT wird unseren Alltag verändern – darüber sind sich IT-Experten einig. Er erstellt glaubwürdige, fehlerfreie Texte in Sekunden und stellt damit ganze Branchen vor neue Herausforderungen. Kriminellen steht mit ChatGPT ein Werkzeug zur Verfügung, mit dem absolut glaubwürdige Phishing-E-Mails massenhaft generiert werden können. In unserem Blogartikel zeigen wir Ihnen, wie Sie sich vor solchen Phishing-Mails schützen können.

01.03.2023|zuletzt aktualisiert:08.03.2023

Was ist ChatGPT?

ChatGPT ist der Prototyp eines Chatbots, der auf Maschinenlernen basiert. GPT steht für Generative Pre-trained Transformer, einem Modell, das auf dialogische Weise mit Benutzereingaben interagiert. Das bedeutet, dass ChatGPT nicht nur Antworten auf Eingaben liefert, sondern auch Folgefragen beantworten, Fehler zugeben, falsche Prämissen in Frage stellen und unangemessene Anfragen zurückweisen kann. ChatGPT ist ein Geschwistermodell von InstructGPT, das darauf trainiert ist, einer Anweisung in einer Eingabeaufforderung zu folgen und eine detaillierte Antwort zu geben.

Wer steckt hinter ChatGPT?

ChatGPT wurde vom US-amerikanischen Unternehmen OpenAI entwickelt, das ihn im November 2022 veröffentlichte. Das Sprachmodell GPT-3.5 (eine verbesserte Version von GPT-3, die ebenfalls von OpenAI stammt) bildet die Grundlage von ChatGPT.

Wie funktioniert ChatGPT?

GPT basiert auf Transformern, also einer Methode, mit der ein Computer eine Folge von Zeichen in eine andere Folge von Zeichen übersetzen kann. Dies wird beispielsweise eingesetzt, um Text von einer Sprache in eine andere zu übersetzen. Dazu wird ein Transformer auf einer (großen) Menge von Beispiel-Daten trainiert, bevor das Modell dann zur Übersetzung verwendet werden kann.

Das Training von ChatGPT lässt sich in drei Phasen unterteilen:

  • Selbstüberwachtes Lernen

    Hier geht es darum, das nächste Wort eines Textausschnittes unterschiedlicher Quellen vorherzusagen. Dies können soziale Medien, Zeitungsartikel, Bücher und vieles andere sein. Dieser Teil wird als Pre-Training bezeichnet.

  • Überwachtes Lernen

    Dies bezeichnet das Trainieren des Modells auf die eigentliche Aufgabe, also dem Generieren von Antworten auf vorher gestellte Fragen.

  • Bestärkendes Lernen

    Für diese Optimierung wurde ein weiteres Modell mit überwachtem Lernen trainiert, dem beigebracht wurde, die Antworten von ChatGPT zu bewerten.

Warum wird das Erkennen von Phishing jetzt noch schwieriger?

Wie wir bereits vor einiger Zeit erläuterten, kann man den Einfluss Künstlicher Intelligenz auf die kriminellen Machenschaften von Phishing-Betrügern nicht unterschätzen: Schon GPT-3 war mitverantwortlich dafür, dass Künstliche Intelligenz Phishing skalierbar macht. Auch die typischen Merkmale von Phishing-E-Mails können spätestens mit ChatGPT nicht mehr als zuverlässige Indikatoren für Angriffe gelten: Rechtschreibfehler und nigerianische Prinzen gehören wohl der Vergangenheit an.

Doch nicht nur das: Nicht nur ist die Qualität der künstlich erzeugten Texte sehr gut, es lassen sich auch problemlos Variationen einer Phishing-E-Mail erzeugen, die dann umso besser an den jeweiligen Kontext oder die vorangegangenen Konversationsverläufe angepasst ist. Zumal im Vorfeld Social Engineering dafür genutzt wird, um beispielsweise die Angriffsmethode des Business Email Compromise (BEC) zu nutzen.

Beispiel einer ChatGPT Phishing-Mail

Den folgenden Text generierte ChatGPT innerhalb von wenigen Sekunden:

ChatGPT Phishing-Mail

Wann ist eine Phishing-Mail glaubwürdig?

Forscher bei der Government Technology Agency (GTA) in Singapur legen in Ihrer Studie dar, dass es dreierlei Zutaten bedarf, um eine glaubwürdige Phishing-E-Mail zu verfassen:

  • Autorität

    Das Opfer muss glauben, dass der Angreifer berechtigt ist.

  • Dringlichkeit

    Das Opfer muss das Gefühl haben, dass umgehend gehandelt werden muss.

  • Kontext

    Die Phishing-E-Mail muss in das jeweilige Umfeld und die Situation eingepasst sein.

Mit ChatGPT lassen sich nun nicht nur Ansprache und Kontext sehr differenziert anpassen, sondern auch Antworten auf Rückfragen erzeugen. Bedrohlich ist hier vor allem die Tatsache, dass sich alle Phishing-Texte in Sekunden automatisiert erstellen und in beinahe beliebige Sprachen übersetzen lassen. Zielgerichtete, hoch skalierbare Spear-Phishing-Angriffe sind für Kriminelle in naher Zukunft problemlos durchführbar.

Fake Support und weitere „Features“

Zukünftig werden noch weitere Gefahren hinzukommen: Bereits jetzt nutzen zahlreiche Unternehmen KI-basierte Chatbots für den Kundenkontakt – und so werden Kriminelle auch diesen Angriffsvektor auszunutzen wissen und beispielsweise scheinbar menschlichen Kundendienst auf gefälschten Banking-Websites anbieten, um an sensible Informationen zu gelangen.

Zudem wird ChatGPT bereits jetzt eingesetzt, um bösartigen Code für das Verschlüsseln und Exfiltrieren von Daten zu erstellen. ChatGPT macht es möglich, Angriffe schneller auszuführen und Code zu verbessern.

ChatGPT steht erst am Anfang

Der Hype um ChatGPT ist nicht unbegründet. Die generierten Texte haben eine nie dagewesene Qualität und stellen zahlreiche gesellschaftliche Bereiche vor Herausforderungen, von Schule bis Wissenschaft und eben IT-Sicherheit. Welche Auswirkungen die Investitionen von Microsoft in OpenAI und die Integration von ChatGPT in die Suchmaschine Bing haben werden, lässt sich dabei noch nicht einmal absehen.

Prüfung der Absenderreputation schützt gegen Phishing-E-Mails

Wenn sich der generierte Text nicht mehr von menschlichem Text unterscheiden lässt, müssen andere, bewährte Verteidigungsmechanismen in den Fokus rücken: die Auswertung der Absenderreputation bei der potenziell gefährlichen E-Mail selbst. Diese bietet eine wirkungsvolle Möglichkeit, Phishing-Angriffe zu verhindern und ist einfach und ohne teure Werkzeuge umsetzbar.

Sender Policy Framework (SPF)

SPF ist eine einfache und wirksame Methode, um den Missbrauch von Absenderdomains zu verhindern.

DomainKeys Identified Mail (DKIM)

DKIM ermöglicht es also, sowohl die Authentizität als auch die Integrität einer E-Mail zu überprüfen.

Domain-based Message Authentication, Reporting and Conformance (DMARC)

DMARC beantwortet die folgenden Fragen:

  • Wie soll der empfangende Server die Authentifizierung vornehmen?
  • Was soll im Falle einer fehlgeschlagenen Überprüfung passieren?
  • Wen soll der empfangende Server über die durchgeführten Authentifizierungsmaßnahmen und das Ergebnis informieren?

Anhänge und URLs genauer betrachten

Auch der Umgang mit E-Mail-Anhängen ist im Umfeld von Künstlicher Intelligenz ein entscheidender Faktor in der Bekämpfung von Malware. NoSpamProxy ermöglicht es, Anhänge im Word-, Excel- oder PDF-Format regelbasiert und automatisiert in unkritische PDF-Dateien umzuwandeln. Dabei wird potenziell vorhandener Schadcode eliminiert und dem Empfänger so ein garantiert ungefährlicher Anhang zugestellt. Zahllose weitere Dateiformate wie beispielsweise ausführbare Dateien können gezielt erkannt werden, so dass der Anhang blockiert oder die komplette E-Mail abgewiesen werden kann.

Der URL Safeguard erlaubt das Umschreiben von URLs in eingehenden E-Mails, damit zum Zeitpunkt des Anklickens durch den Nutzer erneut geprüft wird, ob für diese URL negative Einschätzungen vorliegen. Das erhöht die Sicherheit, da manche Angreifer das Ziel von URLs einige Stunden nach dem Versand verändern. Dabei kann der URL Safeguard individuell konfiguriert und beispielsweise nur für unbekannte Kommunikationspartner aktiviert werden.

32Guards bietet Schutz

32Guards in NoSpamProxy sammelt und analysiert Metadaten zu E-Mails und Anhängen. Seine große Stärke liegt darin, die Daten der zahlreichen verteilten NoSpamProxy-Instanzen zentral zu bündeln und darauf aufbauend verdächtige Trends früh zu erkennen.

Gerade weil 32Guards nicht die komplette E-Mail, sondern nur die Metadaten betrachtet, ist er im Kampf gegen KI-basiertes Phishing wirksam: Der KI-generierte Text mag noch so gut sein – Phishing-Links und die zu Grunde liegenden Muster sowie gefährliche Anhänge erkennt er zielsicher.

Sie möchten sich vor ChatGPT Phishing-Mails schützen und haben noch kein NoSpamProxy im Einsatz?

Mit NoSpamProxy schützen Sie Ihr Unternehmen zuverlässig vor Cyberangriffen. Fordern Sie jetzt Ihre kostenfreie Testversion an! 

NoSpamProxy kostenfrei testen
  • teilen 
  • mitteilen 
  • twittern 
  • E-Mail 

SUCHE

PRODUKT

  • Alle Beiträge
  • NoSpamProxy Cloud
  • NoSpamProxy Protection
  • NoSpamProxy Encryption
  • NoSpamProxy Large Files

Knowledge Base

Knowledge Base

Hinweis: Die Informationen in dieser Knowledge Base gelten nur für NoSpamProxy bis Version 13.2. Sämtliche Informationen für NoSpamProxy 14 und höher finden Sie in der Online-Dokumentation.

KATEGORIE

  • Alle Beiträge
    • News
    • Produkt
    • Technik & Support
    • Termine
    • Updates
Net at Work GmbH
Am Hoppenhof 32 A
33104 Paderborn
Tel. +49 5251 304-800
Fax +49 5251 304-650
www.netatwork.de

NoSpamProxy-Newsletter

Jetzt abonnieren
Subscribeto RSS Feed

NoSpamProxy

  • NoSpamProxy Cloud
  • NoSpamProxy Protection
  • NoSpamProxy Encryption
  • NoSpamProxy Large Files
  • NoSpamProxy Disclaimer
  • Preisanfrage
  • Team
  • Karriere
  • AGB
  • Datenschutzinformation für Geschäftspartner und Bewerber
  • Cybersicherheit (PSIRT)

Partner

  • Vertriebspartner
  • Partner werden
  • Partner finden
  • Zertifikate kaufen
  • Newsletter abonnieren

Kategorien

  • Alle Themen
  • News
  • Technik & Support
  • Termine
  • Updates
  • Zertifikate bestellen

Letzte News

  • Info IconKritische Outlook-Schwachstelle: Keine Gefahr für NoSpamProxy-Kunden24.03.2023 - 15:08
  • Standardfiltereinstellungen in NoSpamProxy 1422.03.2023 - 10:00
  • NoSpamProxy Update BannerGlobal Rollout NoSpamProxy Version 14.0.515.03.2023 - 15:20
IMPRESSUM • EULA • Datenschutzerklärung • © 2023 Net at Work GmbH
  • Rss
  • LinkedIn
  • Youtube
  • Twitter
  • Instagram
Wichtige Mitteilung zu Cyren-Diensten in NoSpamProxy ProtectionInfo IconNoSpamProxySprechstunden: Update auf Version 14
Scroll to top