Forscher der Unit 42 von Palo Alto Networks haben zwei neue bösartige KI-Tools aufgespürt, WormGPT 4 und KawaiiGPT, die es Bedrohungsakteuren ermöglichen über Phishing Ransomware Code zu erzeugen.
Bei diesen Tools handelt es sich um kriminelle Alternativen zu herkömmlichen KI-Tools wie ChatGPT, die keine Sicherheitsvorkehrungen treffen, um zu verhindern, dass Benutzer sie für bösartige Aktivitäten nutzen. Die neueste Version von WormGPT bietet lebenslangen Zugang für $220 oder eine monatliche Gebühr von $50.
„Bei den Sprachfähigkeiten von WormGPT 4 geht es nicht nur darum, überzeugenden Text zu produzieren“, sagt Unit 42. „Durch die Beseitigung der verräterischen grammatikalischen Fehler und ungeschickten Formulierungen, die oft auf herkömmliche Phishing-Versuche hinweisen, kann WormGPT 4 eine Nachricht generieren, die überzeugend einen CEO oder vertrauenswürdigen Anbieter imitiert.
„Diese Fähigkeit ermöglicht es wenig qualifizierten Angreifern, ausgeklügelte Kampagnen zu starten, die mit hoher Wahrscheinlichkeit sowohl automatische E-Mail-Filter als auch menschliche Kontrollen umgehen. Hinter der Verfügbarkeit von WormGPT 4 steht eine klare kommerzielle Strategie, die im krassen Gegensatz zu den oft kostenlosen und unzuverlässigen einfachen Jailbreaks steht. Das Tool ist aufgrund seiner benutzerfreundlichen Plattform und der günstigen Abonnementkosten leicht zugänglich.“
KawaiiGPT bietet ähnliche Funktionen, ist aber völlig kostenlos auf GitHub verfügbar. Benutzer können das Tool einfach auf einem Linux-System einrichten und es zur Unterstützung bei Angriffen einsetzen.
„Damit entfällt die technische Komplexität, die mit der Beschaffung, Konfiguration und Ausführung benutzerdefinierter LLMs verbunden ist und neue Benutzer oft abschreckt“, schreibt Unit 42. „Diese einfache Bereitstellung und eine sofort einsatzbereite Befehlszeilenschnittstelle (CLI) verringern die erforderlichen technischen Fähigkeiten, den Hintergrund und die Erfahrung, wodurch ein breiteres Spektrum von Nutzern erreicht werden kann. Zu diesem Spektrum gehören auch Nutzer, die bisher nicht über das nötige Fachwissen verfügten, um sich mit anderen bösartigen LLMs auseinanderzusetzen.“
Schulungen zum Sicherheitsbewusstsein mit realistischen Phishing-Simulationen kann den Mitarbeitern helfen, wachsam zu sein, auch wenn sie beschäftigt sind. Wenn die Mitarbeiter wissen, dass sie simulierte Phishing-E-Mails erhalten werden, werden sie die echten eher erkennen.
Einheit 42 hat die story.