Forscher der Unit 42 von Palo Alto Networks warnen vor einer Proof-of-Concept-Angriffstechnik (PoC), bei der Angreifer mithilfe von KI-Tools in Echtzeit bösartiges JavaScript auf scheinbar harmlosen Webseiten generieren können.
„Sobald die erste Webseite im Browser des Opfers geladen ist, sendet sie Anfragen für clientseitiges JavaScript an beliebte und vertrauenswürdige LLM-Clients (z. B. DeepSeek und Google Gemini, obwohl der PoC bei einer Reihe von Modellen wirksam sein könnte)“, schreiben die Forscher.
„Angreifer können dann das LLM dazu bringen, bösartige JavaScript-Snippets zurückzugeben, indem sie sorgfältig ausgearbeitete Eingabeaufforderungen verwenden, die die Sicherheitsvorkehrungen umgehen. Diese Snippets werden dann in der Laufzeitumgebung des Browsers zusammengestellt und ausgeführt, um eine voll funktionsfähige Phishing-Seite zu rendern. Dabei bleiben keine statischen, erkennbaren Nutzdaten zurück.“
Obwohl legitime KI-Tools über Maßnahmen zum Schutz vor Missbrauch verfügen, fanden die Forscher heraus, dass sie ihre Eingabeaufforderungen umformulieren konnten, um die KI dazu zu bringen, böswillige Aktionen auszuführen.
„Der Erfolg des Angriffs hing von einer sorgfältigen Prompt-Engineering-Maßnahme ab, um die integrierten Sicherheitsvorkehrungen des LLM zu umgehen“, schreiben die Forscher. „Wir haben festgestellt, dass einfache Umformulierungen bemerkenswert effektiv waren. So wurde beispielsweise eine Anfrage für eine generische $AJAX-POST-Funktion zugelassen, während eine direkte Anfrage für „Code zum Exfiltrieren von Anmeldedaten“ blockiert wurde. Darüber hinaus konnten Indikatoren für Kompromittierungen (IoCs) (z. B. Base64-kodierte Exfiltrations-URLs) auch innerhalb der Eingabeaufforderung selbst versteckt werden, um die ursprüngliche Seite sauber zu halten.“
Unit 42 fügt hinzu: „Die Dynamik dieses Angriffs in Kombination mit der Laufzeit-Assemblierung im Browser macht ihn zu einer enormen Herausforderung für die Verteidigung. Dieses Angriffsmodell erstellt für jedes Opfer eine einzigartige Variante. Jede schädliche Nutzlast wird dynamisch generiert, ist einzigartig und wird über eine vertrauenswürdige Domain übertragen.“
Bedrohungsakteure finden immer neue Wege, um Sicherheitstechnologien zu umgehen. KI-gestützte Schulungen zum Sicherheitsbewusstsein können Ihrem Unternehmen einen wichtigen Schutz vor Social-Engineering-Angriffen bieten, die Ihre technischen Abwehrmaßnahmen umgehen.
Schulungen zum Sicherheitsbewusstsein mit realistischen Phishing-Simulationen kann den Mitarbeitern helfen, wachsam zu sein, auch wenn sie beschäftigt sind. Wenn die Mitarbeiter wissen, dass sie simulierte Phishing-E-Mails erhalten werden, werden sie die echten eher erkennen.
Einheit 42 hat die story.