Microsoft warnt davor, dass eine kürzlich gestartete Phishing-Kampagne KI-Technologie verwendet hat, um ihre Nutzdaten zu verschleiern und Sicherheitsfilter zu umgehen.
„Die Aktivität, die scheinbar von einem großen Sprachmodell (LLM) unterstützt wurde, verschleierte ihr Verhalten innerhalb einer SVG-Datei und nutzte Geschäftsterminologie und eine synthetische Struktur, um ihre bösartigen Absichten zu verschleiern“, schreiben die Forscher.
„Bei der Analyse der bösartigen Datei kam der Microsoft Security Copilot zu dem Schluss, dass der Code aufgrund seiner Komplexität, seiner Ausführlichkeit und seines mangelnden praktischen Nutzens nicht von einem Menschen von Grund auf geschrieben worden wäre.“
Die Angreifer nutzten ein kompromittiertes E-Mail-Konto eines kleinen Unternehmens, um die Phishing-E-Mails zu versenden, die sich als Benachrichtigungen über die gemeinsame Nutzung von Dateien ausgaben. Wenn ein Benutzer die angehängte Datei öffnete, wurde er auf eine Webseite umgeleitet, die dazu diente, seine Anmeldedaten zu stehlen.
Microsoft merkt an: „Die Angreifer verwendeten eine Taktik mit selbstadressierten E-Mails, bei denen Absender- und Empfängeradresse übereinstimmten und die tatsächlichen Ziele im BCC-Feld versteckt waren, wodurch versucht wurde, grundlegende Erkennungsheuristiken zu umgehen.“
Die Forscher warnen, dass diese Kampagne Teil eines größeren Trends ist, bei dem Bedrohungsakteure KI-Tools einsetzen.
„Wie viele transformative Technologien wird auch KI sowohl von Verteidigern als auch von Cyberkriminellen eingesetzt“, so Microsoft. „Während die Verteidiger KI nutzen, um Bedrohungen in großem Umfang zu erkennen, zu analysieren und darauf zu reagieren, experimentieren die Angreifer mit KI, um ihre eigenen Operationen zu verbessern, indem sie beispielsweise überzeugendere Köder entwickeln, die Verschleierung automatisieren und Code generieren, der legitime Inhalte imitiert. Auch wenn es sich in diesem Fall um eine begrenzte Kampagne handelte, die in erster Linie auf US-amerikanische Organisationen abzielte, so ist sie doch ein Beispiel für einen breiteren Trend, bei dem Angreifer KI einsetzen, um die Effektivität und Heimlichkeit ihrer Operationen zu erhöhen. Dieser Fall unterstreicht auch die wachsende Notwendigkeit für Verteidiger, KI-gesteuerte Bedrohungen zu verstehen und zu antizipieren.“
KI-unterstütztes Sicherheitstraining befähigt Ihre Mitarbeiter, jeden Tag intelligentere Sicherheitsentscheidungen zu treffen und das menschliche Risiko zu verringern.
Microsoft hat die story.