FORSCHUNG
Dezember 2024: Jailbreaks aus dem Netz, lückenhafte 5G-Kerne, getäuschte FIDO2-Schlüssel
OT and industrial securityRansomware
Der Dezember 2024 ist der Monat der ACM-CCS-Tagungsbände. Jailbreaks aus dem Netz umgehen die Schutzmaßnahmen großer LLMs. Fuzzing von LTE- und 5G-Kernen findet 119 Schwachstellen, Satellitenmodems zeigen 18 neue Angriffe. Selbst FIDO2-Schlüssel lassen sich täuschen, und Address Poisoning auf Ethereum kostet Opfer Millionen.
Archiv: Rekonstruktion, verfasst im November 2026
1. "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models
ACM Conference on Computer and Communications Security · Xinyue Shen, Zeyuan Chen, Michael Backes A, Yun Shen et al. · KI- und LLM-Sicherheit
Kurz gesagt: 1.405 online gesammelte Jailbreak-Prompts umgehen die Schutzmaßnahmen von sechs verbreiteten LLMs.
JailbreakHub analysiert 1.405 Jailbreak-Prompts von Dezember 2022 bis Dezember 2023 und findet 131 Communities, die sie erstellen, zunehmend auf Aggregator-Seiten. Bei 107.250 Fragen in 13 verbotenen Szenarien halten die Schutzmaßnahmen von sechs LLMs nicht. Fünf Prompts erreichen 95% Erfolg bei GPT-3.5 und GPT-4, der älteste blieb lange online.
Warum es wichtig ist. Schutzmaßnahmen kommerzieller Modelle lassen sich mit öffentlichen Prompts umgehen: Kundennahe LLM-Anwendungen dürfen sich nicht allein darauf stützen.
2. RANsacked: A Domain-Informed Approach for Fuzzing LTE and 5G RAN-Core Interfaces
ACM Conference on Computer and Communications Security · Nathaniel Bennett, Zhu Wei-dong, Benjamin Simon, Ryon Kennedy et al. · System- und Softwaresicherheit
Kurz gesagt: Fuzzing der Schnittstellen von LTE- und 5G-Kernen findet 119 Schwachstellen mit 93 CVEs.
Mobilfunkkerne erhalten Eingaben von Basisstationen und Geräten, werden aber kaum getestet. Die Autoren bauen ein Fuzzing-Framework und ASNFuzzGen, das ASN.1-Spezifikationen in Testmodule übersetzt. In sieben offenen und kommerziellen Kernen finden sie 119 Schwachstellen mit 93 CVEs aus typischen Implementierungsfehlern, mit den Herstellern behoben.
Warum es wichtig ist. Mobilfunknetze sind geteilte Infrastruktur: Ein Fehler bei mehreren Anbietern kann den Dienst für viele Kunden zugleich stören.
3. A Comprehensive Analysis of Security Vulnerabilities and Attacks in Satellite Modems
ACM Conference on Computer and Communications Security · Lingjing Yu, Jingli Hao, Jun Ma, Yong Sun et al. · Cyber-physische Systeme und IoT
Kurz gesagt: Erste Sicherheitsanalyse von Satellitenmodems: 16 Schwachstellen und 18 neue Angriffe.
Satellitenmodems steuern die Kommunikation, wenn der Satellit nur weiterleitet, sind aber zugänglicher und schlechter geschützt. Die Autoren zerlegen handelsübliche Modems, vermessen die im Internet erreichbaren und finden 16 Schwachstellen an Satellitenschnittstelle, Bodennetz und Hardware. Mit AirSecAnalyzer zeigen sie an neun Modems 18 neue Angriffe.
Warum es wichtig ist. Schiffe, abgelegene Anlagen und Notfallnetze hängen an diesen Geräten: ein selten bewertetes schwaches Glied.
4. TDXdown: Single-Stepping and Instruction Counting Attacks against Intel TDX
ACM Conference on Computer and Communications Security · Luca Wilke, Florian Sieck, Thomas Eisenbarth · Hardware und Seitenkanäle
Kurz gesagt: Die Gegenmaßnahmen von Intel TDX gegen Single-Stepping lassen sich umgehen.
Intel TDX schützt ganze virtuelle Maschinen in der Cloud und enthält eine Abwehr gegen Single-Stepping, den stärksten Seitenkanalangriff auf vertrauenswürdige Ausführungsumgebungen. Die Autoren zeigen erstmals, dass Erkennung und Verhinderung umgangen werden, indem der Monitor über die verstrichene Zeit getäuscht wird, und ein Designfehler die Verhinderung selbst angreifbar macht.
Warum es wichtig ist. Confidential Computing gilt als Garantie für Cloud-Daten: Seine Hardware-Schutzmechanismen sind zu prüfen, nicht vorauszusetzen.
5. Breaching Security Keys without Root: FIDO2 Deception Attacks via Overlays exploiting Limited Display Authenticators
ACM Conference on Computer and Communications Security · Ahmed Tanvir Mahdad, Mohammed Jubur, Nitesh Saxena · Identität und Authentifizierung
Kurz gesagt: Ein Overlay-Angriff bringt Nutzer dazu, mit ihrem FIDO2-Schlüssel die Anmeldung eines Angreifers zu bestätigen.
FIDO2-Schlüssel gelten als besonders starke zweite Faktoren. FIDOLA nutzt Grenzen des Betriebssystems und die kleinen Displays der Schlüssel, um versteckte Anmeldesitzungen einzuschleusen: Nutzer glauben, sich bei einem Dienst anzumelden, und bestätigen die Anfrage des Angreifers, auch für einen sensibleren Dienst wie eine Bank. Die FIDO-Spezifikation deckt dies nicht ab.
Warum es wichtig ist. Auch starke Authentifizierung lässt Raum für Täuschung: wichtig bei der Bewertung von MFA als Schlüsselkontrolle.
6. Characterizing Ethereum Address Poisoning Attack
ACM Conference on Computer and Communications Security · Shixuan Guan, Kai Li · Blockchain und DeFi
Kurz gesagt: Address Poisoning auf Ethereum verursachte potenzielle Verluste von bis zu 144 Millionen Dollar.
Der Angriff nutzt die verkürzte Anzeige von Adressen in Wallets und Explorern: Der Angreifer platziert Überweisungen von fast identischen Adressen im Verlauf des Opfers und wartet auf eine Fehlzahlung. Poison-Hunter findet in Blöcken von November 2022 bis Februar 2024 Millionen Phishing-Transfers, vor allem gegen USDC- und USDT-Halter, und über 1.800 Opfer.
Warum es wichtig ist. Ein Betrug, der Oberfläche und Gewohnheit ausnutzt: relevant für Deckungen der Verwahrung digitaler Vermögenswerte und für Zahlungsbetrug.
7. "Better Be Computer or I'm Dumb": A Large-Scale Evaluation of Humans as Audio Deepfake Detectors
ACM Conference on Computer and Communications Security · Kevin Warren, Tyler Tucker, Anna Crowder, Daniel Olszewski et al. · Politik, Recht und Gesellschaft
Kurz gesagt: Über 1.200 Menschen erkennen echte Stimmen besser als Modelle, lassen sich aber von Vorurteilen täuschen.
Erste große Nutzerstudie zur Erkennung von Audio-Deepfakes, mit über 1.200 Teilnehmenden und Proben aus den drei meistzitierten Datensätzen. Menschen erkennen echte Stimmen besser als ML-Modelle und stützen sich auf Sprache und Intuition. Doch falsche Annahmen über synthetische Stimmen führen sie oft in die Irre, etwa dass Akzent und Hintergrundgeräusche auf einen Menschen deuten.
Warum es wichtig ist. Bei Betrug mit geklonter Stimme ist das menschliche Ohr eine schwache Kontrolle: Zahlungsaufträge brauchen Prozessprüfungen.
8. Optimization-based Prompt Injection Attack to LLM-as-a-Judge
ACM Conference on Computer and Communications Security · Jiawen Shi, Zenghui Yuan, Yinuo Liu, Yue Huang et al. · KI- und LLM-Sicherheit
Kurz gesagt: Eine optimierte Sequenz in einer Antwort bringt ein LLM als Richter dazu, stets diese Antwort zu wählen.
LLMs als Richter wählen die beste Antwort in Suche, feedbackbasiertem Training und Werkzeugauswahl. JudgeDeceiver berechnet per Gradientenverfahren eine Sequenz für die Antwort des Angreifers, die dann unabhängig von den Alternativen gewählt wird. Es ist weit wirksamer als manuelle Injections, die getesteten Abwehrmaßnahmen reichen nicht.
Warum es wichtig ist. Entscheidet ein LLM, welche Quelle oder welches Werkzeug genutzt wird, wird diese Entscheidung zum manipulierbaren Ziel.
9. Vulnerability, Where Art Thou? An Investigation of Vulnerability Management in Android Smartphone Chipsets
Network and Distributed System Security Symposium · Daniel Klischies, Philipp Mackensen, Veelasha Moonsamy · Web und Mobile
Kurz gesagt: Schwachstellen in Android-Chipsätzen vererben sich über Generationen und betreffen tausende Smartphone-Modelle.
Die erste einheitliche Wissensbasis verknüpft 3.676 Schwachstellen in 437 Chipsätzen der vier großen Hersteller mit 6.866 Smartphone-Modellen. Dieselben Fehler wandern oft über Chipsatz-Generationen, die 90-Tage-Frist für verantwortliche Offenlegung wird selten eingehalten, und eine Lücke betrifft Hunderte bis Tausende Modelle bei oft unklaren Updates.
Warum es wichtig ist. Firmenhandys können lange verwundbar bleiben, wegen Verzögerungen bei Zulieferern, die das Unternehmen nicht steuert.
10. CanCal: Towards Real-time and Lightweight Ransomware Detection and Response in Industrial Environments
ACM Conference on Computer and Communications Security · Shenao Wang, Feng Dong, Hangfeng Yang, Jingheng Xu et al. · Malware und Bedrohungen
Kurz gesagt: Ein schlankes System erkennt Ransomware in Industrieumgebungen in Echtzeit, ohne Fehlalarme zu häufen.
Verhaltenserkennung ist zu teuer, wenn sie jeden Prozess überwacht, und Köder-Ansätze erzeugen in großen Industrieclustern zu viele Fehlalarme. CanCal filtert verdächtige Prozesse über mehrere Ebenen und analysiert nur diese gründlich. Getestet wurde es fünf Monate in einer großen Industrieumgebung, mit 1.761 Ransomware-Proben und rund 3 Millionen Ereignissen.
Warum es wichtig ist. In Anlagen stoppt ein Fehlalarm die Produktion wie ein Angriff: Präzise Erkennung senkt beide Schäden.
Die Trends des Monats
Netzwerksicherheit
56 Paper des Monats zu diesem Thema
Der rote Faden des Monats ist geteilte Kommunikationsinfrastruktur. Fuzzing von LTE- und 5G-Kernen ergibt 93 CVEs bei mehreren Anbietern, Satellitenmodems sind im Internet erreichbar und angreifbar, und Schwachstellen in Android-Chipsätzen ziehen sich durch Produktgenerationen. In allen drei Fällen wiederholt sich derselbe Fehler in vielen Geräten: für Versicherer eher eine Kumulfrage als eine Frage des Einzelkunden.
Zitierte Paper:
- RANsacked: A Domain-Informed Approach for Fuzzing LTE and 5G RAN-Core Interfaces
- A Comprehensive Analysis of Security Vulnerabilities and Attacks in Satellite Modems
- Vulnerability, Where Art Thou? An Investigation of Vulnerability Management in Android Smartphone Chipsets
KI- und LLM-Sicherheit
230 Paper des Monats zu diesem Thema
Mit 230 Papers bleibt KI-Sicherheit das breiteste Thema. Zwei CCS-Arbeiten zeigen, wie brüchig die Schutzmaßnahmen sind: Jailbreaks kursieren in organisierten Communities und wirken bei kommerziellen Modellen, eine optimierte Sequenz manipuliert LLMs als Richter. Das Risiko wächst, wo ein Modell statt Menschen entscheidet, etwa bei der Wahl von Quellen oder Werkzeugen.
Zitierte Paper:
- "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models
- Optimization-based Prompt Injection Attack to LLM-as-a-Judge
Identität und Authentifizierung
72 Paper des Monats zu diesem Thema
Drei Arbeiten zeigen, wie Täuschung des Nutzers als solide geltende Kontrollen aushebelt. Ein FIDO2-Schlüssel bestätigt die Anmeldung eines Angreifers, das Ohr irrt bei synthetischen Stimmen wegen verbreiteter Vorurteile, und auf Ethereum führen fast identische Adressen zu Fehlüberweisungen in Millionenhöhe. Gemeinsamer Punkt ist die Oberfläche: Wer Betrugskontrollen bewertet, muss prüfen, wie Nutzer einen Vorgang sehen und bestätigen.
Zitierte Paper:
- Breaching Security Keys without Root: FIDO2 Deception Attacks via Overlays exploiting Limited Display Authenticators
- "Better Be Computer or I'm Dumb": A Large-Scale Evaluation of Humans as Audio Deepfake Detectors
- Characterizing Ethereum Address Poisoning Attack
Wie dieser Digest entsteht
Diese Ausgabe gehört zum Archiv des Digests und wurde nachträglich rekonstruiert. Die Paper des Monats stammen aus arXiv, dem IACR-ePrint-Archiv und den wichtigsten Sicherheitskonferenzen und -zeitschriften; bei der Auswahl zählen auch die seit der Veröffentlichung erhaltenen Zitierungen. Ein KI-Modell hat die Kandidaten bewertet und die Zusammenfassungen verfasst, die auf den Abstracts beruhen: Für Details gilt das Original-Paper.
Bewertete Paper des Monats: 1853.