RICERCA
Novembre 2024: pentest con agenti LLM, una backdoor sospetta in RPKI, IoT da aggiornare
Catena di fornituraSicurezza OT e industriaRansomware
Novembre 2024 mostra agenti LLM capaci di automatizzare un penetration test e backdoor che fanno uscire documenti dai sistemi RAG. Sul fronte delle infrastrutture, una vulnerabilità critica in un validatore RPKI potrebbe essere una backdoor intenzionale. Quasi metà delle app che aggiornano dispositivi IoT ha falle, e un monopattino diventa bersaglio di ransomware sulla batteria.
Archivio: ricostruzione scritta a novembre 2026
1. PentestAgent: Incorporating LLM Agents to Automated Penetration Testing
arXiv · Xiangmin Shen, Lingzhi Wang, Zhenyuan Li, Yan Chen et al. · Sicurezza di AI e LLM
In breve: Un sistema multi-agente basato su LLM automatizza raccolta di informazioni, analisi delle vulnerabilità e sfruttamento.
Il penetration test manuale è costoso e richiede competenze rare. PentestAgent usa più agenti LLM e la retrieval-augmented generation per portare conoscenze di pentest nel modello e automatizzare le fasi di ricognizione, analisi delle vulnerabilità ed exploit, con poco intervento umano. La valutazione avviene su un benchmark completo di scenari di test.
Perché conta. La stessa automazione che abbassa il costo dei test per le aziende abbassa anche il costo degli attacchi.
2. Data Extraction Attacks in Retrieval-Augmented Generation via Backdoors
arXiv · Yuefeng Peng, Junda Wang, Hong Yu, Amir Houmansadr · Sicurezza di AI e LLM
In breve: Una backdoor inserita nel fine-tuning fa uscire alla lettera i documenti della base di conoscenza di un sistema RAG.
L'estrazione via prompt injection fallisce sui modelli che seguono meno le istruzioni. Gli autori avvelenano invece una piccola parte dei dati di fine-tuning: integrato in un sistema RAG, il modello compromesso rilascia i documenti quando riceve un innesco. Con il 5% di dati avvelenati su Gemma-2B-IT l'estrazione letterale riesce nel 94,1% dei casi.
Perché conta. Un modello di terzi già compromesso può esporre i documenti aziendali collegati, senza alcun segnale evidente.
3. Poster: From Fort to Foe: The Threat of RCE in RPKI
ACM Conference on Computer and Communications Security · Oliver Jacobsen, Haya Schulmann, Niklas Vogel, Michael Waidner · Sicurezza di AI e LLM
In breve: Un buffer overflow nel validatore RPKI Fort consente l'esecuzione remota di codice, con indizi di backdoor intenzionale.
RPKI protegge l'instradamento di Internet verificando chi può annunciare quali indirizzi. Gli autori trovano in Fort una vulnerabilità che permette di eseguire codice da remoto, classificata CVE-2024-45237 con punteggio 9,8. RPKI rende lo sfruttamento facile su larga scala e apre ad attacchi sui router di confine. L'analisi rileva indizi che la falla possa essere una backdoor e non un errore.
Perché conta. Una falla in un componente comune dell'instradamento può colpire molte reti insieme: un caso di cumulo da tenere presente.
4. Update If You Dare: Demystifying Bare-Metal Device Firmware Update Security of Appified IoT Systems
IEEE Transactions on Dependable and Secure Computing · Lei Xue, Yuxiao Yan, Qiyi Tang, Le Yu et al. · Sistemi cyber-fisici e IoT
In breve: Su 1.637 app che gestiscono dispositivi IoT, 710 hanno falle nell'aggiornamento del firmware.
I dispositivi IoT bare-metal, economici e a basso consumo, si aggiornano via radio tramite un'app sullo smartphone. Gli autori analizzano insieme firmware e app con BareDFU, uno strumento che automatizza l'analisi. Su 1.637 app IoT, 710 contengono vulnerabilità nel processo di aggiornamento, che può diventare un canale per compromettere i dispositivi.
Perché conta. L'aggiornamento è il controllo che dovrebbe ridurre il rischio IoT; se è insicuro diventa un vettore di attacco.
5. E-Trojans: Ransomware, Tracking, DoS, and Data Leaks on Battery-powered Embedded Systems
arXiv · Marco Casagrande, Riccardo Cestaro, Eleonora Losiouk, Mauro Conti et al. · Web e mobile
In breve: Quattro attacchi ai monopattini elettrici Xiaomi, incluso un ransomware che blocca la batteria.
Prima analisi di sicurezza interna di sistemi embedded a batteria: i monopattini Xiaomi M365 e ES3 e l'app Mi Home. Il reverse engineering rivela quattro vulnerabilità di progetto, tra cui un'esecuzione remota di codice nel sistema di gestione della batteria. Ne nascono quattro attacchi, remoti o di prossimità: ransomware sulla batteria a scopo di estorsione, tracciamento, blocco e fuga di dati.
Perché conta. Il ransomware arriva sui prodotti di consumo: un tema per la responsabilità del produttore e per le flotte in sharing.
6. RanSMAP: Open dataset of Ransomware Storage and Memory Access Patterns for creating deep learning based ransomware detectors
Computers & Security · Manabu Hirano, Ryotaro Kobayashi · Malware e minacce
In breve: Un dataset aperto di accessi a disco e memoria per addestrare rilevatori di ransomware a livello di hypervisor.
RanSMAP raccoglie, con un hypervisor leggero, i pattern di accesso a disco e memoria di sei ransomware, sette varianti di Conti e sei applicazioni legittime, anche in esecuzione simultanea, su macchine con hardware diverso. Il rilevamento a questo livello resta attivo anche se le difese del sistema operativo sono compromesse. Aggiungere gli accessi alla memoria migliora il rilevamento del 2,3%.
Perché conta. Un livello di rilevamento sotto il sistema operativo è proprio quello che resta quando il ransomware ha già disattivato l'antivirus.
7. Lateral Movement Detection via Time-aware Subgraph Classification on Authentication Logs
arXiv · Jiajun Zhou, Jiacheng Yao, Xuanze Chen, Shanqing Yu et al. · Identità e autenticazione
In breve: Un modello a grafi individua il movimento laterale degli attaccanti nei log di autenticazione.
Dopo l'accesso iniziale, gli attaccanti si muovono nella rete interna mascherando le azioni tra operazioni in apparenza scollegate. LMDetect costruisce un grafo eterogeneo dai log di autenticazione degli host, ne estrae sottografi centrati sugli eventi tenendo conto del tempo e li analizza con un'attenzione locale e globale. Su due dataset reali supera i metodi esistenti.
Perché conta. Fermare il movimento laterale è ciò che separa un'intrusione contenuta da un incidente che colpisce l'intera rete.
8. Translating C To Rust: Lessons from a User Study
arXiv · Ruishi Li, Bo Wang, Tianyu Li, Prateek Saxena et al. · Sicurezza di sistemi e software
In breve: Le persone riescono a tradurre codice C in Rust sicuro; gli strumenti automatici attuali no.
Rust offre sicurezza della memoria che il C non garantisce. In uno studio con utenti, i partecipanti traducono programmi C reali in Rust sicuro, cosa che i migliori traduttori automatici non riescono a fare. Le strategie umane differiscono molto da quelle degli strumenti e spesso usano astrazioni statiche a costo zero per la sicurezza temporale, uno dei principali costi delle altre difese.
Perché conta. La migrazione verso linguaggi sicuri riduce un'intera classe di vulnerabilità, ma oggi richiede ancora lavoro umano.
9. Quantum-Safe Hybrid Key Exchanges with KEM-Based Authentication
arXiv · Christopher Battarbee, Christoph Striecks, Ludovic Perret, Sebastian Ramacher et al. · Identità e autenticazione
In breve: Uno scambio di chiavi ibrido e quantum-safe che autentica con i KEM invece che con le firme post-quantum.
Muckle+ combina chiavi classiche, post-quantum e da distribuzione quantistica in un'unica chiave condivisa, ma si autentica con firme post-quantum, ancora poco efficienti nelle grandi reti. Muckle# usa invece i meccanismi di incapsulamento delle chiavi per un'autenticazione implicita, sul modello di KEMTLS, con nuove tecniche di prova formale e un flusso di messaggi leggermente diverso.
Perché conta. Rende più praticabile la transizione post-quantum nelle reti con molte connessioni, dove le firme sono il collo di bottiglia.
Le tendenze del mese
Sicurezza di AI e LLM
168 paper del mese su questo tema
Gli agenti LLM entrano nella sicurezza offensiva: sistemi multi-agente automatizzano le fasi di un penetration test che finora richiedevano specialisti. In parallelo cresce l'attenzione alla catena di fornitura dei modelli: una backdoor inserita nel fine-tuning trasforma un sistema RAG in un canale di fuga dei documenti. I due filoni insieme indicano un abbassamento del costo degli attacchi e un rischio che entra con i modelli di terzi.
Paper citati:
- PentestAgent: Incorporating LLM Agents to Automated Penetration Testing
- Data Extraction Attacks in Retrieval-Augmented Generation via Backdoors
Sistemi cyber-fisici e IoT
46 paper del mese su questo tema
Il filo del mese sono i dispositivi e le infrastrutture fuori dal perimetro IT classico. Quasi metà delle app che aggiornano dispositivi IoT ha falle, un monopattino elettrico può essere bloccato da un ransomware sulla batteria e un validatore RPKI, componente dell'instradamento Internet, contiene una falla critica forse intenzionale. Per chi assicura, sono scenari di responsabilità del produttore e di cumulo su componenti condivisi.
Paper citati:
- Update If You Dare: Demystifying Bare-Metal Device Firmware Update Security of Appified IoT Systems
- E-Trojans: Ransomware, Tracking, DoS, and Data Leaks on Battery-powered Embedded Systems
- Poster: From Fort to Foe: The Threat of RCE in RPKI
Malware e minacce
40 paper del mese su questo tema
Sul fronte difensivo, due lavori lavorano su punti in cui un controllo cambia l'esito di un attacco. Il rilevamento di ransomware a livello di hypervisor resta attivo anche quando l'antivirus del sistema è disattivato. Il rilevamento del movimento laterale nei log di autenticazione può fermare l'attaccante prima che raggiunga i sistemi critici. Sono controlli che riducono la gravità del danno, oltre alla probabilità dell'evento.
Paper citati:
- RanSMAP: Open dataset of Ransomware Storage and Memory Access Patterns for creating deep learning based ransomware detectors
- Lateral Movement Detection via Time-aware Subgraph Classification on Authentication Logs
Come nasce questo digest
Questo numero fa parte dell'archivio del digest, ricostruito a posteriori. I paper del mese sono stati raccolti da arXiv, dall'archivio IACR ePrint e dalle principali conferenze e riviste di sicurezza; nella scelta contano anche le citazioni ricevute dopo l'uscita. Un modello di intelligenza artificiale ha valutato i candidati e scritto le sintesi, che si basano sugli abstract: per i dettagli fa fede il paper originale.
Paper del mese valutati: 1216.