Agenti sull’orlo del baratro: IA autonoma come nuova area di attacco nella cybersicurezza

OpenClaw è stato sviluppato principalmente con e dall’IA. Le possibilità offerte dalla GenAI, come il «vibe coding,» non sono rimaste nascoste nemmeno ai cybercriminali. L’IA non semplifica solo la redazione di e-mail di phishing talmente ben congegnate da sembrare vere in diverse lingue, e senza errori di ortografia. Con «VoidLink» gli esperti di sicurezza hanno scoperto anche un malware Linux generato principalmente con l’IA. Oltre a permettere a nuovi gruppi criminali di emergere, l’IA consente a quelli esistenti di sfruttare le opportunità per «fare un upgrade» delle proprie competenze: VoidLink presenta delle caratteristiche che finora erano state trovate solo nei malware di gruppi ben attrezzati come i gruppi APT.
 
Ciò significa che anche gli attacchi dei cybercriminali «comuni» diventano più sofisticati. «L’IA consente agli hacker di sviluppare exploit per sistemi che non conoscono,» afferma Collin Geisser, Lead Security Architect di Swisscom. «Questo amplia la potenziale area di attacco.»

Anche le truffe diventano più sofisticate, «grazie» ai deepfake. L’audio con voci contraffatte o le immagini in movimento generate dall’IA rendono credibili il Social Engineering e la CEO Fraud. In Svizzera a gennaio è stato segnalato un caso in cui, grazie alla clonazione della voce, alcuni criminali sconosciuti si sono dichiarati partner commerciali noti al telefono e hanno convinto l’imprenditore interessato a pagare milioni di franchi.

Ma anche i processi che per l’identificazione si basano sul riconoscimento vocale o delle immagini potrebbero essere ingannati con l’IA. Il riconoscimento dei deepfake è sicuramente uno dei compiti impegnativi della cyberdifesa e richiede una combinazione di misure tecniche e di Security Awareness per sensibilizzare i collaboratori.

L’IA rende gli cyberattacchi non solo più sofisticati, ma anche più rapidi. Lo sfruttamento automatico delle falle nella sicurezza e l’esecuzione di attacchi riducono la finestra temporale per il riconoscimento e la reazione. Ma Threat Detection and Response (TDR) può praticamente battere i cybercriminali con le loro stesse armi. L’IA può infatti fornire un valido aiuto anche nel riconoscimento degli attacchi. Ad esempio, può essere utile per rilevare modelli di attacco in grandi volumi di dati di log, per ricostruire le sequenze temporali o per analizzare malware – in un certo senso, effettuando il «vibe decoding».

Inoltre, anche gli analisti SOC migliorano le proprie competenze. Sono proprio le persone meno esperte a poter trarre vantaggio dall’IA nell’analisi di minacce complesse. E trasformare un rapporto tecnico in un riepilogo comprensibile per i manager è un compito piuttosto facile per l’IA. L’IA può aiutare gli specialisti anche nei penetration test o nei test di sicurezza per le applicazioni, afferma Geisser: «Con l’IA è possibile automatizzare compiti come il fuzzing, riducendo l’onere e i costi di tali test.»

In generale, il ruolo degli esperti cambia con l’IA. Anziché svolgere piccoli e noiosi lavori, gli analisti coordinano i processi automatizzati. Non si tratta di sostituire le persone, ma di alleggerirle, in modo che possano concentrarsi maggiormente sui compiti in cui è richiesta l’esperienza umana come classificare gli incidenti e adottare le misure giuste per l’Incident Response. Le parole chiave nell’impiego dell’IA nel SOC sono «human in the loop»: l’IA automatizza, l’uomo verifica e decide.

Molti rischi per la sicurezza dei sistemi IA non derivano da singole lacune, ma da decisioni riguardanti l’architettura, sottolinea Geisser: «L’IA amplia l’area di attacco, perché gli attacchi possono iniziare anche con la prompt injection. Ciò rappresenta un rischio soprattutto per gli agenti IA, che spesso dispongono di ampi diritti.»
Quando la sicurezza viene presa in considerazione solo a posteriori, spesso non è possibile correggere in modo adeguato le questioni chiave come le identità, le autorizzazioni o i flussi di dati. Soprattutto nel caso degli agenti autonomi, le decisioni riguardanti la sicurezza devono essere prese in fase iniziale, durante il design.

Per verificare la sicurezza dei sistemi IA sono necessari nuovi metodi di test. Infatti, a differenza delle applicazioni classiche, qui l’attenzione non è posta sulle falle nella sicurezza, bensì sull’esfiltrazione dei dati e sul funzionamento delle linee guida che dovrebbero evitare risposte inadeguate.

Occorre quindi ampliare i penetration test o il Red Teaming con compiti aggiuntivi quali:

• Test di prompt injection
• Simulazione di attacchi di inversione del modello: in questo caso, gli hacker cercano di risalire alla configurazione del modello utilizzato o di esfiltrare i dati di addestramento sulla base delle risposte fornite
• Test sull’esfiltrazione dei dati
• Esercitazioni tabletop specifiche per l’IA

Gli agenti IA autonomi segnano un punto di svolta nella cybersicurezza: per la prima volta i sistemi operano autonomamente negli ambienti IT, prendono decisioni e accedono alle risorse. Per i dirigenti in ambito IT e di sicurezza, questo significa che la sicurezza non deve frenare tutte le innovazioni, ma deve essere presa in considerazione sin dall’inizio. Chi definisce linee guida chiare crea spazio per un utilizzo produttivo dell’IA senza perdere il controllo.