AI e cybercrime: le truffe sono sempre più sofisticate

Le due facce dell'intelligenza artificiale: da un lato preziosa alleata nel velocizzare molte attività quotidiane, dall'altro possibile complice dei cybercriminali. Una tecnologia talmente preziosa da rischiare di diventare uno strumento adoperato per scopi tutt'altro che innocui e trasformarsi in un nemico grazie alla sua capacità di rendere più veloci, credibili e automatizzate tecniche di attacco che esistono già.

Phishing, social engineering, furto di credenziali, truffe telefoniche e campagne malware possono essere costruiti grazie all'aiuto dell'AI con un livello di personalizzazione prima molto più difficile da ottenere.

Naviga a soli 13,90 euro/mese con FibeRevolution

Secondo l’ultimo ENISA (Agenzia dell'Unione europea per la cibersicurezza) Threat Landscape, relativo al periodo luglio 2024/giugno 2025, il phishing continua a essere il principale punto di accesso osservato negli incidenti analizzati, rappresentando circa il 60% dei casi. L’agenzia europea evidenzia proprio il crescente utilizzo dei Large Language Model per potenziare il phishing e automatizzare le attività di social engineering.

Un criminale può utilizzare modelli linguistici per creare rapidamente centinaia di email differenti, adattandole alla lingua, al tono e persino al profilo della vittima. Un falso messaggio della banca può sembrare professionale, mentre una comunicazione che imita un corriere può riprodurre con maggiore precisione lo stile delle notifiche che siamo abituati a ricevere. Il risultato è una forma di phishing più industrializzata: non necessariamente più complessa dal punto di vista tecnico, ma molto più economica e scalabile.

Un altro fronte particolarmente delicato è quello dei deepfake. L’AI permette ormai di generare immagini, video e voci sintetiche sempre più realistiche. Immaginiamo di ricevere una telefonata apparentemente proveniente da un familiare che chiede urgentemente un bonifico, oppure da un collega che domanda di condividere un documento riservato. Una voce clonata e una conversazione costruita in tempo reale possono rendere la truffa molto più convincente.

L’utilizzo criminale dell’AI non si limita alla comunicazione con le vittime, ENISA ha documentato casi in cui gruppi di minaccia hanno utilizzato modelli linguistici commerciali per attività di ricerca, ricognizione, social engineering e sviluppo di strumenti malevoli. L’agenzia europea ha inoltre osservato la comparsa di sistemi AI progettati o adattati specificamente per attività illecite.

La prospettiva più interessante, e potenzialmente più rischiosa, è quella dell’AI agentica, cioè sistemi capaci non soltanto di generare testo o analizzare informazioni, ma di eseguire una sequenza di azioni. La ricerca sulla cybersecurity sta già studiando scenari nei quali piccoli modelli locali possono essere utilizzati per interpretare informazioni raccolte da un sistema e scegliere autonomamente le azioni successive. 

C’è poi un aspetto meno evidente: non è soltanto l’AI a essere utilizzata per attaccare, ma anche l’AI stessa può diventare un obiettivo.

Un esempio è il prompt injection, una tecnica attraverso cui un utente malintenzionato cerca di manipolare il comportamento di un sistema AI inserendo istruzioni appositamente costruite. Se l’intelligenza artificiale è collegata a documenti, email, applicazioni o strumenti aziendali, una manipolazione riuscita può avere conseguenze più ampie rispetto alla semplice generazione di una risposta sbagliata.

Esistono poi rischi come il data poisoning, che consiste nell’inserire dati manipolati nei processi utilizzati per addestrare o alimentare un modello, e gli attacchi alla supply chain dell’AI. ENISA ha già segnalato casi riguardanti modelli di machine learning compromessi, pacchetti software trojanizzati e file di configurazione capaci di influenzare il comportamento degli assistenti AI utilizzati nello sviluppo software.

La buona notizia è che non serve diventare esperti di cybersecurity per ridurre significativamente i rischi. Anzi, proprio perché l’AI rende gli attacchi più credibili, diventa importante spostare l’attenzione dal riconoscimento dell’errore evidente alla verifica del comportamento. Ne abbiamo parlato bene qui.

Anche la rete domestica ha un ruolo importante. Un router aggiornato, una password Wi-Fi robusta, l’autenticazione a due fattori sugli account principali e gli aggiornamenti automatici di smartphone, PC, smart TV e dispositivi IoT costituiscono una prima barriera fondamentale.

Esiste poi un paradosso tecnologico: la stessa tecnologia che accelera gli attacchi può diventare anche uno degli strumenti più efficaci per contrastarli. L’AI permetterà, dunque, di creare truffe più credibili e veloci, ma allo stesso tempo consentirà di individuare più rapidamente anomalie e minacce salvandoci la privacy e anche il portafoglio. 

La Redazione