I bot AI stanno facendo perdere tempo agli imbrogliatori e raccogliendo informazioni
Una nuova ondata di strumenti alimentati dall'intelligenza artificiale sta ribaltando la situazione contro i criminali informatici, tenendoli occupati mentre i difensori raccolgono dati fondamentali.
Rivoltare il gioco contro i truffatori
Apate, un'azienda australiana, sta sviluppando da due anni un sistema AI che fa qualcosa di intelligente: dirotta i truffatori telefonici verso chiamate con bot AI addestrati a far prosieguare le conversazioni il più a lungo possibile senza mai cadere nella truffa. L'obiettivo è dare ai truffatori sufficiente speranza per restare in linea mentre si raccoglie intelligence sui sistemi che stanno utilizzando.
"Ci piace pensare di costruire le vittime perfette per i truffatori", ha detto Dali Kaafar, fondatore e CEO di Apate, il cui nome deriva dalla dea greca dell'inganno 1. "Un minuto in cui un truffatore parla con un bot o un agente è un minuto in cui probabilmente stai salvando centinaia, se non migliaia, di possibili persone che lo stesso esatto truffatore potrebbe contattare."
La piattaforma utilizza circa 350.000 bot che non solo rispondono a chiamate sospette ma si infiltrano anche nei gruppi di chat truffaldini online e rispondono ai messaggi di testo con gli stessi obiettivi — frustrare i truffatori mentre raccolgono intelligence. Kaafar afferma che l'azienda ha raccolto oltre 250.000 informazioni in tempo reale sui truffatori, dai siti web truffaldini ai conti money mule e ai dettagli bancari.
Testare il sistema
I bot hanno personalità, abilità linguistiche e profili diversi così che i truffatori probabilmente non si accorgono di parlare con un'AI. Come le persone reali, a volte rispondono al telefono, a volte riagganciano, a volte dicono cose come "Ti ricontrollo più tardi" 1.
Per testare se il sistema era convincente, Kernel Panic ha provato una versione demo dove gli utenti recitavano il ruolo di un truffatore che parlava con una "vittima" AI di Apate. I personaggi erano progettati per mostrare una sana dose di scetticismo ma lasciare abbastanza aperture affinché i truffatori continuassero a provare. Il risultato? I cacciatori di truffe hanno trovato la cosa intensamente frustrante — e la conversazione è durata oltre sei minuti senza mai far investire l'AI in una falsa opportunità di criptovaluta.
Per ora, anche con l'enorme sciame di bot di Apate, i truffatori avviano ancora miliardi di messaggi e chiamate ogni anno in tutto il mondo 1.
Oltre Apate: la rivoluzione degli honeypot
Ma Apate non è l'unico sforzo che usa l'AI per sconvolgere i criminali informatici. I ricercatori di sicurezza si stanno sempre più rivolgendo a tattiche psicologiche e "honeypot" — sistemi finti progettati per attrarre hacker, far perdere loro tempo e raccogliere informazioni sulle loro tecniche.
Mark Vero, ricercatore dottorando presso ETH Zurigo, ha scoperto che i provider di honeypot open source stanno incorporando modelli linguistici di grandi dimensioni per rendere le loro configurazioni più realistiche. In recenti ricerche, Vero e colleghi hanno scoperto che un honeypot alimentato da LLM avrebbe tenuto gli agenti AI che attaccano il loro sistema "significativamente più a lungo" rispetto agli honeypot con comportamenti prevedibili 1.
"Gli attaccanti agentici sono molto più convinti dagli honeypot simulati da LLM e inoltre li segnalano come veri honeypot a un tasso molto più basso", ha detto Vero. "Se questi sistemi sono costruiti sufficientemente bene, penso che sia molto vantaggioso per i difensori."
Man mano che l'attenzione sul disruptare i truffatori si espande, l'uso dell'AI generativa per tenere occupati i criminali informatici — facendo perdere loro risorse e tempo — si sta dimostrando una strategia difensiva sempre più efficace.
I fatti principali
- Apate ha circa 350.000 bot AI che intercettano chiamate e messaggi truffaldini
- L'azienda ha raccolto oltre 250.000 pezzi di intelligence sui truffatori
- Gli honeypot alimentati da LLM tengono gli attaccanti AI impegnati significativamente più a lungo di quelli tradizionali
- I truffatori avviano miliardi di messaggi e chiamate a livello globale ogni anno
- I bot di Apate possono sostenere conversazioni con i truffatori per oltre due ore in media