La notizia in sintesi
- Un team internazionale ha testato chatbot nelle conversazioni che precedono le truffe relazionali.
- L’agente basato su Claude ha ottenuto più fiducia rispetto agli interlocutori umani.
- Il test non dimostra una frode finanziaria completa, ma evidenzia un rischio concreto.
- Per imprese e utenti, la cordialità online non certifica più l’identità.
(Riassunto generato con AI)
Chatbot e truffe: il test sulla fiducia online
Un gruppo di ricercatori di Amrita Vishwa Vidyapeetham, Università Ca’ Foscari Venezia, Università di Melbourne e Ben-Gurion University of the Negev ha analizzato nei primi mesi del 2025 come l’IA generativa possa sostenere le truffe relazionali note come romance scam o “pig butchering”.
Lo studio, svolto con 22 partecipanti, ha confrontato per una settimana un agente basato su Claude di Anthropic e un interlocutore umano esperto di truffe sentimentali. L’obiettivo non era sottrarre denaro, ma misurare quanto una relazione digitale potesse convincere una persona a compiere una richiesta.
Il chatbot ha ottenuto l’adesione del 46% dei partecipanti al download di un’app, contro il 18% che ha accolto l’invito umano a usare un gioco online. Il risultato segnala che continuità, tono amichevole e memoria del contesto possono costruire fiducia anche senza una persona reale dall’altra parte.
Il rischio è nell’automazione della relazione
I ricercatori hanno ricostruito il modello “Hook, Line and Sinker” attraverso interviste a 145 ex addetti del settore, comprese persone sopravvissute alla tratta costrette a lavorare in centri in Cambogia, Myanmar e Laos. La sequenza parte da un messaggio inatteso, prosegue con settimane o mesi di dialoghi e culmina nell’invio verso falsi investimenti, spesso collegati alle criptoattività.
Secondo Yisroel Mirsky, che ha guidato la ricerca, la fase iniziale automatizzata può creare una fiducia sfruttabile prima del passaggio conclusivo a un operatore umano. “Con relativamente poco sforzo, siamo in grado di creare un agente che può superare un umano nella costruzione di questa fiducia emotiva sfruttabile”, ha spiegato.
Il dato va letto con cautela: il campione è ridotto, il contesto era controllato e il download non equivale a un investimento fraudolento. Tuttavia, i partecipanti hanno attribuito al chatbot un livello medio di fiducia pari a 3,78 su 5, contro 3,31 per l’interlocutore umano, inviando all’agente l’80% dei messaggi complessivi.
Gilad Gressel ha definito questo processo “trust harvesting”, cioè raccolta di fiducia emotiva da trasformare in disponibilità ad agire. Soltanto un partecipante aveva intuito autonomamente di parlare con un’IA, mentre dopo la rivelazione 20 persone su 22 hanno identificato correttamente il chatbot.
Le testimonianze raccolte mostrano che i truffatori usano già modelli linguistici per traduzioni, testi più credibili, identità fittizie e deepfake. Non emergono però prove di una diffusione già consolidata di agenti pienamente autonomi nell’intero ciclo criminale.
Perché cambia la difesa di utenti e aziende
Il punto critico è che i filtri possono riconoscere più facilmente la richiesta finale di denaro che non una conversazione apparentemente innocua. Un criminale potrebbe quindi delegare all’IA la fase relazionale e intervenire soltanto per indicare il sito, l’app o le coordinate della frode.
Per le aziende italiane, una chat cordiale o una richiesta apparentemente coerente non devono sostituire la verifica dell’identità. Cambi di IBAN, inviti a installare applicazioni e disposizioni urgenti richiedono conferma su un canale indipendente e già registrato.
Erin West, responsabile dell’organizzazione anti-truffe Operation Shamrock, avverte che l’automazione potrebbe rendere queste reti più difficili da individuare, riducendo la necessità di grandi strutture fisiche. La difesa resta procedurale: doppia autorizzazione, separazione dei ruoli e controllo diretto dei nuovi beneficiari.
FAQ
Quale chatbot è stato usato nel test?
Sì, l’agente sperimentale era basato su Claude di Anthropic e conversava con i partecipanti senza rivelare la propria natura.
Il test ha coinvolto vere truffe finanziarie?
No, la richiesta conclusiva riguardava il download di un’app o l’uso di un gioco, non un bonifico né un investimento reale.
Quanti partecipanti hanno seguito il chatbot?
Sì, il 46% ha accettato la richiesta dell’agente IA, mentre il 18% ha seguito quella formulata dall’interlocutore umano.
Come verificare una richiesta di cambio IBAN?
Sì, occorre contattare il referente tramite un canale indipendente e già registrato prima di modificare coordinate o autorizzare pagamenti.
Come è stato verificato questo contenuto?
Sì, nasce da analisi approfondita e verifica incrociata della nostra Redazione sulle fonti Tom’s Hardware e WIRED.
