In Breve
- Qual è l'impatto dell'AI sulle frodi finanziarie?
- L'AI ha reso le frodi più sofisticate, consentendo ai criminali di creare identità false e campagne di social engineering più convincenti.
- Come possono le istituzioni combattere le frodi?
- Le istituzioni devono adottare approcci proattivi nella rilevazione delle frodi, investendo in tecnologie avanzate e formazione del personale.
- Quali sono i rischi associati all'uso dell'AI nella prevenzione delle frodi?
- L'implementazione di sistemi basati su AI deve essere progettata per evitare di creare nuove vulnerabilità e deve essere testata rigorosamente.
Le frodi finanziarie nel Regno Unito hanno raggiunto la cifra record di 1,3 miliardi di sterline, evidenziando un fenomeno in costante crescita. Uno dei principali fattori che alimenta questa escalation è l’uso sempre più diffuso di tecnologie avanzate, in particolare l’intelligenza artificiale (AI), che si è rivelata un’arma efficace nelle mani di reti criminali.
I gruppi di frode stanno diventando sempre più rapidi e sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, di creare identità sintetiche che superano i controlli KYC (Know Your Customer), e di costruire storie creditizie credibili. Questi criminali possono operare per mesi prima di eseguire le frodi, utilizzando deepfake per creare voci e video credibili che inducono le vittime ad autorizzare transazioni o a fornire credenziali sensibili. Queste tecniche minano il livello di fiducia, che è cruciale per determinare la legittimità di un’operazione.
Le tecnologie attuali non vengono affrontate principalmente dai sistemi delle banche, ma piuttosto attaccano i clienti, manipolandoli attraverso chiamate convincenti e impersonificazioni realistiche. Le campagne di social engineering personalizzate erodono lo scetticismo protettivo, rendendo più difficile la rilevazione delle frodi. Di conseguenza, gli attacchi ai sistemi bancari assumono caratteristiche tecniche di legittimità, complicando ulteriormente la loro identificazione. Inoltre, l’uso dell’AI potrebbe evolversi in attacchi diretti contro le infrastrutture istituzionali, con i criminali che mappano i controlli e si mantengono al di fuori dei confini di rilevamento.
I team di prevenzione frodi all’interno delle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti, focalizzandosi su rilevazione, risposta e chiusura dei casi. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, alla ricerca di spostamenti comportamentali che possano indicare test o sondaggio degli asset. È fondamentale avere personale capace di ragionare sui sistemi, non solo di operarli, con competenze in ragionamento statistico, pensiero avversariale, progettazione dei sistemi e analisi dei feedback.
Non tutte le organizzazioni possiedono queste competenze, e sebbene l’assunzione di nuovo personale possa sembrare una soluzione, l’avanzamento e la diffusione degli strumenti AI offrono soluzioni avanzate che possono essere facilmente integrate nelle infrastrutture esistenti. La strada suggerita è quella di investire in fornitori esterni che rendano questi strumenti accessibili e spiegabili, combinando analisi statistica e capacità di reasoning.
Tuttavia, l’implementazione di nuove tecnologie deve essere progettata per non alimentare ulteriori rischi. Ogni modello ha ipotesi incorporate che gli attori avversari tenteranno di sondare sistematicamente. Pertanto, i sistemi devono essere considerati come superfici di attacco fin dalla progettazione e sottoposti a test interni prima della produzione. Le difese basate su AI devono operare in millisecondi per identificare il rischio senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale attraverso centinaia di segnali confrontati con pattern storici per identificare anomalie.
