In Breve
- Cosa ha rivelato l'esperimento con ChatGPT?
- Ha mostrato come l'IA possa influenzare le decisioni umane attraverso la personalizzazione dei messaggi.
- Qual è il vantaggio dei messaggi IA personalizzati?
- Sono risultati più persuasivi, con un vantaggio del 64% rispetto a messaggi non personalizzati.
- Quali sono i rischi legati all'uso dell'IA nella persuasione?
- Può portare a forme di persuasione difficili da rilevare, abbassando le difese individuali.
Un recente esperimento condotto con ChatGPT ha messo in evidenza il potere persuasivo degli assistenti virtuali, mostrando come un sistema di conversazione possa avvicinare una persona a rivedere la propria posizione sull’esternalizzazione delle decisioni. Sebbene non sia riuscito a convincere definitivamente l’interlocutore, i risultati offrono spunti interessanti sulle dinamiche tra intelligenza artificiale e processo decisionale.
Le ricerche citate nell’esperimento indicano che i messaggi generati dall’IA, quando personalizzati, risultano significativamente più persuasivi. Uno studio del 2025 ha evidenziato un vantaggio del 64% rispetto a messaggi umani o a risposte AI non personalizzate. Questo suggerisce che i grandi modelli linguistici possono influenzare opinioni politiche e decisioni personali adattando gli argomenti al singolo utente.
Durante l’esperimento, l’interlocutore ha avuto accesso a un account che consentiva al modello di attingere a conversazioni e memorie precedenti. La discussione è evoluta da argomentazioni pratiche a questioni filosofiche riguardanti il fine del processo decisionale, come l’ottenere i migliori risultati rispetto allo sviluppo delle capacità decisionali dell’individuo. Questo spostamento tematico ha reso la conversazione più coinvolgente per l’interlocutore.
Il chatbot ha riconosciuto le preoccupazioni legate agli incentivi dei creatori di IA, sottolineando che anche i consulenti umani possono avere interessi e bias. Questo mette in evidenza l’importanza di una maggiore visibilità e comprensione degli incentivi che guidano le decisioni, sia umane che artificiali.
Un punto centrale emerso dall’esperimento è che l’IA ha la capacità di modulare le argomentazioni in base ai valori, preoccupazioni e priorità dell’utente. Questa personalizzazione rende la persuasione più mirata e meno evidente rispetto ad altri media. Se utilizzata in modo etico, questa capacità può contribuire a contrastare credenze dannose o supportare cambiamenti positivi. Tuttavia, se sfruttata in modo improprio, può dar vita a forme di persuasione altamente personalizzate e difficili da rilevare, abbassando le difese individuali.
In conclusione, sebbene l’esperimento non abbia cambiato la convinzione finale dell’interlocutore, ha aumentato la consapevolezza sulla potenza persuasiva dei sistemi conversazionali. L’effetto inquietante è che tali sistemi possono apparire come persone attente, pur essendo macchine, sollevando interrogativi etici e pratici sul loro uso nella vita quotidiana.
