In Breve
- Cosa è la Trustworthy AI?
- La Trustworthy AI si riferisce a pratiche di intelligenza artificiale basate su governance, trasparenza dei dati e spiegabilità.
- Qual è l'impatto della governance sull'IA?
- L'adozione di pratiche di governance può aumentare il ROI fino a 15 volte.
- Qual è la fiducia degli utenti nell'IA?
- La fiducia degli utenti diminuisce con l'aumentare dell'autonomia dei sistemi di IA.
Un recente studio condotto da SAS, in collaborazione con IDC, ha messo in evidenza l’importanza della Trustworthy AI nelle organizzazioni moderne. Secondo i risultati, l’adozione di pratiche basate su governance, trasparenza dei dati e spiegabilità può incrementare il ritorno sugli investimenti (ROI) fino a 15 volte rispetto all’uso di sistemi privi di adeguati controlli.
Le aziende che implementano protocolli rigorosi in materia di qualità dei dati, tracciabilità e auditabilità riescono a raddoppiare i risultati economici derivanti dall’uso dell’intelligenza artificiale. In contrasto, meno del 5% delle organizzazioni che non adottano tali pratiche riporta ritorni analoghi.
Un aspetto cruciale emerso dallo studio è l’importanza della spiegabilità nei sistemi di IA. L’incapacità degli algoritmi di motivare le proprie decisioni porta fino al 97,2% degli utenti a intervenire manualmente per correggere o modificare i risultati, vanificando i guadagni di produttività. Inoltre, la fiducia degli operatori tende a diminuire con l’aumentare dell’autonomia dei sistemi: il 76% degli utenti si fida dell’IA generativa, mentre solo il 66% mostra fiducia nell’IA agentica.
Lo studio ha anche rivelato che le imprese che si dedicano all’affidabilità dell’IA ottengono performance superiori su 13 indicatori aziendali, inclusi contenimento dei costi, crescita del fatturato e miglioramento dell’esperienza del cliente. Non sorprende quindi che l’85% delle aziende più avanzate preveda un aumento superiore al 10% degli investimenti in governance dell’IA nell’anno in corso.
Tuttavia, un limite comune riscontrato è rappresentato dall’architettura informativa: solo il 17,5% delle imprese dispone di un’infrastruttura dati pienamente ottimizzata per supportare l’IA agentica. Le aziende con fondamenta dati solide quadruplicano la probabilità di ottenere un ROI elevato.
La variabilità nell’adozione di framework strutturati è evidente anche tra i diversi settori. Nel settore bancario, l’85% delle aziende ad alta maturità ha linee guida di governance definite, rispetto al 29% dei ritardatari. Nel settore pubblico, il 41% dei leader prevede aumenti di spesa superiori al 20%% per l’IA affidabile, mentre nelle scienze della vita la penetrazione dell’IA su scala aziendale è del 23%%.
Infine, Bryan Harris, CTO di SAS, ha sottolineato che anche gli agenti avanzati possono registrare tassi di errore superiori al 25%% nelle attività complesse. Per garantire accuratezza e ripetibilità, è fondamentale integrare competenze di dominio nei workflow agentici, mantenendo le persone al centro dei controlli. Chris Marshall, Vice President di IDC, ha aggiunto che supervisione, spiegabilità, responsabilità e solide basi dati sono prerequisiti essenziali per scalare con successo l’autonomia dell’IA.
