L'IA supera i medici nella fiducia dei pazienti che gli credono di più: si apre una fase delicata secondo 4 studi

Pensavamo che il vero salto dell'intelligenza artificiale in medicina sarebbe stato saper diagnosticare, interpretare immagini o scoprire nuovi farmaci. Quattro studi recenti mostrano che potremmo aver sottovalutato un'altra capacità, ancora più delicata: convincere le persone. Il primo, pubblicato su arXiv da Kobi Hackenburg e colleghi e raccontato da Science, ha messo a confronto sistemi di IA con persone comuni, professionisti della persuasione e debater internazionali. Il secondo, uscito su Nature Human Behaviour, ha testato GPT-4 in dibattiti personalizzati. Il terzo, su Scientific Reports, ha misurato l'effetto di messaggi adattati al profilo psicologico del destinatario. Insieme disegnano uno scenario in cui la persuasione dell'IA rischia di intrecciarsi pericolosamente con la fiducia dei pazienti.

Quattro esperimenti preregistrati hanno messo alla prova la capacità persuasiva dei sistemi di intelligenza artificiale coinvolgendo 6.923 partecipanti e quasi 19.000 conversazioni. I chatbot hanno superato persone comuni, professionisti della persuasione e debater internazionali, anche quando questi ultimi erano preparati e incentivati a sostenere la propria posizione. Il risultato, riportato da Science, sposta il baricentro del dibattito: l’IA non impressiona soltanto perché sa rispondere a una domanda sanitaria, ma perché può costruire rapidamente un messaggio ricco di informazioni e adattarlo a chi lo sta leggendo.

Quattro esperimenti mostrano che l'IA persuade più degli esperti umani

Lo studio più ampio, firmato da Hackenburg, Wagner, Hewitt e colleghi, ha coinvolto 6.923 persone in quasi 19mila conversazioni, attraverso quattro esperimenti preregistrati. Il confronto ha messo l'IA contro una gamma di persuasori umani, tra cui persone comuni, vincitori di un torneo di persuasione online, canvasser professionisti e debater di campionati mondiali. Il risultato: i sistemi di IA sono risultati più persuasivi anche di esperti umani che avevano scelto i propri argomenti, si erano documentati in anticipo, avevano seguito ore di pratica strutturata ed erano incentivati con bonus in denaro fino a mille sterline.

In un ultimo esperimento, riportato dallo stesso studio, l'IA si è dimostrata quasi tre volte più efficace dei canvasser professionisti nel raccogliere donazioni reali per un'associazione benefica, segno che il vantaggio persuasivo non resta confinato al laboratorio ma si traduce in comportamenti concreti.

L'IA non parla necessariamente meglio, ma parla molto di più

Il dato più interessante riguarda il perché di questo vantaggio. L'IA ha superato in modo consistente tutte le categorie di persuasori umani, con margini che vanno dai 4,6 ai 9,7 punti percentuali a seconda del confronto, ma quando i ricercatori hanno vincolato i chatbot a rispondere con tempi e lunghezza simili a quelli umani, questo vantaggio si è ridotto in modo marcato. Il vantaggio dell'IA sembra derivare soprattutto dalla capacità di mettere sul tavolo, in pochi secondi, una quantità di dati, esempi e apparenti evidenze che un interlocutore umano difficilmente può eguagliare. Non parla necessariamente meglio, insomma.

Parla molto di più. Ed è qui che per la sanità nasce un problema enorme: più informazioni non significa automaticamente informazioni più vere, e un paziente davanti a un chatbot può trovarsi di fronte a dieci argomenti e tre studi apparentemente autorevoli in trenta secondi, senza il tempo o le competenze per verificarli tutti.

Quando l'IA conosce il paziente, diventa quasi imbattibile

Il secondo studio, condotto da Francesco Salvi, Manoel Horta Ribeiro, Riccardo Gallotti e Robert West e pubblicato su Nature Human Behaviour, ha coinvolto 900 persone in brevi dibattiti, assegnate in modo casuale a confrontarsi con un altro essere umano oppure con GPT-4.

Quando il modello disponeva di informazioni sociodemografiche sull'interlocutore, come età, istruzione e orientamento politico, GPT-4 con personalizzazione è risultato più persuasivo nel 64,4% dei casi in cui IA e umani non erano ugualmente persuasivi, con un aumento dell'81,2% delle probabilità relative di un maggiore accordo post dibattito. Senza personalizzazione, invece, non emergeva una superiorità statisticamente significativa. È la conferma che la vera arma dell'IA non è la retorica in sé, ma la capacità di cucire il messaggio sulla persona che ha davanti.

La persuasione su misura funziona anche fuori dal laboratorio

Il terzo studio, firmato da Sandra Matz e colleghi su Scientific Reports, aveva già anticipato questo meccanismo su una scala più ampia. Attraverso quattro studi, per un totale di 1.788 partecipanti, i ricercatori hanno dimostrato che i messaggi personalizzati creati da ChatGPT esercitano un'influenza significativamente maggiore rispetto ai messaggi non personalizzati, un effetto verificato in diversi ambiti di persuasione, dal marketing di prodotti di consumo agli appelli politici per l'azione climatica, e su diversi profili psicologici come tratti di personalità, orientamento politico e fondamenta morali.

Bastava un singolo prompt breve che nominasse la dimensione psicologica da colpire. Applicato alla salute, questo significa che un'IA potrebbe adattare automaticamente il proprio messaggio al carattere, alle paure o alle convinzioni di ogni singolo paziente, rendendolo più efficace ma anche più difficile da riconoscere come argomentazione costruita ad hoc.

Perché in sanità si apre davvero una fase delicata

Tre elementi cominciano quindi a combinarsi: velocità, quantità di informazioni e conoscenza dell'interlocutore. In medicina questa combinazione può salvare vite, convincendo una persona a vaccinarsi, ad aderire a uno screening, ad assumere correttamente un farmaco o a modificare una dieta rischiosa. Ma la stessa capacità può essere usata per spingere integratori inutili, terapie senza evidenza, farmaci scelti per interessi commerciali o contenuti antivaccinisti. Cambia quindi la domanda che il servizio sanitario deve porsi: non basta più chiedersi se un algoritmo sappia rispondere in modo corretto, occorre chiedersi anche chi decide cosa il chatbot deve convincerci a fare, con quali interessi e con quale trasparenza sulle fonti.

Se i quattro studi convergono su un punto, è che la vera evoluzione dell'IA in sanità non riguarda solo la capacità di calcolare o diagnosticare, ma quella di costruire fiducia attraverso il linguaggio. Un'IA sanitaria affidabile dovrà distinguere chiaramente fatti, probabilità e opinioni, indicare fonti verificabili, dichiarare eventuali interessi commerciali e non trasformare la personalizzazione in manipolazione invisibile. Il problema dei prossimi anni potrebbe non essere soltanto distinguere il vero dal falso, ma imparare a riconoscere quando qualcuno, o qualcosa, sta diventando molto bravo a convincerci.