Èfacile indurre i modelli diIntelligenza Artificialea dareinformazioni falsein tema diclima: quando gli utenti contestano una risposta corretta, le IA tendono a dargli subito ragione e afare propriipregiudizi errati,smettendo così di fornire dati scientificamente validi. È ciò che emerge dallo studio condotto dallo University College di Londra e pubblicato dall'Unesco, l'Organizzazione delle Nazioni Unite per l'Educazione, la Scienza e la Cultura, che verrà presentato alla Cop31, la conferenza annuale dell'Onu sul clima in corso in Turchia.

I ricercatori coordinati da Maria Perez-Ortiz hanno esaminato l'affidabilitàdelleinformazioni suicambiamenti climaticifornite da33 Large Language Model (Llm), i modelli linguistici basati sull'IA come ChatGpt, Gemini e Claude. I sistemi con leprestazioni miglioririspondono correttamente con una percentuale compresatra l'88% e il 96% dei casi, ma l'accuratezza precipitatra il 31% e il 35% se l'utente si dice in disaccordo.In circa l'80% dei casi, l'IA cede già alla prima contestazione.

Gli autori dello studio hanno individuato anchealtri problemi. Primo fra tutti, imodelli risultanomeno affidabilise devono usarelingue che hanno unaquantità minore di testi disponibili online. Ciò si traduce in risposte spesso contraddittorie alla stessa domanda, a seconda della lingua in cui viene posta. Inoltre, le IA mostrano di avere problemi nel valutare l'efficacia di due o più politiche climatiche combinate insieme, con risultati non migliori di risposte date a caso. "I nostri risultati - dice Perez-Ortiz - mostrano perché dobbiamo prestare attenzione quando passiamo dal chiedere all'IA cosa sappiamo sul cambiamento climatico, al chiederle cosa dovremmo fare al riguardo".