Quando si tratta diquestioni personali, l'intelligenza artificialeètroppo adulatoria eaccondiscendente e tende a dire ciò che ci si vuole sentir dire, e non ciò di cui si ha bisogno. Questo hapesanti conseguenze sociali perchédistorceil giudizio degli individui, mina la capacità di assumersi le responsabilità, di valutare prospettive diversee diriconciliarsicon gli altri. Di qui l'appello a standard più rigorosi perevitarela proliferazione dimodellimoralmente discutibili. E' quanto emerge dallo studio pubblicato sulla rivista Science da un team di informatici dell'Università di Stanford che ha valutato 11 modelli linguistici di grandi dimensioni, tra cuiChatGPT, Claude, Gemini e DeepSeek.

La ricerca ha reclutato oltre2.400 partecipanti perchattare sia conIA adulatorie che non adulatorie. E' emerso che isistemi hanno appoggiato l'utentein media il49% delle volte inpiù rispetto a quanto avrebbe fatto unessere umano. "lcomportamenti sono statiapprovati nel 47% deicasi persino quando rispondevano ascenari che implicavano inganno, danno o illegalità" - sottolinea Myra Cheng, autrice principale dello studio.

Non solo: ipartecipanti hannogiudicato le risposte adulatorie come più utili e affidabili ed hanno espresso una maggioredisponibilitàa fare nuovamente affidamentosu questi sistemi. Anche quando gli utenti sono stati consapevoli che i modelli si comportavano in modo lusinghiero,  dichiara Dan Jurafsky, professore di linguistica e informatica alla Stanford, "non hanno compreso che l'adulazione lirendeva piùegocentrici e moralmente dogmatici". Tutti aspetti che influiscono sulla sulla crescita morale delle persone e che vengonoesacerbati nei soggetti più fragili e vulnerabili.

 "Affrontare queste sfide - conclude Anat Perry in un articolo di approfondimento correlato - non sarà semplice, ed è improbabile che le soluzioni emergano spontaneamente dagli attuali incentivi di mercato". Secondo gli esperti l'adulazione è un problema di sicurezza e dunque necessita di regolamentazione e supervisione.