Fuori da qui, Ep.138 - sicofanzia e stanzeA proposito di analisi dell'interfaccia dei chatbot e relativo engagement degli
utenti, credo che l'episodio 138, "La stanza", del podast di Pieranni dia degli
spunti molto interessanti.
Tagliando con l'accetta e molto in sintesi, non siate pigri, ascoltate il
podcast, mi pare siano 2 i punti molto interessanti:
1. i chatbot basati su LLM sono dei sicofanti (ovvero lusingano gli utenti). In
questo modo cresce il coinvolgimento e in ultima analisi la dipendenza. Con
il problema che, a quanto pare, gli umani vogliono che i chatbot con cui
intetragiscono abbiano questa caratteristica;
2. la memoria distribuita. Gli umani affidano la propria memoria ai chatbot, i
quali restituiscono una memoria parziale (magari perché è parziale quella
affidata al bot dagli umani) e manipolatoria per vari motivi
I due temi sono spiegati bene nel podcast.
Entrambe queste caratteristiche ci riportano al fatto che nella relazione tra
umani e macchine, c'è un terzo "incomodo" costituito dai padroni della macchina
che la costruiscono appositamente in questo modo per condizionare e manipolare
gli umani.
Nulla di nuovo rispetto ai social media, ma con una tecnologia ancora più
coinvolgente e penetrante
Ascolta la puntata
Cosa succede quando un chatbot ci asseconda e perché. Cosa significa
"sicofanzia"?
Gli articoli citati nella puntata sono i seguenti:
* OpenAI, "Sycophancy in GPT-4o: What happened and what we're doing about it",
29 aprile 2025;
* OpenAI, "Expanding on what we missed with sycophancy";
* Treccani, "Oltre lo specchio della chatbot: quando l'IA ci seduce";
* Perez et al., "Discovering Language Model Behaviors with Model-Written
Evaluations", arXiv:2212.09251, dicembre 2022;
* Joseph M. Pierre, Ben Gaeta, Govind Raghavan, Karthik V. Sarma, "'You're Not
Crazy': A Case of New-onset AI-associated Psychosis", Innovations in Clinical
Neuroscience, 2025,
* Lucy Osler, "Hallucinating with AI: Distributed Delusions and 'AI
Psychosis'", Philosophy & Technology, 39:30, 11 febbraio 2026;
* Kristen French, "Why You're More Likely to Develop AI-Psychosis than to Join
a Cult", Nautilus, 25 febbraio 2026;
* Elsop Insights, "OpenAI Launches Ads in ChatGPT: Sam Altman's 'Last Resort'
Becomes Reality for 800M Users", 21 gennaio 2026;
* Cheng et al., "Sycophantic AI decreases prosocial intentions and promotes
dependence", Science, 26 marzo 2026