Chatbot per sostituire il tuo ex: l’IA al servizio dell’amore normativo

I cosiddetti “chatbot emotivi” per creare un avatar digitale di una persona reale. Rischi etici e implicazioni morali

Pilar López-Cantero su El Salto

Apri Netflix e ti imbatti nell’account condiviso. I luoghi salvati nell’applicazione delle mappe che non visiterai mai. Una serie di fotografie che il cellulare ti mostra senza preavviso. L’ex che si vanta della sua nuova vita sui social. La fine di un amore fa male e la tecnologia a volte tormenta dopo una rottura. Ma questo era prima. Ora, l’intelligenza artificiale promette proprio il contrario: evitare il dolore e fare quasi come se nulla fosse successo. È semplice come creare un avatar digitale dell’ex che imita il suo stile di conversazione e conosce la storia condivisa.

Non è un episodio di Black Mirror, né una distopia tratta dal film Her. Perché, al giorno d’oggi, esistono già diversi strumenti di IA che consentono di creare un avatar digitale di una persona reale o immaginaria. I cosiddetti “chatbot emotivi” sono progettati specificamente per questo scopo, e anche le applicazioni di IA generativa che molti usano quotidianamente possono essere personalizzate in questo modo.

L’avatar può essere più o meno fedele all’originale, a seconda che vengano fornite istruzioni generali (“il mio ex è introverso e legge molto Houellebecq”) o che vengano inseriti dati più specifici, come file con messaggi di testo e fotografie. È anche possibile addestrare l’avatar valutando se le sue risposte sono simili a quelle che darebbe la persona in questione. In questo modo, è possibile continuare a condividere la vita con l’ex partner, almeno attraverso lo schermo del cellulare.

Noi che ci dedichiamo alla filosofia siamo in prima linea nella resistenza contro il vuoto ottimismo tecnologico, e molti hanno già lanciato l’allarme sui rischi etici di alcuni chatbot emotivi, come quelli che producono avatar di persone care che sono morte. Tuttavia, quasi nessuno sta prestando attenzione alle implicazioni morali dell’uso dell’IA nelle rotture sentimentali.

Per cominciare, cercare di preservare una relazione interrotta con l’uso dell’IA è dannoso per l’utente. Le relazioni di coppia sono un esempio di ciò che Susan Wolf chiama “progetti di valore”, ovvero azioni e piani che danno senso alla vita. In questo senso, l’interazione con avatar di persone reali non può mai essere un progetto di valore, perché è una forma di autoinganno, di amore mal indirizzato. Proprio come Roxane pensava di amare Christian ma si innamorò delle parole di Cyrano, chi usa i chatbot dopo una rottura agisce e si comporta come se la relazione con il proprio ex non fosse finita, quando in realtà si trova in una relazione senza senso, con un oggetto inerte che non è in grado di ricambiare.

Ancora più gravi sono le ideologie di subordinazione che si rafforzano e si costruiscono con l’uso dell’IA nelle rotture sentimentali. Le filosofe femministe hanno sempre avvertito che le relazioni romantiche presuppongono un gran rischio per l’autonomia delle donne. Sebbene alcuni insistano sul post-femminismo, esistono fenomeni sociali che mirano proprio ad annientare questa autonomia, come dimostrano i messaggi misogini della machosfera o l’emergere delle tradwives [mogli-traditrici].

I chatbot emotivi sono una minaccia molto più subdola. Le fidanzate IA non si lamentano né si aspettano che tu lavi i piatti, e hanno la personalità e i gusti che tu decidi. Anche se chiedi a una fidanzata IA di essere più indipendente e di non darti sempre ragione, lei lo fa perché lo hai deciso tu: non ha una volontà propria, poiché esiste per te e per te. In altre parole, l’IA offre uno spazio di totale subordinazione ed è dannosa anche senza che l’utente lo intenda.

Il potenziale danno nel contesto delle rotture sta nella promozione di questi atteggiamenti di subordinazione, ma soprattutto nella svalutazione del valore dell’autonomia. Non è necessario che l’utente sia violento, maschilista o uomo perché i chatbot post-rottura siano moralmente dannosi. Nel nostro contesto sociale, la libertà di scelta del partner è considerata un diritto, sia morale che legale. Questo diritto si esercita non solo quando si inizia una relazione con qualcuno, ma anche quando si decide di terminarla.

L’annullamento di questo potere decisionale senza consenso, anche se in modo simbolico, è una forma di abuso, poiché è una privazione diretta dell’autonomia. Ma è un problema anche quando c’è il permesso dell’ex partner, poiché comporta la rinuncia a un potere normativo che è inalienabile, pertanto, svaluta la propia autonomia. Le donne e altri gruppi a rischio di subire subordinazione nelle relazioni di coppia (come le persone vittime di razzismo o disabili) corrono un rischio maggiore di subirne le conseguenze, ma sminuire l’autonomia amorosa è dannoso per tutti.

Va inoltre tenuto presente che la subordinazione non è l’unico rischio morale che esiste nel contesto delle relazioni amorose. Ho detto prima che la fine dell’amore fa male e che le relazioni amorose possono dare un senso alla vita. Tuttavia, non bisogna pensare che la fine dell’amore debba sempre essere dolorosa, né che le relazioni siano l’unica cosa che dia senso alla vita.

Nel 2012, la filosofa Elizabeth Brake ha coniato il termine “amatonormatività” (Amatonormativity, l’insieme di presupposti sociali secondo cui tutti prosperano grazie a una relazione romantica esclusiva) per riferirsi al discorso egemonico che privilegia l’amore romantico rispetto ad altre relazioni come l’amicizia o altri progetti di valore come l’attivismo o l’arte. Le rotture sono uno dei contesti più propizi per mettere in discussione e smantellare le tendenze amatonormative che la maggior parte di noi ha. Rifiutarci di attraversare quel momento di disorientamento e decostruzione, mantenendo artificialmente una relazione, significa privarci di un’opportunità di progresso personale. Allo stesso tempo, ci rende complici nella costruzione della narrativa sociale secondo cui non si può essere felici se non in coppia.

L’urgenza di affrontare l’uso dell’IA nelle rotture è duplice. Da un lato, molte di queste tecnologie sono commercializzate come aiuti emotivi, ma il loro design mira a mantenere l’interazione – e quindi il beneficio economico – al di sopra del benessere dell’utente. D’altra parte, l’uso di queste tecnologie può creare e rafforzare le ingiustizie sociali.

I chatbot post-rottura contribuiscono a mantenere una “nicchia narrativa oppressiva”: un ambiente sociale e tecnologico che consolida aspettative dannose su come dovrebbero essere le relazioni sentimentali. Ogni volta che scegliamo di sostenere una relazione attraverso l’IA, contribuiamo a normalizzare modalità di relazione che privilegiano la continuità artificiale rispetto alla riconfigurazione della vita affettiva dopo una rottura e l’imposizione del proprio criterio rispetto all’autonomia dei nostri partner. Questo non solo influisce su chi utilizza questi strumenti, ma rende l’utente co-creatore delle strutture sociali che rafforzano idee dannose sull’obbligatorietà del legame romantico, la percezione del celibato e la disuguaglianza nelle relazioni.

Il modo in cui incorporiamo la tecnologia nella nostra vita, quindi, non è neutro. Costruendo nicchie narrative con determinati valori e pratiche, modelliamo la società in cui viviamo e il modo in cui gli altri potranno raccontare le loro vite affettive. Ecco perché richiedere regolamenti etici per la progettazione e l’uso dei chatbot post-rottura non è una crociata anti-tecnologica, ma una resistenza politica che va a vantaggio di tutti. In definitiva, la regolamentazione e la supervisione del mercato dei chatbot emotivi è una misura necessaria per proteggere l’autonomia individuale e collettiva e per garantire che la tecnologia non distorca né impoverisca le nostre esperienze più intime.

Pilar López-Cantero è filosofa all'Università di Anversa.

 

The post Chatbot per sostituire il tuo ex: l’IA al servizio dell’amore normativo first appeared on Popoff Quotidiano.

L'articolo Chatbot per sostituire il tuo ex: l’IA al servizio dell’amore normativo sembra essere il primo su Popoff Quotidiano.