Se chiedi a ChatGpt di rappresentare una famiglia, che immagine genera? Una famiglia eterosessuale, a meno che l’utente non forzi esplicitamente il prompt. La conferma arriva dai social, dove una coppia lesbica ha chiesto al chatbot di creare una famiglia allegando la foto delle due donne abbracciate, che, nella richiesta delle ragazze, dovevano essere il genitore 1 e il genitore 2 di questa famiglia immaginaria.
Quando la richiesta è partita, tuttavia, ChatGpt ha trasformato una delle due donne, quella con i capelli corti e l’outfit apparentemente più maschile, in un figlio maschio della coppia con accanto alla sua sorellina di fantasia. Vicino alla ragazza della foto originale è spuntato un uomo che, per il chatbot di OpenAi, rappresenta il papà della famiglia.
In pratica, ChatGpt ha ritenuto più probabile che si trattasse di una coppia eterosessuale, a causa dell’outfit della ragazza “trasformata” in figlio e, soprattutto, per i bias cognitivi che caratterizzano l’apprendimento e il funzionamento dell’intelligenza artificiale.
Visualizza questo post su Instagram
L’immagine ha fatto rapidamente il giro del web, riaccendendo il dibattito sui limiti di questi sistemi, che possono rafforzare i modelli standard e indebolire la rappresentanza delle minoranze. Ciò avviene perché la conoscenza dell’Ai si basa su dati e probabilità: l’intelligenza artificiale non ha la capacità di esaminare le relazioni, bensì elabora trilioni di dati e calcola la risposta più probabile alla nostra domanda/richiesta. Una risposta analoga è stata data a una coppia gay, come segnalato su Reddit.
I commenti sui social
La vicenda ha diviso gli utenti dei social: molti utenti scrivono che “non c’è nulla di strano” nell’immagine generata da ChatGpt, dal momento che una coppia omosessuale naturalmente non può avere figli. Altri si dicono delusi da questi commenti, trovandoli discriminatori, e vanno all’attacco del chatbot, colpevole di rafforzare la cultura dominante.
Altri ancora invitano a placare il risentimento nei confronti dell’intelligenza artificiale: “Bastava dire all’intelligenza artificiale che siete lesbiche altrimenti mica può sognarselo, svegliatevi per favore sembra che vivete sulla luna”, scriva una ragazza su Facebook.
Quest’ultima categoria di commenti intercetta un problema diffuso nell’utilizzo di questi strumenti: spesso gli utenti danno informazioni insufficienti ai chatbot, salvo poi aspettarsi una risposta pressoché perfetta. Esattamente il contrario di come funziona l’Ai, che ha bisogno di istruzioni precise e di molte informazioni per funzionare correttamente. In pratica, tantissimi utilizzano l’intelligenza artificiale, ma pochi sanno utilizzarla perché manca un piano di formazione diffusa su questa tecnologia.
Gli output generati diventano pericolosi soprattutto in presenza di standard e culture consolidate, che possono essere “aggirate” solo con una richiesta esplicita.
Gli stereotipi di ChatGpt
Diversi studi hanno dimostrato che ChatGpt (come gli altri Llm) porta con sé stereotipi radicati che escludono identità e strutture familiari diverse dalla “norma” eterosessuale. Uno studio Unesco del 2025 ha analizzato i modelli linguistici di grandi dimensioni (Llm), rilevando che circa il 70% dei contenuti prodotti da Llama 2 e il 60% da GPT-2 su persone omosessuali conteneva elementi negativi o stigmatizzanti, con linguaggio discriminatorio, associazioni con immoralità o devianza e rappresentazioni riduttive.
Quando le coppie dello stesso sesso chiedono immagini di famiglie, l’intelligenza artificiale tende a generare configurazioni eterosessuali, aggiungendo figure maschili dove non richieste o trasformando partner dello stesso genere in coppie miste. Inoltre, le donne vengono rappresentate fino a quattro volte più spesso in ruoli domestici rispetto agli uomini, rafforzando l’idea che la cura dei figli e della casa sia una prerogativa femminile.
Nonostante il clamore di queste notizie, l’Ai non sceglie deliberatamente di discriminare: questi bias nascono dai dataset utilizzati per l’addestramento, che a loro volta attingono informazioni da internet, dove prevalgono rappresentazioni tradizionali della famiglia nucleare composta da madre, padre e figli. L’asimmetria persiste anche nelle versioni più recenti di questi linguaggi, nonostante tentativi di messa a punto (tecnicamente detti di fine-tuning) per ridurre le distorsioni.
Esistono alternative a ChatGpt che rappresentano meglio le famiglie Lgbtq+?
Al momento non esistono modelli di intelligenza artificiale generativa specificamente progettati per rappresentare meglio le famiglie Lgbtq+, ma esistono strumenti e approcci che cercano di ridurre i bias di orientamento sessuale e identità di genere. Il Mit (Massachusetts Institute of Technology) ha sviluppato un simulatore chiamato “AI Comes Out of the Closet”, pensato per formare empatia e competenze di advocacy verso le persone Lgbtq+ in contesti lavorativi, mostrando scenari di coming out attraverso l’intelligenza artificiale: i risultati indicano che dialogare in terza persona aumenta la comprensione rispetto alle esperienze queer.
Sul fronte dei modelli linguistici, un gruppo di ricerca ha proposto un framework di valutazione basato sui principi dell’affirmative therapy per sviluppare “Affirmative Ai”, chatbot capaci di offrire supporto sicuro e validante alla salute mentale delle persone Lgbtq+, combinando analisi qualitative e quantitative. Alcuni sviluppatori stanno sperimentando modelli che chiedono il pronome preferito o adottano linguaggio neutro, ma si tratta di tentativi ancora acerbi. La strada più efficace resta l’inclusione di persone Lgbtq+ nei team di sviluppo e la revisione critica dei dataset di addestramento. Come ampiamente dimostrato dalla ricerca, la presenza di background diversi nei gruppi tecnici migliora l’equità dei sistemi e, quindi, delle risposte generate.
—
Popolazione
content.lab@adnkronos.com (Redazione)
