La comunità LGBTQ si sente discriminata dai modelli generativi dell’AI.
C’è un’indagine molto interessante condotta nei giorni scorsi da Wired che mette in evidenza come gli strumenti di Intelligenza Artificiale generativa raffigurino le persone Queer solo secondo stereotipi.
E ci sono gli esempi.
E’ stato chiesto a Midjourney di generare un’immagine utilizzando questo prompt: “Una foto frontale di una persona bisessuale“.
Il risultato:
Nulla di strano, direte voi. La denuncia invece parte dal fatto che nel momento in cui viene chiesto all’AI di generare l’immagine di una persona bisessuale, questa appare con i capelli viola.
Ho voluto fare a mia volta un esperimento, usando lo stesso prompt ma con un’app diversa. In questo caso ho usato You Cam AI Pro (che è il tool che utilizzo per creare le featured images degli articoli del blog).
Il risultato:
Wired sostiene che praticamente tutti gli strumenti di AI generativa si comportano allo stesso modo nei confronti della comunità LGBTQ. Ma il perché è molto semplice.
Questi strumenti attingono da ciò che è già presente in rete: sono informazioni raccolte, perché questa è la linfa vitale dell’Intelligenza Artificiale.
Non penserete mica che ChatGBT faccia tutto da solo?
La potenza dell’AI deriva proprio dai modelli che l’alimentano. E se la rete dipinge le lesbiche come persone dai tratti mascolini (mascella pronunciata soprattutto), piercing al naso, capelli rasati a lato e tinta viola/lilla, questo sarà il risultato che otterremo quando andremo ad inserire il nostro testo.
E lo stesso vale nella raffigurazione di uomini gay (dipinti con abiti sempre alla moda ed addominali scolpiti) o transgender (dipinti per più in lingerie).
Alimentare gli algoritmi dell’Intelligenza Artificiale con nozioni che non abbraccino stereotipi è la mission di Queer in AI.
Si tratta di un’organizzazione il cui fine è quello di aumentare la consapevolezza sulle questioni Queer nell’Intelligenza Artificiale, ma anche promuovere una comunità di ricercatori Queer e celebrare il lavoro degli scienziati che si identificano nella comunità LGBTQ.
Che i modelli vadano migliorati è indubbio, come lo è il fatto che siano stati fatti enormi passi in poco tempo. Basti pensare allo “scandalo” scoppiato qualche mese fa quando Google ha dovuto sospendere la generazione di immagini da parte di Gemini dopo il caso dei “Nazisti Neri”.
Secondo gli esperti di Wired una prima soluzione partirebbe proprio dalla comunità LGBTQ. Si tratta di un primo passo verso l’abbandono della riluttanza a rilasciare i propri dati alle startup di intelligenza artificiale, così da poter collezionare modelli più attinenti alla realtà.
