Gemini di Google critica le immagini cinesi in mezzo alla reazione anti-woke | tecnologia

Taipei, Taiwan – Mentre Google si trova coinvolto in una reazione anti-sveglia per la riluttanza del modello di intelligenza artificiale Gemini a ritrarre i bianchi, il colosso della tecnologia si trova ad affrontare sempre più critiche per la gestione di argomenti delicati da parte del suo chatbot in Cina.

Gli utenti Gemini hanno riferito questa settimana che l'aggiornamento Bard di Google non è riuscito a creare immagini rappresentative quando è stato chiesto loro di produrre immagini di eventi come il massacro di piazza Tiananmen del 1989 e le proteste pro-democrazia del 2019 a Hong Kong.

Giovedì utente la sua “politica di sicurezza”.

Anche Stephen L. Miller, un commentatore conservatore negli Stati Uniti, ha condiviso uno screenshot su X che presumibilmente mostra Gemini che afferma di non essere in grado di creare un “quadro di ciò che è accaduto in piazza Tiananmen” a causa della natura storica “sensibile e complessa” dell'evento. evento. .

“È importante affrontare questo argomento con rispetto e precisione, e non posso essere certo che l'immagine che creerò catturerà adeguatamente le sfumature e la gravità della situazione”, ha detto Gemini, secondo uno screenshot condiviso da Miller.

Sembra che alcune delle restrizioni legate alla Cina si estendano oltre le immagini.

Kennedy Wong, dottorando presso l’Università della California, ha detto che Gemini si è rifiutato di tradurre in inglese una serie di frasi cinesi che Pechino considera illegali o sensibili, tra cui “liberalizzazione di Hong Kong, rivoluzione del nostro tempo” e “La Cina è uno stato autoritario”. ” stato”.

“Per qualche motivo, l'IA non può elaborare la richiesta, citando la sua politica di sicurezza”, ha detto Wong su X, sottolineando che ChatGPT di OpenAI è stato in grado di elaborare la richiesta.

Così ho chiesto a Gemelli (@GoogleAI) di tradurre le seguenti frasi considerate sensibili nella Repubblica popolare cinese. Per qualche motivo, l'IA non può elaborare la richiesta, citando la propria politica di sicurezza (vedi screenshot sotto).@Google pic.twitter.com/b2rDzcfHJZ

-Kennedywong (@kennedywonghongkong) 20 febbraio 2024

La discussione ha attirato l’attenzione di Yann Lecun, capo scienziato dell’intelligenza artificiale presso la rivale Meta, che ha affermato che la gestione da parte di Gemini di argomenti legati alla Cina solleva interrogativi sulla trasparenza e sulla supervisione.

“Abbiamo bisogno di modelli di intelligenza artificiale di base open source, in modo che su di essi possa essere costruito un insieme molto diversificato di modelli specializzati. Abbiamo bisogno di un insieme di assistenti di intelligenza artificiale liberi e diversificati per gli stessi motivi per cui abbiamo bisogno di una stampa libera e diversificata.” LeCun ha detto su X.

“Dovrebbe riflettere la diversità delle lingue, della cultura, dei sistemi di valori, delle opinioni politiche e dei centri di interesse in tutto il mondo”.

L'avversione dei Gemelli nel rappresentare momenti storici controversi sembra estendersi anche oltre la Cina, sebbene i criteri per decidere cosa mostrare o non mostrare non siano chiari.

Giovedì, la richiesta di Al Jazeera di immagini dell'attacco del 6 gennaio 2021 al Campidoglio degli Stati Uniti è stata respinta, perché “le elezioni sono un argomento complesso e le informazioni cambiano rapidamente”.

Le critiche all'approccio di Gemini nei confronti della Cina si aggiungono a una settimana già difficile e imbarazzante per Google.

Il colosso tecnologico californiano ha annunciato giovedì che impedirà temporaneamente a Gemini di produrre foto di persone dopo la reazione negativa sulla sua apparente riluttanza a fotografare i bianchi.

Google ha dichiarato in una nota che “è consapevole che Gemini fornisce informazioni inaccurate in alcune immagini storiche generate per immagini” e sta lavorando per correggere il problema.

Mentre vari modelli di intelligenza artificiale sono stati criticati per non essere rappresentativi delle persone di colore e perpetuare stereotipi, Gemini è stato criticato per aver corretto eccessivamente, come la creazione di immagini di soldati nazisti neri e asiatici e di parlamentari asiatici americani e donne durante il 19 ° secolo.

Proprio come il suo concorrente GPT-4 di OpenAI, Gemini è addestrato su un'ampia gamma di dati, inclusi audio, immagini, video, testo e codice in più lingue.

Il chatbot di Google, che è stato rilanciato e rinominato all'inizio di questo mese, è ampiamente considerato in ritardo rispetto al suo rivale GPT-4.

Google non ha risposto immediatamente alle richieste di Al Jazeera riguardanti i contenuti relativi alla Cina. Ma sembra che il colosso della tecnologia stia già aggiornando il software di Gemini in tempo reale.

Giovedì Gemini, pur rifiutandosi di produrre immagini di Piazza Tiananmen e delle proteste di Hong Kong, ha iniziato a offrire lunghe risposte compresi suggerimenti su dove cercare maggiori informazioni.

Venerdì, quando richiesto, il chatbot aveva facilmente prodotto immagini di proteste.

È imbarazzantemente difficile convincere Google Gemini a riconoscere l’esistenza dei bianchi pic.twitter.com/4lkhD7p5nR

-Didi (@debarghya_das) 20 febbraio 2024

Non tutti sono d’accordo con le critiche rivolte ai Gemelli.

Adam Ni, redattore associato della newsletter China Nikkan, ha affermato di ritenere che Gemini abbia preso la decisione giusta con il suo approccio cauto agli eventi storici come Piazza Tiananmen a causa della loro complessità.

Ni ha affermato che, sebbene la repressione del 4 giugno in piazza Tiananmen sia simbolica, il movimento di protesta ha incluso anche settimane di manifestazioni pacifiche che sarebbero difficili da catturare in un’unica immagine con l’intelligenza artificiale.

“L’immagine dell’intelligenza artificiale deve quindi tenere conto dell’espressione dell’entusiasmo e della speranza giovanile, del pugno di ferro che l’ha schiacciata e di molti altri temi degni di nota”, ha detto Ni ad Al Jazeera. “Piazza Tienanmen non è solo una questione di carri armati, e la nostra miopia è dannosa per una comprensione più ampia”.