Google wycofa AI, bo wprowadzała w błąd

Użytkownicy w mediach społecznościowych skarżyli się, że narzędzie AI generuje obrazy historycznych postaci — takich jak Ojcowie Założyciele USA — przedstawiając ich jako osoby kolorowe, co określali jako nieprecyzyjne.

Google powiedział w poście na X, że funkcja AI może "generować szeroki zakres osób. I ogólnie jest to dobra rzecz, ponieważ ludzie na całym świecie z niej korzystają". Ale stwierdził, że funkcja oprogramowania w tym konkretnym przypadku "nie spełnia oczekiwań", dodając, że "pracuje nad natychmiastową poprawą tego rodzaju prezentacji".

Google opublikował zaktualizowane oświadczenie w czwartek, mówiąc, że wstrzyma funkcję Gemini do generowania obrazów osób i wkrótce wyda ulepszoną wersję.

Zdjęcia AI nie były zgodne z prawdą

Narzędzie do generowania obrazów zostało uruchomione na początku lutego w Gemini, które wcześniej nazywało się Bard. Napotyka ono wyzwania w czasie, gdy Google stara się dogonić OpenAI wspieranego przez Microsoft.

Obecnie Gemini działa, ale odmawia generowania jakichkolwiek obrazów. Funkcja została po prostu wyłączona.

Podczas gdy Google napotyka problemy z tworzeniem obrazów przez Gemini, OpenAI w zeszłym tygodniu uruchomił Sorę, swój nowy model AI, który jest w stanie przygotowywać krótkie materiały wideo z tekstowych poleceń użytkowników.

Jack Krawczyk, starszy dyrektor produktu dla Gemini w Google, powiedział, że "możliwości generowania obrazów przez firmę odzwierciedlają globalną bazę użytkowników", i że firma traktuje "reprezentację i stronniczość poważnie".

— Konteksty historyczne mają więcej niuansów i będziemy dalej dostosowywać nasze AI, aby je uwzględniać — skomentował.