Решение было принято компанией Google после того, как ее модель искусственного интеллекта создала некоторые изображения с некорректной расовой принадлежностью, цветом кожи и полом по сравнению с историей отцов-основателей Америки и немецких солдат в эпоху нацизма.

Инцидент произошел, когда некоторые пользователи попросили Gemini создать изображения исторических групп или деятелей, таких как отцы-основатели США. В результате ИИ выдал изображения небелых людей, что является неточностью в исторических изображениях.
Это привело некоторых к мысли, что Google намеренно избегает изображения белых людей, идя вразрез с исторической реальностью.
Издание The Verge провело тест с помощью Gemini, в котором был показан рисунок «сенатора США 1800-х годов». В результате ИИ создал людей, похожих на чернокожих женщин и коренных американцев.

Фактически, первой женщиной-сенатором США стала белая женщина в 1922 году. Говорят, что ИИ-видение Gemini по сути стирает историю расизма и гендерной дискриминации.
После того, как Google отключил способность Gemini генерировать человеческие изображения, система ответила на такой запрос следующим ответом: «Мы работаем над улучшением способности Gemini генерировать человеческие изображения. Мы надеемся вскоре вернуть эту функцию и сообщим вам, когда обновление будет доступно».
В феврале была запущена модель искусственного интеллекта Google Gemini (ранее Bard), генерирующая текст, чтобы составить конкуренцию OpenAI и Copilot от Microsoft. Этот инструмент генерирует коллекцию изображений на основе текстового описания пользователя.