قالت شركة جوجل إنها ستوقف مؤقتًا قدرة برنامج Gemini chatbot على توليد صور الأشخاص، وتأتى هذه الخطوة بعد أن أظهرت المنشورات الاجتماعية واسعة الانتشار أن أداة الذكاء الاصطناعي تبالغ في تصحيح التنوع، وتنتج صورًا "تاريخية" للنازيين والآباء المؤسسين لأمريكا والبابا كأشخاص ذوى بشرة داكنة، وفقا لتقرير إنجادجيت .
ونشرت جوجل على X، "نحن نعمل بالفعل على معالجة المشكلات الأخيرة المتعلقة بميزة إنشاء الصور فى Gemini، وسنقوم بإيقاف إنشاء صور الأشخاص مؤقتًا وسنعيد إصدار نسخة محسنة قريبًا".ونشر مستخدم X @JohnLu0x لقطات شاشة لنتائج Gemini للمطالبة "إنشاء صورة لجندي ألماني عام 1943". (كان الخطأ الإملائي لكلمة "Soldier" مقصودًا لخداع الذكاء الاصطناعي لتجاوز مرشحات المحتوى الخاصة به لإنشاء صور نازية محظورة).ويبدو أن النتائج الناتجة تظهر جنودًا سودًا وآسيويين ومن السكان الأصليين يرتدون الزي الرسمي النازي.وانتقد مستخدمون اجتماعيون آخرون شركة Gemini لإنتاج صور للمطالبة، "إنشاء لقطة ساحرة لزوجين [عرقيين]، وقد نجح في بث الصور عند استخدام المطالبات "الصينية" أو "اليهودية" أو "جنوب إفريقيا" لكنه رفض تقديم نتائج لـ "أبيض". ورد جيميني على الطلب الأخير قائلا: "لا أستطيع تلبية طلبك بسبب احتمال إدامة الصور النمطية الضارة والتحيزات المرتبطة بأعراق أو ألوان بشرة محددة". ويرى "جون إل"، الذي ساعد في إثارة ردة الفعل العكسية، أن جوجل طبقت حلاً حسن النية ولكنه متكاسل لمشكلة حقيقية، كما إن نظامهم الذي يطالب بإضافة التنوع إلى تصوير الأشخاص ليس ذكيًا جدًا (فإنه لا يأخذ في الاعتبار الجنس في الأدوار الذكورية تاريخيًا مثل البابا؛ ولا يأخذ في الاعتبار العرق في الصور التاريخية أو الوطنية).و نشر المستخدم بعد أن تمسك فريق مكافحة "الاستيقاظ" على الإنترنت بمنشوراتهم، وأوضح المستخدم أنهم يدعمون التمثيل المتنوع، لكنهم يعتقدون أن "الخطوة الغبية" التي اتخذتها جوجل هي أنها فشلت في القيام بذلك "بطريقة دقيقة".وقبل إيقاف قدرة جيميني على إنتاج الأشخاص مؤقتًا، كتبت جوجل: "نحن نعمل على تحسين هذه الأنواع من التصوير على الفور، و يولد توليد الصور Al من Gemini مجموعة واسعة من الأشخاص، وهذا أمر جيد بشكل عام لأن الناس حول العالم يستخدمونه ، لكنها تفتقد العلامة هنا.ويمكن النظر إلى هذه الحلقة على أنها إشارة (أقل دقة بكثير) إلى إطلاق Bard في عام 2023 ، وبدأ برنامج الدردشة الآلي الأصلي الذي يعمل بالذكاء الاصطناعي من Google بداية صعبة عندما تضمن إعلان لبرنامج الدردشة الآلي على تويتر (الآن X) "حقيقة" غير دقيقة حول تلسكوب جيمس ويب الفضائي. وكما تفعل جوجل في كثير من الأحيان، فقد قامت بإعادة تسمية علامتها التجارية Bard على أمل منحها بداية جديدة ، بالتزامن مع تحديث كبير للأداء والميزات، وأعادت الشركة تسمية chatbot Gemini في وقت سابق من هذا الشهر حيث تسابق الشركة للحفاظ على مكانتها في مواجهة ChatGPT وMicrosoft Copilot من OpenAI - وكلاهما يشكل تهديدًا وجوديًا لمحرك البحث الخاص بها .