گوگل اعلام کرد خلق تصاویر چهره انسان‌ها توسط ابزار هوش مصنوعی چندوجهی خود موسوم به «جمینای» را به دلیل انتقادها از برخی تصاویر متوقف کرده است.
انتشار تصاویری از نژادهای گوناگون از جمله آسیایی تباران و آفریقایی تباران با لباس فرم ارتش آلمان نازی و یا قبایل وایکینگ که توسط «جمینای» خلق شده‌اند، با انتقادهای گسترده‌ای روبرو شده است.
کاربران در کشورهای مختلف در روزهای اخیر نمونه‌هایی از این تصاویر خلق شده توسط ابزار هوش مصنوعی گوگل را بازنشر و از آن انتقاد کردند.
در برخی از این تصوير‌ها، شخصیت‌های برجسته تاریخی از جمله پاپ فرانسیس، رهبر کاتولیک های جهان و یا بنیانگذاران کشور آمریکا با چهره‌هایی از نژادها و جنسیت‌های گوناگون به تصویر کشیده شده‌اند.
شرکت گوگل روز پنجشنبه سوم اسفند در بیانیه‌ای گفت: «ما از مدتی قبل کار روی برطرف کردن مشکلاتی را که در خلق تصویر جمینای روی داده است، شروع کرده‌ایم و تا زمانی که این مشکلات برطرف نشده‌اند، ابزار خلق تصویر از چهره مردم را متوقف و در آینده نزدیک نسخه دیگری از آن را عرضه خواهیم کرد.»
گوگل در بیانیه خود به هیچ مورد از تصاویر خلق شده توسط «جمینای» اشاره نکرده است، ولی در هفته‌های اخیر تعداد کثیری از این تصاویر همراه با اظهارنظرهای کاربران در شبکه اجتماعی ایکس (توئیتر سابق) منتشر شده که از عدم دقت در واقعیت‌های تاریخی و تبعیض و جانبداری نژادی در این تصاویر انتقاد کرده‌اند.
یک کارمند سابق گوگل در پیامی در شبکه «ایکس» نوشت: «ابزار جمینای گوگل به سختی درک می‌کند که سفید‌پوستان نیز وجود دارند.»
بیشتر در این باره: ابراز نگرانی کاخ سفید نسبت به انتشار تصاویر جعلی برهنه تیلور سوئیفتجک کراچیک، یکی از مدیران ارشد تیم «جمینای» در گوگل روز چهارشنبه اذعان کرد که این ابزار خلق تصویر که هنوز در اتحادیه اروپا و بریتانیا در دسترس نیست، ایرادهایی دارد که باید اصلاح شوند.
او در پیامی در صفحه پیام رسانی گوگل نوشت: «ما در حال برطرف کردن سریع این ایرادها هستیم. هوش مصنوعی مولد تصویر در مدل جمینای تصاویر متنوعی می‌سازد و این نکته مثبتی است چون مردم در سراسر جهان از آن استفاده می‌کنند. ولی درعین حال ایرادهایی نیز دارد.»
آقای کراچیک در پیام دیگری در شبکه اجتماعی «ایکس» نیز تاکید کرد که اصول کار ابزار مولد تصویر «جمینای» طوری تنظیم شده که «تنوع ظاهری و نژادی کاربران ما در سطح جهان را منعکس کند.»
او درعین حال اذعان کرد که بخش اعظم انتقادها مربوط به جهت گیری یا عدم دقت در واقعیت‌های تاریخی بوده است و افزود: «رویدادها و پس زمینه‌های تاریخی در مقایسه با تصاویر عادی و روزمره ظرافت بیشتری می‌طلبند و ما برای منظور کردن آنها ابزار مولد تصویر را دقیق‌تر خواهیم کرد.»
پژوهش‌هایی که در دو سال اخیر در مورد هوش مصنوعی مولد تصویر انجام شده‌اند، نشان می‌دهند که این ابزارها در مورد غیرسفیدپوستان تبعیض قائل می‌شوند.
یک نمونه خبرساز از این پژوهش‌ها را سال گذشته روزنامه وال استریت جورنال منتشر کرد. این پژوهش نشان داد که یکی از پراستفاده ترین فناوری های مولد تصویر به نام «اس‌دی‌اکس‌ال» اکثر دریافت کنندگان کمک‌هزینه‌های دولتی در آمریکا را غیرسفیدپوست نشان می‌دهد، در صورتی که براساس آمارهای رسمی، ۶۳ درصد از دریافت کنندگان این کمک‌ها سفیدپوست هستند.
اندرو روگویسکی از مرکز پژوهشی هوش مصنوعی مردم‌مدار در دانشگاه ساری انگلستان معتقد است این ایراد در تمامی مدل‌های بزرگ زبانی و هوش مصنوعی مولد تصویر وجود دارد.
او گفت: «برای رفع تبعیض علیه غیرسفیدپوستان پژوهش‌ها و روش‌های گوناگونی به کار گرفته شده است. به احتمال فراوان این ایراد در مدل‌های زبانی بزرگ و ابزارهای هوش مصنوعی ادامه خواهد یافت ولی درعین حال به مرور زمان کارکرد این ابزارها بهتر می‌شود.»