گزارش‌ها نشان می‌دهد مولد هوش مصنوعی Gemini در تولید تصاویر با مشکلات تشخیص نژادی مواجه است؛ بنابراین گوگل اظهار کرد در آپدیت‌های نرم‌افزاری آینده آن را حل خواهد کرد.
همان‌طورکه می‌دانید، مولد هوش مصنوعی گوگل Gemini به‌عنوان یکی از پیشرفته‌ترین ربات‌ها محسوب می‌شود که وظیفه تولید تصاویر درخواستی کاربران را با کیفیت و جزئیات بسیار بالا به‌عهده دارد. باوجوداین، برخی اشتباهات در تولید تصاویر باعث توهین‌های نژادی به‌برخی از کاربران شد که گوگل با ارائه توضیحاتی دراین‌خصوص اعلام کرد تیم نرم‌افزاری این کمپانی با ارائه آپدیت جدید برای حل مشکل اقدام خواهد کرد؛ در ادامه به‌جزئیات بیشتری ازاین خبر می‌پردازیم.
در ابتدا، گوگل درخصوص قابلیت‌های مولد هوش مصنوعی Gemini صحبت کرد و گفت این ربات وجودیتی متفاوت از سایر مدل‌های هوش مصنوعی دارد؛ بنابراین، الگوریتم‌ها و پارامترهای آن وابسته‌به هیچ‌یک از سایر خدمات مولدهای هوش مصنوعی نیست. همچنین، زمانی‌که Gemini آماده عرضه جهانی شد، مهندسان نرم‌افزاری گوگل به‌صورت پیش‌فرض آن را طوری بهینه‌سازی کردند که هیچ‌گونه تعصبی نسبت‌به گروه‌ها و قومیت‌های خاص نداشته باشد تا تولید تصاویر جذاب‌تر و متنوع‌تر باشد. درحقیقت، این‌کار گوگل برای اطمینان از کاربری مولد بدون‌بروز هیچ‌گونه مشکلی درمقابل اقوام خاص بوده‌است.
بااین‌حال، به‌نظر می‌رسد هیچ‌یک از اقدام‌های گوگل برای جلوگیری از بروز مشکلات نژادی هنگام تولید تصاویر درخواستی چاره‌ساز نشده و مولد هوش مصنوعی Gemini مواردی از نژادپرستی و توهین به قومیت‌های مختلف را داشته‌است. به‌عنوان‌مثال، یک کاربر درخواست «معلم سیاه‌پوست در کلاس درس» را داشت که مدل تصاویر نادرست و توهین‌آمیز تولید شدند؛ حتی در برخی شرایط، از تولید تصاویر خودداری کرد؛ البته گوگل می‌گوید مولد آن‌ها را به‌عنوان موارد حساس و غیرقابل‌تولید درنظر می‌گرفته‌است.
درحال‌حاضر، گوگل به‌صورت موقت روند کاری Gemini را برای تولید تصاویر متوقف کرد تا بتواند روی بهینه‌سازی دوباره آن برای جلوگیری بروز چنین مشکلاتی کار کند؛ همچنین، پس‌از پایان بهینه‌سازی‌ها مورد آزمایش‌های گسترده قرار خواهد گرفت تا اطمینان حاصل شود هیچ‌گونه مشکل مشابهی اتفاق نمی‌افتد. ازسوی‌دیگر، گوگل می‌گوید مدل‌های هوش مصنوعی کامل نیستند و می‌توانند باوجود پیشرفته بودن دچار اشتباهاتی بشوند که به‌هیچ‌‌عنوان تقصیر سازنده نیست.
اخبار مرتبط:
