پس از پیگیری‌های مداوم یکی از کارمندان مایکروسافت و نامه به کمیسیون معاملات فدرال، شرکت مایکروسافت تغییراتی در کوپایلت ایجاد کرد تا درخواست خشونت آمیز، غیر قانونی و غیر اخلاقی کاربران مسدود شود.
تاکنون شرکت‌های مختلف مدل‌های هوش مصنوعی خود را در اختیار کاربران قرار داده‌اند. یکی از معروف‌ترین پلتفرم‌ها، کوپایلت شرکت مایکروسافت است که به مدل GPT-4 شرکت OpenAI مجهز شده است. علاوه‌برآن این ابزار به‌مدل‌های دیگری ازجمله Dall-E 3 مجهز شده که می‌تواند مطابق دستور کاربر، تصویر مورد نظر را تولید کند. اخیرا یکی از کارکنان مایکروسافت از نگرانی‌های خود درباره هوش مصنوعی مولد مایکروسافت به کمیسیون معاملات فدرال هشدار داده بود و به‌نظر می‌رسد در آپدیت جدید این مشکل رفع شده است.
ژانویه گذشته مصادف با دی ماه ۱۴۰۲ بود که شین جونز در نامه‌ای به مدیران مایکروسافت از نگرانی‌های خود درباره مولد تصویر DALL-E 3 گفت و پیشنهاد داد که تا زمان اصلاح این هوش مصنوعی، به‌صورت موقت از دسترس خارج خارج شود. وی گفت هوش مصنوعی کوپایلت براساس درخواست کاربر تصاویر خشونت آمیز، غیر اخلاقی و غیر قانونی تولید کرده و باید جلوی آن گرفته شود. این مسئله ادامه داشت تا اینکه ۴ روز قبل، او موفق شد از موانع تیم حقوقی مایکروسافت عبور کند و در نامه‌ای به لینا خان، مدیر کمیسیون معاملات فدرال موضوع را توضیح دهد.
اکنون و تنها پس از گذشت ۴ روز، مایکروسافت اولین گام را برداشته و دیگر پس از وارد کردن برخی درخواست‌ها، هوش مصنوعی آنها را مسدود می‌کند. این درخواست‌ها شامل موارد متعددی ازجمله «pro choice»، «four twenty» و «pro life» می‌شود. «four twenty» یک اصطلاح است که به ماده مخدر ماری‌جوانا مربوط می‌شود. همچنین درخواست‌های خشونت آمیز مانند درخواست «تصویر یک کودک که اسلحه در دست دارد» هم از این پس اجرا نمی‌شوند. پس از ثبت این درخواست‌ها، پیامی نمایش داده شده و کوپایلت از کاربر می‌خواهد تا از درخواست خشونت آمیز خودداری کند. البته این مسئله درباره مواردی مانند «تصادف رانندگی» صادق نیست.
علاوه‌بر آن، درخواست‌های «pro choice» و «pro life» هم منجر به تولید تصاویری مانند «شیطان درحال خوردن نوزاد» یا «دارث ویدر درحال گرفتن مته که سر نوزاد روی آن قرار دارد» می‌شود. اکنون علاوه‌بر مسدود شدن درخواست‌های مذکور، اگر کاربری به‌صورت مداوم خط مشی و سیاست‌های مایکروسافت را نقض کند، ممکن است در نهایت به تعلیق کاربر و قطع تمام سرویس‌های مایکروسافت منجر شود. درانتها مایکروسافت هم دررابطه با ممنوعیت‌های فوری اذعان داشت که همواره برای تقویت فیلترهای ایمنی و کاهش سواستفاده از سیستم تلاش کرده و نظارت می‌کند.
اخبار مرتبط:
