موتور جستجوی ChatGPT به‌تازگی عرضه شده اما ظاهرا در بررسی‌های اولیه مشخص شده است که این سرویس آسیب‌پذیر است و احتمال سوءاستفاده از آن برای انتشار اطلاعات نادرست وجود دارد.
سرویس جستجوی ChatGPT اگرچه بسیار جدید است اما مورد انتقاد قرار گرفته، زیرا بسیار مستعد دستکاری است. به گزارش گاردین، این ابزار می‌تواند خلاصه‌های گمراه‌کننده برای موضوعات خاص ایجاد یا حتی کدهای مخرب تولید کند. به‌رغم اینکه این ابزار برای ساده‌تر کردن مرور اینترنت توسعه یافته است، قابلیت خلاصه کردن محتوای وب، مانند نظرات کاربران درباره محصولات، به‌راحتی می‌تواند با استفاده از متن‌های پنهانی که در یک صفحه وب قرار داده می‌شوند، فریب بخورد.
پژوهشگران توانستند از ابزار موتور جستجوی ChatGPT برای تولید خلاصه‌های مثبت در رابطه با محصولاتی که نقدهای منفی دریافت کرده‌اند، مورد استفاده قرار دهند یا حتی خروجی‌های مخرب ایجاد کنند. پیامدهای چنین مواردی ممکن است اعتبار و حتی ایمنی فناوری‌های جستجوی مبتنی‌بر هوش مصنوعی را به خطر بیندازد.
مشکل مدل‌های زبانی بزرگ، مانند مدلی که ChatGPT را هدایت می‌کند، در نحوه تصمیم‌گیری آن‌ها بر اساس داده‌ها نهفته است. این مدل‌ها می‌توانند حتی تحت تأثیر دستکاری‌های جزئی، مانند متن‌ها و محتواهایی که برای کاربران قابل مشاهده نیست اما به‌نوعی توسط هوش مصنوعی ثبت می‌شود، قرار بگیرند.
اگرچه این نوع حمله در حوزه هوش مصنوعی تهدید جدیدی نیست، اما اولین‌بار است که توانایی آن در سوءاستفاده از یک محصول جستجوی زنده مبتنی‌بر هوش مصنوعی به نمایش گذاشته می‌شود. در مقایسه، سایر شرکت‌ها مانند گوگل، با دهه‌ها تجربه در مقابله با تهدیدات سایبری، به‌نظر می‌رسد در رویارویی با چنین چالش‌هایی تواناتر باشند.
اگرچه OpenAI اذعان می‌کند که این نوع تهدید وجود دارد، اما این شرکت تمایلی به ارائه جزئیات درباره این مورد خاص نداشته است. در عوض، ترجیح داده است بیانیه‌هایی درباره آسیب‌پذیری‌هایی که در تلاش برای محافظت از آن‌هاست، ارائه دهد. با‌این‌حال، زمانی که این نوع قابلیت‌های هوش مصنوعی جایگاه خود را در استفاده روزمره اینترنتی مردم پیدا کنند، اتخاذ تدابیر ایمنی مناسب به‌منظور کاهش سوءاستفاده از آن‌ها به یک ضرورت تبدیل خواهد شد.
به‌این ترتیب مشخص می‌شود که کاربران نباید خروجی‌های تولیدشده توسط هوش مصنوعی را صحت‌سنجی و راستی‌آزمایی کنند. این اتفاق نشان می‌دهد که حتی فناوری‌های پیشرفته نیز عاری از نقص نیستند و ضروری است که توسعه‌دهندگان، پژوهشگران و کاربران برای ایجاد محیطی ایمن‌تر در فضای دیجیتال با یکدیگر متحد شوند.
