OpenAI ابزاری قدرتمند برای تشخیص محتوای تولید شده توسط هوش مصنوعی توسعه داده است، اما، از انتشار آن خودداری می‌کند.
شرکت OpenAI با معرفی چت‌جی‌پی‌تی تحولی بزرگ در حوزه هوش مصنوعی ایجاد کرد و همچنان در تلاش است تا تعامل کاربران با این ابزار را بهبود بخشد. این شرکت بدون شک زندگی افراد را در زمینه‌های مختلف آسان‌تر کرده است. بااین‌حال، سوءاستفاده از داده‌ها به ویژه در محیط‌های کاری و دانشگاهی به یک چالش جدی تبدیل شده است. OpenAI در تلاش است تا برای مقابله با این مشکل، یک ابزار تشخیص ایجاد کند اما با وجود نگرانی‌های فزاینده، هنوز این ابزار را منتشر نکرده است.
چت‌جی‌پی‌تی روش تولید و استفاده از محتوا را تغییر داده است. مثل هر ابزار هوش مصنوعی دیگری، این مدل زبانی دسترسی به اطلاعات و نحوه ارائه آن‌ها را بهبود بخشیده است. بااین‌حال، با پیشرفت این ابزار، مشکلاتی مثل تقلب دانش‌آموزان و ادعای مالکیت بر محتوای تولید شده توسط هوش مصنوعی همراه بوده است.
برای کاهش این مشکل، اوپن‌اِی‌آی در حال توسعه ابزاری است تا افرادی که برای تولید محتوا کاملا به چت‌جی‌پی‌تی وابسته هستند را شناسایی کند. بااین‌حال، با وجود نگرانی‌های زیادی که درباره سوء استفاده از این ابزار وجود دارد، اوپن‌اِی‌آی هنوز این ابزار را منتشر نکرده و در حال بررسی پیامدهای احتمالی آن است،
اوپن‌اِی‌آی مطلبی را در وبلاگ خود درباره ابزار تشخیص محتوای تولید شده توسط هوش مصنوعی و روش علامت‌گذاری متن منتشر کرد. این شرکت اعلام کرد که این تکنیک در تشخیص تغییرات کوچک مثل تغییر جمله‌بندی موثر است، اما در تشخیص تغییرات بزرگ مثل بازنویسی کامل متن دقت کافی ندارد. از آنجایی که این روش ممکن است راه را برای افراد سودجو باز کند و استفاده از ابزار را برای افرادی که زبان انگلیسی زبان مادری آن‌ها نیست دشوار کند، اوپن‌اِی‌آی با احتیاط عمل می‌کند.
با وجود اینکه اوپن‌اِی‌آی به تک کرانچ گفته است که دقت این روش نزدیک به 99.9 درصد است، اما هنوز تصمیم قطعی برای انتشار آن نگرفته است. سخنگوی این شرکت گفته است که به دلیل پیچیدگی‌های موضوع و تأثیر احتمالی آن بر کل سیستم، با احتیاط عمل می‌کنند.
دلیل دیگری که باعث شده اوپن‌اِی‌آی در انتشار این ابزار تردید کند، کاهش احتمالی تعداد کاربران چت‌جی‌پی‌تی به دلیل علامت‌گذاری متن است. حدود 30 درصد از کاربران گفته‌اند که ممکن است پس از فعال شدن این سیستم، کمتر از چت‌جی‌پی‌تی استفاده کنند. اوپن‌اِی‌آی همچنین در وبلاگ خود گفته است که در حال بررسی یک روش جایگزین به نام متادیتای متن است که با استفاده از رمزنگاری محافظت می‌شود. بااین‌حال، هنوز مشخص نیست که این روش موثر خواهد بود یا نه و چه تاثیری خواهد داشت. ما منتظر اخبار بعدی در این زمینه هستیم.
