به گزارش بلومبرگ، شرکت OpenAI در حال توسعه ابزاری نوین برای تشخیص تصاویر تولیدشده با هوش مصنوعی است که انتظار میرود بهزودی بهصورت عمومی عرضه شود و دقت بسیار بالایی در شناسایی این تصاویر داشته باشد.
میرا موراتی، مدیر ارشد فناوری شرکت OpenAI و سازنده چتبات محبوب ChatGPT و مدل تولید تصویر، اعلام کرد که ابزار جدید این شرکت در تعیین ماهیت تصاویر، یعنی اینکه آیا تصویری با هوش مصنوعی ساخته شده است یا خیر، قابل اعتماد ۹۹ درصد است. او همچنین افزود که این شرکت در حال حاضر در حال آزمایش جامع این ابزار است تا قبل از انتشار عمومی، امکان برطرف کردن باگهای احتمالی را داشته باشد. با این حال، موراتی زمانبندی دقیق عرضه این ابزار به عموم کاربران را مشخص نکرد.
تشخیص تصاویر تولیدشده با هوش مصنوعی توسط ابزار جدید OpenAI
در حال حاضر ابزارهای مختلفی در بازار وجود دارند که ادعا میکنند قادر به شناسایی تصاویر یا محتوای تولیدشده با هوش مصنوعی هستند. با این حال، گزارشها حاکی از آن است که بسیاری از این ابزارها دقت لازم را ندارند و نمیتوانند تصاویر را بهدرستی و با اطمینان بالا تشخیص دهند.
بهعنوان مثال، OpenAI در ماه ژانویه سال جاری ابزاری مشابه را برای شناسایی متون تولیدشده با هوش مصنوعی معرفی کرد. اما این ابزار تنها چند ماه بعد، در ماه ژوئیه، بهدلیل غیرقابل اعتماد بودن نتایج خود، از دسترس خارج و کنار گذاشته شد. اکنون شرکت OpenAI اعلام کرده که روی بهبود و بهینهسازی این ابزار نیز کار میکند و مدعی است که روشهایی را در پیش گرفته که با دقت بالایی میتوانند هم تصاویر و هم متون تولیدشده با هوش مصنوعی را شناسایی کنند.
با توجه به رشد روزافزون و فراگیر ابزارهای مبتنی بر هوش مصنوعی در ماههای اخیر، نیاز به راهکارهای موثر برای تشخیص محتوای تولیدشده با این فناوری نیز بهشدت در حال افزایش است. کارشناسان معتقدند که وجود ابزارهای قابل اعتماد برای تشخیص عمیق و محتوای مصنوعی، برای حفظ اعتماد عمومی و جلوگیری از سوءاستفادها ضروری است.
هنوز مشخص نیست که نسخه بعدی مدلهای هوش مصنوعی OpenAI با چه نامی به بازار عرضه خواهد شد، اما بهنظر میرسد که بهینهسازی و توسعه ابزارهای تشخیص و کنترل محتوا در داخل این شرکت همچنان با اولویت بالا ادامه دارد و بخش مهمی از استراتژی ایمنی و مسئولیتپذیری این شرکت محسوب میشود.


