OpenAI، سازنده چت‌جی‌پی‌تی، با وجود نظارت فعالان و والدین، تیم جدیدی را برای مطالعه راه‌های جلوگیری از سوءاستفاده از کودکان با ابزار‌های هوش مصنوعی تشکیل داد.

بر اساس گزارش تک‌کرانچ، این شرکت در صفحه آگهی‌های شغلی خود به تیم امنیت کودکان اشاره کرده و اعلام کرد که این تیم با واحد‌های حقوقی، سیاست‌گذاری و شرکای خارجی همکاری می‌کند تا فرا‌یند‌ها و حوادث مربوط به کاربران زیر سن قانونی را مدیریت نماید.

OpenAI تیم تخصصی ایمنی کودکان را برای پیشگیری از سوءاستفاده راه‌اندازی کرد 3

در حال حاضر این تیم در جستجوی استخدام یک متخصص اجرای ایمنی کودکان است که وظیفه اعمال سیاست‌های OpenAI در حوزه محتوای تولیدشده توسط هوش مصنوعی و نظارت بر فرا‌یند‌های بازبینی محتوای حساس (مرتبط با کودکان) را بر عهده دارد.

کودکان و نوجوانان امروزه بیش از پیش از ابزار‌های هوش مصنوعی برای انجام تکالیف و مسائل شخصی بهره می‌برند. بر اساس نظر‌سنجی مرکز دموکراسی و فناوری، ۲۹ درصد کودکان از چت‌جی‌پی‌تی برای مقابله با اضطراب یا مشکلات سلامت روان، ۲۲ درصد برای مشکلات دوستانه و ۱۶ درصد برای درگیری‌های خانوادگی استفاده کرده‌اند.

با این حال، برخی کارشناسان این روند را زنگ خطر می‌دانند.

1707375423 443 شرکت هوش مصنوعی OpenAI تیم جدیدی برای ایمنی کودکان راه
OpenAI تیم تخصصی ایمنی کودکان را برای پیشگیری از سوءاستفاده راه‌اندازی کرد 4

تابستان گذشته تعدادی از مدارس و کالج‌ها تلاش کردند استفاده از چت‌جی‌پی‌تی را به دلیل دغدغه‌های سرقت ادبی و ارائه اطلاعات نادرست ممنوع کنند. اگرچه برخی محدودیت‌ها برداشته شده، اما پتانسیل ابزار‌های هوش مصنوعی برای تولید اطلاعات کاذب یا تصاویر آزاردهنده همچنان عامل نگرانی است.

OpenAI که با انتشار مدل چت‌جی‌پی‌تی شناخته شده، در ماه‌های اخیر با نگرانی‌های فرا‌وان فعالان و کارشناسان روبرو شده است. این شرکت اخیرا اعلام کرد که برای تشخیص محتوای ساختگی، واترمارک به تصاویر تولیدشده توسط دال-ای ۳ اضافه می‌کند.