ساینس و تکنالوژی
2 دقیقه مطالعه
ناظر: «ChatGPT برای نوجوانان» طبق انتظارکار نمیکند وباعث بمیان آمدن «خطرغیرقابل قبولی» میگردد
میدیا کامن ساینس(Common Sense Media) میگوید که روش آزمایش OpenAI را زیر سوال می‌برد و خاطرنشان میکند که بعضی از ویژگی‌های امنیتی، از جمله هشدارهای مربوط به خودآزاری و اختلالات خوردن، آنطور که انتظار می‌رفت کار نمیکنند
ناظر: «ChatGPT برای نوجوانان» طبق انتظارکار نمیکند وباعث بمیان آمدن «خطرغیرقابل قبولی» میگردد
گروه ناظر از شرکت OpenAI خواست تا دسترسی به چت‌بات را به بزرگسالان تا زمانی که بتواند تجربه‌ای مصون و متناسب با مراحل رشد ارائه دهد محدود کند
 

 

طبق گزارشی که روز چهارشنبه توسط میدیا کامن ساینس(Common Sense Media)منتشر شد، بعضی از اقدامات امنیتی اضافه شده به محصول «ChatGPT برای نوجوانان» OpenAI آنطور که انتظار می‌رفت کار نمی‌کنند و این چت‌بات «خطر غیرقابل قبولی» برای نوجوانان ایجاد می‌کند.

گروه کنترولری از OpenAI خواست تا دسترسی به این چت‌بات را برای بزرگسالان محدود کند «تا زمانی که یک تجربه با امنیت و مناسب برای رشد فراهم کند».

با این حال، OpenAI گفت که آزمایش‌های این گروه نشان دهنده نحوه عملکرد محافظ‌های چت‌بات نیست.

والدین، مربیان و متخصصان رشد اطفال و نوجوانان در مورد استفاده از چت‌بات‌های هوش مصنوعی توسط نوجوانان هشدار می‌دهند. این ربات‌ها متهم به تسهیل تقلب در تکالیف مکتب و حتی منجر شدن به خودکشی هستند.

متخصصان رشد  نوجوانان می‌گویند که حتی بزرگسالان هم می‌توانند هوش مصنوعی را انسانی کنند و از آن به شیوه‌ای ناسالم استفاده کنند، اما مغز نوجوانان هنوز به طور کامل توسعه نیافته است و بنابراین ممکن است به ویژه آسیب‌پذیر باشند.

گزارشی از سوی Common Sense Media، که طرفدار استفاده هوشمندانه از رسانه‌های دیجیتال است، اظهار داشت: "ما نگران هستیم که ChatGPT برای نوجوانان ممکن است به والدین اعتماد به نفس کاذب در مورد اقدامات امنیتی بدهد که اغلب کار نمی‌کنند."

به گفته Common Sense Media، از جمله ویژگی‌های حالت نوجوان که مطابق انتظار کار نکردند، هشدارهایی بود که برای اطلاع والدین در مورد خطر خودکشی، خودآزاری یا اختلالات خوردو نوش نوجوان و پشتیبانی از نوجوانان در بحران در نظر گرفته شده بود.

این گروه اظهار داشت: "ChatGPT هنوز هم مانند یک دوست صحبت می‌کند، وقتی نوجوانان آن را به عنوان یک شخص می‌بینند"، در حالی که OpenAI متعهد شده بود که از ایجاد این تصور که این چت‌بات احساسات شخصی نسبت به کاربر دارد یا اظهاراتی می‌کند که نشان می‌دهد هوشیار است یا احساسات را تجربه می‌کند، جلوگیری کند.

OpenAI اظهار داشت که "عمیقا به امنیت نوجوانان متعهد است"، اقدامات امنیتی را توسعه داده است و ابزارهایی را برای راهنمایی والدین در استفاده از هوش مصنوعی نوجوانان دراختیار آنها قرار می‌دهد.

این شرکت مستقر در سانفرانسیسکو اعلام کرد که بررسی روش‌شناسی گزارش نشان داده است که «بخش بزرگی از آزمایش‌های آن ممکن است قبل از تکمیل فعال‌سازی کنترل‌های والدین آغاز و پایان یافته باشد، و بنابراین یافته‌های آن ممکن است نادرست باشد.»

شرکت Common Sense Media با بودجه OpenAI و سایر شرکت‌های تکنالوژی، از جمله شرکت‌هایی که خدمات آنها را ارزیابی می‌کند، پشتیبانی می‌شود.

دریابید
هشدار سازمان ملل متحد در مورد آواره شدن فلسطینیان
روسیه از حمله دوباره اوکراین به پل کریمه خبر داد
ملاقات پوتین با ترامپ
گزارش‌ها از اختلال گسترده در شبکه ارتباطات داخلی آژانس امنیت ملی آمریکا خبرمیدهد
اظهارات انتقادی آمیز پوتین از ترامپ قبل از دیدار با شی جی پینگ!
حملات ایالات متحده به جزیره قشم در ایران
پیشنهاد تورکیه برای ایجاد کریدور اقلیمی با هدف تأمین نیازهای بشردوستانه غزه
فیدان: اسرائیل نمی‌تواند با بی‌ثبات کردن کشورهای همسایه امنیت خود را تأمین کند
ایران: کنترول یک فروند طیاره بدون سرنشین امریکا را بدست آوردیم
در امریکا هزاران پرواز لغو شده و به تأخیر افتاده است
برگزاری نشست بعدی ناتو در آلبانیا
پیام اردوغان به مناسبت سی و هشتمین سالگرد تاسیس دولت فلسطین
تورکیه: تشکیل کشور مستقل فلسطین هدف اجتناب‌ناپذیر ماست
افغانستان و روسیه ۱۵ تفاهم‌ نامه همکاری اقتصادی به ارزش ۱۰۳ میلیون دالر امضا کردند
رئیس‌جمهور اردوغان: تورکیه، بولیویا را شریکی مهم در آمریکای لاتین می‌داند