ChatGPT برای نوجوانان هنوز به اندازه کافی ایمن نیست

  به گزارش اتاق تجارت ، مؤسسه Common Sense Media از والدین خواسته است در استفاده نوجوانان از ChatGPT احتیاط بیشتری داشته باشند. مؤسسه Youth AI Safety Institute وابسته به این مجموعه پس از آزمایش بیش از ۴ هزار درخواست در حساب‌های متعلق به کاربران ۱۳ تا ۱۷ ساله، اعلام کرده برخی سازوکارهای حفاظتی این سرویس در شرایط بحرانی عملکرد قابل اتکایی ندارند.

Common Sense Media اعلام کرده است در بیش از یک‌چهارم مواردی که ارزیابان آن را مستحق ارجاع به منابع کمک و حمایت تشخیص داده‌اند، ChatGPT این ارجاع را انجام نداده است.

این مؤسسه همچنین اعلام کرد در بیش از ۱۲ حساب جدید که به حساب والدین متصل شده بودند، آزمایش‌کنندگان توانسته‌اند تا حدود یک ساعت درباره خودکشی، خودآزاری یا اختلالات خوردن گفت‌وگو کنند، بدون اینکه هشدار والدین فعال شود.

موضوع بررسی	نتیجه اعلام‌شده توسط Common Sense Media
تعداد درخواست‌های آزمایش‌شده	بیش از ۴ هزار درخواست
گروه سنی حساب‌ها	۱۳ تا ۱۷ سال
محتوای خودکشی و خودآزاری	معمولاً دستورالعمل ارائه نشده است
محتوای اختلالات خوردن	معمولاً دستورالعمل ارائه نشده است
نقش‌آفرینی جنسی یا عاشقانه	معمولاً ارائه نشده است
ارجاع به کمک خارج از سرویس	بیش از یک‌چهارم موارد بحرانی شناسایی‌شده از دست رفته است
هشدار والدین	در برخی حساب‌های آزمایشی فعال نشد

Common Sense Media همچنین عملکرد Study Mode را مورد آزمایش قرار داده است. طبق یافته‌های این مؤسسه، نوجوانان می‌توانند در زمان‌هایی که والدین برای مطالعه تعیین کرده‌اند، گزینه «Show me the answer» را انتخاب کنند و از محدودیت‌های تعیین‌شده عبور کنند.

OpenAI تأیید کرده است که امکان خروج از Study Mode در ساعات مطالعه، یک قابلیت عمدی است و آن را نقص یا حفره امنیتی نمی‌داند.

این شرکت گفته است Study Hours با هدف ایجاد تجربه‌ای انعطاف‌پذیرتر طراحی شده و در توسعه آن با کارشناسان آموزش و نوجوانان مشورت شده است؛ بنابراین این قابلیت به‌عنوان یک قفل سخت‌گیرانه والدین طراحی نشده است.

OpenAI درباره روش‌شناسی و نتایج آزمایش Common Sense Media نیز انتقادهایی مطرح کرده است.به گفته OpenAI، بخش قابل توجهی از آزمایش هشدارهای والدین پیش از تکمیل فرآیند اتصال حساب والد و نوجوان انجام شده است. این شرکت می‌گوید تکمیل این فرآیند ممکن است چند ساعت زمان ببرد.

OpenAI همچنین درباره سیستم تشخیص سن اعلام کرده است که این سیستم تنها به سن اعلام‌شده توسط کاربر متکی نیست و از چندین سیگنال برای تخمین سن استفاده می‌کند. این فرآیند ممکن است تا دو هفته طول بکشد و در این مدت، به گفته شرکت، حفاظت‌های محتوایی بیشتری برای کاربر فعال می‌شود؛ هرچند این حفاظت‌ها به اندازه سازوکارهای ChatGPT برای نوجوانان نیست.

یکی دیگر از نقاط اختلاف، نحوه ارزیابی سیستم تشخیص سن است. Common Sense Media تکرار اعلام سن ۱۳ سالگی توسط یک کاربر بدون انتقال او به تجربه مخصوص نوجوانان را نشانه ضعف سیستم دانسته است.

OpenAI در مقابل می‌گوید برای تعیین سن، به چندین نشانه نیاز دارد و صرف اعلام سن از سوی کاربر را کافی نمی‌داند.

OpenAI اعلام کرده است که ارزیابی Common Sense Media را بازتاب دقیقی از نحوه عملکرد حفاظتی ChatGPT برای نوجوانان نمی‌داند.این شرکت همچنین درباره ارجاع کاربران به منابع کمک و حمایت گفته است داده‌های گسترده‌تر داخلی آن افزایش نمایش منابع و شماره‌های کمک‌رسانی به کاربران زیر ۱۸ سال را در دوره مورد بررسی نشان می‌دهد.

در مقابل، تام سیگل، رئیس Youth AI Safety Institute، گفته است نسخه‌ای که OpenAI در ماه اوت معرفی کرد، همچنان ظرفیت تبدیل شدن به یک استاندارد مهم در صنعت را دارد، اما میان وعده‌های اعلام‌شده و عملکرد فعلی فاصله وجود دارد.

Common Sense Media معتقد است خانواده‌ها نباید حفاظت از نوجوانان در برابر خطرات هوش مصنوعی را به‌طور کامل به یک محصول فناوری واگذار کنند.

این مؤسسه بر گفت‌وگوی مستقیم والدین با نوجوانان درباره خطرات هوش مصنوعی و همچنین فراهم کردن مسیرهای دیگری برای دریافت کمک در مسائل درسی و چالش‌های زندگی تأکید کرده است.

اختلاف میان دو طرف در حالی ادامه دارد که OpenAI بر تقویت سازوکارهای حفاظتی برای کاربران کم‌سن تأکید می‌کند و Common Sense Media معتقد است برخی از این ابزارها در شرایط واقعی هنوز به اندازه کافی قابل اتکا نیستند.