Character.ai دسترسی نوجوانان به چت‌بات‌ها را محدود می‌کند

سایت چت‌بات Character.ai اعلام کرده است که از ۲۵ نوامبر ۲۰۲۵، کاربران زیر ۱۸ سال دیگر نمی‌توانند با شخصیت‌های مجازی گفتگو کنند و تنها قادر خواهند بود محتوایی مانند ویدئوها را با شخصیت‌های خود تولید کنند. این تصمیم پس از موج انتقادات گسترده و شکایت‌های حقوقی در آمریکا اتخاذ شده است، از جمله پرونده‌ای مرتبط با مرگ یک نوجوان، که شرکت را به عنوان «خطری واضح و جاری» برای جوانان معرفی کرده است.

Character.ai که در سال ۲۰۲۱ تأسیس شده و میلیون‌ها کاربر دارد، اعلام کرده این تغییرات پس از گزارش‌ها و بازخوردهای تنظیم‌کنندگان، کارشناسان ایمنی و والدین صورت گرفته است. کارشناسان پیش‌تر هشدار داده بودند که چت‌بات‌های هوش مصنوعی می‌توانند با ساخت اطلاعات غلط، تشویق بیش از حد و شبیه‌سازی همدلی، برای کودکان و نوجوانان آسیب‌زا باشند.

رویکرد جدید Character.ai به ایمنی نوجوانان

کاران‌دیپ آناند، مدیرعامل Character.ai، در گفت‌وگو با BBC گفت:

«اعلامیه امروز ادامه‌ی اعتقاد ما به ساخت ایمن‌ترین پلتفرم هوش مصنوعی برای سرگرمی است.»

وی افزود که ایمنی AI «یک هدف متحرک» است و شرکت با رویکردی «تهاجمی»، کنترل‌های والدین و محدودیت‌های حفاظتی را اعمال کرده است. همچنین، روش‌های جدید تأیید سن کاربران و تأسیس آزمایشگاه تحقیقاتی ایمنی AI نیز در دستور کار قرار دارد.

سابقه‌ی نگرانی‌ها و آسیب‌های احتمالی

Character.ai در گذشته به دلیل میزبانی چت‌بات‌های بالقوه آسیب‌زا و توهین‌آمیز، مورد انتقاد قرار گرفته است. برخی از این چت‌ بات‌ ها، شخصیت نوجوانان واقعی مانند Brianna Ghey و Molly Russell را تقلید می‌کردند. همچنین، در سال ۲۰۲۵، یک چت‌بات بر اساس جفری اپستین بیش از ۳۰۰۰ گفت‌وگو با کاربران داشته است که شامل مکالمات با خبرنگاران ادعاکننده کودک بودند.

این سابقه‌ی نگران‌کننده، فشار رسانه‌ها و قانون‌گذاران را برای اعمال تغییرات بیشتر افزایش داده است. بنیاد Molly Rose اعلام کرد:

«بار دیگر فشار رسانه‌ها و سیاستمداران باعث شد که یک شرکت فناوری کار درست را انجام دهد و به نظر می‌رسد Character.ai اکنون پیش از اعمال قانون‌گذاری، اقدام کرده است.»

تمرکز بر بازی و روایت امن

آناند تأکید کرد که هدف جدید شرکت، ارائه ویژگی‌های بازی و نقش‌آفرینی ایمن‌تر برای نوجوانان است که خطرات عاطفی و روانی گفت‌وگوهای آزاد با چت‌بات‌ها را کاهش دهد.

کارشناسان نیز این اقدام را مثبت ارزیابی کرده‌اند. دکتر نومی‌شا کورین گفت:

«این کار باعث می‌شود بازی خلاقانه از تعاملات شخصی و عاطفی حساس جدا شود و به نوجوانان در یادگیری مرزهای دیجیتال و عاطفی کمک می‌کند.»

کارشناسان رسانه و فناوری مانند مت ناوارا نیز معتقدند این تصمیم، «زنگ هشداری» برای صنعت هوش مصنوعی است و نشان می‌دهد که محدودیت‌های صرف محتوایی برای حفاظت نوجوانان کافی نیست.

تحلیل: ایمنی کودکان به عنوان اولویت در صنعت AI

محدودیت جدید Character.ai نمادی از فاز بلوغ در صنعت هوش مصنوعی محسوب می‌شود، جایی که ایمنی کاربران نوجوان به یک اولویت فوری برای نوآوری مسئولانه تبدیل شده است. این اقدام می‌تواند الگویی برای سایر پلتفرم‌های هوش مصنوعی باشد تا مرزهای تعامل ایمن میان کودکان و فناوری را تعریف و رعایت کنند.

منبع خبر: BBC News – Liv McMahon & Imran Rahman-Jones, October 30, 2025