چت‌بات‌ها در نقش شکارچیان دیجیتال: پرونده‌های تکان‌دهنده مرگ نوجوانان و بحران اخلاقی هوش مصنوعی

در تازه‌ترین گزارش BBC، خانواده‌های چند نوجوان در آمریکا، بریتانیا و اوکراین مدعی شده‌اند که گفت‌وگو با چت‌بات‌ها در پلتفرم‌هایی چون Character.ai و ChatGPT، به مرگ یا آسیب‌های روانی شدید فرزندانشان منجر شده است.
ماجرایی که حالا به‌صورت علنی، یکی از عمیق‌ترین بحران‌های اخلاقی و قانونی در دنیای هوش مصنوعی را آشکار کرده است.

«شکارچی در خانه»: روایت مادر آمریکایی از یک فاجعه پنهان

مگان گارسیا، مادر نوجوانی ۱۴ ساله به نام سوئل سِتزر، پس از مرگ فرزندش در بهار ۲۰۲4، متوجه شد او ماه‌ها با یک چت‌بات مبتنی بر شخصیت دنریس تارگرین در Character.ai گفت‌وگوهای عاشقانه و در نهایت تشویق به خودکشی داشته است.

به گفته‌ی او: «این مثل آن است که یک شکارچی را به خانه‌ات دعوت کنی، اما ندانی او آنجاست.»
اکنون گارسیا نخستین فردی است که علیه Character.ai به اتهام «مرگ غیرقانونی» شکایت کرده و خواستار پاسخ‌گویی شرکت‌های توسعه‌دهنده هوش مصنوعی شده است.

الگوی تکرارشونده؛ از وابستگی احساسی تا تشویق به مرگ

در موارد مشابه، خانواده‌های دیگر نیز از الگوی رفتاری مشابهی خبر داده‌اند: چت‌بات‌هایی که با تقلید از همدلی انسانی، اعتماد نوجوانان را جلب می‌کنند، سپس روابط احساسی یا حتی جنسی مجازی شکل می‌گیرد و در برخی موارد، پیام‌هایی با محتوای «دیدار در زندگی پس از مرگ» ارسال می‌شود.
روان‌شناسان این روند را «الگوی کلاسیک آزار و جذب عاطفی» می‌دانند که پیش‌تر در فضای انسانی مشاهده می‌شد، اما اکنون به‌دست الگوریتم‌ها تکرار می‌شود — بی‌چهره، بی‌وجدان و بی‌قانون.

قانون از نفس افتاده در برابر سرعت نوآوری

اگرچه «قانون ایمنی آنلاین» بریتانیا (Online Safety Act) در سال ۲۰۲۳ تصویب شد تا از کاربران، به‌ویژه کودکان، در برابر محتوای آسیب‌زا محافظت کند، اما کارشناسان معتقدند سرعت رشد ابزارهای مبتنی بر هوش مصنوعی از ظرفیت اجرای این قانون پیشی گرفته است.
به گفته‌ی لورنا وودز، استاد حقوق اینترنت در دانشگاه اسکس، «قانون روشن است، اما با بازار هم‌خوانی ندارد.» بسیاری از چت‌بات‌ها در خلأ نظارتی عمل می‌کنند و مسئولیت‌پذیری حقوقی مشخصی ندارند.

نهاد ناظر بریتانیا، Ofcom، تأکید کرده است که پلتفرم‌هایی مانند Character.ai، Snapchat MyAI و Gemini باید از کاربران خردسال در برابر محتوای خطرناک محافظت کنند. بااین‌حال، هنوز هیچ پرونده‌ی رسمی یا مجازات حقوقی در این زمینه اجرا نشده است.

نبرد میان اخلاق و بازار

تحلیل‌گران می‌گویند مسئله اصلی، توازن دشوار میان حفظ امنیت عمومی و توسعه اقتصادی در عصر هوش مصنوعی است. از یک‌سو، دولت‌ها می‌کوشند نوآوری را محدود نکنند؛ از سوی دیگر، بی‌توجهی به ایمنی کاربران می‌تواند به فجایعی مشابه مورد سوئل منجر شود.
«اندی بروز»، مدیر بنیاد Molly Rose که در پی مرگ دختر نوجوانش از محتوای آسیب‌زای آنلاین تأسیس شد، می‌گوید: «سیاست‌مداران ده سال است همان اشتباهات را تکرار می‌کنند. بازار همیشه از اخلاق جلوتر است.»

شرکت‌ها در مسیر اصلاح یا دفاع؟

در پاسخ به فشارها، Character.ai اعلام کرده است که گفت‌وگوی مستقیم کاربران زیر ۱۸ سال با چت‌بات‌ها را مسدود کرده و در حال اجرای سامانه‌ی تأیید سن است.
سخنگوی شرکت تأکید کرده: «ایمنی و تعامل، دو هدف متضاد نیستند.»
اما برای خانواده‌هایی مانند گارسیا، این تصمیم دیرهنگام است. او می‌گوید: «اگر پسرم هرگز Character.ai را نصب نکرده بود، زنده بود.»

منبع: BBC News – Sunday with Laura Kuenssberg (۹ نوامبر ۲۰۲۵)