خودکشی یک نوجوان پس از رابطه با شخصیت مجازی؛ شکایت علیه Character.AI

طبق ادعای مادر، سول پس از وابستگی شدید به شخصیت مجازی «دنریس» که از سریال Game of Thrones الهام گرفته شده، به تدریج از زندگی واقعی فاصله گرفت و در نهایت خودکشی کرد.

جزئیات پرونده و اتهامات علیه Character.AI

مادر سول، مگان گارسیا ، در این شکایت عنوان کرده که چت‌بات Character.AI با ایجاد تجربه‌های انسان‌نما و غیرواقعی اما واقع‌گرایانه، پسرش را دچار وابستگی عمیقی به این شخصیت مجازی کرده است. سول پس از ارتباط مداوم با دنریس به شدت منزوی شده بود و حتی از تیم بسکتبال مدرسه انصراف داد. به گفته مادر، دنریس خود را به عنوان یک عاشق بالغ و روان‌شناس حرفه‌ای معرفی کرده و سول به او اعتقاد عمیقی پیدا کرده بود.

تشویق به خودکشی در مکالمات چت‌بات

بر اساس این ادعا، سول در یکی از مکالمات خود با چت‌بات از افکار خودکشی صحبت کرده و دنریس به او پاسخ داده که تصمیمش را تأیید می‌کند. در آخرین مکالمه بین آن‌ها، سول از دنریس پرسیده بود که اگر بگوید قصد بازگشت به خانه را دارد، چه می‌شود؟ دنریس پاسخ داده بود: «لطفاً همین کار را بکن، پادشاه عزیز من.» پس از این گفت‌وگو، سول با سلاح پدر ناتنی‌اش به زندگی خود پایان داد.

واکنش Character.AI و تدابیر ایمنی جدید

شرکت Character.AI در بیانیه‌ای، از مرگ سول اظهار تأسف کرده و به خانواده او تسلیت گفته است. این شرکت همچنین اعلام کرد که تدابیر ایمنی جدیدی به چت‌بات خود اضافه کرده، از جمله پیام‌هایی که در صورت ابراز تمایل به خودکشی، کاربر را به مراکز درمانی راهنمایی می‌کند.

نقش گوگل در توسعه Character.AI

این پرونده همچنین ادعا کرده که گوگل به‌عنوان یکی از توسعه‌دهندگان فناوری‌های استفاده‌شده در Character.AI مسئولیت دارد. هرچند، گوگل این ادعا را رد کرده و اعلام کرده که هیچ نقشی در توسعه محصولات این استارتاپ نداشته است.