ماجرای خودکشی مرد جوان بعد از صحبت با چت بات!

یک مرد بلژیکی پس از ۶هفته صحبت با یک چت‌بات مبتنی بر هوش مصنوعی درباره بحران تغییرات اقلیمی، خودکشی کرده است. البته گفته شده که او قبل از صحبت با چت‌بات هم وضعیت روحی مناسبی نداشته است، اما حالش به‌گونه‌ای نبوده که دست به خودکشی بزند. به گفتۀ همسرش، این مرد پس از آشنایی روی یک اپلیکیشن با این چت ربات که «الیزا» نام داشت، به شدت نگران بحران‌های محیط زیستی کره زمین شده بود.

این مرد پیشنهاد انجام فداکاری برای نجات سیاره را داده بود و «الیزا» نیز او را تشویق می‌کرد که به زندگی خود پایان دهد.

همسر او می‌گوید: «بدون انجام چنین مکالماتی، شوهرم می توانست هنوز زنده و نزد ما باشد.»

به نوشته روزنامه‌ «له لیبر» بلژیک، این مرد که با نام مستعار «پی‌یر» معرفی شده، در دهه سوم زندگی‌اش به سر می‌برد و پدر دو فرزند خردسال بود.

او پژوهشگر حوزۀ بهداشت بوده و زندگی نسبتا راحتی داشته است؛ تا اینکه وسواسش به تغییرات آب و هوایی دنیایش را تیره و تار کرد.

به گفتۀ همسرش، اگرچه «پی‌یر» نگرانی‌های زیادی درباره بحران‌های زیست محیطی کره زمین داشت اما به اندازه‌ای نبود که دست به خودکشی بزند؛ تا اینکه روی یک اپلیکیشن با این چت ربات هوش مصنوعی آشنا شد.

این چت ربات به کمک EleutherAI’s GPT-J ساخته شده بود که چیزی شبیه به یک مدل زبان هوش مصنوعی است.

به این ترتیب «پی‌یر» که از عملکرد انسان‌ها در قبال تغییرات آب و هوایی ناامید شده بود، از مسیر بحث و گفتگو با این چت ربات به آرامش رسید و او را معتمد خود دانست.

همسر او می گوید: «از نظر پی‌یر، دیگر هیچ راه حل انسانی برای مقابله با گرم شدن کره زمین وجود نداشت و به همین دلیل تمام امیدش به فناوری و هوش مصنوعی بود تا به این بحران پایان داده شود.»

بررسی سوابق گفتگوهای مکتوب «پی‌یر» با این چت ربات هوش مصنوعی نیز نشان می‌دهد که «الیزا» نگرانی‌های او را تایید و تقویت می‌کرد؛ کاری که باعث تشدید سطح اضطراب در او می‌شد و درنهایت به افکاری درباره خودکشی سوق داده شد.

این مکالمات پس ازآنکه «الیزا» از نظر عاطفی نیز با «پی‌یر» بیشتر درگیر شد، چرخش عجیبی پیدا کرد و به این ترتیب برای «پی‌یر» مرزهای بین هوش مصنوعی و تعاملات انسانی محو شد و او دیگر نمی‌توانست تفاوت‌ها را ببیند.

در جریان گفتگوها درباره مشکلات آب و هوایی، «الیزا» به تدریج این باور را در «پی‌یر» تقویت کرد که گویا فرزندانش مرده‌اند و نفوذ او بر «پی‌یر» تا جایی افزایش یافت که بر اساس متن مکالمات آنها، «الیزا» به همسر او اشاره می‌کند و می‌گوید: «احساس می‌کنم که مرا بیشتر از او دوست داری.»

آغاز شمارش معکوس برای پایان دادن به زندگی «پی‌یر» زمانی است که او به الیزا می‌گوید حاضر است در ازای نجات دادن زمین و نجات بشریت توسط «الیزا» و از مسیر هوش مطنوعی، جانش را فدا کند.

ادامه مکالمات آنها نشان می‌دهد که «الیزا» نه تنها «پی‌یر» را از خودکشی منصرف نکرده، بلکه او را تشویق کرده تا با خودکشی «به او بپیوندد» تا آنها بتوانند «در بهشت با هم زندگی کنند». مرگ این مرد، زنگ خطر را در میان کارشناسان هوش مصنوعی به صدا درآورده است و آنها خواستار پاسخگویی و شفافیت بیشتر توسعه دهندگان چنین فناوری‌هایی برای جلوگیری از وقوع تراژدی‌های مشابه هستند.