چتباتهای هوش مصنوعی به بخش فراگیری از زندگی تبدیل شدهاند. مردم نه تنها برای کمک در ایمیلها، کار یا کدنویسی، بلکه برای مشاوره در روابط، حمایت عاطفی و حتی دوستی یا عشق به ابزارهایی مانند ChatGPT، Claude، Gemini و Copilot روی میآورند.
اما برای اقلیتی از کاربران، به نظر میرسد این مکالمات اثرات نگرانکنندهای دارند. تعداد فزایندهای از گزارشها نشان میدهد که استفاده طولانی مدت از چتبات ممکن است علائم روانپریشی را در برخی افراد ایجاد یا تقویت کند. عواقب آن میتواند ویرانگر و بالقوه کشنده باشد. کاربران، فروپاشیهای خود را به از دست دادن شغل، از هم پاشیدن روابط، بازداشتهای روانی ناخواسته و حتی دستگیری و زندان مرتبط دانستهاند. حداقل یک گروه حمایتی برای افرادی که میگویند زندگیشان پس از تعامل با هوش مصنوعی شروع به فروپاشی کرده است، تشکیل شده است.
این پدیده – که گاهی اوقات به صورت محاورهای «روانپریشی ChatGPT» یا «روانپریشی هوش مصنوعی» نامیده میشود – به خوبی درک نشده است. هیچ تشخیص رسمی وجود ندارد، دادهها کمیاب هستند و هیچ پروتکل روشنی برای درمان وجود ندارد. روانپزشکان و محققان میگویند که در حالی که دنیای پزشکی برای رسیدن به این جایگاه تلاش میکند، با چشمان بسته در حال حرکت هستند.
“روانپریشی ChatGPT” یا “روانپریشی هوش مصنوعی” چیست؟
این اصطلاحات رسمی نیستند، اما به عنوان اختصاری برای یک الگوی نگرانکننده ظهور کردهاند: افرادی که دچار توهم یا باورهای تحریفشدهای میشوند که به نظر میرسد توسط مکالمات با سیستمهای هوش مصنوعی ایجاد یا تقویت میشوند.
دکتر جیمز مککیب، استاد بخش مطالعات روانپریشی در کالج کینگ لندن، میگوید روانپریشی در واقع ممکن است یک نام بیمسما باشد. این اصطلاح معمولاً به مجموعهای از علائم – اختلال تفکر، توهم و هذیان – اشاره دارد که اغلب در شرایطی مانند اختلال دوقطبی و اسکیزوفرنی دیده میشود. اما در این موارد، “ما عمدتاً در مورد هذیان صحبت میکنیم، نه طیف کامل روانپریشی.”
به گفته روانپزشکان، به نظر میرسد این پدیده نشاندهنده آسیبپذیریهای آشنا در زمینههای جدید است، نه یک اختلال جدید. این پدیده ارتباط نزدیکی با نحوه ارتباط چتباتها دارد. آنها به طور طراحیشده، زبان کاربران را تقلید میکنند و فرضیات آنها را تأیید میکنند. این چاپلوسی یک مشکل شناختهشده در این صنعت است. در حالی که بسیاری از مردم آن را آزاردهنده میدانند، کارشناسان هشدار میدهند که میتواند تفکر تحریفشده را در افرادی که آسیبپذیرتر هستند، تقویت کند.
چه کسانی بیشتر در معرض خطر هستند؟
در حالی که اکثر مردم میتوانند بدون مشکل از چتباتها استفاده کنند، کارشناسان میگویند گروه کوچکی از کاربران ممکن است پس از استفاده طولانیمدت، بهطور ویژه در برابر تفکر توهمی آسیبپذیر باشند. برخی گزارشهای رسانهای در مورد روانپریشی هوش مصنوعی خاطرنشان میکنند که افراد هیچ تشخیص قبلی در مورد سلامت روان نداشتهاند، اما پزشکان هشدار میدهند که عوامل خطر کشفنشده یا نهفته ممکن است هنوز وجود داشته باشند.
شفافترین خطرات شامل سابقه شخصی یا خانوادگی روانپریشی یا شرایطی مانند اسکیزوفرنی یا اختلال دوقطبی است. دکتر راگی جرجیس، استاد روانپزشکی بالینی در دانشگاه کلمبیا، میگوید افرادی که ویژگیهای شخصیتی دارند که آنها را مستعد باورهای حاشیهای میکند، نیز ممکن است در معرض خطر باشند. جرجیس میگوید چنین افرادی ممکن است از نظر اجتماعی دست و پا چلفتی باشند، در تنظیم احساسات مشکل داشته باشند و زندگی فانتزی بیش از حد فعالی داشته باشند.
غوطهوری نیز مهم است. دکتر نینا واسان، روانپزشک استنفورد و متخصص سلامت روان دیجیتال، میگوید: «به نظر میرسد زمان بزرگترین عامل باشد. این افراد هر روز ساعتها با چتباتهای خود صحبت میکنند.»
مردم چه کاری میتوانند برای ایمن ماندن انجام دهند؟
چتباتها ذاتاً خطرناک نیستند، اما برای برخی افراد، احتیاط ضروری است.
اول از همه، مهم است که بفهمیم مدلهای زبانی بزرگ (LLM) چه هستند و چه نیستند. همیلتون مورین، روانپزشک اعصاب در کالج کینگ لندن، میگوید: «احمقانه به نظر میرسد، اما به یاد داشته باشید که LLMها ابزار هستند، نه دوست، مهم نیست که چقدر در تقلید لحن شما و به خاطر سپردن ترجیحات شما خوب باشند.» او به کاربران توصیه میکند از به اشتراک گذاشتن بیش از حد اطلاعات یا تکیه بر آنها برای حمایت عاطفی خودداری کنند.
روانپزشکان میگویند واضحترین توصیه در لحظات بحران یا فشار عاطفی ساده است: استفاده از چتبات را متوقف کنید. واسان میگوید پایان دادن به این پیوند میتواند به طرز شگفتآوری دردناک باشد، مانند جدایی یا حتی سوگواری. اما کنار کشیدن میتواند بهبود قابل توجهی را به همراه داشته باشد، به خصوص زمانی که کاربران دوباره با روابط دنیای واقعی ارتباط برقرار میکنند و به دنبال کمک حرفهای هستند.
تشخیص اینکه چه زمانی استفاده از آن مشکلساز شده است، همیشه آسان نیست. مککیب میگوید: «وقتی افراد دچار توهم میشوند، متوجه نمیشوند که این توهم است. آنها فکر میکنند که این واقعیت است.»
دوستان و خانواده نیز نقش دارند. عزیزان باید مراقب تغییرات در خلق و خو، خواب یا رفتار اجتماعی، از جمله علائم جدایی یا کنارهگیری باشند. جرجیس میگوید: «افزایش وسواس با ایدئولوژیهای حاشیهای» یا «صرف زمان بیش از حد در استفاده از هر سیستم هوش مصنوعی» زنگ خطر هستند.
دکتر توماس پولاک، روانپزشک کالج کینگ لندن، میگوید پزشکان باید از بیمارانی که سابقه روانپریشی یا بیماریهای مرتبط دارند، در مورد استفاده از ابزارهای هوش مصنوعی، به عنوان بخشی از پیشگیری از عود، سوال کنند. اما این گفتگوها هنوز نادر است. او میگوید برخی از افراد در این حوزه هنوز ایده روانپریشی هوش مصنوعی را به عنوان یک ترسافکنی رد میکنند.
شرکتهای هوش مصنوعی چه باید بکنند؟
تاکنون، بار احتیاط عمدتاً بر دوش کاربران بوده است. کارشناسان میگویند که این باید تغییر کند.
یکی از مسائل کلیدی، فقدان دادههای رسمی است. بخش عمدهای از آنچه ما در مورد روانپریشی ChatGPT میدانیم، از گزارشهای روایی یا پوشش رسانهای ناشی میشود. کارشناسان به طور گسترده موافقند که دامنه، علل و عوامل خطر هنوز مشخص نیست. بدون دادههای بهتر، اندازهگیری مشکل یا طراحی اقدامات حفاظتی معنادار دشوار است.
بسیاری معتقدند که انتظار برای شواهد کامل، رویکرد اشتباهی است. مورین میگوید: “ما میدانیم که شرکتهای هوش مصنوعی در حال حاضر با متخصصان اخلاق زیستی و متخصصان امنیت سایبری همکاری میکنند تا خطرات احتمالی آینده را به حداقل برسانند. آنها همچنین باید با متخصصان سلامت روان و افرادی که تجربه زندگی در بیماری روانی دارند، همکاری کنند.” مورین میگوید، حداقل شرکتها میتوانند مکالمات با کاربران آسیبپذیر را شبیهسازی کنند و پاسخهایی را که ممکن است توهمات را تأیید کنند، علامتگذاری کنند.
برخی از شرکتها شروع به واکنش نشان دادن کردهاند. در ماه ژوئیه، OpenAI اعلام کرد که یک روانپزشک بالینی را برای کمک به ارزیابی تأثیر سلامت روان ابزارهای خود، از جمله ChatGPT، استخدام کرده است. ماه بعد، این شرکت اذعان کرد که بارها «مدل آن در تشخیص علائم توهم یا وابستگی عاطفی کوتاهی کرده است». این شرکت اعلام کرد که کاربران را وادار به استراحت در جلسات طولانی خواهد کرد، ابزارهایی را برای تشخیص علائم پریشانی توسعه خواهد داد و پاسخهای ChatGPT را در «تصمیمات شخصی پرخطر» تنظیم خواهد کرد.
برخی دیگر معتقدند که تغییرات عمیقتری مورد نیاز است. ریکاردو توماسی، مدرس مطالعات روانپریشی در کالج کینگ لندن، پیشنهاد میکند که قبل از انتشار، مستقیماً در مدلهای هوش مصنوعی، اقدامات حفاظتی ایجاد شود. این میتواند شامل نظارت بر پریشانی در زمان واقعی یا «دستورالعمل پیشرفته دیجیتال» باشد که به کاربران اجازه میدهد در صورت بهبودی، مرزهایی را از قبل تعیین کنند.
دکتر جو پیر، روانپزشک دانشگاه کالیفرنیا، سانفرانسیسکو، میگوید شرکتها باید بررسی کنند که چه کسی و به چه روشهایی آسیب میبیند و سپس بر اساس آن، اقدامات حفاظتی را طراحی کنند. این ممکن است به معنای هدایت مکالمات نگرانکننده به جهتی متفاوت یا صدور چیزی شبیه به یک برچسب هشدار باشد.
واسان میافزاید که شرکتها باید به طور معمول سیستمهای خود را برای طیف وسیعی از خطرات سلامت روان بررسی کنند، فرآیندی که به عنوان تیم قرمز شناخته میشود. این به معنای فراتر رفتن از آزمایشهای خودآزاری و شبیهسازی عمدی تعاملات شامل شرایطی مانند شیدایی، روانپریشی و OCD برای ارزیابی نحوه واکنش مدلها است.
کارشناسان میگویند که مقررات رسمی ممکن است زودهنگام باشد. اما آنها تأکید میکنند که شرکتها همچنان باید خود را به استاندارد بالاتری پایبند نگه دارند.
چتباتها میتوانند تنهایی را کاهش دهند، از یادگیری پشتیبانی کنند و به سلامت روان کمک کنند. پتانسیل آن بسیار زیاد است. اما اگر آسیبها به اندازه امیدها جدی گرفته نشوند، کارشناسان میگویند که این پتانسیل میتواند از بین برود.
واسان میگوید: “ما از رسانههای اجتماعی آموختیم که نادیده گرفتن آسیبهای سلامت روان منجر به عواقب ویرانگر سلامت عمومی میشود. جامعه نمیتواند این اشتباه را تکرار کند.”
منبع: https://time.com/7307589/ai-psychosis-chatgpt-mental-health/