دفعه بعد که احیاناً احساس ناخوشی کردید، بهتر است پیش از رفتن به سراغ چت‌بات‌های هوش مصنوعی برای فهمیدن مشکلتان، قدری بیشتر فکر کنید؛ زیرا هوش مصنوعی ممکن است نه‌تنها مفید نباشد، بلکه اوضاع را بدتر کند. شاهد این مدعا، مطالعه‌ای موردی در ایالت واشنگتن آمریکا است. دانشمندان در این پژوهش، وضعیت مردی به ظاهر سالم را توصیف کرده‌اند که پس از مشاوره با چت‌جی‌پی‌تی، خود را تا مرز مسمومیت و بیماری روانی برد.

به‌گزارش آی‌اف‌ال‌ساینس، داستان از این قرار است که مرد ۶۰ ساله‌ای بدون هیچ سابقه‌ی پزشکی یا روان‌پزشکی، به اورژانس مراجعه کرد و از اینکه به دست همسایه‌اش مسموم شده، ابراز نگرانی کرد. اما هیچ علامت جسمانی مشکوکی به‌جز تشنگی شدید و شکاکیت نسبت به آب، در او دیده نشد. کادر درمان در گزارش خود نوشتند که بیمار دچار «پارانویا نسبت به آب» شده است.

علت تمام مشکلات، تلاش بیمار برای کاهش مصرف نمک بود

در ۲۴ ساعت اول، وضعیت روانی بیمار به سرعت وخیم‌تر شد؛ پارانویا و توهمات شنیداری و دیداری شدت گرفت و تلاش برای فرار به بستری اجباری در بخش روان‌پزشکی منجر شد. کم‌آبی شدید می‌تواند موجب هذیان و توهم شود، اما مشکل اصلی این مرد عمیق‌تر بود. پس از تزریق مایعات و الکترولیت‌ها، مشخص شد بیمار رژیم گیاه‌خواری بسیار محدودی داشته و دچار کمبودهای شدید ریزمغذی‌ها، از جمله ویتامین سی، بی۱۲ و فولیت بوده است.

افزون‌بر تشنگی و پارانویا، علائمی مانند وخامت پوست با آکنه‌های تازه و لکه‌های قرمز روی صورت، مشکلات خواب شامل خستگی مفرط و بی‌خوابی و همچنین آتاکسی، یا از‌دست‌دادن تعادل و مشکلات گفتاری و بلع، بروز کرده بود. این مجموعه علائم، نشان‌دهنده وضعیتی پیچیده و جدی بود.

علت مشکلات، تلاش بیمار برای کاهش مصرف نمک بود. او پس از مطالعه درباره‌ی اثرات منفی سدیم کلرید (نمک خوراکی)، تصمیم گرفت نمک را از رژیم غذایی‌اش حذف کند. هدف او قابل‌درک بود، اما متأسفانه اشتباه بزرگی رخ داد: او فقط می‌خواست کلرید را حذف کند، نه سدیم کلرید را. این اشتباه فاجعه‌بار بود.

بیشتر بخوانید

پژوهشگران مغز کاربران چت‌جی‌پی‌تی را بررسی کردند و به نتایجی نگران‌کننده رسیدند
07 04 04مطالعه '3
ادعای جنجالی: هوش مصنوعی در تشخیص بیماری‌ها از پزشک‌ها بهتر است
09 04 04مطالعه '2
وقتی چت‌جی‌پی‌تی درمانگر بهتری است؛ آینده سلامت روان در دستان هوش مصنوعی؟
09 12 03مطالعه '5
ChatGPT در آزمون پزشکی موفق عمل می‌کند اما نمی‌توان به توصیه‌های پزشکی آن اعتماد کرد
17 01 02مطالعه '2

مرد مذکور به مدت سه ماه سدیم کلرید را با سدیم برومید جایگزین کرد، ماده‌ای که پس از مشورت با ChatGPT از اینترنت تهیه کرده بود. پزشکان توضیح دادند که او پس از مشورت با هوش مصنوعی، به اشتباه گمان می‌کرد کلرید می‌تواند با برومید جایگزین شود. اما این توصیه از نظر تغذیه‌ای فاجعه‌بار است. کلرید، ماده‌ای معدنی و حیاتی است که بدن به آن نیاز دارد، اما برومید سمی است و مصرف زیادش باعث تهوع، استفراغ، بی‌اشتهایی، مشکلات پوستی و اختلالات روانی می‌شود.

به‌گفته‌ی شورای اطلاعات غذایی اروپا، کلرید یکی از مواد معدنی اصلی است که به‌میزان چشمگیری موردنیاز بدن است و به طور طبیعی، در غذاهای مختلف وجود دارد. اما برومید، سمی است و مصرف زیادش مشکلاتی جدی ایجاد می‌کند. در اوایل قرن بیستم، برومید مسئول حدود یک دوازدهم از موارد بستری روان‌پزشکی بود، اما پس از ممنوعیت استفاده در داروهای بدون نسخه در سال ۱۹۷۵، موارد مسمومیت کاهش یافت.

میزان برومید در خون بیمار، ۱۷۰۰ میلی‌گرم بر لیتر بود، یعنی ۲۳۳ برابر بیشتر از حد مجاز برای افراد سالم. این مقدار بالا، دلیل اصلی مشکلات ذهنی او بود. خبر خوب اینکه پس از قطع مصرف این نمک سمی خانگی و گذشت حدود سه هفته، علائم بیمار بهبود یافت. اما نحوه‌ی وقوع حادثه بیش از خود آن نگران‌کننده است، زیرا نشان می‌دهد استفاده‌ی نادرست از هوش مصنوعی می‌تواند به عوارض سلامتی جبران‌ناپذیری منجر شود.

بیمار هنگام تصمیم به حذف کلرید از رژیم غذایی خود احتمالاً با ChatGPT 3.5 یا 4.0 مشورت کرده بود. اگرچه محققان نمی‌دانند محتوای گفت‌وگو دقیقاً چه بوده است، وقتی از ChatGPT 3.5 درباره‌ی جایگزین کلرید پرسیدند، پاسخی دریافت کردند که برومید را نیز شامل می‌شد. هرچند پاسخ تأکید داشت که «زمینه اهمیت دارد»، هشدار بهداشتی مشخصی وجود نداشت و درباره‌ی علت جایگزینی نیز پرسشی نشد، دقیقاً برعکس روشی که یک پزشک واقعی عمل می‌کند.

نتیجه‌ی اخلاقی داستان روشن است: به هوش مصنوعی و برنامه‌های مشابه برای مشاوره پزشکی اعتماد نکنید و همچنین، هرگز بدون مشورت با پزشک سراغ موادی مثل برومید نروید.

مطالعه موردی در نشریه Annals of Internal Medicine: Clinical Cases منتشر شده است.