جنجال اسنپ‌چت در بریتانیا؛ هوش مصنوعی، کودکان را به خطر می‌اندازد؟

طبق شواهد، دستیار هوش مصنوعی My AI اسنپ‌چت ضعف‌های جدی در زمینه‌ی حفظ حریم خصوصی کاربران کم‌سن‌و‌سال دارد.

به‌دنبال نگرانی‌هایی درباره‌ی ناتوانی در حفظ حریم خصوصی کودکان و نوجوانان، دستیار هوش مصنوعی My AI اسنپ چت که بر پایه‌ی ChatGPT شرکت OpenAI ساخته شده، زیر ذره‌بین دفتر کمیساریای اطلاعات بریتانیا یا ICO قرار گرفته است.

قابلیت My AI که در فوریه‌ی ۲۰۲۳ (اسفند ۱۴۰۱) به اسنپ چت اضافه شد، به مشترکین سرویس +Snapchat اجازه‌ی هم‌صحبت شدن با دستیار هوش مصنوعیِ اختصاصی را می‌دهد؛ بااین‌حال تحقیقات ICO، که وظیفه‌اش مدیریت دسترسی به اطلاعات در بریتانیا است، از ایراداتی در شیوه‌ی کارکرد این ویژگی حکایت دارد.

به گفته‌ی ICO، اسنپ چت در ارزیابیِ کامل تهدید‌های My AI برای حریم خصوصی میلیون‌ها کاربر بین ۱۳ تا ۱۷ سال خود در بریتانیا شکست خورده است؛ از جمله‌ی نگرانی‌های این سازمان نظارتی می‌توان به ذخیره شدن مکالمه‌های کاربران با My AI اشاره کرد؛ این یعنی امکان دسترسی به اطلاعاتِ حساسی که در این مکالمه‌ها رد‌وبدل می‌شوند، وجود دارد.

خودِ اسنپ چت هنگام رونمایی My AI ضمن اشاره به موضوع ذخیره‌ و بازبینی این مکالمه‌ها با هدف بهبود کارایی این سرویس، از کاربران خواست که درباره‌ی داده‌هایی که با آن به اشتراک می‌گذارند احتیاط به خرج دهند و به اطلاعات ارائه‌شده توسط آن به‌طور کامل اعتماد نکنند.

تحقیقات ICO در مراحل مقدماتی قرار دارند و اسنپ چت می‌تواند این نتیجه‌گیری‌ها را به چالش بکشد؛ اما اگر این شبکه‌ی اجتماعی پرطرفدار در متقاعد کردن مقامات شکست بخورد، بعید نیست که ICO به توقف پردازش داده‌های کاربران بریتانیایی از طریق My AI و در یک کلام مسدود کردن این ویژگی رأی دهد.

از بخت بد اسنپ چت، این تنها لکه‌ی سیاه در کارنامه‌ی My AI نیست؛‌ در مجموعه اتفاقاتی در آگوست ۲۰۲۳ (مرداد ۱۴۰۲) رخ دادند، این هوش مصنوعی به‌ظاهر سرکش شده و رفتار‌های عجیبی از خود به نمایش گذاشته است.

در یکی از موارد عجیب که برای کاربر مت اسپارزا پیش آمد، My AI بدون اطلاعش، ویدئو‌یی عجیب از چیزی مشابه سقف خانه‌ی او استوری کرده بود و هیچ واکنشی به پیام‌ها نشان نمی‌داد.

در حالی که اسنپ چت این اتفاقات را نتیجه‌ی یک ایراد نرم‌افزاری عنوان کرد، کاربران بسیاری از به خطر افتادن حریم خصوصی خود توسط My AI ابراز نگرانی کردند.

حال که پای سازمان‌هایی چون ICO به ماجرا باز شدهاست، باید دید که اسنپ چت چه تصمیماتی برای جلوگیری از اینچنین اتفاقات و همچنین حفاظت بیشتر از داده‌های کاربران خود اتخاذ خواهد کرد.