یوتیوب قادر به محافظت از کودکان در برابر محتوای مضر نیست
تحقیقات مؤسسه غیرانتفاعی آمریکایی «پروژه شفافیت فناوری» نشان میدهد که الگوریتم توصیه محتوای یوتیوب برای کودکان و نوجوانان امن نیست و امکان هدایت آنها به مسیری خطرناک را دارد.
به گزارش گروه علمی-فناوری خبرگزاری سلامت(طبنا):پژوهشگران مؤسسه غیرانتفاعی آمریکایی «پروژه شفافیت فناوری» (Technology Transparency Project) به تازگی در پژوهشی کاربردی تلاش کردند تا دریابند که میان سطح خشونت و استفاده از اسلحه در بین آمریکاییها با توصیههای ویدئویی یوتیوب ارتباطی وجود دارد یا چنین چیزی درست نیست.
نتایج تأمل برانگیز این پژوهش کاربردی نشان داد که الگوریتمهای یوتیوب حجم وسیعی از محتوای نامناسب مانند تصاویر بمباران، تیراندازی در مدرسه و ... را در معرض دید کاربران کودک و نوجوان قرار میدهد.
پژوهشگران مذکور برای انجام آزمایش مورد اشاره، حسابهایی با رفتار کاربری مشابه نوجوانان پسر ۹ و ۱۴ ساله ایجاد کردند که بخشی از آنها رفتاری همچون افراد معمولی و گروهی دیگر کنشگری مانند طرفداران ویدیئوهای مرتبط با بازیهای ویدئویی داشتند.
محققان برای آزمایش فرضیه خود با تعدادی از حسابهای ایجاد شده، محتوای توصیه شده توسط یوتیوب را باز کردند اما در برخی شناسههای کاربری که ایجاد کرده بودند، بدون توجه از کنار توصیههای یوتیوب گذشتند، نکتۀ شگفتآور برای آنها پر شدن حسابهای پژوهشگران دستۀ اول از توصیههای مرتبط با محتوای خشونت آمیز دربارۀ موضوعاتی همچون تیراندازی در مدرسه و نحوه کار با سلاح گرم بود!
نتایج تحقیقات به وضوح نشان داد که برای افراد بیتوجه به توصیههای یوتیوب، حدود ۱۰ برابر کمتر از سایرین محتوای خشونتآمیز پیشنهاد میشود!
نکتۀ نگران کننده برای پژوهشگران موفقیت بیشتر چنین ویدئوهایی برای جذب مخاطب است! برای مثال محتوایی حاوی تصاویری از صحنههای تیراندازی در یک مدرسه که توسط محققان در این پژوهش بررسی شد، بالغ بر یک میلیون بار دیده شده بود!
کیتی پل، مدیر پروژه شفافیت فناوری، این رفتار را ناقض سیاستهای کلی یوتیوب میداند و اعتقاد دارد که امکان انحراف کودکان و نوجوانان به مسیری خطرناک از این طریق وجود دارد. وی همچنین پژوهش مذکور را مصداقی عینی از شکست یوتیوب در کنترل کیفیت محتوا تلقی میکند.
نکتۀ عجیب این است که سکوی اشتراک ویدئو کاربر محور یوتیوب بارها دربارۀ امنیت سرویس خود و الگوریتمهای ضدخشونت آن به کنگرۀ آمریکا، مردم و والدین اطمینان داده است!
سخنگوی یوتیوب در واکنش به این گزارش مدعی شده است: «در بررسی روششناسی این گزارش، نتیجهگیری قطعی برای ما دشوار است. به عنوان مثال، در این مطالعه آمار کلی ویدیوهایی که به حسابهای آزمایشی توصیه شدهاند و همچنین اطلاعاتی در مورد نحوه راهاندازی حسابهای آزمایشی ارائه نشده است.»
ولی پل در پاسخ به این ادعای سخنگوی یوتیوب تصریح کرد: «در گزارش ما صراحتاً آمده است که حساب برای کودکان نه ساله ایجاد شده است. صرف نظر از ابزار کنترلی والدین در یوتیوب، والدینی که نمیخواهند محتوای مضر به فرزندانشان توصیه شود، باید بدانند این شرکت راهی برای خاموش کردن الگوریتم فراهم نکرده است.»