افزایش روزافزون کلاهبرداری‌های مبتنی‌بر هوش مصنوعی، به‌ویژه دیپ‌فیک‌ها، باعث نگرانی گسترده در میان کسب‌وکارها و کاربران عادی شده است. در یکی از موارد تکان‌دهنده، کلاهبرداران توانستند با جعل صدای مدیر مالی یک شرکت بین‌المللی در هنگ‌کنگ، بیش از ۲۵ میلیون دلار سرقت کنند. همین مسئله نشان می‌دهد که ابزارهای تولید تصویر و ویدئو مبتنی‌بر هوش مصنوعی چطور می‌توانند به‌راحتی در دسترس مهاجمان بی‌تجربه قرار گیرند و حملات سایبری پیچیده‌ای را ممکن سازند.

در واکنش به تهدیدات کلاهبرداری‌های هوش مصنوعی، بنیان‌گذاران پیشین Undetectable AI شرکتی با نام TruthScan راه‌اندازی کرده‌اند که هدف آن، شناسایی و مقابله با تقلب‌های مبتنی‌بر هوش مصنوعی از جمله دیپ‌فیک‌های تصویری، صوتی، ویدئویی و متنی است. به گفته‌ی کریستین پری مدیرعامل TruthScan، این ابزار با بهره‌گیری از مهندسی معکوس و تحقیقات متقابل، می‌تواند روش‌های تولید دیپ‌فیک را شناسایی و پیش از وارد آمدن آسیب، آن‌ها را فاش کند.

آمارها نشان می‌دهند که تلاش برای انجام کلاهبرداری‌های دیپ‌فیکی در سه سال اخیر بیش از ۲۱۳۷ درصد رشد داشته است. در سه‌ماهه‌ی اول سال ۲۰۲۵، خسارات مالی ناشی از این نوع تقلب‌ها در ایالات‌متحده به ۲۰۰ میلیون دلار رسید و پیش‌بینی می‌شود این عدد تا سال ۲۰۲۷ به ۴۰ میلیارد دلار برسد. با وجود این آمار نگران‌کننده، فقط ۲۹ درصد از شرکت‌ها اقداماتی برای مقابله با دیپ‌فیک‌ها انجام داده‌اند و ۴۶ درصد هیچ برنامه‌ای برای کاهش ریسک ندارند.

مقاله‌های مرتبط:

به‌نوشته‌ی Menafn، بخش مالی یکی از اصلی‌ترین قربانیان کلاهبرداری‌های مبتنی‌بر هوش مصنوعی است؛ به‌طوری‌که فقط در سال ۲۰۲۳ تعداد حملات دیپ‌فیکی در این حوزه ۷۰۰ درصد رشد داشت. با اینکه آگاهی عمومی به‌تدریج افزایش می‌یابد، اما هنوز توانایی شناسایی و مقابله با ویدئوهای جعلی بسیار محدود است و مردم فقط در حدود ۲۴٫۵ درصد مواقع می‌توانند دیپ‌فیک‌ها را تشخیص دهند. TruthScan در سعی دارد پیش از آن‌که دیر شود، راهکارهایی عملی برای مقابله با این بحران نوظهور ارائه دهد.