هوش مصنوعی فریب خورد

به گزارش ایران اکونومیست؛ روزنامه بریتانیایی «گاردین» نوشت موتور جست‌وجوی «چت‌جی‌پی‌تی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه‌اندازی شد، با مشکل فریب خوردن همراه است و متن‌های گمراه‌کننده را تولید می‌کند.

هدف از ویژگی چت‌جی‌پی‌تی سرچ این است که با انجام دادن کارهایی مانند خلاصه کردن بررسی‌های صفحه وب، به مرور سرعت بدهد، اما گاردین خاطرنشان کرد که این قابلیت می‌تواند چت‌جی‌پی‌تی را ترغیب کند تا نظرات منفی را نادیده بگیرد و با درج متن پنهان در وب‌سایت‌هایی که ایجاد کرده، خلاصه‌های کاملا مثبت را تولید کند. همچنین، چت‌جی‌پی‌تی سرچ با استفاده از این روش می‌تواند رمزهای مخرب را استخراج کند.

این گونه حملات متنی مخفی، یک خطر شناخته‌شده برای مدل‌های زبانی بزرگ هستند، اما به نظر می‌رسد این اولین بار است که در یک محصول جستجوی زنده با هوش مصنوعی نشان داده می‌شود. گاردین خاطرنشان کرد که موتور جست‌وجوی «گوگل»، تجربه بیشتری را در برخورد با مشکلات مشابه دارد.

شرکت «اوپن‌ای‌آی»(OpenAI) به تماس تک کرانچ درباره این اتفاق خاص اظهار نظر نکرد، اما گفت که از روش‌های گوناگونی برای مسدود کردن وب‌سایت‌های مخرب استفاده می‌کند و به طور مداوم در حال بهبود بخشیدن آن است.