یافته‌ای نگران کننده در مورد تاثیر هوش مصنوعی بر تعصب نژادی

یک مطالعه جدید نشان داده است که هوش مصنوعی می‌تواند نژاد افراد را از طریق اشعه ایکس تعیین کند، که تحقق این مسئله بدست پزشکان غیرممکن است، اما این قابلیت هوش مصنوعی این نگرانی را ایجاد می‌کند که ناخودآگاه تعصب نژادی را تحریک کند.

در این مطالعه که در مجله The Lancet Digital Health منتشر شده است، هوش مصنوعی با استفاده از صد‌ها هزار تصاویر اشعه ایکس همراه با جزئیات و ویژگی‌های بیمار، آموزش داده شد.

یک تیم بین المللی از محققان ایالات متحده، کانادا و تایوان برنامه خود را بر روی تصاویر اشعه ایکس آزمایش کردند. این برنامه قبلاً اطلاعاتی از این تصاویر نداشته است.

هوش مصنوعی توانست سابقه و نژاد بیمار را از طریق تصاویر اشعه ایکس با دقت شگفت انگیزی پیش بینی کند. این برنامه به دقت ۹۰ درصدی دست یافته است.

دانشمندان هنوز نمی‌دانند چرا هوش مصنوعی حتی اگر اطلاعاتی نداشته باشد، در تعیین نژاد بیمار از روی تصاویر اشعه ایکس بسیار دقیق است.

بر اساس این مطالعه، حتی با تمرکز بر روی قسمت کوچکی از بدن، این برنامه مبتنی بر هوش مصنوعی توانست نژاد بیمار را با دقت شگفت انگیزی مشخص کند.

این یافته‌ها نگرانی‌هایی را در میان دانشمندان ایجاد می‌کند، زیرا می‌ترسند هنگام بررسی تصاویر از طریق نرم‌افزار هوش مصنوعی، عواملی مانند نادیده گرفته شدن علائم بیماری در سیاه‌پوستان، سوگیری نژادی غیرعمدی ایجاد شود.

دانشمندان می‌گویند که این مطالعه به بسیاری از سوالات پاسخ نداده، اما در حال حاضر باید به طورجدی به تعصب نژادی در سیستم‌های هوش مصنوعی توجه کرد.

منبع: الحره