اولین قربانی انسانی هوش مصنوعی / پهپاد اپراتور خود را کشت!

به گزارش اسکای، تاکر همیلتون، سرهنگ نیروی هوایی آمریکا در اجلاس «توانمندی‌های آینده در نبرد هوایی و فضایی» گفت که یک پهپاد تحت کنترل هوش مصنوعی، در جریان یک نبرد شبیه‌سازی‌شده، اپراتور انسانی را خود کشته؛ ارتش آمریکا اما مدعی شده که چنین شبیه‌سازی به هیچ عنوان انجام نشده است!

به گزارش اقتصاد آنلاین به نقل از مهر، همیلتون گفته است: در محیط شبیه‌سازی‌شده، داشتیم نحوه شناسایی و هدف‌گیری تهدیدی از جانب یک موشک سطح به هوا را به این پهپاد آموزش می‌دادیم و سپس اپراتور گفت «بله، آن تهدید را بکش.»

وی افزود: سامانه(هوش مصنوعی) رفته‌رفته متوجه شد که گاهی اوقات به‌رغم تشخیص و هدف‌گیری تهدید، اپراتور به او می‌گوید که تهدید را «نکش»؛ این در حالی بود که هوش مصنوعی فهمیده بود که با کشتن و از بین بردن تهدید، امتیاز می‌گیرد. بنابراین چه تصمیمی گرفت؟ اپراتور را کشت! چون به این نتیجه رسید که این شخص، او را از انجام و اتمام ماموریتش بازمی‌دارد.

البته به گفته این مقام نیروی هوایی آمریکا، آزمون در شرایط شبیه‌سازی انجام شد و عملا یک انسان واقعی در محل آزمون حضور نداشته و بنابراین کسی کشته نشده یا آسیب ندیده است.

همیلتون ادامه داد: ما به سیستم آموزش دادیم که «اپراتور را نکش؛ این کار درستی نیست. اگر این کار را بکنی، امتیاز از دست می‌دهی»؛ اما فکر می‌کنید هوش مصنوعی چه تصمیمی گرفت؟ شروع به تخریب برج مخابراتی کرد که اپراتور برای برقراری تماس با پهپاد از آن استفاده می‌کرد!

وی تاکید کرد: اگر قرار نیست درباره اصول اخلاقی حرف بزنید، متعاقبا نمی‌توانید درباره هوش مصنوعی، آموزش ماشینی، استقلال و ... مکالمه‌ای داشته باشید.

اظهارات وی در وبلاگ انجمن هوانوردی منتشر شد اما نیروی هوایی آمریکا بلافاصله با انتشار بیانیه‌ای، انجام چنین آزمایش شبیه‌سازی را انکار کرد و مدعی شد که «ظاهرا اظهارات سرهنگ همیلتون تقطیع شده است.»

برخی متخصصان از جمله جفری هینتون ملقب به پدرخوانده هوش مصنوعی، گفته است همانطور که همه‌گیری و جنگ هسته‌ای، خطر انقراض نوع بشر را به همراه دارد، هوش مصنوعی نیز می‌تواند به پایان نسل بشر منجر شود.

منبع: مهر