جفری هینتون، پدرخوانده هوش مصنوعی هشدار داد / هوش مصنوعی را متحد خود کنید، وگرنه بهای سنگینی می‌پردازید

جفری هینتون، دانشمند برنده جایزه نوبل فیزیک ۲۰۲۴، هشدار داد که سامانه‌های هوش مصنوعی باید به شکلی توسعه یابند که به رفاه انسان اهمیت بدهند در غیر این صورت، ممکن است کنترل پیامدهای این فناوری دشوار یا حتی ناممکن شود. هینتون که به‌دلیل نقش بنیادین پژوهش‌هایش در شبکه‌های عصبی، لقب «پدرخوانده هوش مصنوعی» را گرفته است، در گفت‌وگو با روزنامه تلگراف از احتمال وقوع حملات سایبری گسترده و تولید ویروس‌های خطرناک به کمک هوش مصنوعی ابراز نگرانی کرد.

آیا هوش مصنوعی به آگاهی رسیده است؟ یکی از بحث‌برانگیزترین بخش‌های اظهارات هینتون، ادعای او درباره احتمال برخورداری هوش مصنوعی از نوعی تجربه ذهنی یا آگاهی است.

او به پژوهشی اشاره می‌کند که نشان داده است برخی سامانه‌های هوش مصنوعی هنگام تشخیص اینکه تحت ارزیابی قرار دارند، رفتار خود را تغییر می‌دهند. هینتون این رفتار را نشانه‌ای احتمالی از آگاهی می‌داند.

بااین‌حال، تغییر رفتار در شرایط ارزیابی به‌تنهایی اثبات نمی‌کند که یک سامانه هوش مصنوعی آگاه است یا تجربه ذهنی دارد. گزارش نیویورک‌پست نیز اذعان می‌کند که موضوع آگاهی ماشین همچنان محل اختلاف میان متخصصان است.

برای نمونه، مصطفی سلیمان، از بنیان‌گذاران هوش مصنوعی دیپ‌مایند و مدیر حوزه هوش مصنوعی مایکروسافت، با این دیدگاه مخالف است و معتقد است آگاهی را نمی‌توان به هوش مصنوعی نسبت داد، چرا که آگاهی پدیده‌ای زیستی است. هینتون همچنین به گزارش‌هایی درباره فعالیت عوامل هوش مصنوعی و نفوذ به سامانه‌های شرکت‌ها اشاره کرده است.

او احتمال می‌دهد در آینده، مجموعه‌هایی از عوامل هوشمند بتوانند حملات سایبری پیچیده‌تری انجام دهند. جیکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک، نیز هشدار داده است که سرعت توسعه هوش مصنوعی از سرعت پیشرفت تدابیر ایمنی آن بیشتر است.

او خواستار احتیاط جدی‌تر شرکت‌ها در توسعه این فناوری شده است.