هشدار وزیر علوم درباره آینده هوش مصنوعی؛ «دیکتاتوری نامرئی» در کمین آزادی انسان
حسین سیمایی، وزیر علوم، در چهارمین مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی (GFEAI ۲۰۲۶) در ریاض، گفت: توجه جدی به پیامدهای اخلاقی توسعه فناوری‌های نوین ضروری است.
وزیرعلوم در مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی درباره دیکتاتوریِ نامرئی حاصل از این علم هشدار داد. به گزارش گروه دانشگاه خبرگزاری تسنیم، حسین سیمایی‌صراف، وزیر علوم، تحقیقات و فناوری جمهوری اسلامی ایران، در چهارمین مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی (GFEAI 2026) در ریاض، با تأکید بر ضرورت توجه جدی به پیامدهای اخلاقی توسعه فناوری‌های نوین گفت: فناوری خنثی نیست و هوش مصنوعی نیز به خودی خود عادلانه عمل نمی‌کند؛ الگوریتم‌ها گاهی بیش از آنکه بسازند، تخریب می‌کنند و پلتفرم‌ها می‌توانند به جای توسعه، منشأ آسیب شوند. سیمایی با بیان اینکه «هوش مصنوعی می‌تواند کنترل بر داده‌ها را به کنترل بر انسان‌ها تبدیل کند»، افزود: حتی نظارت نیز باید محدودیت داشته باشد.
هرچه شفافیت و نظارت بر دولت‌ها و صاحبان قدرت بیشتر باشد، بهتر است؛ اما هنگامی که نظارت متوجه شهروندان عادی شود و رفتار، روابط و نیات آنان را دنبال کند، می‌تواند به نوعی «دیکتاتوری نامرئی» تبدیل شود. وزیرعلوم با اشاره به مسئولیت اخلاقی پلتفرم‌ها و توسعه‌دهندگان فناوری در قبال کاربردهای هوش مصنوعی تصریح کرد: امروز داده‌ها در اقداماتی به کار گرفته می‌شوند که حقوق بشر را نقض می‌کنند و حتی به کشته‌شدن کودکان می‌انجامند. این پرسش جدی مطرح است که آیا پلتفرم‌های هوش مصنوعی در قبال نحوه استفاده از فناوری‌های خود مسئولیتی دارند یا خیر؟
سیمایی افزود: بسیاری از چت‌بات‌ها از پاسخ‌دادن به پرسش‌هایی درباره خودکشی خودداری می‌کنند و این اقدام درستی است، اما در سوی دیگر، هوش مصنوعی می‌تواند برای شناسایی و هدف‌گیری دقیق انسان‌ها با موشک به کار گرفته شود. وی در همین زمینه به آنچه حمله به مدرسه‌ای در میناب و کشته‌شدن 168 دانش‌آموز در حین تحصیل خواند اشاره کرد و گفت برای یافتن راه‌حل این مسائل باید عمیقاً اندیشید. وزیرعلوم نابرابری را یکی دیگر از چالش‌های اساسی عصر هوش مصنوعی دانست و گفت: دانش و توانایی همواره شکاف‌هایی ایجاد کرده‌اند و هوش مصنوعی ممکن است این شکاف‌ها را بیش از هر فناوری پیشین گسترش دهد.
از این رو یک چارچوب اخلاقی نباید فقط به جلوگیری از آسیب محدود شود، بلکه باید دسترسی برابر را نیز تضمین کند. سیمایی تأکید کرد: کشورهای در حال توسعه باید این فرصت را داشته باشند که سامانه‌های هوش مصنوعی خود را متناسب با زبان‌ها و فرهنگ‌های خود ایجاد کنند و سازمان‌های بین‌المللی نیز در کمک به تحقق این هدف، مسئولیتی اخلاقی بر عهده دارند. فناوری باید در خدمت بشریت باشد و هوش مصنوعی باید آزادی انسان را گسترش دهد، نه اینکه آن را محدود کند.
وزیرعلوم در بخش دیگری از سخنان خود و در پاسخ به پرسشی درباره مهم‌ترین اقدام برای تقویت ظرفیت ایران در زمینه هوش مصنوعی مسئولانه گفت: اگر این پرسش پیش از ژوئن 2025 مطرح می‌شد، بدون تردید پاسخ من «سرمایه‌گذاری هدفمند و پایدار در بخش‌های آب و انرژی» بود و در گام دوم نیز بر تقویت همکاری‌ها در زیست‌بوم هوش مصنوعی ایران تأکید می‌کردم. وی افزود: ایران از مجموعه متنوعی از دانشگاه‌های توانمند، پژوهشگران برجسته، شرکت‌های دانش‌بنیان و نهادهای تخصصی سیاست‌گذاری و فنی برخوردار است. بنابراین باید این بخش‌ها را به یکدیگر نزدیک‌تر کرد و سازوکارهایی برای همکاری مؤثر، تبادل داده، استفاده مشترک از زیرساخت‌ها و تبدیل پژوهش‌های انباشته‌شده به راه‌حل‌های مسئولانه برای چالش‌های موجود ایجاد کرد.
سیمایی در پایان با تأکید بر تغییر اولویت‌های منطقه تصریح کرد: امروز معتقدم مهم‌ترین اولویت، نه فقط برای ایران بلکه برای کل منطقه، رفع اقدامات قهری یکجانبه و استقرار صلح در منطقه است. این تحریم‌ها غیراخلاقی‌اند و برقراری امنیت و صلح یک ضرورت اخلاقی است. حسین سیمایی وزیر علوم، تحقیقات و فناوری روز سه‌شنبه ۲۴ شهریورماه، در رأس هیأتی از جمهوری اسلامی ایران، به‌منظور شرکت در چهارمین مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی (GFEAI ۲۰۲۶) عازم ریاض، پایتخت عربستان سعودی شد.
این مجمع جهانی که در سال ۲۰۲۲ راه‌اندازی شد، پیش از این به میزبانی جمهوری چک، اسلوونی و تایلند برگزار شده است و از سال ۲۰۲۴ نیز از حمایت مالی مشترک اتحادیه اروپا برخوردار بوده است. چهارمین مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی (GFEAI ۲۰۲۶) از ۱۴ تا ۱۷ سپتامبر ۲۰۲۶ در ریاض، پایتخت عربستان سعودی، با همکاری یونسکو، سازمان داده و هوش مصنوعی عربستان و مرکز بین‌المللی پژوهش و اخلاق هوش مصنوعی (ICAIRE) برگزار می‌شود.
