هوش مصنوعی در خدمت صلح یا تشدید منازعات؛ ضرورت تدوین قواعد جهانی

حسین فرطوسی روز دوشنبه ۲۷ مهر در سمینار «هوش مصنوعی، حقوق بشر و صلح؛ مخاطرات و فرصت‌ها» که در دانشگاه شهید بهشتی برگزار شد، با اشاره به اهمیت بررسی رابطه هوش مصنوعی با امنیت و صلح جهانی اظهار داشت: یکی از محورهای مهم مباحث بین‌المللی، بررسی تأثیر این فناوری بر حفظ امنیت و صلح جهانی است. وی افزود: هوش مصنوعی ظرفیت‌هایی برای پیشگیری از بحران‌ها و کمک به حل‌وفصل مسالمت‌آمیز اختلافات دارد، اما در عین حال ممکن است در گسترش نفرت‌پراکنی، تشدید منازعات و آسیب‌رساندن به انسان‌ها نیز به کار گرفته شود.

دبیرکل کمیسیون ملی یونسکو با بیان اینکه آثار هوش مصنوعی بر همگرایی و تعامل میان جوامع نیازمند بررسی جدی است، گفت: نباید صرفاً بر ظرفیت‌های مثبت این فناوری تمرکز کرد، بلکه باید مخاطرات و پیامدهای منفی آن را نیز به‌دقت ارزیابی کرد. ضرورت تعیین مسئولیت حقوقی هوش مصنوعی در جنگ‌ها فرطوسی با اشاره به چالش‌های استفاده از هوش مصنوعی در منازعات مسلحانه اظهار داشت: در این حوزه، پرسش اساسی این است که سامانه‌های هوش مصنوعی تا چه اندازه می‌توانند اهداف را به‌درستی شناسایی کنند و چگونه می‌توان از بروز خطاهای فاجعه‌بار جلوگیری کرد.

همچنین باید روشن شود که مسئولیت پیامدهای ناشی از استفاده از این سامانه‌ها بر عهده چه اشخاص یا نهادهایی است. وی ادامه داد: تجربه‌های تلخ جنگ و آسیب‌دیدن مراکز غیرنظامی، از جمله مدرسه میناب و اداره‌کل میراث فرهنگی لرستان، ضرورت بررسی دقیق عملکرد سامانه‌های هوشمند و مسئولیت استفاده‌کنندگان از آنها را برجسته می‌کند.

دبیرکل کمیسیون ملی یونسکو تأکید کرد: در بررسی چنین مواردی، باید مشخص شود که آیا اطلاعات نادرست مبنای تصمیم‌گیری بوده، آیا سامانه با خطا مواجه شده یا عوامل دیگری در وقوع حادثه نقش داشته‌اند. صرف طرح احتمال خطای فناوری نمی‌تواند جایگزین بررسی مستقل و تعیین مسئولیت شود.

فرطوسی با تأکید بر اهمیت این موضوع در حقوق بین‌الملل گفت: باید مشخص شود استفاده از هوش مصنوعی در عملیات نظامی تحت چه شرایطی مجاز است و چه محدودیت‌ها و الزاماتی باید برای حفاظت از غیرنظامیان و رعایت حقوق بشردوستانه بین‌المللی در نظر گرفته شود. هوش مصنوعی و ظرفیت پیشگیری از بحران‌ها وی یکی از کاربردهای مهم هوش مصنوعی را کمک به شناسایی و پیشگیری از بحران‌ها دانست و افزود: برای مثال، در زمینه منازعات مرتبط با منابع آب، سامانه‌های هوشمند می‌توانند با تحلیل داده‌ها، نشانه‌های بروز تنش را شناسایی و اطلاعات لازم را برای تصمیم‌گیری در اختیار نهادهای مسئول قرار دهند.

دبیرکل کمیسیون ملی یونسکو ادامه داد: این ظرفیت تنها به اختلافات میان کشورها محدود نمی‌شود و در سطح ملی نیز می‌توان از ابزارهای هوش مصنوعی برای شناسایی زمینه‌های بروز منازعه و کمک به مدیریت اختلافات استفاده کرد. فرطوسی با طرح این پرسش که تا چه اندازه از ظرفیت‌های هوش مصنوعی برای پیشگیری از بحران‌ها استفاده شده است، اظهار داشت: باید بررسی شود که آیا سامانه‌های هوشمند توانسته‌اند در پیشگیری از بحران‌ها و ارائه راهکارهای مناسب برای حل مسالمت‌آمیز اختلافات نقش مؤثری ایفا کنند.

وی خاطرنشان کرد: این مسائل از جمله موضوعاتی است که در نشست‌های تخصصی بین‌المللی مطرح شده و لازم است در برنامه‌ریزی‌های ملی نیز مورد توجه قرار گیرد. همکاری بین‌المللی؛ ضرورت حکمرانی هوش مصنوعی فرطوسی با تأکید بر مسئولیت مشترک دولت‌ها در حکمرانی هوش مصنوعی گفت: برخی از چالش‌های این فناوری ماهیتی فرامرزی دارند و حل آنها مستلزم همکاری جدی میان کشورهاست.

وی تقویت همکاری‌های چندجانبه، توسعه تفاهم‌نامه‌های بین‌المللی و مشارکت فعال در تدوین قواعد حکمرانی جهانی هوش مصنوعی را از جمله اقداماتی دانست که باید در دستور کار قرار گیرد. دبیرکل کمیسیون ملی یونسکو با اشاره به نقش جامعه دانشگاهی و حقوقی کشور در این زمینه افزود: پژوهشگران و دانشجویان، با هدایت استادان، باید درباره ابعاد اخلاقی و حقوقی هوش مصنوعی مطالعه کنند و برای تدوین چارچوب‌های حقوقی، تنظیم توافق‌نامه‌های همکاری و توسعه سازوکارهای ملی و بین‌المللی، پیشنهادهای کاربردی ارائه دهند.

وی تبدیل اصول اخلاقی به ادبیات تخصصی و فراهم‌کردن زمینه اجرای عملی آنها را از ضرورت‌های این حوزه برشمرد و گفت: این مسیر باید هم در سطح ملی و هم در عرصه بین‌المللی، با مشارکت دانشگاه‌ها و نهادهای تخصصی دنبال شود. فرطوسی در پایان از برگزارکنندگان نشست و استادان، پژوهشگران و دانشجویان فعال در این حوزه قدردانی کرد و ابراز امیدواری کرد که این گفت‌وگوها زمینه‌ساز گسترش پژوهش‌های تخصصی و مشارکت مؤثرتر جامعه علمی کشور در شکل‌دهی به آینده حکمرانی هوش مصنوعی باشد.