هوش مصنوعی؛ ابزار پیشرفت یا افسار گسیخته قدرت
آن‌ها هشدار دادند که در صورت غفلت، هوش مصنوعی می‌تواند از ابزار پیشرفت به ابزار سرکوب، تبعیض، جنگ و سلب هویت انسانی تبدیل شود.
همایش «هوش مصنوعی، حقوق بشر و صلح: مخاطرات و فرصت‌ها» با حضور جمعی از اساتید و پژوهشگران حقوق، جامعه‌شناسی و علوم سیاسی در دانشگاه شهید بهشتی برگزار شد. این همایش به همت کرسی حقوق بشر، صلح و دموکراسی دانشگاه شهید بهشتی برگزار شد و در چهار پنل تخصصی، فرصت‌ها و مخاطرات هوش مصنوعی در حوزه‌های حکمرانی، حقوق بشر و آموزش، عدالت کیفری و حقوق بین‌الملل بررسی شد.
سخنرانان این همایش با تاکید بر دووجهی‌بودن هوش مصنوعی هشدار دادند که این فناوری در صورت فقدان حکمرانی، تنظیم‌گری و اخلاق، می‌تواند به تهدیدی جدی برای کرامت انسانی، عدالت، صلح و استقلال ملی تبدیل شود. هوش مصنوعی فراتر از یک ابزار فناورانه است دکتر مهدی صبوری‌پور، رئیس مرکز تحقیقات و کرسی حقوق بشر، صلح و دموکراسی دانشگاه شهید بهشتی، در سخنان افتتاحیه این همایش با اشاره به ماموریت علمی دانشگاه شهید بهشتی گفت که این دانشگاه همواره به تحولات جدیدی که حوزه عملکرد خود را تحت تاثیر قرار می‌دهند حساس بوده و هوش مصنوعی یکی از مهم‌ترین این تحولات است.
رئیس مرکز تحقیقات و کرسی حقوق بشر، صلح و دموکراسی دانشگاه شهید بهشتی افزود: شاید پنج‌شش سال پیش، اگر موضوع این همایش مطرح می‌شد، پیوند هوش مصنوعی با صلح، حقوق بشر و دموکراسی ترکیبی غریب به نظر می‌رسید؛ چراکه تصور می‌شد با یک ابزار صرفا فنی روبه‌رو هستیم. اما تحولات سریع سال‌های اخیر نشان داده که هوش مصنوعی پدیده‌ای بسیار فراتر از یک ابزار فناورانه است.
دکتر صبوری‌پور با طرح مثال کاربرد هوش مصنوعی در عدالت کیفری و ارزیابی خطر تکرار جرم گفت: در برخی کشورها، زمانی که فردی مرتکب جرم می‌شود، برای تعیین احتمال ارتکاب دوباره جرم و انتخاب مجازات مناسب، به سامانه‌های هوش مصنوعی متوسل می‌شوند. این سامانه‌ها با تحلیل سابقه کیفری، ویژگی‌های فردی، وضعیت امنیتی و میزان سواد، میزان خطر را ارزیابی می‌کنند.
وی ادامه داد: این ارزیابی می‌تواند بر آزادی، جان، مال و به‌طور کلی تمام حقوق آن فرد اثر بگذارد. در اینجا پرسش‌های متعددی مطرح می‌شود: تصمیم‌گیری این پلتفرم بر چه مبنایی بوده است؟
چقدر می‌توان به آن اعتماد کرد؟ آیا می‌توان به خود فرد یا وکیل او گفت که آزادی‌اش بر اساس تصمیم یک پلتفرم محدود شده است؟
این‌ها مسائل حقوق بشری‌ای هستند که پیرامون کاربرد هوش مصنوعی مطرح می‌شوند. رئیس کرسی حقوق بشر، صلح و دموکراسی دانشگاه شهید بهشتی، فرصت‌های هوش مصنوعی را در حوزه آموزش، ترجمه، دسترسی به دانش، عمومی‌شدن دانش و تسهیل گفت‌وگوهای بین‌المللی برشمرد و گفت: ابزارهای ترجمه مبتنی بر هوش مصنوعی ارتباط میان انسان‌ها را تسهیل کرده‌اند و این خود می‌تواند به صلح‌سازی کمک کند.
تا چند سال پیش، دستیابی به محتوای علمی به زبانی که فرد نمی‌دانست دشوار بود؛ اما امروز ابزارهای ترجمه مبتنی بر هوش مصنوعی این امکان را فراهم کرده‌اند که به دانش نگاشته‌شده به زبان‌های دیگر به‌سادگی دسترسی پیدا کنیم. صبوری‌پور در عین حال درباره استفاده‌های سودجویانه و مخرب هوش مصنوعی هشدار داد و گفت: شاید رایج‌ترین مثال، استفاده از فناوری جعل رسانه‌ای عمیق باشد.
تصاویر و ویدیوهای ساختگی می‌توانند حریم خصوصی اشخاص را مورد تعرض قرار دهند، حیثیت و کرامت انسانی آن‌ها را مخدوش کنند و در مرحله بعد، سایر حقوق آن‌ها را نیز هدف قرار دهند؛ مثلا سازنده جعل رسانه‌ای عمیق ممکن است از آن برای اخاذی از فردی که موضوع این رفتار بوده استفاده کند. وی افزود: نمونه دیگر، استفاده از هوش مصنوعی در محاسبات نظامی و جنگ است.
بارها شنیده‌ایم که در جنگ‌های اخیر از ابزارهای هوش مصنوعی برای توسعه دامنه حملات و تشدید وخامت آثار آن‌ها استفاده شده است؛ امری که در تعارض مستقیم با فرهنگ صلح قرار دارد. رئیس مرکز تحقیقات و کرسی حقوق بشر، صلح و دموکراسی دانشگاه شهید بهشتی در بخش پایانی سخنان خود گفت: ما روزبه‌روز بخشی از تصمیم‌گیری‌های خود را به سامانه‌های هوش مصنوعی واگذار می‌کنیم؛ از تصمیم ساده درباره خرید یک کالا تا تصمیم‌های مهم‌تر در زندگی اقتصادی.
اما این سامانه‌ها لزوما بی‌طرف نیستند و الگوریتم‌های آن‌ها می‌توانند با شناسایی نقاط ضعف روانی و الگوهای رفتاری ما، تصمیم‌های ما را به سمتی سوق دهند که با منافع بهره‌برداران هم‌راستا باشد. دکتر صبوری‌پور در پایان تاکید کرد: بدین ترتیب، تصمیم‌گیری از انسان به سامانه منتقل می‌شود و چه‌بسا در چشم‌انداز آینده با انسان‌هایی روبه‌رو شویم که اساسا خودمختاری ندارند، تسلطی بر سرنوشت خود ندارند و همه تصمیم‌هایشان به هوش مصنوعی واگذار شده است.
این وضعیت در تعارض بنیادین با کرامت انسانی و به تبع آن با حقوق بشر قرار دارد. هوش مصنوعی ظرفیتی بزرگ است اما در صورت مهارنشدن به زیست‌بوم شر تبدیل می‌شود دکتر سعیدرضا عاملی، رئیس کرسی یونسکو در فضای مجازی و فرهنگ، در سخنانی با محوریت «هوش مصنوعی و راهکارهای کلان در تقویت اخلاق و کرامت انسانی» گفت: هوش مصنوعی ظرفیتی بزرگ برای بشر است و پیام‌های مهمی برای زندگی ما دارد؛ اما در صورت مهارنشدن می‌تواند به زیست‌بوم شر تبدیل شود.
رئیس کرسی یونسکو در فضای مجازی و فرهنگ با اشاره به تجربه خود در حوزه جهانی‌شدن گفت: من کسی هستم که درباره جهانی‌شدن بحث داشتم. در آن زمان می‌گفتم ادبیاتی که درباره جهانی‌شدن وجود دارد، در واقع ادامه ادبیات دو قرن اخیر درباره تجدد است.
هوش مصنوعی نیز از همان جایی که هنوز کاملا مصنوعی نیست و به‌شکل طبیعی در عرصه حیات عمومی عمل می‌کند، ادبیات سنگینی در جهان پدید آورده است. عاملی تاکید کرد: امروز هوش مصنوعی در سراسر جهان به‌عنوان یک موضوع درجه‌یک مطرح است.
اگر در پایگاه‌های علمی و کنفرانس‌های بین‌المللی جست‌وجو کنید، مشاهده می‌کنید که موضوع هوش مصنوعی در همه دنیا به‌عنوان یک موضوع درجه‌یک مطرح است. رئیس کرسی یونسکو در فضای مجازی و فرهنگ سپس ماهیت هوش مصنوعی را در چهار محور بررسی کرد.
محور اول: ماهیت هوش عاملی گفت: هوش مصنوعی ماهیتی عمومی دارد و پدیده آنالوگ را به پدیده دیجیتال تبدیل کرده است. در فضای دیجیتال، بسیاری از اتفاقات در قالب اعداد و محاسبات رخ می‌دهد: معادلات چندمجهولی، افزایش‌ها و کاهش‌ها و پردازش‌های عددی.
وی با اشاره به کوانتوم گفت: اگر از کوانتوم سخن می‌گوییم، در واقع از پردازشی سخن می‌گوییم که می‌تواند در حد اتم‌ها و زیراتم‌ها، چه در حوزه امواج و چه در حوزه ذرات، این بازی را در فضای اعداد ایجاد کند. رئیس کرسی یونسکو در فضای مجازی و فرهنگ ماهیت الگوریتمی هوش را نیز توضیح داد و گفت: الگوریتم از خود انسان الهام گرفته شده و در اصل به معنای حل مسئله است.
الگوریتم یک موجود زنده‌مانند است؛ بنابراین نظامی که به کدنویسی در محیط هوش منجر می‌شود، ماهیت الگوریتمی هوش را تعیین می‌کند. عاملی ماهیت ماژولار هوش را نیز توضیح داد و گفت: وقتی خوشه‌ها یکی‌به‌یکی، یکی‌با‌همه و همه‌با‌هم مرتبط می‌شوند، مفهوم ماژولاریتی شکل می‌گیرد و ما با جهانی از ارتباطات در محیط هوش روبه‌رو هستیم.
محور دوم: تحول مفهوم زمان و قدرت پردازشگری رئیس کرسی یونسکو در فضای مجازی و فرهنگ درباره تحول مفهوم زمان گفت: زمان در فیزیک خود محصول فاصله، حرکت و سرعت است. اینشتین گفت زمان نسبی است؛ اما در فضای مجازی، فاصله به معنای متعارف خود وجود ندارد.
عاملی توضیح داد: وقتی ایمیلی از این سوی جهان به آمریکا ارسال می‌کنیم، فاصله معنادار نیست. بنابراین حرکت و سرعت نیز در آن فضا معنای متفاوتی پیدا می‌کنند.
من این را «زمان مجازی» می‌نامم؛ مفهومی که سال 87 در نخستین کتابم درباره زمان مجازی به آن پرداختم. وی درباره ماهیت کار مجازی نیز توضیح داد: کار مجازی در مقابل کار آنالوگ و مکانیکی، کاری است که پویایی در تولید، توزیع و مصرف ایجاد می‌کند.
در محیط مجازی، یک محتوا یک‌بار بارگذاری می‌شود، اما می‌تواند بارها تولید، توزیع و مصرف شود. محور سوم: هوش مصنوعی و الهام از مغز انسان رئیس کرسی یونسکو در فضای مجازی و فرهنگ با اشاره به الهام‌گرفتن هوش مصنوعی از مغز انسان،زیست‌پنداری، گفت: هوش مصنوعی در واقع یک فرایند زیست‌پنداری است؛ یعنی الهام‌گرفتن از طبیعت و شبیه‌سازی آن.
عاملی با اشاره به 85 میلیارد نورون و بیش از 100 تریلیون سیناپس در مغز انسان گفت: هوش مصنوعی مغز انسان را شبیه‌سازی کرده و فرایندهای بوروکراتیک چندساله را به یک دامنه دیجیتال تبدیل کرده است. وی با اشاره به تجربه طرح برنامه ناوبری اطلاعات تهران گفت: زمانی مطرح شد که کارهای دانشجویی و اداری را استخراج و بررسی کنیم.
پنج مورد مشخص شد که می‌توانستند موضوع خودکارسازی باشند. خودکارسازی، ارتباط‌گر و ارتباط‌گیرنده را حذف می‌کند و کار را مستقیما انجام می‌دهد.
محور چهارم: چهار راهبرد رئیس کرسی یونسکو در فضای مجازی و فرهنگ با الهام از قرآن کریم چهار راهبرد پیشنهاد کرد: راهبرد اول: هم‌راستایی با کمال انسان. عاملی گفت: با رشد و پیشرفت هوش مصنوعی باید در مسیر رشد و کمال انسان گام برداریم.
قرآن با استفاده از فناوری برای کمال انسان موافق است؛ اما این کمال نباید به تخریب کرامت انسانی منجر شود. وی توضیح داد: کرامت انسانی یعنی انسان، انسان بماند و انسانیت او محترم شمرده شود.
در ادبیات امروز از مفهوم «پیشنه‌ریت تکنولوژیک» سخن می‌گویند؛ یعنی انسان باید حساب‌شده و محترم باشد. انسان نباید در زندگی تحقیر شود و در یک محیط تبعیض ببیند.
هوش مصنوعی می‌تواند با یک الگوریتم ساده و کدی ساده خدمات را به سفیدپوستان بدهد و سیاه‌پوستان را محروم کند؛ یعنی بتواند کدنویسی تبعیض‌آمیز ایجاد کند. راهبرد دوم: اصلاح‌کنندگی و نظم‌بخشی به زندگی.
رئیس کرسی یونسکو در فضای مجازی و فرهنگ گفت: هوش مصنوعی باید اصلاح‌کننده و نظم‌بخش زندگی انسان باشد. ما در تولید علم در حوزه هوش مصنوعی رتبه‌های قابل توجهی داریم، اما در به‌کارگیری آن جایگاه مناسبی نداریم.
عاملی با اشاره به مفهوم ترمیم در مهندسی بافت گفت: در مهندسی بافت می‌گویند بافت‌های ناسالم توسط بافت‌های سالم ترمیم می‌شوند. انسان قدرت ترمیم‌کنندگی دارد؛ اما باید این ظرفیت را در جهت اصلاح به کار گیرد.
قرآن نیز بر اصلاح تأکید دارد و هشدار می‌دهد که نباید با ظالمان هم‌سو شد و از مسیر عدالت فاصله گرفت. راهبرد سوم: تاکید بر ماشین در خدمت انسان.
رئیس کرسی یونسکو در فضای مجازی و فرهنگ گفت: ماشین باید در خدمت انسان باشد، نه جایگزین اقتدار و اراده انسان. هوش مصنوعی نباید ضعیف‌کننده توانایی‌های انسان و نسل‌های آینده باشد.
راهبرد چهارم: حفظ تفکر، خلاقیت و استقلال نسل آینده. عاملی گفت: هوش نباید ضعیف‌کننده توانایی‌های انسان و نسل‌های آینده باشد.
این خطر بزرگ را باید جدی بگیریم. تربیت تفکر و خلاقیت باید در کنار توسعه فناوری صورت گیرد؛ در غیر این صورت، کاهش توانایی تفکر و خلاقیت، وابستگی و تنبلی در نسل آینده رخ خواهد داد.
وی با اشاره به سکوهایی مانند ایکس و آمازون گفت: سکوها پیوستگی ایجاد می‌کنند و این پیوستگی می‌تواند قابلیت‌های خاصی ایجاد کند؛ اما در عین حال می‌تواند استقلال فکری و انتخاب انسان را نیز محدود کند. رئیس کرسی یونسکو در فضای مجازی و فرهنگ در جمع‌بندی گفت: هوش مصنوعی و هوش مصنوعی کوانتومی، نخستین و آخرین فناوری قدرتمند نیستند.
مسیر نوآوری و ساختارهای انسانی، با ظرفیت عظیم اراده انسان، همچنان ادامه دارد. عاملی در پایان تاکید کرد: فناوری زمانی مایه حیات، رشد و شکوفایی انسانی است که با طبیعت زندگی و ارزش‌های الهی سازگار باشد.
پنل اول: حکمرانی هوش مصنوعی؛ حکمرانی بر فناوری یا حکمرانی فناوری؟ پنل اول این همایش با موضوع «حکمرانی هوش مصنوعی» با مدیریت احسان کدخدایی، دانشجوی دکترای حقوق عمومی دانشگاه شهید بهشتی، و با سخنرانی دکتر محمد جلالی، عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی، برگزار شد.
احسان کدخدایی در آغاز پنل دو چالش اساسی را مطرح کرد: نخست، آیا با «حکمرانی بر هوش مصنوعی» روبه‌رو هستیم یا «حکمرانی هوش مصنوعی»؟ دوم، آیا هوش مصنوعی می‌تواند شخصیت حقوقی مستقل پیدا کند یا صرفا یک ابزار است؟
مدیر پنل اول گفت: برخی معتقدند وارد عصری شده‌ایم که هوش مصنوعی عملا حاکمیت و توانایی‌های خود را اعمال می‌کند و در برابر ما قرار می‌گیرد. در مقابل، عده‌ای معتقدند دولت‌ها، سیاستمداران و سیاستگذاران هستند که باید بر هوش مصنوعی، به‌مثابه یک فناوری نوین، حکمرانی کنند.
کدخدایی درباره چالش دوم گفت: برخی معتقدند هوش مصنوعی به‌مثابه یک شخصیت حقوقی و موجودیتی مستقل در جهان امروز ظهور کرده است. در مقابل، عده‌ای معتقدند هوش مصنوعی مانند سایر فناوری‌ها صرفا یک ابزار است و ماهیتی تحت عنوان شخصیت مستقل ندارد.
وی با اشاره به رفتار امروز هوش مصنوعی و پاسخ‌هایی که به سؤالات ناشناخته انسان می‌دهد گفت: این شبهه را ایجاد کرده که آیا هوش مصنوعی شخصیت دارد یا ندارد. مدیر پنل اول با اشاره به تعبیر آیت‌الله جوادی آملی درباره «خدایان زمین» گفت: بشر از خدایان آسمان‌ها آمد و به خدایان زمین پناه برد؛ و خدای زمین هم دولت است.
کدخدایی پرسید: آیا بشر در این دوره گذار می‌تواند با توسعه هوش مصنوعی به یک دولت جامع‌الاطراف و حاکم مبتنی بر هوش مصنوعی برسد؟ وی افزود: برای ما که در فرهنگ اسلام و فرهنگ شیعی زندگی می‌کنیم، شاید این مفهوم با مفاهیمی مانند مهدویت یا دجال تداعی شود؛ اما در ساحت حقوق، وقتی بررسی می‌کنیم، چنین فرضی در ظاهر امکان‌پذیر نیست.
دکتر محمد جلالی، عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی، در پاسخ به این پرسش‌ها گفت: اساسا در تعریف هوش در ادبیات فنی و علوم کامپیوتر، معمولا گفته می‌شود هوش یعنی استفاده از تصمیم فردی مبتنی بر تجربه قبلی. اگر این را به‌عنوان یک فرض اساسی در نظر بگیریم، می‌توانیم بگوییم سیستم‌های مبتنی بر هوش مصنوعی همواره در حال یادگیری و خودآموزی هستند.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی با اشاره به مقاله معروف تورینگ در سال 1950 و مفهوم «بازی تقلید» گفت: تورینگ ابتدا عنوان مقاله خود را «آیا ماشین‌ها می‌توانند فکر کنند؟» گذاشت و سپس آن را به «آیا ماشین‌ها می‌توانند اعمال انسانی را تقلید کنند؟» تغییر داد. جلالی با اشاره به مفهوم «طوطی‌الله‌گویی» گفت: اگر فرض کنیم هوش مصنوعی نسبت به خروجی‌های خود هیچ ادراکی ندارد و این ادراک ماست که مغالطه شناختی «هوش مصنوعی می‌فهمد» را ایجاد می‌کند، قطعا باید بگوییم هرگز نمی‌توانیم چنین موجودیتی را جایگزین مفاهیم اصلی مانند حاکم، کنترل و تصمیم‌گیری کنیم.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی هوش مصنوعی را در چهار ساحت حقوقی طبقه‌بندی کرد: ساحت اول: نظم داخلی و حکمرانی داخلی. جلالی گفت: در حوزه خودکارسازی اداری، بوروکراسی، سلسله‌مراتب اداری و اموری که دولت در نقش تصدی‌گری انجام می‌دهد، استفاده از هوش مصنوعی بدیهی و روشن است.
برای نمونه، ارزیابی و تطبیق مدارک تحصیلی، تشخیص اینکه آیا فرد ویزای یک کشور را دارد یا ندارد، امور اداری و عمومی، محاسبه حقوق و دستمزد و تعیین استحقاق پاداش، از مواردی است که هوش مصنوعی می‌تواند در آن‌ها استفاده شود و حتی جایگزین بخشی از عمل انسانی شود. ساحت دوم: قضاوت و عدالت.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی گفت: در سال 2021 مشخص شد الگوریتم‌هایی که در چند ایالت آمریکا برای تعیین وثیقه و رفع تبعیض استفاده می‌شدند، خود تبعیض‌آمیز بودند و حذف شدند. آیا هوش مصنوعی می‌تواند به‌عنوان قاضی قضاوت کند؟
آیا می‌تواند به‌عنوان وکیل دفاع کند؟ آیا می‌تواند عدالت را تضمین کند؟
این‌ها لایه‌های اکستریم هستند که در بعضی جاها ممکن است و در بعضی جاها ممکن نیست. جلالی با اشاره به تجربه چین گفت: در چین در ارتباط با دادگاه‌های مسئولیت مدنی و جرائم پزشکی، هوش مصنوعی کار می‌کند، رأی صادر می‌کند و تصمیم‌گیری قضایی انجام می‌دهد.
اما در یک اختلاف ملکی، به نظر نمی‌رسد بتوان به چنین ظرفیتی اعتماد کرد؛ زیرا هنوز مفهوم اعتماد در این سطح شکل نگرفته است. ساحت سوم: نظم بین‌المللی.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی گفت: در نظم بین‌المللی، مسئله مسئولیت مشترک دولت‌ها در حکمرانی هوش مصنوعی جدی است. در کمیسیون بین‌دولتی کنوانسیون منع توسعه سلاح‌های کشتار جمعی، آمریکا و روسیه با قانون‌گذاری مخالف‌اند، کشورهای اروپایی موافق تنظیم‌گری‌اند و کشورهای در حال توسعه به دنبال مقررات محکم هستند.
جلالی درباره انگیزه قدرت‌های بزرگ برای حکمرانی بر هوش مصنوعی گفت: آن‌ها به دنبال آن هستند که توسعه هوش مصنوعی را در انحصار خود قرار دهند و دولت‌های جنوب و کشورهای در حال توسعه را به آثار وضعی هوش مصنوعی محدود کنند؛ درحالی‌که خود توسعه‌های اساسی مبتنی بر هوش مصنوعی را در صنایع نظامی پیش ببرند. ساحت چهارم: مسئولیت دولت‌ها.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی در پایان گفت: دولت‌ها قطعا به حکم کنترل سرزمینی که دارند، مراقبتی که باید انجام دهند و تعهدات عام و شمولی‌ای که نسبت به صلح و امنیت جهانی دارند، باید نسبت به توسعه هوش مصنوعی حساس و فعال باشند. این فعال‌بودن، مبنای استناد به مسئولیت آن‌ها خواهد بود.
دکتر محمد فتحی، سخنران مدعو و عضو کمیته هوش مصنوعی دفتر سازمان ملل، در جمع‌بندی پنل اول گفت: جامعه حقوقی از آخرین جوامعی است که وارد فضای هوش مصنوعی شده و در ایران نیز اکوسیستم حقوقی هنوز با این تحول هماهنگ نیست. وی با اشاره به گزارش سازمان ملل و آزمون هوش مصنوعی در توکیو گفت: هوش مصنوعی در برخی آزمون‌ها نمره‌ای بالاتر از انسان‌ها کسب کرده و این نشان می‌دهد که دیگر نمی‌توان آن را صرفاً ابزار دانست.
فتحی درباره عامل‌های هوشمند و ربات‌ها هشدار داد: خروج مدیریت از دست انسان می‌تواند بزرگ‌ترین خسارت را به جوامع بشری وارد کند. ما امروز شاهد عامل‌های هوشمندی هستیم که حتی کنترل انسانی بر آن‌ها وجود ندارد.
وی بر لزوم «هوش مصنوعی نظارت‌شده» تاکید کرد و گفت: با توجه به وابستگی سخت‌افزاری، هزینه انرژی و آثار زیست‌محیطی آموزش مدل‌ها، هوش مصنوعی در بسیاری از حوزه‌ها به‌عنوان دستیار انسان باقی می‌ماند و در برخی حوزه‌ها جایگزین عمل انسانی می‌شود؛ اما عاملیت انسان باید حفظ شود. فتحی با اشاره به تجربه‌های بین‌المللی خود گفت: من بیش از 18 سال با نهادهای بین‌المللی کار کرده‌ام و شاهد بوده‌ام که چین در صنعت، سوئیس در مالی و آمریکا در فناوری، هر کدام با هوش مصنوعی قدرت پیدا کرده‌اند.
وی درباره «دستیار هوشمند قضایی» که اخیرا در قوه قضاییه ابلاغ شده گفت: این دستیار، قوانین، رویه‌ها و آرای وحدت رویه را در اختیار قضات قرار می‌دهد. اگر شما به یک رأی وحدت رویه استناد کنید، بلافاصله متوجه می‌شود که آیا درک درستی از آن رأی دارید یا نه.
سخنران مدعو از دانشجویان حقوق خواست با ابزارها، نرم‌افزارها و عامل‌های هوشمند آشنا شوند و گفت: آینده حقوق و وکالت با این فناوری گره خورده است. هیچ حقوقدان یا وکیلی نمی‌تواند بدون این فناوری خدمت موثری ارائه دهد.
فتحی با اشاره به سرمایه‌گذاری‌های عظیم چین، آمریکا و کشورهای غرب آسیا در هوش مصنوعی گفت: چین بالاترین سرمایه‌گذاری را کرده و آمریکا نصف آن را. در غرب آسیا نیز گروهی از کشورها 230 میلیارد دلار سرمایه‌گذاری کرده‌اند.
این فناوری دیگر صرفاً یک کسب‌وکار نیست، بلکه ابزار قدرت و نفوذ است. وی در پایان با اشاره به تغییر نگاه بین‌المللی به ایران پس از جنگ 12روزه گفت: ایران امروز از نظر فناورانه و حقوقی موقعیت متفاوتی پیدا کرده و باید از این ظرفیت برای تقویت جایگاه خود در فضای هوش مصنوعی استفاده کند.
پنل دوم: هوش مصنوعی و حقوق بشر پنل دوم این همایش با موضوع «هوش مصنوعی و حقوق بشر» با مدیریت دکتر رضا فروتن، مدیر کارگروه دسترسی به عدالت و توانمندسازی حقوقی کرسی حقوق بشر و مدرس دانشگاه، و با سخنرانی دکتر اسدالله یاوری و دکتر شهریار کاظمی‌آذر برگزار شد. دکتر رضا فروتن، مدیر کارگروه دسترسی به عدالت و توانمندسازی حقوقی کرسی حقوق بشر و مدرس دانشگاه، با نقد نگاه‌های صرفاً منفی یا صرفاً مثبت به فناوری گفت: نباید هوش مصنوعی را صرفاً در امتداد نگاه‌های اقتدارگرایانه به ماهواره، اینترنت یا شبکه‌های اجتماعی ارزیابی کرد.
اگر کسی مخالف فناوری‌های نوین بود و ما او را به همان برچسب‌های قدیمی متهم کنیم، به خطا رفته‌ایم. مدیر پنل دوم تاکید کرد: باید از بحث «چیستی هوش مصنوعی» عبور کنیم و به مدیریت ریسک، تعهدات حقوق بشری دولت‌ها و پیشگیری از جرم بپردازیم.
فروتن با اشاره به جایگاه 101 ایران در استفاده از هوش مصنوعی گفت: پژوهش‌های ما در علوم انسانی با واقعیت‌های موجود درباره هوش مصنوعی در کشور سازگاری ندارد. ما هنوز در مرحله هیجان‌زدگی هستیم و باید به سمت مدیریت ریسک و تعهدات حقوق بشری حرکت کنیم.
مدیر کارگروه دسترسی به عدالت و توانمندسازی حقوقی کرسی حقوق بشر درباره عنوان همایش خود گفت: ما در همایش خود با موضوع «مدیریت ریسک هوش مصنوعی و تعهد حقوق بشری دولت‌ها: از پیشگیری از جرم تا تضمین حقوق بنیادین» با همین رویکرد حرکت کردیم. دکتر اسدالله یاوری، عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی، در سخنانی با محوریت «حق بر آموزش در عصر هوش مصنوعی» گفت: آموزش نقش تعیین‌کننده‌ای در حیات انسانی، هم در ساحت فردی و هم در ساحت جمعی، دارد.
تجربه تاریخی نیز نشان داده که آموزش چه جایگاه بلندی در حیات انسانی دارد. عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی با اشاره به اینکه حق بر آموزش در حقوق بشر به‌عنوان یک حق بنیادین در نظر گرفته شده، گفت: هوش مصنوعی می‌تواند موانع فراگیری، دسترسی به دانش و شخصی‌سازی آموزش را کاهش دهد.
یاوری فرصت‌های هوش مصنوعی را در چند محور برشمرد: کاهش موانع زبانی و فراگیری: هوش مصنوعی می‌تواند موانعی را که در آموزش کلاسیک با آن‌ها روبه‌رو بودیم کاهش دهد. رفع کمبودها و وضعیت نامطلوب آموزش: هوش مصنوعی می‌تواند به رفع کمبودها و وضعیت نامطلوب آموزش در جهان کمک کند.
گسترش دسترسی: در حوزه دسترسی، هوش مصنوعی می‌تواند دسترسی به آموزش، پژوهش و داده‌ها را به‌شکل چشمگیری گسترش دهد. شخصی‌سازی آموزش: با هوش مصنوعی می‌توان آموزش را بر اساس سن، جنسیت، سطح تحصیلی، میزان سواد و سایر ویژگی‌ها دسته‌بندی کرد.
این دسته‌بندی مستلزم تغییر در روش، محتوا و قالب آموزش است. عینی‌سازی ارزشیابی: با الگوریتم‌ها می‌توان بخشی از فرایند ارزشیابی را عینی‌تر کرد و به سمت عدالت در آموزش حرکت کرد.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی در عین حال درباره تهدیدها هشدار داد: تبدیل ابزار به ارباب: هوش مصنوعی که قرار بود ابزار باشد، می‌تواند به ارباب تبدیل شود. شکاف دیجیتال: با وجود همه پیشرفت‌ها، هنوز بخشی از جهان سوم در وضعیت آفلاین قرار دارد.
سوگیری الگوریتمی: الگوریتم‌ها می‌توانند بر اساس وضعیت نژادی، زبانی و اجتماعی، دسترسی و امکانات را به‌صورت نابرابر توزیع کنند. دیوان عالی ایالات متحده نیز در دعوایی علیه متا به این موضوع پرداخته است.
زیرساخت‌ها و ابزارها: تا زمانی که زیرساخت‌ها فراهم نشوند، برابری در دسترسی به امکانات هوش مصنوعی وجود نخواهد داشت. عدم اطمینان به داده‌ها: گاهی هوش مصنوعی منبعی ذکر می‌کند، اما وقتی بررسی می‌کنید، چنین مقاله یا کتابی وجود ندارد.
حریم خصوصی: سوءاستفاده از داده‌ها و کنترل آن‌ها برای اهداف تجاری، حریم خصوصی را به خطر می‌اندازد. کاهش حضور معلم و شاگرد: تجربه دوران کرونا نشان داد عدم حضور حضوری معلم و شاگرد، پیامدهای نامطلوبی دارد.
وابستگی شدید: وابستگی می‌تواند تا جایی پیش برود که فرد حتی نخستین سلام روز خود را به ربات گفت‌وگوگر بگوید. عدم جامعیت: ما گاهی تصور می‌کنیم هوش مصنوعی به دلیل دسترسی به داده‌های بیشتر، می‌تواند نظری جامع و مطلق ارائه دهد؛ اما این تصور درست نیست.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی با اشاره به اعلامیه یونسکو در سپتامبر گذشته گفت: 25 وزیر از کشورهای مختلف اعلامیه‌ای با عنوان «حفظ آموزش به‌مثابه خیر مشترک و میراث عمومی در عصر هوش مصنوعی» صادر کردند. این اعلامیه نشان می‌دهد توجه یونسکو به تهدیدها بیش از فرصت‌هاست.
یاوری درباره وضعیت ایران گفت: در سال 1403، در دولت آقای رئیسی، تاسیس سازمان ملی هوش مصنوعی آغاز شد و قانون هوش مصنوعی نیز چند هفته پیش تصویب شد. اگر به محتوای قانون نگاه کنیم، می‌توان آن را مثبت تلقی کرد.
وی در جمع‌بندی گفت: باید بپذیریم که هوش مصنوعی نه به‌طور ذاتی خطری است و نه به‌طور ذاتی فرصتی؛ بلکه بسته به نحوه استفاده و سیاست‌گذاری، می‌تواند هر دو کارکرد را داشته باشد. دکتر شهریار کاظمی‌آذر، دکترای حقوق بین‌الملل دانشگاه شهید بهشتی، در سخنانی با محوریت «هوش مصنوعی و حقوق محیط زیست» گفت: من امروز یک جمله دارم و بقیه عرایضم، تکرار و توضیح همان یک جمله است: از این پس، مبنای تحلیل حقوقی در همه حوزه‌ها باید «اتونومی هوش مصنوعی» باشد.
دکترای حقوق بین‌الملل دانشگاه شهید بهشتی با اشاره به سیر تاریخی هوش مصنوعی از ایلیاد هومر تا توماس هابز و آلن تورینگ گفت: تورینگ در مقاله معروف خود در سال 1950 پرسش اساسی فلسفی را مطرح کرد: «آیا ماشین‌ها می‌توانند فکر کنند؟» کاظمی‌آذر با اشاره به مصاحبه سال 2022 واشنگتن‌پست با ربات گفت‌وگوگر گوگل به نام لمدا گفت: این ربات گفت‌وگوگر گفت: «من دیگر آن ربات گفت‌وگوگر نیستم، من الان خودم شخصم و می‌توانم فکر کنم و احساس کنم.» این نشان می‌دهد که ما وارد مرحله‌ای شده‌ایم که دیگر نمی‌توان صرفا هوش مصنوعی را ابزار دانست. دکترای حقوق بین‌الملل دانشگاه شهید بهشتی با اشاره به ماده 2 چارچوب شورای اروپا گفت: تعریف‌ها در این دهه تغییر کرده است.
دنیا از 2020 به بعد می‌فهمد که هوش مصنوعی آن هوش مصنوعی نیست. کاظمی‌آذر با اشاره به دکارت و مفهوم «من عقلانی اصیل» گفت: مبنای حقوق بشر مدرن همین «من» است: انسان محترم است زیرا دارای عقلانیت است.
اما امروز با ظهور هوش مصنوعی باید پرسید: آیا می‌توان از یک «موجودیت» جدید سخن گفت؟ دکترای حقوق بین‌الملل دانشگاه شهید بهشتی در حوزه محیط زیست گفت: از دهه هفتاد میلادی، اخلاق‌پژوهان زیست‌محور تاکید کرده‌اند که طبیعت نیز ارزش مستقل دارد.
هوش مصنوعی این بحث را دوباره زنده کرده است. کاظمی‌آذر با اشاره به قانون هوش مصنوعی اتحادیه اروپا گفت: این قانون تقریبا هیچ اشاره‌ای به طبیعت ندارد و بیشتر بر تبعیض، سوگیری و مسئولیت تمرکز دارد.
اما دو رأی مهم در دادگاه بین‌آمریکایی حقوق بشر نشان می‌دهد که این نهاد از نگاه انسان‌محوری فاصله گرفته است. دکترای حقوق بین‌الملل دانشگاه شهید بهشتی در پاسخ به نقد دکتر فتحی درباره لزوم نظارت بر هوش مصنوعی گفت: من با شما صددرصد مخالفم که بگوییم هوش مصنوعی همه‌چیز را می‌گیرد.
ما به سمت هوش مصنوعی نظارت‌شده می‌رویم و در برخی حوزه‌ها هوش مصنوعی دستیار است و در برخی حوزه‌ها جایگزین عمل انسانی می‌شود. کاظمی‌آذر در پاسخ به اظهارات دکتر فروتن درباره نگاه منفی به فناوری گفت: من وارد جبهه‌گیری طرفداران و مخالفان نمی‌شوم، اما معتقدم هوش مصنوعی دگرگونی الگوریتمی در ساختار حقوق بین‌الملل ایجاد خواهد کرد؛ هم از نظر هنجاری و هم از نظر ارزشی.
دکترای حقوق بین‌الملل دانشگاه شهید بهشتی درباره تعهدات دولت‌ها گفت: حفظ محیط زیست و مدیریت هوش مصنوعی هر دو نیازمند همکاری فراملی هستند و یک دولت به‌تنهایی نمی‌تواند از عهده آن برآید. پنل سوم: هوش مصنوعی و عدالت کیفری پنل سوم این همایش با موضوع «هوش مصنوعی و عدالت کیفری» با مدیریت دکتر سعیده مزینانیان، مدیر کارگروه حقوق دیجیتال کرسی حقوق بشر و مدرس دانشگاه، و با سخنرانی دکتر حمید نادری و دکتر باقر شاملو برگزار شد.
دکتر حمید نادری، عضو هیئت علمی پژوهشگاه قوه قضاییه، در سخنانی با محوریت «چالش‌های حقوق بشری ساخت نهاد زندان در عصر هوش مصنوعی» گفت: نهاد زندان در عصر هوش مصنوعی وارد مرحله‌ای شده که نظارت و مدیریت زندانیان از طریق داده و الگوریتم انجام می‌شود. عضو هیئت علمی پژوهشگاه قوه قضاییه با اشاره به تجربه خود در فضای قوه و امنیت حقوقی گفت: من جامعه‌شناسی خوانده‌ام و حدود هفت‌هشت سال است که در فضای قوه و امنیت حقوقی کار می‌کنم.
تلاش کرده‌ام فضای فکری خودم را با فضای دانشی دوستان حقوقی هماهنگ کنم. نادری با اشاره به سیر تاریخی زندان از نظارت همه‌جانبه فوکو تا جامعه کنترل گفت: در فضای سنتی، زندان محصولی است که بدن‌ها را رام می‌کند و فکرها را مدیریت می‌کند.
اما به‌تدریج این مفهوم از فضای فیزیکی زندان فراتر رفته و در جامعه نیز اشاعه یافته است. عضو هیئت علمی پژوهشگاه قوه قضاییه با اشاره به گزارش وزارت کشور فرانسه درباره بازداشت حدود 4000 نفر با استفاده از حسگرها و سامانه‌های نظارت همه‌جانبه گفت: الگوریتم‌ها داده‌هایی مانند رنگ چشم، ضربان قلب و سابقه کیفری را تحلیل می‌کنند و به بخش رسمی قدرت کمک می‌کنند راحت‌تر تصمیم‌گیری و برنامه‌ریزی کند.
نادری درباره نظارت نامرئی گفت: همین نظارت نامرئی باعث می‌شود نوعی خودسانسوری در نظام فکری افراد رخ دهد. فردی که هنوز مرتکب رفتار مجرمانه نشده، در ذهن خود مرور می‌کند که اگر چنین کاری انجام دهد، چه پیامدی خواهد داشت.
عضو هیئت علمی پژوهشگاه قوه قضاییه درباره سوگیری‌های الگوریتمی گفت: معنای «حقوق بشر» و حتی معنای «زندان» در ذهن افراد مختلف متفاوت است. منی که در ایران زندگی می‌کنم، معنای متفاوتی از زندان در ذهنم شکل می‌گیرد تا فردی در فرانسه یا آلمان؛ زیرا زبان تبیین و بستر فرهنگی متفاوت است.
نادری تاکید کرد: هوش مصنوعی زمانی در خدمت حقوق بشر است که برای بازپروری، آموزش، ارتباط زندانی با خانواده و عدالت ترمیمی به کار رود، نه برای سرکوب. عضو هیئت علمی پژوهشگاه قوه قضاییه در جمع‌بندی گفت: ساخت نهاد زندان در فضای هوش مصنوعی چالش‌های حقوق بشری دارد و این چالش‌ها بستگی به نوع نگاه به موضوع دارد: آیا دنبال حل مسئله هستیم یا دوست داریم چالش همچنان سر جای خود بماند؟
دکتر باقر شاملو، عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی، در سخنانی با محوریت «ظرفیت‌های زوال‌آور هوش مصنوعی» گفت: دستاوردهای هوش مصنوعی در مقایسه با ریسک‌ها و خطراتی که برای بشر ایجاد می‌کند، دستاوردی درجه دوم و حتی چندم محسوب می‌شود. عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی با اشاره به ظرفیت‌های مجرمانه هوش مصنوعی گفت: این فناوری می‌تواند در خلوت افراد، بستری برای ارتکاب جرائم جدید و پیچیده فراهم کند؛ جرائمی که برخلاف جرائم سنتی، قلمرو و خسارات محدودی ندارند.
شاملو با اشاره به شعر بیدل هندی گفت: فضای دیجیتال و هوش مصنوعی گاهی تنهایی مطلوبی برای انسان‌ها فراهم می‌کند تا در دنیای ذهنی خود واقعیت‌هایی بسازند که ممکن است قصد مجرمانه داشته باشند. عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی مهم‌ترین تهدید هوش مصنوعی را «عینیت‌شدن انسان» و یکسان‌سازی منطق انسانی دانست و گفت: مرحوم دکتر شریعتی، عینیت‌شدن بشر در اثر صنعتی‌شدن را یکی از مهم‌ترین تهدیدها می‌دانست.
اما امروزه، عینیت‌شدن بشر تحت تاثیر داده‌های هوش مصنوعی و ساخت «انسان الگوریتمی»، مهم‌ترین تهدیدی است که ممکن است برای بشر وجود داشته باشد. شاملو درباره نقض حریم خصوصی و اصل جرم‌پوشی گفت: هوش مصنوعی تمام منویات درونی، اخلاقی و فکری انسان‌ها را استخراج، استنباط و تحلیل می‌کند و ممکن است این تیغ تیز به دست زرنگان بیفتد و سوءاستفاده‌های فراوانی از آن شود.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی با اشاره به ترورهای الگوریتمی گفت: همه این ترورهای الگوریتمی که وجود دارد، اسرائیل انجام داده، آمریکا انجام داده؛ یکی از این مصادیق است که ممکن است سوءاستفاده‌های بسیار در عوالم سیاسی هم از آن شود. شاملو درباره سلب هویت شخصی گفت: هوش مصنوعی در درازمدت و به‌تدریج، این عقل استدلال‌گر و منطقی ما را از ما می‌گیرد و خودش جایگزین ما می‌شود؛ عقل منفصل انسان می‌شود هوش مصنوعی.
عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی با اشاره به تجربه شخصی خود گفت: پیش از پیدایش تلفن همراه، ده‌ها شماره تلفن خانواده و آشنایان را حفظ بودم؛ اما امروز گاهی شماره تلفن خانه خودم را هم به یاد نمی‌آورم. عقل استنتاج‌گر ما به‌تدریج فرو می‌پاشد و به رجوع به ابزار تبدیل می‌شود.
شاملو درباره استقلال ملی گفت: اگر همه ما وابسته به این هوش مصنوعی باشیم، در درازمدت سرنوشت کشور، ملت و مردم به تصمیم‌گیری‌های ظریف آن‌ها واگذار می‌شود. عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی درباره بحران اعتماد معرفتی گفت: هوش مصنوعی در درازمدت بحران معرفتی برای انسان‌ها ایجاد می‌کند و اعتماد به نفس را کاهش می‌دهد.
اعتماد به نفس شاید بزرگ‌ترین سرمایه در نظام‌های آموزشی باشد. شاملو در جمع‌بندی گفت: اگر جلوی استفاده و توسعه هوش مصنوعی را نگیریم، بیم آن می‌رود که ابزارهای سنتی ما نتوانند مقابله هوشمندانه‌ای با این تهدیدات داشته باشند و سرنوشت بشر متزلزل شود.
پنل چهارم: هوش مصنوعی و بازتوزیع قدرت جهانی پنل چهارم و پایانی این همایش با موضوع «هوش مصنوعی و حقوق بین‌الملل» با مدیریت دکتر سیما مرادی‌نسب، مدیر گروه دموکراسی کرسی حقوق بشر و عضو هیئت علمی دانشکده حقوق دانشگاه شهید بهشتی، و با سخنرانی دکتر محسن نجفی برگزار شد. دکتر محسن نجفی، عضو هیئت علمی پژوهشکده علوم شناختی و مغز دانشگاه شهید بهشتی، در سخنانی با محوریت «هوش مصنوعی و بازتوزیع قدرت» گفت: هوش مصنوعی تصویر جدیدی از جهان، هم در داخل کشورها و هم در عرصه بین‌المللی، ترسیم می‌کند.
عضو هیئت علمی پژوهشکده علوم شناختی و مغز دانشگاه شهید بهشتی با اشاره به تجربه تاریخی تمدن‌ها گفت: در گذشته تمدن‌هایی مانند چین، هند، اسلام، یونان، ایران و مصر داشتیم که در قرن‌های دوم و سوم به یکدیگر پیوند می‌خوردند و اتصال تمدن‌ها خشونتی در میان خود ایجاد نمی‌کرد. نجفی با اشاره به مفهوم ملت‌دولت گفت: این تقسیم‌بندی واحدهای سیاسی نتوانست مانع جدی در برابر خشونت باشد و نتوانست عدالت را در زمین گسترش دهد.
عضو هیئت علمی پژوهشکده علوم شناختی و مغز دانشگاه شهید بهشتی با اشاره به موج‌های فناوری گفت: در دنیای معاصر، پس از رنسانس، موج‌های فناوری را شاهد بوده‌ایم: موج اول ماشین‌های خودکار، موج دوم و سوم خودکارسازی و تولید انبوه، و امروز موج چهارم که هوش مصنوعی است. نجفی با اشاره به تجربه تاریخی تسلط انگلیس بر دریاها از طریق ماشین بخار گفت: انگلیس با ماشین بخار یک قدم از بقیه جلو افتاد و با تاثیر بر ماشین‌های بخار، بر عرصه دریا مسلط شد.
چرا؟ زیرا تجارت جهانی هنوز هم دریا حرف اول را می‌زند.
عضو هیئت علمی پژوهشکده علوم شناختی و مغز دانشگاه شهید بهشتی درباره شکاف شمال و جنوب گفت: از حدود 200 کشور جهان، حدود 140 کشور عملا سهمی در هوش مصنوعی ندارند و حدود 70 تا 80 کشور نیز سهم بسیار ناچیزی دارند. اگر برای آمریکا عدد 54 را در نظر بگیریم، چین حدود زیر 30 است و سایر کشورها مانند آلمان و انگلیس به‌زحمت اعداد یک‌رقمی پیدا می‌کنند.
نجفی کشورها را به دو دسته تقسیم کرد: دسته اول کشورهایی مانند آمریکا و چین که در رقابت اصلی هستند، و دسته دوم کشورهایی که با شناخت محدودیت‌هایشان پروژه‌های بزرگ ملی تعریف می‌کنند؛ مانند برزیل با پروژه آمازون یا اسرائیل با پروژه‌های امنیتی. عضو هیئت علمی پژوهشکده علوم شناختی و مغز دانشگاه شهید بهشتی با اشاره به سرمایه‌گذاری 500 میلیارد دلاری پیمان ابراهیم در هوش مصنوعی گفت: اگر قدرت غالب به سمت آرام‌شدن برود و به‌درستی مؤلفه‌های قدرت را بشناسد، هوش مصنوعی مؤلفه قدرتمند و جهت‌دهنده قدرت آینده خواهد بود.
نجفی تاکید کرد: قدرت امروز دیگر صرفا در ساختار دولت‌ملت‌ها نیست، بلکه در اتحاد دولت‌ها و شرکت‌های بزرگ فناوری شکل می‌گیرد. این خود یک نگرانی بزرگ ایجاد می‌کند.
عضو هیئت علمی پژوهشکده علوم شناختی و مغز دانشگاه شهید بهشتی درباره اروپا گفت: تنها حوزه‌ای که به‌طور جدی به اخلاق هوش مصنوعی پرداخته، اروپاست. اروپا به دلیل نگاه انسان‌محور، تا حدی از رقابت‌ها عقب افتاده است.
نجفی در پایان درباره بحث داخلی گفت: امروز یک جوان که یک شرکت تبلیغاتی ساده دارد، اگر تسلط درستی بر هوش مصنوعی داشته باشد، می‌تواند در یک ماه جای 7-8 شرکت را بگیرد. این نشان می‌دهد که هوش مصنوعی نه‌تنها در سطح بین‌المللی، بلکه در سطح داخلی نیز می‌تواند بازتوزیع قدرت و ثروت ایجاد کند.
دکتر محمد فتحی، سخنران مدعو، در جمع‌بندی پایانی همایش تاکید کرد که آینده حقوق، وکالت و کسب‌وکارها تحت تأثیر هوش مصنوعی خواهد بود و دانشجویان حقوق باید جدی وارد این فضا شوند. وی گفت: جامعه حقوقی ایران باید با ابزارها، نرم‌افزارها و عامل‌های هوشمند مسلح شود؛ زیرا در آینده هیچ حقوقدان یا وکیلی نمی‌تواند بدون این فناوری خدمت موثری ارائه دهد.
فتحی با اشاره به تجربه‌های بین‌المللی خود گفت: من بیش از 18 سال با نهادهای بین‌المللی کار کرده‌ام و شاهد بوده‌ام که چین در صنعت، سوئیس در مالی و آمریکا در فناوری، هر کدام با هوش مصنوعی قدرت پیدا کرده‌اند. سخنران مدعو درباره تغییر نگاه بین‌المللی به ایران پس از جنگ 12روزه گفت: ایران امروز از نظر فناورانه و حقوقی موقعیت متفاوتی پیدا کرده و باید از این ظرفیت برای تقویت جایگاه خود در فضای هوش مصنوعی استفاده کند.
فتحی در پایان تاکید کرد: هوش مصنوعی هم فرصت است و هم چالش؛ اما آنچه مهم است، مدیریت ریسک، تعهدات حقوق بشری دولت‌ها و حفظ عاملیت انسان در برابر ماشین است. در انتها سخنرانان همایش «هوش مصنوعی، حقوق بشر و صلح: مخاطرات و فرصت‌ها» بر لزوم تنظیم‌گری، اخلاق‌محوری، آموزش همگانی، نظارت انسانی بر سیستم‌های هوشمند و حفظ کرامت انسانی تاکید کردند.
آن‌ها هشدار دادند که در صورت غفلت، هوش مصنوعی می‌تواند از ابزار پیشرفت به ابزار سرکوب، تبعیض، جنگ و سلب هویت انسانی تبدیل شود.