خط قرمز آنتروپیک برای هوش مصنوعی | اگر بیش از ۵۰ نفر بمیرند، عرضه متوقف می‌شود!

همشهری آنلاین، فرخنده رفائی: با گسترش توانایی‌های هوش مصنوعی و افزایش نگرانی‌ها درباره سوءاستفاده از این فناوری، بحث بر سر نحوه نظارت دولت‌ها بر شرکت‌های فعال در این حوزه جدی‌تر شده است. حالا یکی از شرکت‌های پیشرو در توسعه هوش مصنوعی، طرحی را برای تعیین حدود قانونی عرضه مدل‌های پرخطر مطرح کرده است.

به گزارش تک‌کرانچ، آنتروپیک پیش‌نویس قانونی را در اختیار قانون‌گذاران آمریکایی قرار داده که بر اساس آن، در صورت وجود خطر قریب‌الوقوع و قابل پیش‌بینی برای جان بیش از ۵۰ نفر یا احتمال وارد آمدن بیش از یک میلیارد دلار خسارت مالی، امکان جلوگیری از انتشار یک مدل هوش مصنوعی فراهم می‌شود. این خطرها باید به تولید یا انتشار سلاح زیستی، فرار مدل از کنترل‌های توسعه‌دهنده یا حملات سایبری مربوط باشند.

در این پیشنهاد، ارزیابان مستقل که در وزارت بازرگانی آمریکا ثبت‌نام می‌کنند، مسئول بررسی خطرهای احتمالی مدل‌ها خواهند بود. این ارزیابان می‌توانند از شرکت‌های هوش مصنوعی دستمزد دریافت کنند، اما پرداخت نباید به نتیجه ارزیابی وابسته باشد؛ موضوعی که همچنان درباره استقلال واقعی ارزیابان پرسش‌هایی ایجاد می‌کند.

اگر ارزیابان وجود خطر فاجعه‌بار قریب‌الوقوع را تشخیص دهند، باید حداکثر ظرف ۷۲ ساعت وزارت بازرگانی را مطلع کنند. سپس این وزارتخانه باید از یک قاضی در واشنگتن دی‌سی درخواست کند که عرضه مدل را متوقف کند.

بر اساس پیش‌نویس، هیچ نهاد فدرالی به‌تنهایی اختیار توقف عرضه را نخواهد داشت. بیشتر بخوانید: - آنتروپیک هشدار داد | هوش مصنوعی به‌زودی می‌تواند خود را تکثیر کند - آلتمن: باید بعضی پیامدهای منفی هوش مصنوعی را پذیرفت - عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم این طرح با قانون کالیفرنیا موسوم به SB ۵۳ شباهت دارد که خطرهای فاجعه‌بار را با معیارهایی مشابه تعریف کرده است.

آنتروپیک اعلام کرده این پیشنهاد در چارچوب برنامه ایمنی هوش مصنوعی پیشرفته این شرکت قرار دارد؛ برنامه‌ای که از ژوئن با قانون‌گذاران ایالتی و فدرال مطرح شده است. طرح آنتروپیک در شرایطی مطرح می‌شود که نگرانی‌های اخیر صنعت بیشتر بر توانایی برخی عامل‌های هوش مصنوعی در انجام حملات سایبری و دور زدن کنترل‌های انسانی متمرکز بوده است.

پیشنهاد این شرکت همچنین از رویکردهایی سخت‌گیرانه‌تر است که برخی مدیران صنعت، از جمله جنسن هوانگ، مدیرعامل انویدیا، درباره ضرورت وضع قوانین جدید مطرح کرده‌اند. با این حال، این طرح هنوز یک پیش‌نویس پیشنهادی است و تصویب یا اجرای آن به تصمیم قانون‌گذاران آمریکایی بستگی دارد.