آنتروپیک برای بررسی خطرات هوش مصنوعی به ارزیابان مستقل دسترسی مشابه کارمندان خود داد

آنتروپیک ارزیابان مستقل را با دسترسی به سخت‌افزار و سیستم‌های داخلی خود به کار گرفته است تا خطرات مدل‌های هوش مصنوعی را بررسی کنند. آنتروپیک به شش نفر از اعضای مؤسسه پژوهشی غیرانتفاعی METR اجازه داده است به دفتر، سخت‌افزار و سیستم‌های داخلی این شرکت دسترسی داشته باشند تا خطرات مدل‌های هوش مصنوعی آن را ارزیابی کنند.

این اقدام نخستین گام عملی آنتروپیک برای اجرای تعهد خود به استفاده از ارزیابان مستقل است. METR یک مؤسسه غیرانتفاعی است که پیش‌تر با شرکت‌های پیشروی هوش مصنوعی، ازجمله اوپن‌ای‌آی، آنتروپیک، گوگل و متا همکاری کرده است.

این مؤسسه اکنون تیمی را در دفتر آنتروپیک مستقر کرده که به ابزارها و سیستم‌های داخلی شرکت دسترسی دارد. آنتروپیک می‌گوید سطح دسترسی این ارزیابان تقریباً با دسترسی تیم‌های داخلی ارزیابی ریسک خود این شرکت برابری می‌کند.

دسترسی ارزیابان مستقل به هوش مصنوعی آنتروپیک به گزارش فایننشال‌تایمز، آنتروپیک تاکنون شش نفر از کارکنان METR را به این طرح وارد کرده است. این افراد تجهیزات کاری و فضای اداری دریافت کرده‌اند و می‌توانند به سیستم‌ها و ابزارهای داخلی شرکت دسترسی داشته باشند.

آنتروپیک همچنین کارکنان خود را تشویق کرده است که اطلاعات را همان‌طور با ارزیابان به اشتراک بگذارند که با یکی از همکاران داخلی خود در حوزه ارزیابی ریسک در میان می‌گذارند. آنتروپیک برای این همکاری به METR پولی پرداخت نمی‌کند.

این مؤسسه نیز از شرکت‌های هوش مصنوعی یا کارکنان آن‌ها کمک مالی نمی‌پذیرد و هزینه‌های خود را از طریق کمک‌های افراد، سازمان‌های خیریه و نهادهای دولتی، ازجمله مؤسسه ایمنی هوش مصنوعی بریتانیا، تأمین می‌کند. قرار است ارزیابان نتایج بررسی‌های خود را منتشر کنند و آنتروپیک حق جلوگیری از انتشار آن‌ها را ندارد.

بااین‌حال، این شرکت می‌تواند حذف اطلاعاتی را درخواست کند که در دسته‌های مشخصی قرار می‌گیرند؛ ازجمله داده‌های مشتریان، اطلاعات مشمول محرمانگی رابطه وکیل و موکل و جزئیات معماری مدل‌ها. «داریو آمودی»، مدیرعامل آنتروپیک، در ماه سپتامبر پیشنهاد داده بود که ارزیابان خارجی در شرکت‌های پیشرو هوش مصنوعی مستقر شوند.

«سم آلتمن»، مدیرعامل اوپن‌ای‌آی، و «ایلان ماسک»، مدیرعامل اسپیس‌ایکس، نیز از این پیشنهاد حمایت کردند. بااین‌حال، اوپن‌ای‌آی هنوز برنامه‌ای برای به‌کارگیری چنین ارزیابانی اعلام نکرده است.

آنتروپیک اعلام کرد که با قدرتمندتر شدن مدل‌ها، به سازوکارهای حفاظتی قوی‌تر و ارزیابی‌های دشوارتری برای شناسایی خطرات نیاز است. این شرکت می‌خواهد در قبال تصمیم‌های خود پاسخ‌گو باشد، اما نمی‌تواند تمام اطلاعات مربوط به فعالیت‌های ایمنی‌اش را به‌صورت عمومی منتشر کند.

به گفته آنتروپیک، انتشار برخی اطلاعات ممکن است به سود افراد خرابکار یا شرکت‌های رقیب تمام شود. این شرکت سازوکار جدید را به نظارت بر بانک‌ها تشبیه کرده است؛ روشی که در آن ناظران برای بررسی ریسک‌ها، در بانک‌های بزرگ مستقر می‌شوند.

آنتروپیک معتقد است همان‌طور که ریسک‌پذیری بانک‌ها می‌تواند منافع عمومی را تهدید کند، ارزیابی مستقل شرکت‌های هوش مصنوعی نیز باید به شناسایی زودهنگام خطرات کمک کند.