هشدار بنیان‌گذار آنتروپیک: تکینگی هوش مصنوعی آغاز شده است

جک کلارک با اشاره به شتاب بی‌سابقه‌ی تولید دانش علمی مدعی شد شواهد قانع‌کننده‌ای از آغاز تکینگی هوش مصنوعی در دست است. جک کلارک، هم‌بنیان‌گذار شرکت آنتروپیک، می‌گوید نشانه‌های قانع‌کننده‌ای به دست آمده که نشان می‌دهند تکینگی هوش مصنوعی آغاز شده است؛ نقطه‌ای که در آن، پیشرفت هوش مصنوعی می‌تواند سرعت پیشرفت علمی و فناوری را آن‌قدر افزایش دهد که انسان‌ها دیگر نتوانند همگام با آن حرکت کنند.

کلارک این دیدگاه را در سخنرانی خود در نشست سالانه‌ی صندوق بین‌المللی پول و بانک جهانی مطرح کرد. او گفت: «باور دارم امسال شواهد قانع‌کننده‌ای به دست آورده‌ایم که نشان می‌دهند این فرایند آغاز شده است.» به‌گفته‌ی او، حتی اگر همه با این برداشت موافق نباشند، آنتروپیک فرض را بر این می‌گذارد که وارد چنین دوره‌ای شده‌ایم و باید خود را برای تغییرات گسترده‌تر از حد انتظار آماده کنیم.

تکینگی هوش مصنوعی چیست؟ تکینگی فناوری یا تکینگی هوش مصنوعی (AI Singularity) به آینده‌ای فرضی گفته می‌شود که در آن، هوش مصنوعی به یکی از موتورهای اصلی پیشرفت تبدیل می‌شود و سرعت تغییرات علمی و فناوری به‌شدت افزایش می‌یابد؛ تا جایی که پیش‌بینی پیامدهای این تغییرات برای انسان دشوار می‌شود.

یکی از سناریوهای مطرح این است که هوش مصنوعی بتواند در ساخت و بهبود نسل‌های بعدی خودش نقش مؤثری داشته باشد. در این حالت، مدل‌های توانمندتر به توسعه‌ی ابزارها و سامانه‌های بهتر کمک می‌کنند و این سامانه‌ها نیز به نوبه‌ی خود، پیشرفت‌های بعدی را سریع‌تر می‌کنند.

چنین چرخه‌ای ممکن است سرعت نوآوری را به‌طور فزاینده‌ای بالا ببرد. تکینگی به‌معنای رویدادی مشخص با تاریخ آغاز قطعی نیست و درباره‌ی زمان وقوع یا حتی تحقق آن توافقی عمومی وجود ندارد.

همچنین، آغاز شتاب در پیشرفت هوش مصنوعی لزوماً به این معنا نیست که هوش مصنوعی از کنترل انسان خارج شده یا به هوشی برتر از انسان در همه‌ی زمینه‌ها تبدیل شده است. کلارک استدلال می‌کند که شواهد تازه از سرعت‌گرفتن پیشرفت علمی با کمک هوش مصنوعی حکایت دارند.

چرا کلارک معتقد است تکینگی آغاز شده است؟ از نگاه کلارک، اهمیت هوش مصنوعی دیگر فقط به انجام سریع‌تر کارهای روزمره یا نوشتن کد محدود نمی‌شود.

این فناوری به‌تدریج در فرایند تولید دانش نیز نقش می‌گیرد؛ از حل مسائل دشوار ریاضی گرفته تا کمک به پژوهش‌های زیستی و خودکارسازی آزمایش‌های علمی. او به پیشرفت مدل‌های هوش مصنوعی در آزمون‌های علمی و ریاضی اشاره می‌کند و معتقد است این سامانه‌ها می‌توانند در چندین رشته‌ی تخصصی، هم‌زمان به پژوهشگران کمک کنند.

در چنین شرایطی، هوش مصنوعی صرفاً ابزاری برای اجرای دستورها نیست؛ بلکه می‌تواند بخشی از فرایند کشف و نوآوری باشد. ٖاهمیت هوش مصنوعی دیگر فقط به انجام سریع‌تر کارهای روزمره یا نوشتن کد محدود نمی‌شود کلارک همچنین به تجربه‌ی داخلی آنتروپیک اشاره کرده است: به‌گفته‌ی او، پژوهشگران این شرکت اکنون تقریباً ۱۰ برابر چهار سال نخست فعالیت آنتروپیک کد می‌نویسند.

او این تغییر را نشانه‌ای از تأثیر مستقیم پیشرفت مدل‌های هوش مصنوعی بر توانایی و بهره‌وری نیروی انسانی می‌داند. کلارک معتقد است اگر روند فعلی ادامه پیدا کند، در سال‌های آینده نه‌فقط توسعه‌ی هوش مصنوعی، بلکه پیشرفت علم و فناوری در حوزه‌های مختلف نیز شتاب خواهد گرفت.

چنین تحولی می‌تواند به کشف‌های علمی تازه، توسعه‌ی سریع‌تر داروها و فناوری‌های جدید و افزایش بهره‌وری اقتصادی منجر شود. او این چشم‌انداز را کاملاً مثبت نمی‌داند.

سرعت بالای پیشرفت می‌تواند خطرهایی نیز به همراه داشته باشد؛ از سوءاستفاده از توانایی‌های هوش مصنوعی در حملات سایبری و پژوهش‌های زیستی خطرناک گرفته تا فشار بر بازار کار و دشوارترشدن نظارت بر فناوری‌های پیشرفته. کلارک پیش‌تر نیز درباره‌ی تأثیر هوش مصنوعی بر اقتصاد و امنیت هشدار داده بود.

او در سخنرانی اخیرش تأکید کرد که دولت‌ها و نهادهای بین‌المللی فرصت محدودی برای آماده‌شدن دارند و باید هم‌زمان با بهره‌گیری از مزایای این فناوری، برای کنترل خطرهای آن نیز چارچوب‌های جدی‌تری تدوین کنند.