هوش مصنوعی چگونه به دام افکار ناسالم تبدیل می‌شود؟

وارن منسل، پژوهشگر حوزه سلامت روان در دانشگاه «کرتین» معتقد است، چت‌بات‌ها را باید بر اساس توانایی آن‌ها در گسترش درک افراد ارزیابی کرد، نه فقط بر مبنای اینکه تا چه اندازه پاسخ‌های آرامش‌بخش ارائه می‌دهند. نتایج این پژوهش، دو مسیر کلی برای گفت‌وگو با هوش مصنوعی مطرح کرد، در یک مسیر، افراد تشویق می‌شوند احتمالات مختلف را در نظر بگیرند اما در مسیر دیگر، چت‌بات بارها ترس‌های آشنای آنان را تایید می‌کند یا بدون آنکه فرصتی برای تامل عمیق‌تر فراهم کند، به آنان اطمینان خاطر می‌دهد.

این تمایز از آن جهت اهمیت دارد که افراد بیشتری برای صحبت درباره استرس، اضطراب و دیگر دغدغه‌های شخصی خود از چت‌بات‌هایی استفاده می‌کنند که به‌راحتی در دسترس هستند. ابزارهای هوش مصنوعی در هر ساعتی از شبانه‌روز پاسخگو هستند اما دسترسی همیشگی، به‌تنهایی به معنای موثر بودن آن‌ها در حمایت از سلامت روان نیست.

تصور کنید فردی درباره نگرانی تکراری با چت‌باتی صحبت می‌کند، گفت‌وگوی مفید ممکن است به وی کمک کند فرضیات خود را بررسی کند، توضیحات متفاوتی را در نظر گرفته و تصمیم بگیرد که در ادامه چه کاری انجام دهد. در مقابل، ممکن است گفت‌وگو، بارها به همان ترس بازگردد و چت‌بات نیز هر بار با تایید نگرانی فرد یا اطمینان دادن به وی پاسخ دهد.

چنین گفت‌وگویی ممکن است در همان لحظه احساس آرامش ایجاد کند، بی‌آنکه فقط الگوی فکری زیربنایی را تغییر دهد. منسل معتقد است، وضعیت عاطفی فرد، هدف وی از گفت‌وگو و پاسخ‌های چت‌بات، همگی بر مسیری گفت‌وگو تاثیر می‌گذارند، بنابراین، سامانه واحد ممکن است برای افراد مختلف پیامدهای متفاوتی داشته باشد.

حتی ممکن است تاثیر آن بر فردی در روزهای مختلف تغییر کند. گفت‌وگویی که در یک مقطع به تامل و بررسی بیشتر کمک می‌کند، ممکن است در زمانی دیگر به چرخه‌ای تکراری از نگرانی و اطمینان‌خواهی تبدیل شود.

این یافته می‌تواند به توضیح نتایج متفاوت پژوهش‌های پیشین کمک کند. نتایج برخی پژوهش‌ها کاهش علائم اضطراب یا افسردگی و نتایج پژوهش‌های دیگر درباره پاسخ‌های گمراه‌کننده و وابستگی عاطفی به هوش مصنوعی هشدار داده‌اند.

پژوهشگران گفتند: توسعه‌دهندگان باید سامانه‌هایی طراحی که کاربران را به طرح پرسش‌های سنجیده و بررسی دیدگاه‌های جایگزین تشویق می‌کنند، نه اینکه به‌طور خودکار با آنان موافقت کنند. همچنین، بررسی روند گفت‌وگوها در طول زمان ممکن است اطلاعات بیشتری از سنجش رضایت فوری کاربران در اختیار پژوهشگران قرار دهد.

نکته مهم این است که این مقاله چارچوبی نظری ارائه می‌دهد و ثابت نمی‌کند که گفت‌وگوهای مشخص با چت‌بات‌ها فقط باعث بهبود یا آسیب می‌شوند. این چارچوب پیشنهادی هنوز باید در پژوهش‌های آینده آزمایش شود.

یکی از دشواری‌های پیش روی پژوهشگران، تعیین ویژگی‌های گفت‌وگوی مفید است. کاهش فوری ناراحتی می‌تواند ارزشمند باشد اما فقط به معنای بهبود بلندمدت نیست.

منسل معتقد است مسیری که گفت‌وگو طی می‌کند، نیازمند بررسی دقیق‌تری است. منسل دو مسیر احتمالی برای گفت‌وگو مطرح کرده است، در مسیر نخست، فرد با دیدگاه‌های جدید آشنا می‌شود و احتمال‌های دیگری را بررسی می‌کند و در مسیر دوم، تمرکز وی بر همان نگرانی باقی می‌ماند.

این چارچوب پیشنهادی برای بررسی تعامل با چت‌بات‌هاست، نه روشی آزمایش‌ شده برای پیش‌بینی اینکه چه کسانی از این تعامل سود می‌برند یا آسیب می‌بینند. بر اساس گزارش سایت نوریج، با تبدیل شدن هوش مصنوعی به یکی از ابزارهای رایج برای صحبت درباره مشکلات شخصی، شاید پرسش اصلی دیگر این نباشد که چت‌بات تا چه اندازه آرامش‌بخش صحبت می‌کند بلکه این باشد که آیا گفت‌وگو با آن به افراد کمک می‌کند روشن‌تر فکر کنند یا خیر.

نتایج این پژوهش در نشریه Digital Health منتشر شده است.