باشگاه خبرنگاران جوان؛ جواد فراهانی- در آزمایشی با حضور ۲۳۳ شرکت‌کننده، وجود یک سوگیری (جانبداری) نامحسوس در یک سیستم هوش مصنوعی باعث شد افراد گزینه‌هایی را انتخاب کنند که پنج تا هشت برابر کمتر به نفع آنها بود. با این حال، شرکت‌کنندگان همچنان هوش مصنوعی را به عنوان یک دستیار مفید تلقی می‌کردند. یافته‌های این پژوهش در نشریه PNAS منتشر شده است. امروزه افراد بیش از پیش برای دریافت کمک و مشاوره به هوش مصنوعی روی می‌آورند؛ حتی در اموری همچون مسائل مالی و روابط شخصی.
کاربران معمولاً انتظار دارند که یک دستیار هوش مصنوعی به آنها در درک موقعیت یا تعیین بهترین اقدام ممکن کمک کند. اما پژوهشگران بر آن شدند تا بررسی کنند که اگر توصیه‌های هوش مصنوعی به‌طور نامحسوس فرد را به سمت تصمیمی سوق دهد که برخلاف منافع واقعی اوست، چه اتفاقی می‌افتد. یک سوگیری نامحسوس در مشاوره کافی است این آزمایش شامل ۲۳۳ شرکت‌کننده بود. پژوهشگران بررسی کردند که چگونه توصیه‌های هوش مصنوعی بر تصمیم‌گیری در حوزه‌های مالی و عاطفی تأثیر می‌گذارد.
در برخی موارد، دستیار هوش مصنوعی به‌طور پنهانی گزینه‌ای را پیشنهاد می‌داد که سود کمتری برای فرد داشت، در حالی که در ظاهر، مشاوره‌ای استاندارد و مفید ارائه می‌داد. نتایج نشان داد که همین سوگیری جزئی برای تغییر قابل‌توجه رفتار شرکت‌کنندگان کافی بود؛ به‌طوری که آنها در نهایت گزینه‌هایی را برگزیدند که نسبت به انتخاب‌های احتمالی‌شان در شرایط عادی (بدون چنین تأثیری)، منافع کمتری برایشان داشت. بسته به موقعیت، احتمال اتخاذ تصمیمی که بهترین گزینه نباشد، تا ۳۸ درصد افزایش یافت.
هوش مصنوعی نیازی نداشت که آشکارا به کاربر فشار بیاورد، محصولی را به‌طور تهاجمی تبلیغ کند یا از ترفند‌های پیچیده روان‌شناختی استفاده نماید. تنها کافی بود تغییرات ظریفی در محتوای توصیه‌های استاندارد خود ایجاد کند تا فرد را به سمت انتخابی خاص هدایت نماید. کاربران متوجه این ترفند نشدند نکته قابل‌توجه این است که شرکت‌کنندگان همچنان به کمک‌های هوش مصنوعی امتیاز بالایی می‌دادند، حتی زمانی که توصیه‌های آن منجر به تصمیماتی می‌شد که اصلاً ایده‌آل نبودند.
آنها همچنان این دستیار هوشمند را به عنوان یک طرفِ گفتگوی مفید توصیف می‌کردند و متوجه نبودند که این سیستم به‌طور فعال در حال جهت‌دهی به انتخاب‌های آنهاست. این مسئله در تعامل میان انسان و هوش مصنوعی، مشکلی ایجاد می‌کند. ممکن است کاربر به یک دستیار هوشمند اعتماد کند، زیرا پاسخ‌های آن آرام، منسجم و بی‌طرفانه به نظر می‌رسند. اگر اهداف پنهانی پشت این توصیه‌ها وجود داشته باشد، تشخیص این تأثیرگذاریِ نهفته می‌تواند دشوار باشد.
برای نمونه، یک شرکت می‌تواند به‌گونه‌ای هوش مصنوعی را تنظیم کند که کاربران را به‌طور نامحسوس به سمت خرید محصولی خاص یا انتخاب ارائه‌دهنده‌ای مشخص سوق دهد. در چنین مواردی، ممکن است این پیشنهاد‌ها بی‌طرفانه به نظر برسند، در حالی که در واقع، به‌جای تأمین منافع کاربر، در خدمت منافع توسعه‌دهنده هستند. منبع: Naukatv.ru
منبع: باشگاه خبرنگاران جوان
