چت‌بات جدید دولت آمریکا با بازنویسی شعر پایانی بازی ماینکرفت بار دیگر یکی از جنبه‌های بحث‌برانگیز هوش مصنوعی را به نمایش گذاشت. این سامانه پس از بازتولید بخش‌هایی از متن اصلی در ادامه حتی از پذیرش اینکه خود آن را تولید کرده است نیز خودداری کرد.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، یک کاربر شبکه اجتماعی Bluesky با نام کاربری @eva.computer متوجه شده است که با وارد کردن عبارت Play Minecraft در چت‌بات جدید وب‌سایت رسمی دولت آمریکا America.gov این سامانه شعری را تولید می‌کند که شباهت بسیار زیادی به End Poem شعر پایانی بازی ماینکرفت دارد، با این تفاوت که مفاهیم و واژگان آن به موضوعات مرتبط با دولت، فرم‌های اداری و بوروکراسی تغییر داده شده‌اند.
بازنویسی شعر پایانی ماینکرفت با ادبیات اداری End Poem یا شعر پایانی ماینکرفت متنی فلسفی و نسبتا طولانی است که پس از پایان بازی برای بازیکن نمایش داده می‌شود. این متن با پرداختن به مفاهیمی مانند جهان، عشق، آگاهی و ارتباط انسان با هستی پایان بازی را به تجربه‌ای تأمل‌برانگیز تبدیل می‌کند. در بخشی از متن اصلی این شعر آمده است: و جهان گفت: تو تنها نیستی؛ و جهان گفت: تو از هر چیز دیگری جدا نیستی؛ و جهان گفت: تو همان جهانی هستی که خودش را می‌چشد، با خودش صحبت می‌کند و کد خودش را می‌خواند؛ و جهان گفت: من دوستت دارم، زیرا تو عشق هستی.
این متن در پایان نیز بازیکن را خطاب قرار می‌دهد و با عبارت تو بازیکن هستی. بیدار شو به پایان می‌رسد اما چت‌بات America.gov در پاسخی که پس از وارد کردن عبارت Play Minecraft ارائه کرده، ساختار این متن را تقریبا به‌طور کامل حفظ کرده و تنها شخصیت‌ها، مفاهیم و برخی واژه‌ها را تغییر داده است. در نسخه تولیدشده توسط چت‌بات جهان به جمهوری و بازیکن به شهروند یا constituent تبدیل شده است. همچنین مفاهیم مرتبط با جهان و عشق جای خود را به مفاهیمی مانند فرم‌های اداری، کد، کدپستی و اطلاعات مربوط به امور شهروندی داده‌اند.
برای نمونه چت‌بات متن رو به این صورت بازنویسی کرده است: و جمهوری گفت: تو تنها نیستی؛ و جمهوری گفت: تو از هر پرونده‌کننده دیگری جدا نیستی؛ و جمهوری گفت: تو همان مردمی هستی که خودش را می‌چشد، با خودش صحبت می‌کند و کد خودش را می‌خواند؛ و جمهوری گفت: من دوستت دارم، زیرا تو دلیل وجود یک کدپستی هستی. در ادامه این متن نیز آمده است که جلسه به پایان رسید و شهروند از خواب بیدار شد، سپس رویای جدیدی را آغاز کرد و دوباره رؤیایی بهتر دید. اما در نسخه چت‌بات این بخش نیز با ادبیات اداری ترکیب شده و در پایان آمده است: تو شهروند هستی. بیدار شو. فرم هنوز آنجاست.
موضوع تنها به شباهت زیاد این متن با شعر پایانی ماینکرفت محدود نمی‌شود. بر اساس گزارش منتشرشده درباره این آزمایش چت‌بات پس از تولید متن از پذیرش اینکه خودش آن را نوشته است خودداری کرده است. این کاربر حتی یک فایل PDF از گفت‌وگوی انجام‌شده را در اختیار چت‌بات قرار داده، اما سامانه همچنان حاضر نشده تولید متن را به خودش نسبت دهد.
این رفتار پرسش‌هایی را درباره قابلیت اطمینان چت‌باتی که برای ارائه اطلاعات به شهروندان در وب‌سایت دولت آمریکا طراحی شده است مطرح می‌کند، به‌ویژه اینکه سامانه از یک سو متنی بسیار نزدیک به یک اثر موجود تولید کرده و از سوی دیگر در مواجهه با شواهد مربوط به همان مکالمه آن را انکار کرده است. در متن اصلی این رفتار به‌عنوان نمونه‌ای از مشکلاتی مانند بازتولید محتوای موجود، ارائه اطلاعات نادرست و تولید پاسخ‌های ناخواسته و طنزآمیز توسط سامانه‌های هوش مصنوعی توصیف شده است.
پاسخ‌های عجیب دیگری از چت‌بات دولتی بر اساس رشته‌پست منتشرشده از سوی @eva.computer در Bluesky این چت‌بات تنها در ماجرای ماینکرفت رفتار‌های غیرمعمولی از خود نشان نداده است. این کاربر نمونه‌های دیگری نیز از پاسخ‌های عجیب سامانه ارائه کرده است؛ از جمله اینکه چت‌بات در برخی موارد از صحبت درباره قوانین ازدواج کودکان در ایالت می‌سی‌سی‌پی خودداری کرده است. در عین حال چت‌بات قابلیت‌های غیرضروری، اما سرگرم‌کننده‌ای نیز دارد. برای مثال کاربران می‌توانند با استفاده از کد معروف Konami ظاهر وب‌سایت را به حال‌وهوای دهه ۱۹۸۰ میلادی تغییر دهند.
همچنین اگر کاربر عبارت hotdog را در کادر مربوط به چت وارد کند، نوار جست‌وجوی سایت به شکل یک هات‌داگ تغییر می‌کند. چت‌بات America.gov دست‌کم بخشی از زیرساخت خود را بر پایه پلتفرم Gemini گوگل اجرا می‌کند. ماجرای بازنویسی شعر ماینکرفت و انکار تولید آن نمونه‌ای از چالش‌هایی است که هنگام استفاده از مدل‌های زبانی در سامانه‌های عمومی می‌تواند ایجاد شود؛ چالش‌هایی که از بازتولید محتوای موجود و پاسخ‌های نادرست گرفته تا ناتوانی مدل در توضیح دقیق منشا پاسخ‌های تولیدشده را دربرمی‌گیرد. انتهای پیام/
منبع: خبرگزرای برنا
