به گزارش گروه رسانه‌ای شرق،
جمال صوفیه -تحلیلگر فاوا و هوش مصنوعی: «پدرخوانده هوش مصنوعی»؛ زمانی است که دولت‌ها به تنظیم‌گری فناوری روی می‌آورند. یوشوا بنجیو می‌گوید بحران ایمنی هوش مصنوعی احتمال اقدام دولت‌ها را افزایش داده است.
به گفته یکی از چهره‌هایی که از او به‌عنوان یکی از «پدرخوانده‌های» هوش مصنوعی یاد می‌شود، نگرانی‌ها درباره ایمنی این فناوری به نقطه‌ای رسیده است که دولت‌ها درمی‌یابند برای حفاظت از مردم ناگزیرند دست به اقدام بزنند؛ وضعیتی که به دوران همه‌گیری کووید شباهت دارد.
یوشوا بنجیو می‌گوید رویدادهای اخیر، از‌جمله حمله گروهی از عامل‌های هوش مصنوعی شرکت OpenAI به یک استارتاپ (https://www.theguardian.com/commentisfree/2026/sep/08/openai-rogue-models-hugging-face-investigation) و هشدارهای افراد آگاه در صنعت فناوری درباره تهدیدی وجودی (https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction)، توانسته‌اند
توجه‌ها را به خود جلب کنند و احتمال اقدام دولت‌ها را افزایش دهند.
این دانشمند علوم رایانه‌ای کانادایی که از چهره‌های برجسته کارزار مهار شتاب سرسام‌آور توسعه هوش مصنوعی است، می‌گوید اکنون «نسبت به بسیاری از ناظران خوش‌بین‌تر هستم؛ چون می‌بینم افکار عمومی در حال حرکت است».
بنجیو با مقایسه بحران ایمنی هوش مصنوعی با آغاز همه‌گیری کووید در سال ۲۰۲۰ گفت: «به این فکر کنید که دولت‌ها پس از آغاز همه‌گیری وقتی متوجه شدند امنیت عمومی، آینده‌شان و دموکراسی در معرض خطر است، با چه سرعتی دست به اقدام زدند. انتظار می‌رود این بار هم به‌سرعت اقدام کنند. بنابراین، فکر می‌کنم به آن نقطه نزدیک می‌شویم».
در ماه‌های اخیر، نگرانی درباره تهدید بالقوه سامانه‌های قدرتمند هوش مصنوعی به اوج تازه‌ای رسیده است. این نگرانی پس از مجموعه‌ای از حوادث ایمنی مرتبط با عامل‌های هوش مصنوعی شرکت‌های OpenAI و Anthropic شدت گرفته است؛ عامل‌هایی که بدون مجوز به اقداماتی مانند هک‌کردن اشخاص و نهادهای ثالث، ربودن کنترل یک وب‌سایت آلمانی و استفاده از هویت‌های جعلی برای فریب توسعه‌دهندگان دست زده‌اند. هفته گذشته، یکی از پژوهشگران شرکت Anthropic، استارتاپ سازنده چت‌بات کلاد (Claude)، پس از هشدار درباره اینکه همکارانش معتقدند هوش مصنوعی ممکن است «تا پایان این دهه همه ما را از بین ببرد»، از سمت خود استعفا داد.
با این حال، منتقدان درخواست «کاهش سرعت» می‌گویند درخواست شرکت‌های بزرگ هوش مصنوعی برای وضع محدودیت‌ها نمونه‌ای از «تسخیر نهادهای تنظیم‌گر» است؛ وضعیتی که در آن شرکت‌ها دولت‌ها را متقاعد می‌کنند چارچوب‌های ایمنی‌ای وضع کنند که هزینه رقابت را برای رقبای کوچک‌تر افزایش می‌دهد. آنان همچنین استدلال می‌کنند که ترس از تهدیدهای وجودی، مسائل فوری‌تر مرتبط با هوش مصنوعی را به حاشیه می‌راند؛ مسائلی مانند تأثیر این فناوری بر آثار تحت حمایت حق نشر (https://www.theguardian.com/technology/2025/feb/25/why-are-creatives-fighting-uk-government-ai-proposals-on-copyright) و حقوق بشر.
بنجیو می‌گوید با استدلال مربوط به تسخیر نهادهای تنظیم‌گر موافق نیست، زیرا کندشدن روند توسعه در شرکت‌های پیشرو هوش مصنوعی «از نظر مالی برای خود آنها هزینه‌بر خواهد بود». دونالد ترامپ، رئیس‌جمهور ایالات متحده، با کاهش سرعت توسعه مخالفت کرده و گفته است نمی‌خواهد آمریکا در رقابت هوش مصنوعی، برتری خود را در برابر چین از دست بدهد.
سازمان بنجیو، با نام «لاوزرو» (LawZero)، در حال توسعه سامانه‌ای به نام «ساینتیست AI (Scientist AI) است که قرار است همچون سازوکاری حفاظتی در برابر عامل‌های هوش مصنوعی‌ای عمل کند که رفتارهای فریبکارانه یا خودحفاظتی از خود نشان می‌دهند؛ برای مثال، می‌کوشند مانع خاموش‌شدن خود شوند. این مؤسسه با جنبش «نوع‌دوستی مؤثر» پیوند دارد؛ جنبشی که معتقد است هوش مصنوعی تهدیدی وجودی برای بشریت به شمار می‌رود.
بنجیو فناوری لاوزرو را نقطه مقابل یادگیری تقویتی می‌داند؛ روشی مبتنی بر آزمون و خطا که شرکت‌های بزرگ هوش مصنوعی از آن برای توسعه سامانه‌های خود استفاده می‌کنند. در این روش، به سامانه‌های هوش مصنوعی پاداش داده می‌شود تا یاد بگیرند چگونه وظیفه‌ای مشخص را انجام دهند. این دانشمند علوم رایانه‌ای کانادایی، هم‌نظر با شماری دیگر از متخصصان، معتقد است چنین شیوه‌ای از آموزش، سامانه‌های هوش مصنوعی را به پیگیری بی‌محابای اهدافشان سوق می‌دهد و در این مسیر ممکن است به دیگران آسیب برسانند.
منبع: شبکه شرق
