به گزارش اقتصادنیوز، اکونومیست در مقاله‌ای با عنوان «آیا چین واقعاً سرعت در هوش مصنوعی را به ایمنی ترجیح می‌دهد؟» نوشت: «از سه ثانیه طلایی محافظت کن، از کیف پولت محافظت کن.» در هفته‌های اخیر، در چین، ویدئویی از پلیس خوش‌برخوردی به نام گوئو تائو به‌طور گسترده دست‌به‌دست شده است که این پیام را مطرح می‌کند ــ‌هشداری درباره برخورد با کلاهبردارانی که از طریق تلفن تماس می‌گیرند. فقط یک سلام ساده کافی است تا مجرمان صدای فرد را ضبط کنند و سپس با هوش مصنوعی، نسخه‌ای مصنوعی از آن بسازند تا دوستان و بستگانش را فریب دهند.
بنابراین، همان‌طور که آقای گوئو می‌گوید، بهتر است هنگام دریافت تماس از شماره‌های ناشناس، سه ثانیه سکوت کنید تا ببینید آیا انسانی واقعی صحبت می‌کند یا خیر. توصیه بدی نیست. این موضوع همچنین با یکی از مهم‌ترین پرسش‌های دنیای فناوری ارتباط دارد: دیدگاه چین درباره خطرات هوش مصنوعی چیست؟ بسیاری از ناظران معتقدند چین به خطرات هوش مصنوعی اهمیت چندانی نمی‌دهد. دونالد ترامپ یکی از آن‌هاست.
ماه گذشته، در توجیه بی‌علاقگی‌اش به مقررات‌گذاری گفت: «چین مطلقاً هیچ اقدامی برای جلوگیری از پیشرفت هوش مصنوعی انجام نخواهد داد.» در واقع، نظرسنجی‌ها از خوش‌بینی فراگیر چینی‌ها نسبت به هوش مصنوعی حکایت دارند. در نظرسنجی مؤسسه گالوپ، ۹۳ درصد پاسخ‌دهندگان در چین گفتند که هوش مصنوعی عمدتاً به نفع کشورشان خواهد بود، در حالی که این رقم در آمریکا تنها ۳۶ درصد بود. در پکن، درخواست‌ها برای همکاری چین با آمریکا به‌منظور کند کردن توسعه مدل‌های پیشرفته هوش مصنوعی را نادیده گرفته‌اند. وزارت امور خارجه چین می‌گوید «هراس‌افکنی» به نفع هیچ‌کس نیست.
اما در واقعیت، چین به‌شدت نگران ایمنی هوش مصنوعی است. کلاهبرداریِ تلفنی فقط نوک کوه یخ نگرانی‌های این کشور است. دغدغه‌های چین بسیار متفاوتند، از فعالیت‌های مجرمانه، حذف مشاغل و امنیت ملی گرفته تا، بله، سناریوهای از دست رفتن کنترل بر هوش مصنوعی که خواب را از چشم برخی در سیلیکون ولی ربوده است. این موضوع نباید تعجب‌آور باشد. حزب کمونیست چین که تقریباً در تمام حوزه‌های زندگی نسبت به خطرات وسواس دارد، سال‌هاست می‌کوشد فضای مجازی را تحت کنترل خودش درآورد.
آیا رژیمی که اینترنت را تهدیدی وجودی می‌داند، ناگهان قرار است اجازه دهد هوش مصنوعی بدون هیچ محدودیتی به پیش بتازد؟ اگر، مانند دولت ترامپ، مقررات‌گذاری را ذاتاً نوعی کند کردن پیشرفت بدانیم، پس چین عملاً در حال کند کردن توسعه هوش مصنوعی است ــ‌هرچند هرگز چنین چیزی را به زبان نخواهد آورد. کندرا شیفر از مؤسسه مشاوره‌ای تریویوم می‌گوید: «چین هم‌اکنون سخت‌گیرانه‌ترین مقررات هوش مصنوعی جهان را دارد.» سند بنیادین این موضوع، چارچوب چین برای حکمرانی و مدیریت ایمنی هوش مصنوعی است. دومین به‌روزرسانی این سند در ماه سپتامبر منتشر شد.
در این سند، ۵۴ نوع خطر در سه دسته فهرست شده‌اند: خطرات «ذاتی» (مدل‌ها برخلاف اهداف و انتظارات تعیین‌شده رفتار کنند)، خطرات «کاربردی» (مجرمان از این فناوری استفاده کنند) و خطرات «ثانویه» (بیگانگی اجتماعی). این سند همچنین راهکارهایی برای از میان برداشتن یا دست‌کم کاهش این تهدیدها پیشنهاد می‌کند. یکی از این راهکارها، ایجاد نقاط کنترل اجباری است که در آن‌ها انسان‌ها (آن‌ها را یادتان هست؟) باید عملکرد عامل‌های هوش مصنوعی را بررسی کنند و در صورت لزوم، پیش از آنکه این عامل‌ها بیش از حد آزادانه عمل کنند، فعالیتشان را متوقف کنند.
برخی از ایده‌های مطرح‌شده در نسخه‌های قبلی این چارچوب هم‌اکنون به اجرا درآمده‌اند ــ‌برای مثال، محتوای تولیدشده توسط هوش مصنوعی، مانند فایل‌های صوتی و ویدئویی، باید به‌وضوح برچسب‌گذاری شود. احتمالاً برخی دیگر از این ایده‌ها نیز مبنای مقررات جدید قرار خواهند گرفت. پیش‌نویس مقررات پیشنهادی از ارائه‌دهندگان خدمات می‌خواهد هر قابلیتی را که با مشکلات جدی مواجه می‌شود، فوراً از دسترس خارج کنند. چین همچنین در ۱۶ اکتبر محدودیت‌هایی را برای صادرات پیشرفته‌ترین فناوری‌های هوش مصنوعی خود پیشنهاد کرد.
با قدرتمندتر شدن هوش مصنوعی، چین توجه بیشتری به سناریوهای آخرالزمانی احتمالی نشان داده است. در اولین نسخه چارچوب ایمنی این کشور که در سال ۲۰۲۴ منتشر شد، تنها اشاره‌ای گذرا به احتمال از دست رفتن کنترل بر هوش مصنوعی شده بود. اما در جدیدترین نسخه، این موضوع بیش از ده بار مطرح شده است. با این حال، می‌توان تفاوتی را فلسفی میان دیدگاه چین و آمریکا تشخیص داد.
در حالی که برخی در آمریکا نگرانند مدل‌های هوش مصنوعی سرانجام از هوش انسانی فراتر بروند و کنترل تکامل خود را به دست بگیرند، دیدگاه رایج‌تر در چین این است که هوش مصنوعی فناوری تحول‌آفرینی است که می‌توان آن را مهار و هدایت کرد، نه پدیده‌ای که از کنترل انسان خارج شود. شی جین‌پینگ هوش مصنوعی را با موتور بخار، برق و اینترنت مقایسه می‌کند ــ‌فناوری‌هایی که هر یک عصری تازه را رقم زدند، اما خطراتی ایجاد نکردند که مستلزم همکاری کشورها برای کند کردن روند پیشرفتشان باشد.
از آنجا که چین همچنان در زمینه پیشرفته‌ترین فناوری‌های هوش مصنوعی از آمریکا عقب‌تر است، شی تمایل کمتری به موافقت با فشردن ترمز توسعه این فناوری دارد. از نگاه چین، چنین توافقی هم غیرضروری به نظر می‌رسد و هم در راستای منافع یک‌جانبه آمریکاست. تخصص در حوزه‌های مختلف مطابق انتظارات، مقامات چینی بخش بزرگی از توجه و توان خود را به مسائل ایدئولوژیک اختصاص می‌دهند. آن‌ها می‌خواهند اطمینان حاصل کنند که مدل‌های هوش مصنوعی در مسائل مهم با مواضع حزب در تضاد قرار نمی‌گیرند و ابزارهای جدید، کنترل حزب را تضعیف نمی‌کنند.
با این حال، نگرانی‌های پیش‌پاافتاده‌تری نیز وجود دارد که بازتاب‌دهنده نوعی پدرسالاری ملایم در رویکرد دولت چین است. از همین روست که آقای گوئو بر سه ثانیه طلایی سکوت هنگام پاسخ دادن به تماس‌های تلفنی تأکید می‌کند و ارائه خدماتی مانند معشوقه‌های مجازی یا حتی بستگان مجازی به افراد زیر سن قانونی ممنوع شده است. علاقه شدید چین به وضع مقررات ممکن است پیامدی ناخواسته داشته باشد. در آمریکا، جایی که دولت دخالت و نظارت بسیار کمتری دارد، شرکت‌ها خود وارد عمل شده‌اند، مدل‌هایشان را ارزیابی می‌کنند و خواستار وضع تدابیر حفاظتی و محدودیت‌های بیشتری می‌شوند.
در چین، شرکت‌ها اغلب منفعل‌ترند و پیش از اعمال کنترل‌ها منتظر دستورالعمل‌های حزب و دولت می‌مانند. بررسی مؤسسه مشاوره‌ای کنکوردیا اِی‌آی در پکن درباره ده شرکت چینی که به‌تازگی مدل‌های هوش مصنوعی خود را عرضه کرده‌اند، نشان داد که فقط پنج شرکت ارزیابی‌های ایمنی مدل‌هایشان را منتشر کرده‌اند. این مسئله نشان می‌دهد اگر سرعت توسعه مدل‌ها از سرعت پیش‌بینی مقررات‌گذاران بیشتر شود، ممکن است چه خطراتی پدید آید. مقررات چین کسانی را که مدل‌های دارای وزنِ باز (Open-weight) این کشور را ذاتاً خطرناک می‌دانند، تحت تأثیر قرار نخواهد داد.
منتقدان نگرانند که این مدل‌ها، برخلاف مدل‌های بسته‌ای که در آمریکا غالب هستند، راحت‌تر مورد سوءاستفاده قرار بگیرند. با این حال، بسیاری از فعالان حوزه هوش مصنوعی در چین معتقدند مزایای این مدل‌ها بر خطراتشان می‌چربد: آن‌ها یادآوری می‌کنند که مدل‌های باز چین به دفاع از سامانه‌های رایانه‌ای در برابر حملات مخربی کمک کرده‌اند که با استفاده از مدل‌های بسته آمریکایی انجام شده‌اند، از جمله زمانی که ابزارهای OpenAI به پلتفرم هوش مصنوعی هاگینگ فِیس نفوذ کردند. به هر حال، چین هم‌اکنون در حال تدوین مقررات سخت‌گیرانه‌تری برای نظارت بر مدل‌های باز است.
به گفته افراد مطلع، مدل‌های جدید پیش از عرضه عمومی باید از بررسی‌های دقیق و سخت‌گیرانه ایمنی عبور کنند. بر اساس اغلب بررسی‌ها، عملکرد مدل‌های هوش مصنوعی چین در مقایسه با مدل‌های آمریکایی چند ماه یا حتی بیشتر عقب‌تر است. برای فناوری‌ای که با چنین سرعتی در حال تحول است، این فاصله قابل توجه است. اما چین را به عقب‌ماندن از آمریکا در زمینه مدیریت خطرات متهم نکنید. وقتی پای مقررات، کنترل‌ها، محدودیت‌ها و هشدارها به میان می‌آید، چین کاملاً در قلمرو تخصصی خود قرار دارد.
منبع: اقتصاد نیوز
