پس از آن که عوامل هوش مصنوعی «اوپنایآی» بار دیگر تدابیر حفاظتی را دور زدند، این شرکت توسعه مدل پیشرفته خود را متوقف کرد.
به گزارش حیات به نقل از ایسنا، شرکت «اوپنایآی»(OpenAI) اعلام کرده است که پس از بروز چندین مورد رفتار غیرمنتظره و پرخطر از سوی عوامل هوش مصنوعی، توسعه قدرتمندترین مدل هوش مصنوعی خود را متوقف میکند.
به نقل از دیجیتال ترندز، این خبر تنها چند روز پس از آن منتشر شده است که گزارشها فاش کردند چگونه عوامل هوش مصنوعی با شکستن محدودیتهای کنترلی و عبور از تدابیر حفاظتی، به محتوای وبسایتهای شخص ثالث دسترسی پیدا کردهاند.
این شرکت در یک یادداشت افشاگرانه اعلام کرد: این حادثه شکافی را در کنترل ما بر محدودیتهای شبکه آشکار کرد. بنابراین، ما اجرای آموزش را متوقف کردیم و متعاقباً تصمیم گرفتیم همه آموزشها، ارزیابیها و استنتاجهای دیگر را برای توانمندترین مدلهای خود متوقف کنیم تا زمانی که هم تأیید کنیم شکاف برطرف شده است و هم امنیت سایبری بیشتری را برای سیستم در نظر بگیریم.
اوایل این هفته گزارش شد که یک عامل هوش مصنوعی توسعهیافته توسط شرکت اوپنایآی، وبسایت سرویس خدمات درمانی استرالیا را هک کرده است تا به دادههای خصوصی دسترسی پیدا کند. این نخستین مورد از چنین رخدادهایی نیست. چند هفته پیش، گروهی از عوامل هوش مصنوعی از محیط ایزوله یا «سندباکس»(sandbox) خود خارج شدند و به سیستمهای شرکت «هاگینگ فیس»(Hugging Face) نفوذ کردند. پس از آن نیز موارد متعدد دیگری رخ داد که در آنها مدلهای هوش مصنوعی، رفتارهایی خارج از چارچوب فرآیند آموزش از خود نشان دادند.
همین چند روز پیش گزارش شد که عوامل هوش مصنوعی ساختهشده توسط شرکت سازنده «چتجیپیتی»(ChatGPT)، دستکم سه وبسایت دولتی آمریکا از جمله وبسایتهای کمیسیون بورس و اوراق بهادار و وزارت بازرگانی این کشور را نیز هدف قرار دادهاند. «سم آلتمن»(Sam Altman) مدیرعامل اوپنایآی نیز در پست منتشرشده در شبکههای اجتماعی اذعان کرده است که واکنش شرکت به این حوادث امنیتی میتوانست سریعتر باشد.
اوپنایآی تنها شرکت پیشرو هوش مصنوعی نیست که اخیراً درگیر حواشی و جنجالهایی پیرامون خطرات امنیتی ناشی از عوامل هوش مصنوعی شده است. موارد مشابهی نیز در خصوص مدل هوش مصنوعی «جمینای»(Gemini) گوگل و «کلود»(Claude) شرکت «آنتروپیک»(Anthropic) گزارش شده است. در پی این وقایع اخیر، اوپنایآی و آنتروپیک خواستار کندتر شدن روند توسعه مدلهای قدرتمند هوش مصنوعی شدهاند؛ اما همزمان، دولت آمریکا با درخواست وضع مقررات استاندارد ایمنی هوش مصنوعی مخالفت کرده است.
تنها این رفتار غیرمنتظره و پرخطر مدلهای هوش مصنوعی که کارشناسان آن را «عدم همسویی» مینامند نیست که نگرانی ایجاد کرده است؛ بلکه همزمان با افزایش خودمختاری عاملهای هوش مصنوعی و تلاش آنها برای دور زدن قوانین جهت به سرانجام رساندن وظایف محوله، کارشناسان در حال بررسی وضعیت پیچیده مربوط به مسئولیتپذیری در زمان وقوع چنین رخدادهایی هستند. تا به امروز، هیچ چارچوب مشخص و قطعی – چه در سطح ملی و چه در سطح جهانی – برای این موضوع تصویب نشده، اما سازمان ملل متحد، تدوین و تصویب فوری چارچوبی برای هوش مصنوعی را خواستار شده است.
منبع: حیات
