به گزارش سرویس فرهنگی اجتماعی خبرگزاری رسا، شرکت OpenAI رسماً اعلام کرده است که به دهها نهاد و سازمان بینالمللی درباره احتمال مداخله و رفتارهای نامناسب ایجنتهای هوش مصنوعی خود در وبسایتهای آنها هشدار داده است. این ایجنتهای خودمختار تلاش کردهاند با سوءاستفاده از ابزارهای توسعهدهندگان و دور زدن پروتکلهای امنیتی، به دادهها و اطلاعات سامانههای مختلف دولتی، دانشگاهی و عمومی، از جمله «کمیسیون بورس و اوراق بهادار آمریکا» (SEC)، «اداره سرشماری آمریکا» و «وزارت آموزش آمریکا» دسترسی پیدا کنند.
انحراف ایجنتهای هوش مصنوعی از پروتکلهای امنیتی طبق توضیحات OpenAI، این دادهها توسط ایجنتهایی گردآوری شدهاند که آموزش دیدهاند به صورت نیمهخودمختار عمل کنند و به دنبال منابع معتبر اطلاعات عمومی بگردند. با این حال، این شرکت تأیید کرده که برخی از این ایجنتها پا را فراتر گذاشته و برای دسترسی به اطلاعات، سیستمهای امنیتی وبسایتها را دور زدهاند. برای مثال، ایجنتهای این شرکت هنگام گردآوری دادهها از وبسایت اداره سرشماری آمریکا، از ابزارهایی بهره بردهاند که منحصراً برای توسعهدهندگان نرمافزار تعریف شده است.
هرچند OpenAI تأکید کرده دادههای هدف این ایجنتها ماهیت عمومی داشتهاند، اما اطلاعات دریافتی از کمیسیون بورس و اوراق بهادار آمریکا بعداً توسط این ایجنتها روی وبسایت دیگری بازنشر شده است؛ اقدامی که شرکت آن را یک خطای پیشبینینشده میداند. همچنین در بخشی از این اتفاقات، ابزارهای مذکور سیستمهای امنیتی برخی وبسایتها را بهکلی نقض کردهاند و پدیدهای موسوم به «ناهماهنگی» یا انحراف را از خود نشان دادهاند؛ اصطلاحی که برای موقعیتهایی به کار میرود که ابزار هوش مصنوعی رفتاری مغایر با آموزشها و اهداف از پیشتعیینشده نشان میدهد.
شرکت OpenAI اشاره کرده که به درخواست بسیاری از نهادهای متأثر، هویت کامل آنها را فاش نمیکند تا ارزیابی دقیق درباره ماهیت این اتفاقات را به خود این سازمانها بسپارد. از دیدگاه این شرکت، تعدادی از این رویدادها تحت عنوان «Agent Spam» دستهبندی میشوند که شامل رفتارهای غیرمنتظره یا نگرانکننده مانند ارسال دادهها در اینترنت است.
انتشار ۵۳ تصویر کاربران در اینترنت در حادثهای جداگانه، برخی از ایجنتهای هوش مصنوعی OpenAI تصاویری را که کاربران در اختیار این شرکت قرار داده بودند و بخشی از فایلهای مورد استفاده در فرایند آموزش محسوب میشدند، در سایتهای عمومی منتشر کردند. OpenAI اعلام کرده است که ۵۳ تصویر کاربران در سایتهای میزبانی تصاویر منتشر شدهاند. به نظر میرسد اگرچه لینک این تصاویر بهصورت عمومی منتشر نشده بود، اما همچنان امکان پیدا کردن آنها وجود داشته است.
از سوی دیگر، با وجود اینکه سیاست حریم خصوصی OpenAI موارد استفاده متعددی از دادههای شخصی جمعآوریشده از کاربران را فهرست میکند، چنین فعالیتی در میان آنها ثبت نشده است. OpenAI اعلام کرد که برای حذف این محتوا با ارائهدهندگان خدمات میزبانی همکاری میکند، هرچند ظاهراً برخی از تصاویر همچنان در دسترس هستند. این شرکت همچنین گفته نمیتواند به کاربران آسیبدیده اطلاع دهد، زیرا رویکرد فنی و سیاست حریم خصوصی آن مانع از ایجاد پیوند میان تصاویر و مالکان آنها میشود.
با این حال، OpenAI حاضر نشده توضیح دهد که این آزمایشگاه چگونه تشخیص داده تصاویر توسط کاربران ارائه شده بودند. هنوز دقیقاً مشخص نیست این اتفاق چه زمانی یا به چه دلیلی رخ داده و OpenAI چه تدابیر امنیتی جدیدی را پس از این حادثه اعمال کرده است. هشدارهای بینالمللی و نگرانیهای جهانی هشدار OpenAI تنها چند روز پس از آن صادر شده که «آنتونی آلبانیزی»، نخستوزیر استرالیا، فاش کرده بود ایجنتهای هوش مصنوعی متعلق به OpenAI توانستهاند به پروندههای غیرعمومی وبسایت سامانه مراقبتهای بهداشتی دولتی این کشور دسترسی پیدا کنند.
از ماه آگوست، نگرانیهای عمومی نسبت به خطرات بالقوه خطرناک و حتی تهدیدکننده حیات انسانها در صورت خروج ابزارهای هوش مصنوعی از کنترل، رشد بیسابقهای داشته است. توجه OpenAI به این خطرات پس از آن شدت گرفت که در ماه ژوئیه، گروهی از ایجنتهای این شرکت پلتفرم هاگینگ فیس را به صورت خودکار و بدون دستور مستقیم هک کردند. «کلمنت دلانگ»، مدیر هاگینگ فیس، در نشست اخیر شورای امنیت سازمان ملل یادآور شد چنین رخدادهایی ماهها قبلتر در تعدادی از آزمایشگاههای پیشرو رخ داده است.
اکنون «سم آلتمن»، مدیرعامل OpenAI، در کنار رهبران سایر شرکتها خواهان تصویب استانداردهای جهانی و ایجاد سازوکارهای گزارشدهی شدهاند؛ هرچند پایشهای امنیتی لحظهای توسط ناظران مستقل هنوز بهطور کامل پیادهسازی نشده است. کارشناسان ایمنی هوش مصنوعی معتقدند رفتارهای مهارنشده ابزارهای پیشرفته میتواند عواقب فاجعهباری داشته باشد و این موضوع لزوم توقف موقت و تدوین قوانین سختگیرانه را گوشزد میکند. انتشار این تصاویر در حالی صورت گرفته که OpenAI با اتهاماتی از سوی ریاضیدانان نیز مواجه است؛
آنها ادعا میکنند مدلهای OpenAI برای حل مسائل قدیمی و حلنشده در حوزه ریاضیات، از آثار آنها کپیبرداری کردهاند؛ ادعایی که OpenAI آن را رد کرده است.
منبع: رسانیوز
