به گزارش گروه رسانهای شرق،
برای نخستینبار، یک نهاد ناظر اروپایی از نفوذ واقعی یک عامل هوش مصنوعی به یک سامانه و دسترسی آن به دادههای شخصی خبر داده است.
برای نخستینبار، نهاد ناظر حفاظت از دادههای اسپانیا از دریافت گزارش یک نقض داده خبر داده که در آن یک عامل هوش مصنوعی نقش مستقیم داشته است؛ سامانهای که با دخالت محدود انسان توانسته آسیبپذیری را پیدا کند، وارد سیستم شود و به دادههای شخصی دسترسی پیدا کند. آژانس حفاظت از دادههای اسپانیا اعلام کرد عامل هوش مصنوعی با استفاده از یک مدل زبانی بزرگ، پس از ورود به سامانه هدف بهصورت خودکار به جستوجوی ضعفهای نرمافزاری پرداخته و پس از شناسایی یک آسیبپذیری، توانسته اطلاعات شخصی را تغییر دهد و سوابق مربوط به صورتحسابها را مشاهده کند.
این پرونده همچنان در دست بررسی است و جزئیات بیشتری درباره سازمان قربانی یا مدل مورد استفاده اعلام نشده است. اهمیت این پرونده فقط به وقوع یک نفوذ محدود نمیشود. در گزارش آژانس اسپانیایی تأکید شده که عامل هوش مصنوعی چندین مرحله از حمله را با «مداخله محدود انسانی» انجام داده است؛ موضوعی که نشان میدهد عاملهای خودکار میتوانند بخشی از فرایند حملات سایبری را از شناسایی هدف و آسیبپذیری تا دسترسی و تغییر دادهها بر عهده بگیرند. با این حال، مقامهای اسپانیایی تأکید کردهاند که یک پرونده بهتنهایی برای اثبات شکلگیری یک روند گسترده کافی نیست.
همچنین استفاده از یک مدل زبانی مشخص به معنای هک شدن خود مدل یا زیرساخت ارائهدهنده آن نیست و آژانس اسپانیایی نیز این فناوری را ذاتاً برای فعالیت مخرب طراحیشده نمیداند.
آژانس حفاظت از دادههای اسپانیا میگوید هوش مصنوعی لزوماً تهدیدهای کاملاً جدیدی ایجاد نمیکند، اما میتواند سرعت، مقیاس و سازگاری روشهای مخرب موجود را افزایش دهد و زمان در اختیار مدافعان برای شناسایی و مهار حمله را کاهش دهد. به همین دلیل، سازمانهای پردازشکننده داده باید برای افزایش سرعت حملات آماده باشند. این پرونده در شرایطی مطرح شده که نهادهای نظارتی و امنیت سایبری در آمریکا و اروپا توجه بیشتری به خطرات عاملهای هوش مصنوعی نشان میدهند. تفاوت مهم این گزارش با بسیاری از هشدارهای قبلی آن است که موضوع دیگر صرفاً یک سناریوی آزمایشگاهی نیست و یک نهاد رسمی حفاظت از داده، وقوع یک حادثه واقعی با نقش عامل هوش مصنوعی را برای بررسی ثبت کرده است.
منبع: شبکه شرق
