رفتن به محتوای اصلی
اجتماعیشبکه شرق6 دقیقه مطالعه

دیپ‌فیک؛ مرز مبهم واقعیت و جعل در عصر هوش مصنوعی

به گزارش گروه رسانه‌ای شرق، پریسا نویدی‌فر-وکیل پایه یک دادگستری: آیا ممکن است ویدئویی از شما منتشر شود که در آن سخنانی را بیان می‌کنید که هرگز بر زبان نیاورده‌اید؟ یا صدای یکی از نزدیکانتان را بشنوید که با لحنی کاملا آشنا از شما درخواست انتقال وجه می‌کند…

به گزارش گروه رسانه‌ای شرق،

پریسا نویدی‌فر-وکیل پایه یک دادگستری: آیا ممکن است ویدئویی از شما منتشر شود که در آن سخنانی را بیان می‌کنید که هرگز بر زبان نیاورده‌اید؟ یا صدای یکی از نزدیکانتان را بشنوید که با لحنی کاملا آشنا از شما درخواست انتقال وجه می‌کند، درحالی‌که او اساسا چنین تماسی نگرفته است؟ این موقعیت‌ها دیگر صرفا موضوع داستان‌های علمی‌-تخیلی نیستند. پیشرفت هوش مصنوعی، امکان تولید محتوایی را فراهم کرده است که می‌تواند چنان به واقعیت شباهت داشته باشد که تشخیص آن برای مخاطب عادی دشوار شود.

این فناوری که با عنوان «دیپ‌فیک» (Deepfake) شناخته می‌شود، مرز میان واقعیت و محتوای ساختگی را با چالشی جدی روبه‌رو کرده است. اصطلاح دیپ‌فیک از ترکیب دو واژه «یادگیری عمیق» (Deep Learning) و «جعلی» (Fake) شکل گرفته است. این اصطلاح به تولید یا دست‌کاری واقع‌نمای محتوای صوتی، تصویری و ویدئویی با استفاده از هوش مصنوعی اشاره دارد؛ به‌گونه‌ای که هویت، چهره یا صدای شخصی واقعی به محتوایی نسبت داده شود که لزوما در واقعیت رخ نداده است.

در این فناوری، مدل‌های هوش مصنوعی با تحلیل نمونه‌های صوتی یا تصویری، ویژگی‌هایی مانند ساختار چهره، حرکات لب، حالات صورت و خصوصیات صدای افراد را شناسایی می‌کنند و بر اساس الگوهای آموخته‌شده، محتوای جدید می‌سازند. برای مثال، می‌توان صدای شخصی را شبیه‌سازی کرد، چهره او را در ویدئوی فرد دیگری قرار داد یا حرکات لب و حالات صورتش را با سخنانی هماهنگ کرد که هرگز بیان نکرده است. دیپ‌فیک را نباید با هر نوع جعل یا ویرایش دیجیتال یکسان دانست. در دست‌کاری معمولی، ممکن است بخشی از یک تصویر با ابزارهای ویرایش تغییر کند؛

اما در دیپ‌فیک، هوش مصنوعی قادر است محتوایی جدید و واقع‌نما تولید کند که نمونه واقعی مشابهی از آن وجود نداشته باشد. البته هر محتوای مصنوعی یا ویرایش‌شده‌ای الزاما دیپ‌فیک نیست و تشخیص آن به روش تولید و ماهیت دست‌کاری بستگی دارد.

از کاربردهای مثبت تا تهدیدهای پنهان

دیپ‌فیک ذاتا فناوری مجرمانه‌ای نیست. این فناوری در صنعت سینما، دوبله، بازسازی تاریخی، آموزش و تولید محتوای چندزبانه کاربردهای ارزشمندی دارد. بااین‌حال، همین قابلیت‌ها در صورت استفاده فریبکارانه می‌توانند زمینه‌ساز آسیب‌های جدی شوند. یکی از نمونه‌های نگران‌کننده، شبیه‌سازی صدای اشخاص برای کلاهبرداری است. تصور کنید فردی با استفاده از صدای مصنوعی مدیر یک شرکت، از کارمند بخش مالی درخواست انتقال فوری وجه کند. آشنایی کارمند با صدا و لحن مدیر ممکن است اعتماد کاذبی ایجاد کند و او را به انجام تراکنشی زیان‌بار سوق دهد.

از دیگر زمینه‌های سوءاستفاده، ساخت تصاویر و ویدئوهای خصوصی و مستهجن با استفاده از چهره اشخاص، بدون رضایت آنان است. در این وضعیت، حتی اگر محتوا کاملا مصنوعی باشد، آسیب حیثیتی و اجتماعی واردشده به قربانی می‌تواند واقعی و ماندگار باشد.

دیپ‌فیک و مسئولیت کیفری در حقوق ایران

پرسش اساسی این است که آیا تولید یا انتشار محتوای دیپ‌فیک در حقوق ایران جرم محسوب می‌شود؟ پاسخ به نوع رفتار، هدف مرتکب و تحقق عناصر قانونی هر جرم بستگی دارد. صرف استفاده از هوش مصنوعی برای ساخت یک تصویر یا صدای مصنوعی، به‌تنهایی برای تحقق مسئولیت کیفری کافی نیست. ماده ۷۳۴ قانون مجازات اسلامی (تعزیرات)، ایجاد یا تغییر غیرمجاز و متقلبانه داده‌های قابل استناد را با شرایط مقرر، جعل رایانه‌ای محسوب می‌کند.

بنابراین، چنانچه محتوای مصنوعی با وصف قانونی داده قابل استناد و با تحقق سایر شرایط ماده ایجاد یا تغییر یافته باشد، امکان بررسی انطباق رفتار با این عنوان وجود دارد. ماده ۷۳۵ نیز استفاده آگاهانه از داده مجعول را جرم‌انگاری کرده است. از سوی دیگر، ماده ۷۴۴ درباره تغییر یا تحریف فیلم، صوت یا تصویر دیگری و انتشار آن با شرایط مقرر، از جمله هتک حیثیت عرفی، قابل توجه است. ماده ۷۴۵ نیز انتشار بدون رضایت صوت، تصویر یا فیلم خصوصی یا خانوادگی یا اسرار دیگری را، در صورت تحقق شرایط قانونی، جرم می‌داند.

همچنین اگر محتوای دیپ‌فیک برای انتشار اکاذیب یا انتساب مطالب خلاف واقع با قصد و شرایط مقرر قانونی استفاده شود، ماده ۷۴۶ می‌تواند مطرح باشد. در فرضی که شبیه‌سازی صدا یا تصویر برای فریب اشخاص و تحصیل غیرمجاز وجه یا منفعت مالی از طریق دست‌کاری داده‌ها یا سامانه رایانه‌ای به کار گرفته شود، بررسی ماده ۷۴۱ درباره کلاهبرداری مرتبط با رایانه نیز ضرورت دارد. البته تعیین عنوان مجرمانه به شیوه ارتکاب و عناصر قانونی هر جرم وابسته است و نمی‌توان هر استفاده از دیپ‌فیک را بدون بررسی، مشمول یک عنوان کیفری دانست.

حقوق اشخاص؛ فراتر از جرم‌انگاری

یکی از ابعاد مهم دیپ‌فیک، تعرض احتمالی به حقوق شخصیت است. چهره، صدا و هویت اشخاص صرفا ابزار تولید محتوا نیستند. استفاده فریبنده از آنها می‌تواند به حیثیت، حریم خصوصی و اعتبار اجتماعی افراد لطمه وارد کند. در نظام حقوقی ایران، اصول ۲۲ و ۲۵ قانون اساسی به‌ترتیب از حیثیت و حقوق اشخاص و محرمانگی ارتباطات حمایت می‌کنند. همچنین ماده یک قانون مسئولیت مدنی، مبنای مطالبه خسارت ناشی از ورود زیان ناروا به حقوق دیگران را فراهم می‌آورد.

بنابراین، حتی در مواردی که رفتار ارتکابی با عنوان کیفری مشخصی منطبق نباشد، امکان بررسی مسئولیت مدنی و جبران خسارت با احراز شرایط قانونی وجود دارد. شاید پیچیده‌ترین پیامد این فناوری، تأثیر آن بر نظام اثبات جرم باشد. فرض کنیم فایل صوتی‌ای در یک پرونده کیفری ارائه شده که ظاهرا صدای متهم در آن شنیده می‌شود و حاوی اظهاراتی درباره ارتکاب جرم است. متهم انتساب صدا را انکار می‌کند و مدعی می‌شود فایل با هوش مصنوعی ساخته شده است. دادگاه چگونه باید اصالت و اعتبار چنین فایلی را ارزیابی کند؟

ماده ۱۶۰ قانون مجازات اسلامی ادله اثبات جرم را برشمرده و ماده ۲۱۱، علم قاضی را مستند به قرائن و امارات بیّن می‌داند. بنابراین، فایل صوتی یا تصویری باید از حیث منشأ، تمامیت، انتساب و ارتباط با موضوع اتهام بررسی شود. کارشناسی تخصصی، بررسی سوابق فایل و تطبیق آن با شواهد مستقل، مانند اسناد مالی و مکاتبات، می‌تواند در ارزیابی اعتبار آن مؤثر باشد. در این میان، خطری کمتر مورد توجه قرار گرفته است: دیپ‌فیک فقط امکان ساختن واقعیت دروغین را فراهم نمی‌کند، بلکه می‌تواند به ابزاری برای انکار واقعیت نیز تبدیل شود.

در ادبیات این حوزه، از این وضعیت با عنوان «سودِ دروغ‌گو» (Liar’s Dividend) یاد می‌شود؛ یعنی شخص می‌تواند حتی درباره یک فایل واقعی ادعا کند با هوش مصنوعی ساخته شده و از این طریق اعتبار آن را زیر سؤال ببرد. در نتیجه، نظام قضائی هم با خطر پذیرش ادله جعلی و هم با خطر بی‌اعتبارشدن ادله واقعی مواجه است.

ضرورت مواجهه حقوقی و پیشگیری

در اتحادیه اروپا، ماده ۵۰ قانون هوش مصنوعی (AI Act) برای برخی محتواهای تولید یا دست‌کاری‌شده با هوش مصنوعی، الزامات شفافیت و اعلام مصنوعی‌بودن محتوا را پیش‌بینی کرده است. از جمله، برای محتوای دیپ‌فیک تکالیفی در زمینه افشای مصنوعی‌بودن آن در نظر گرفته شده است؛ هرچند این مقرره استثناهایی نیز دارد. اهمیت این رویکرد در آن است که مقابله با دیپ‌فیک را صرفا به مجازات مرتکب محدود نمی‌کند و پیشگیری و شفافیت را نیز مورد توجه قرار می‌دهد.

در ایران نیز تدوین ضوابط روشن درباره تولید و انتشار محتوای مصنوعی، حمایت از هویت و حریم خصوصی اشخاص، معیارهای کارشناسی و نحوه ارزیابی ادله دیجیتال ضروری به نظر می‌رسد. در کنار آن، آموزش عمومی اهمیت زیادی دارد؛ برای مثال، درخواست‌های مالی حساس نباید صرفا بر اساس صدای آشنا اجرا شوند و باید از طریق یک مسیر ارتباطی مستقل تأیید شوند. در نهایت، مسئله دیپ‌فیک صرفا ساخت تصاویر و صداهای غیرواقعی نیست؛ مسئله، تضعیف مرز میان حقیقت و جعل و دشوارشدن اعتماد به آن چیزی است که می‌بینیم و می‌شنویم.

در عصر هوش مصنوعی، نه ظاهر واقعی یک محتوا تضمین‌کننده صحت آن است و نه ادعای جعلی‌بودن، به‌تنهایی می‌تواند واقعیت را از اعتبار ساقط کند. چالش اصلی حقوق، ایجاد تعادلی میان بهره‌مندی از ظرفیت‌های فناوری، حمایت از حقوق اشخاص و تضمین اعتمادپذیری فرایند دادرسی است.

منبع: شبکه شرق

منبع خبرشبکه شرق
نمای زنده فرهاببه‌روزرسانی 04:09
196,866مطلب نمایه‌شده
167,102موضوع و برچسب
30منبع خبری
14حوزه موضوعی