گروه علمی و فناوری برنا/ اسناد پرونده‌های قضایی علیه تیک‌تاک نشان می‌دهد کارکنان این شرکت بارها درباره ضعف‌های جدی در سازوکار‌های حفاظت از کودکان از جمله احتمال بهره‌کشی و سوءاستفاده از کاربران خردسال هشدار داده بودند، اما بنابر اظهارات ثبت‌شده برخی از این کارکنان از نحوه واکنش شرکت به نگرانی‌های مطرح‌شده ابراز نارضایتی کرده‌اند. به گزارش ان‌پی‌آر (NPR) اظهارات ثبت‌شده کارکنان تیک‌تاک در جریان تحقیقات و رسیدگی به پرونده‌های قضایی جاری، ابعاد تازه‌ای از نگرانی‌های داخلی این شرکت درباره ایمنی کودکان را آشکار کرده است.
تیک‌تاک با صد‌ها شکایت قضایی در زمینه نحوه برخورد با مسائل ایمنی کودکان روبه‌رو است. این شرکت شماری از پرونده‌ها از جمله برخی شکایت‌های مربوط به طراحی اعتیادآور این اپلیکیشن را نیز حل‌وفصل کرده است. هشدار درباره احتمال بهره‌کشی از نوجوانان در پخش زنده بر اساس اظهارات کارکنان تیک‌تاک مدیران ارشد این شرکت از حضور مکرر نوجوانان در پخش‌های زنده این پلتفرم مطلع شده بودند، موضوعی که نگرانی‌هایی درباره احتمال سوءاستفاده از نوجوانان، فریب‌دادن آنها برای برقراری ارتباط با افراد سوءاستفاده‌گر و بهره‌کشی از کاربران خردسال ایجاد کرده بود.
در سال ۲۰۲۲ نشریه فوربز گزارشی درباره حضور نوجوانانی منتشر کرد که در ویدئو‌های پخش زنده تیک‌تاک لباس‌های خود را از تن درمی‌آوردند. در این پخش‌ها بینندگان می‌توانستند با پرداخت هزینه هدایای مجازی درون‌برنامه‌ای برای تولیدکنندگان محتوا ارسال کنند.پس از انتشار این گزارش، یکی از کارکنان بخش ایمنی تیک‌تاک اعلام کرد که شرکت از وجود چنین محتوا‌هایی اطلاع داشته است.
همچنین برخی کارکنان هشدار داده بودند که تیک‌تاک از محتوای پخش زنده مرتبط با کودکان درآمد قابل‌توجهی کسب می‌کرد، این در حالی بود که قوانین خود شرکت حضور افراد زیر سن قانونی در چنین پخش‌هایی را ممنوع کرده بود. این اظهارات پرسش‌هایی درباره نحوه اجرای مقررات داخلی تیک‌تاک و چگونگی برخورد این شرکت با محتوایی مطرح می‌کند که می‌تواند کودکان و نوجوانان را در معرض سوءاستفاده قرار دهد.
ضعف در کنترل والدین و احراز سن کاربران بخش دیگری از اسناد قضایی به کاستی‌های ابزار‌های کنترل والدین و قابلیت‌های ایمنی مبتنی بر سن در تیک‌تاک مربوط می‌شود.طبق این اسناد یکی از نقاط ضعف سیستم احراز سن، امکان دور زدن محدودیت‌های سنی از طریق ثبت‌نام با حساب‌های کاربری سایر پلتفرم‌ها بود. به‌عنوان مثال افراد زیر سن قانونی می‌توانستند با استفاده از حساب فیس‌بوک، اینستاگرام یا گوگل، بررسی‌های سنی تیک‌تاک را دور بزنند.
کارکنان همچنین از وجود یک مسیر پنهان در اپلیکیشن خبر داده بودند که به نوجوانان اجازه می‌داد خود را از قابلیت اتصال خانوادگی (Family Pairing) خارج کنند. این قابلیت برای کمک به والدین و سرپرستان طراحی شده است تا بتوانند برخی تنظیمات حساب نوجوانان را مدیریت کنند و بر تجربه استفاده آنها از پلتفرم نظارت داشته باشند. وجود چنین راه‌هایی برای عبور از محدودیت‌های سنی یا غیرفعال کردن نظارت خانوادگی می‌تواند اثربخشی ابزار‌های حفاظتی تیک‌تاک را کاهش دهد و کنترل والدین بر فعالیت فرزندانشان را دشوارتر کند.
واکنش تیک‌تاک به اتهام‌های مطرح‌شده تیک‌تاک در پاسخ به ان‌پی‌آر اظهارنظر رسمی و قابل انتسابی درباره جزئیات اسناد ارائه نکرد، اما در بیانیه‌ای برای وب‌سایت فناوری انگجت نحوه استفاده از این اسناد را مورد انتقاد قرار داد. سخنگوی تیک‌تاک مدعی شد وکلای پرونده‌ها برخی رویداد‌ها و اظهارات را به‌صورت گزینشی انتخاب کرده‌اند تا تصویری نادرست از سابقه و عملکرد شرکت ارائه دهند.
این سخنگو گفت: این ارجاعات و ادعا‌ها آشکارا به‌صورت گزینشی و به درخواست وکلای محاکمه انتخاب شده‌اند و برای بازنویسی نادرست تاریخچه ما و گمراه کردن افکار عمومی درباره تعهد ما به ایمنی جوانان و نحوه عملکرد پلتفرممان به کار می‌روند.وی افزود که تیک‌تاک میلیارد‌ها دلار در حوزه اعتماد و ایمنی سرمایه‌گذاری کرده و بیش از ۵۰ تنظیمات از پیش تعیین‌شده ایمنی، حریم خصوصی و امنیت را برای نوجوانان ارائه داده است. به گفته سخنگوی این شرکت قابلیت اتصال خانوادگی نیز به والدین و سرپرستان کمک می‌کند تا تجربه استفاده نوجوانان از پلتفرم را متناسب با نیاز‌های خود تنظیم کنند.
او تاکید کرد: ما همچنان به تعهد خود نسبت به سلامت و رفاه جامعه کاربرانمان پایبند هستیم. هشدار مدیر پیشین ایمنی درباره محتوای آسیب‌زا اسناد مورد استناد ان‌پی‌آر همچنین به گزارشی از اریک هان رئیس پیشین بخش ایمنی تیک‌تاک اشاره می‌کنند که در آن خطر‌های ناشی از مسیر‌های پیوسته محتوایی» یا حفره‌های خرگوش الگوریتمی (Rabbit Holes) بررسی شده است. این اصطلاح به وضعیتی اشاره دارد که در آن الگوریتم یک پلتفرم با پیشنهاد مکرر محتوای مشابه یا مرتبط، کاربر را به‌تدریج به سمت مجموعه‌ای محدود و گاه آسیب‌زا از مطالب هدایت می‌کند.
در گزارش هان که ظاهرا به سال ۲۰۲۰ بازمی‌گردد، به خطر تکرار محتوا‌هایی مانند مطالب مرتبط با خودکشی اشاره شده است. او در این گزارش درباره چنین محتوا‌هایی از وجود یک اثر سرایتی واقعی سخن گفته بود؛ مفهومی که در این زمینه به احتمال تاثیرگذاری مواجهه مکرر با محتوای مرتبط با خودکشی بر افکار یا رفتار برخی کاربران اشاره دارد. این هشدار‌ها نشان می‌دهد که نگرانی درباره تأثیر توصیه‌های الگوریتمی بر کاربران آسیب‌پذیر از جمله نوجوانان، دست‌کم از چند سال پیش در داخل شرکت مطرح بوده است.
آزمایش تیک‌تاک و پرونده خودکشی یک نوجوان تیک‌تاک در سال ۲۰۲۱ قابلیتی معرفی کرد که هدف آن کمک به کاربران برای اجتناب از مواجهه با الگو‌های تکراری محتوای خاص بود. این قابلیت قرار بود از پیشنهاد مداوم مطالب مشابه جلوگیری کند و تنوع بیشتری در محتوای نمایش‌داده‌شده به کاربران ایجاد کند.با این حال اسنادی که در جریان یکی از پرونده‌های قضایی منتشر شده‌اند نشان می‌دهند که این شرکت در قالب آزمایشی ظاهرا محدود از ارائه این قابلیت به میلیون‌ها کاربر خودداری کرده بود.
بر اساس اسناد مطرح‌شده در شکایتی که دادستان کل نیویورک علیه تیک‌تاک مطرح کرده است، یکی از نوجوانانی که در این آزمایش قرار داشت پس از مواجهه مکرر با محتوای مرتبط با خودآزاری جان خود را از دست داد.این پرونده بار دیگر پرسش‌هایی درباره مسئولیت پلتفرم‌های اجتماعی در قبال توصیه‌های الگوریتمی، نحوه آزمایش قابلیت‌های ایمنی و پیامد‌های احتمالی محدود کردن دسترسی کاربران به ابزار‌های محافظتی مطرح کرده است.
با این حال اطلاعات ارائه‌شده در اسناد مورد اشاره به‌تنهایی به معنای اثبات رابطه علت و معلولی قطعی میان آزمایش تیک‌تاک و مرگ این نوجوان نیست و موضوع در چارچوب یک پرونده قضایی مطرح شده است. انتهای پیام/
منبع: خبرگزرای برنا
