چالش یوتیوب در برابر محتوای خشونت‌آمیز

فیلم حمله به مسجدی در نیوزیلند و کشتن فجیع انسان‌ها یکی از تکان‌‌دهنده‌ترین صحنه‌های نمایش داده شده روی شبکه‌های اجتماعی بود. ماجرا فقط مربوط به یک فیلم نبود بلکه این فیلم بارها و بارها توسط افراد مختلف آپلود و پخش شد. حالا این پرسش مطرح است که چرا یوتیوب به‌طور خودکار جلوی آپلود دوباره فیلم‌های زننده را نمی‌گیرد؟ استفاده مردی که به‌طور آنلاین حمله خود به دو مسجد در نیوزیلند را روی فیس‌بوک قرار داد سوالات دیجیتالی جدیدی را به وجود آورده است.

این مرد روز جمعه در حمله به دو مسجد در نیوزیلند ۴۹ نفر را کشت و ده‌ها نفر دیگر را زخمی کرد و در نهایت سبعیت کل اقدام خود را به‌صورت زنده روی فیس‌بوک منتشر کرد.فیلم او سپس بارها و بارها توسط دیگران روی یوتیوب و دیگر شبکه‌های اجتماعی آپلود و البته حذف شد. بازبین‌ها (Moderators) بارها و بارها نسخه‌های کپی این فیلم را از روی یوتیوب حذف کردند. با این حال تکرار انتشار این فیلم شنیع عملا پرسش‌های زیادی را در مورد ابزارهای نظارت بر محتوای خشونت‌آمیز روی شبکه‌های اجتماعی مثل یوتیوب ایجاد کرده است.

سیستم یوتیوب در شناسایی محتوای خشونت‌آمیز

یوتیوب دارای ابزاری برای شناسایی خودکار محتوای دارای کپی رایت است؛ چرا به‌طور خودکار قادر به شناسایی و حذف این محتوا نبود؟ نکته این است که یوتیوب از بازانتشار اصل این فیلم در یوتیوب با همین ابزار جلوگیری می‌کند اما ویدئوهایی که حاوی فیلم‌های کوتاه از همین ویدئو هستند برای بازبین‌ها فرستاده می‌شوند. به این ترتیب اطمینان به وجود می‌آید که ویدئوهای خبری که حاوی صحنه‌هایی از این حادثه هستند در این فرآیند حذف نمی‌شوند. به گفته یک منبع آگاه در داخل یوتیوب تیم امنیت یوتیوب به دنبال ایجاد موازنه‌ای در مواجهه با چنین مواردی است. وی می‌گوید یوتیوب برای رویدادهای مهمی مانند حمله به مساجد نیوزیلند از ابزارهایی مشابه ابزار مقابله با فیلم‌های دارای کپی‌رایت استفاده می‌کند. این سیستم به دنبال نسخه‌های دوباره آپلود‌شده آن فیلم می‌گردد و برای این کار از متادیتا و تصاویر فیلم اصلی استفاده می‌کند. در صورتی که فیلم مورد نظر بدون ویرایش دوباره آپلود شده باشد آن فیلم به‌صورت خودکار حذف می‌شود.

در صورتی که فیلم (از نسخه اصلی) ویرایش شده باشد آن را برای بازبین‌ها می‌فرستد. بازبین‌ها در یوتیوب افرادی تمام وقت در داخل یوتیوب یا تحت قرارداد این شرکت هستند که ویدئوها را از نظر موازین مورد نظر یوتیوب بررسی می‌کنند. یوتیوب همچنین از سیستمی برای حذف فوری پورنوگرافی کودکان و محتوای مربوط به تروریسم برخوردار است که با استفاده از سیستم هشینگ تصویر را به هم می‌ریزد یا به نوعی سانسور می‌کند. اما آن سیستم برای رویدادهایی مانند حمله به دو مسجد نیوزیلند مورد استفاده قرار نمی‌گیرد دلیل آن هم این است که پتانسیل وجود ارزش خبری در محتواست. در واقع یوتیوب تاکید زیادی روی حذف نکردن مطالبی دارد که پتانسیل خبری شدن دارند. البته یوتیوب فیلم‌هایی را که موجب شوک یا تنفر بینندگان می‌شود یا پیامدهای یک حمله را در بر دارد ممنوع کرده است. (برخورد با اصل فیلم حمله به مساجد از این نوع است)  با این حال اگر یک فیلم برای اهداف خبری از تصاویر یک فیلم خشونت‌آمیز استفاده کرده باشد با رعایت محدودیت سن قانونی بینندگان آن را مجاز می‌شمرد.

 یوتیوب و مشکل با ویدئوهای خبر فوری

مشکل دیگر این است که سیستم Content ID یوتیوب قابلیت تعامل با محتواهای خبر فوری  (Breaking News) ندارد. رستی تورک (Rasty Turek) مدیرعامل شرکت Pex یک پلت‌فرم تحلیل ویدئو که روی ابزاری برای شناسایی محتواهای دوباره آپلود شده سرقتی کار می‌کند به Verge می‌گوید که مشکل در نحوه اجرای محصول است. این تحلیلگر که به خصوص روی سیستم Content ID یوتیوب مطالعات زیادی داشته معتقد است برای سیستم حدود ۳۰ ثانیه زمان می‌گیرد که متوجه شود فیلمی با محتوای یکسان دوباره آپلود شده است. به گفته وی، یوتیوب اساسا قصد نداشته ابزاری برای مواجهه با چنین رویدادهایی تولید کند و حتی اگر Susan Wojcicki مدیرعامل یوتیوب همین امروز دستور تولید آن را بدهد اجرای آن ممکن است ماه‌ها به طول بینجامد.

این تحلیلگر می‌گوید که بین چند دقیقه تا حتی چند ساعت مشخص شدن نوع ویدئو برای یوتیوب طول می‌کشد. این برای فیلمی که مثلا دارای کپی رایت است اشکالی ایجاد نمی‌کند (چراکه بعد از چند ساعت حذف می‌شود ) اما برای یک واقعه مهم خبری که دارای صحنه‌های زننده است آسیب‌زننده است.

نکته بعدی اما در مورد پخش زنده یک رویداد منزجر‌کننده است. به گفته متخصصان تقریبا غیر ممکن است با محتوای زنده بلافاصله مقابله کرد، چراکه در پخش زنده محتوای استریم مرتبا در حال تغییر است. به همین دلیل هم هست که به گفته رستی تورک پخش زنده یوتیوب یک محیط پرریسک برای یوتیوب است و این شرکت نمی‌تواند آن را به طور کامل و صحیح انجام دهد. گفته می‌شود یوتیوب در حال کار روی تحلیل محتوای پخش زنده است اما حرکت در این بخش بسیار دشوار است. این متخصص و تحلیلگر می‌گوید: می‌توانید یوتیوب را برای اینکه جلوی پخش زنده این تصاویر فجیع را نگرفته سرزنش کنید اما واقعیت این است که هیچ کس فعلا در جهان قادر به حل این مشکل پخش زنده نیست. یوتیوب هم‌اکنون روی یافتن ویدئوهای مشابه با استفاده از تصاویر و متادیتای مشترک متمرکز است و فعلا به دنبال این است که محتوای دارای ارزش خبری را حذف نکند.

این چیزی است که فعلا آنها می‌توانند آن را مدیریت کنند اما برای منتقدان این کافی نیست. رستی تورک می‌گوید: اصلاح این موضوع نیاز به اولویت‌بندی در بالاترین سطوح یوتیوب دارد. اگر آنها به آن اولویت بدهند برایش منابع و تیم اختصاص خواهند داد.