فیس‌بوک در حال تدوین یک برنامه خودکار برای شناخت و حذف مطالب توهین‌آمیز در بخش پخش زنده ویدئویی خود است. این برنامه تلاشی در جهت استفاده از فن‌آوری هوش مصنوعی برای نظارت بر محتوای مطالب است.
به گزارش رویترز، در چند ماه اخیر فیس‌بوک به خاطر نظارت بر محتوای برخی مطالب بحث برانگیز مورد انتقاد کاربران قرار گرفته است. از جمله این موارد، حذف کرن یک عکس معروف از جنگ ویتنام به علت «برهنگی»، یا دیگری، اجازه بازنشر اخبار جعلی است.
تا به حال این کاربران بودند که محتوای نامناسب و توهین‌آمیز را به فیس بوک گزارش می‌دادند. این گزارش‌ها توسط کارکنان فیس بوک با آنچه «استاندارد‌های جامعه» توصیف می‌شود و توسط این شرکت وضع شده، تطبیق داده می‌شد.
واکین کاندلا، مدیر بخش یادگیری ماشینی کاربردی در فیس بوک می‌گوید که این شبکه اجتماعی استفاده از هوش مصنوعی برای تشخیص محتوای نامناسب را بیشتر کرده است: «این الگوریتمی است که برهنگی، خشونت، یا هر مورد دیگری را که خلاف قوانین فیس بوک است، تشخیص می‌دهد».
البته فیس بوک در گذشته هم از روش های خودکار برای تشخیص ویدوهایی با ایده‌های افراطی استفاده کرده بود. اما این قدم تازه، در جهت نظارت بر بخش ویدئوهای زنده است که به افراد و سازمان‌ها اجازه می‌ده از فیس بوک به عنوان ابزاری برای رابطه زنده با مخاطبانشان استفاده کنند.
کاندل می‌گوید که این فن‌آوری هنوز در مراحل تحقیق و آزمایش است. او می‌گوید که برای نهایی شدن این برنامه دو چالش عمده پیش روی فیس بوک است: یکی اینکه سرعت کامپیوتر باید بسیار بالا باشد و دیگری اینکه (این الگوریتم باید بتواند) به درستی و به سرعت مطالب را برای ارسال به یکی از کارکنان فیس بوک اولویت‌بندی کند. فردی که قوانین فیس بوک را بشناسد و محتوای نامناسب را حذف کند.
فیس بوک همچنین اعلام کرده که از این فن‌آوری خودکار برای بررسی ده‌ها میلیون گزارشی که هر هفته به دستش می‌رسد استفاده خواهد کرد تا گزارش‌های تکراری را تشخیص دهد و همینطور هر گزارش را به متخصص هر حیطه‌ای ارسال کند.
با آنکه فیس بوک به طور مشخص اعلام نکرده است که از روش یادگیری ماشینی و هوش مصنوعی برای تشخیص اخبار جعلی هم استفاده خواهد کرد، اما مارک زاکربرگ، موسس و مدیر عامل این رسانه اجتماعی، در ماه گذشته گفته بود که از روش‌های خودکار برای تشخیص آنها استفاده خواهد شد.
طی ماه‌های گذشته انتقادهایی از شبکه‌های اجتماعی از سوی گروه‌هایی با رویکردهای مختلف سیاسی بیان شده‌است؛ پیش از این محافظه‌کاران ایالات متحده می‌گفتند فیس بوک به نفع دمکرات‌ها «اخبار داغ» را دسته‌بندی می‌کند. در عین حال برخی از منتقدان نیز تا بدان جا پیش رفتند که فیس‌بوک را مسئول انتخاب شدن او به عنوان ۴۵مین رئیس‌جمهوری آمریکا معرفی کردند. آنها می‌گویند «اخبار جعلی» منتشر شده در فیس‌بوک باعث ایجاد شور و شوق در مورد ترامپ و نفرت از هیلاری کلینتون شده است.
فیس‌بوک این انتقادها را رد کرده، اما در عین حال اقداماتی را نیز آغاز کرده که به نظر می‌رسد، همین انتقادها در شکل‌گیری آنها موثر بوده‌است.
