گسترش انتشار اطلاعات غلط و پیام‌های نفرت‌آمیز و انواع دیگر محتوای مخرب در شبکه‌های اجتماعی از نگرانی‌های اصلی جوامع در سال‌های اخیر بوده است. مردم در بسیاری از نقاط جهان تصمیم‌گیری‌های سیاسی و اجتماعی خود را به‌صورت خودآگاه یا ناخودآگاه براساس اطلاعات منتشرشده در شبکه‌های اجتماعی اتخاذ می‌کنند. درحال‌حاضر، آن‌ها بخش مهمی از زندگی و فعالیت‌های خود را در توییتر و فیسبوک و یوتیوب انجام می‌دهند که به‌نوعی سازمان‌های تأثیرگذار سیاسی حال حاضر شده‌اند.

باتوجه‌به گسترش استفاده از شبکه‌های اجتماعی و توسعه‌ی سریع آن‌ها، امروز این سؤال مطرح است: «مقیاس عظیم چنین بازیگران مهمی در دنیای فناوری به حل مشکلات سیاسی و اجتماعی می‌تواند کمک کند؟» البته برخی نیز نگران هستند همین مقیاس عظیم تأثیراتی ماندگار و بزرگ به جوامع تحمیل  و شرایط دموکراتیک را وارد مراحلی نگران‌کننده کند. برخی کارشناسان شبکه‌های اجتماعی را عوامل اصلی قطبی‌سازی جوامع می‌دانند که با گسترش اطلاعات غلط در آن‌ها، روز‌به‌روز شرایط نگران‌کننده‌تری پیدا می‌کنند.

در شبکه‌های اجتماعی، مدیران وظایف مهمی در مقابله با گسترش اطلاعات غلط در پلتفرم‌هایشان دارند. بازترین محیط‌ها در انتشار اخبار و اطلاعات نیز نمی‌توانند تضمینی بر حفظ حقیقت و اصول اخلاقی اخبار باشند. در رخدادهای متعدد اخیر، سوءاستفاده‌ی گسترده از قابلیت‌های توزیع و انتشار در شبکه‌های اجتماعی را شاهد بوده‌ایم که لزوم تصویب و اخذ سیاست‌های روشن و محکم را بیش‌ازپیش نشان می‌داد. به‌هرحال، امروزه شبکه‌های اجتماعی تلاش می‌کنند هرکدام به‌‌نوبه‌ی خود با تصویب و اجرای قوانین، سدی بر سر راه سوءاستفاده از پلتفرم‌هایشان ایجاد کنند.

چندی پیش، یوتیوب سیاست‌های جدید خود برای مقابله با انتشار اطلاعات غلط را منتشر کرد. هیچ‌یک از سیاست‌های منتشرشده آن‌چنان جدید نبودند؛ اما تصمیم جدی پلتفرم را برای جلوگیری از سوءاستفاده، به‌ویژه در انتخابات پیش‌ روی ایالات متحده را نشان می‌دادند. جولیا الکساندر در مقاله‌ای در وب‌سایت ورج، سیاست‌های جدید یوتیوب را این‌گونه بررسی کرد:

یوتیوب درقبال ویدئوهای دست‌کاری‌شده سیاست مشخصی دارد. این شرکت محتوایی را حذف می‌کند که به‌صورت فنی دست‌کاری شده یا به‌گونه‌ای تغییر کرده باشد که کاربران را گمراه کند و تهدیدهای عظیمی به‌همراه داشته باشد. یوتیوب قبلا ویدئویی را پاک کرده بود که سخن‌گوی مجلس نمایندگان آمریکا، نانسی پلوسی را در وضعیت صحبت‌کردن در حالت غیرعادی نشان می‌داد.

ویدئوهایی که اطلاعات غلط مانند تاریخ‌های قلابی زمان رأی‌دهی یا موارد مشابه درباره‌ی انتخابات منتشر کنند، در یوتیوب مجوز انتشار ندارند. به‌علاوه، ویدئوهایی که اطلاعات غلطی درباره‌ی پیش‌نیازهای نامزدی انتخابات ادعا کنند، از پلتفرم حذف می‌شوند. افزون‌براین، یوتیوب کانال‌هایی را حذف می‌کند که برای شبیه‌سازی چهره و شخصیت فردی تلاش می‌کنند یا به‌صورت مصنوعی تعداد بازدیدها و لایک‌ها و نظرها را افزایش می‌دهند.

پلتفرم‌های بزرگ دنیای فناوری تمام تلاش خود را به‌کار می‌گیرند تا اطلاعات صحیح در شبکه‌ها منتشر شود. آن‌ها به‌ویژه درباره‌ی اطلاعات مرتبط با نامزدهای انتخاباتی بسیار حساس هستند و اطلاعات غلط درباره‌ی تاریخ‌های رأی‌گیری با جدی‌ترین برخورد آن‌ها مواجه می‌شود. به‌هرحال، همه‌ی شبکه‌ها تلاش می‌کنند با رویکردی جدی، نقش خود را در حفظ دموکراسی در انتخابات ایفا کنند. ازآنجاکه اکثر شرکت‌های بزرگ دنیای فناوری در ایالات متحده فعال هستند، تمرکز آن‌ها روی انتخابات پیش‌ روی آن کشور، دوچندان شده است تا بتوانند نقش خود را در حفظ سلامت سیاسی جامعه نشان دهند.

توییتر مانند دیگر شبکه‌های اجتماعی از قوانین جدید متمرکز بر مقابله با اطلاعات نادرست خبر داد. تصاویر و ویدئوهای دست‌کاری‌شده نقطه‌ی تمرکز اصلی این شبکه‌ی اجتماعی خواهد بود که امروزه به‌عنوان «رسانه‌های ساختگی» شناخته می‌شوند. توییتر اعلام کرده است از مارس سال جاری توییت‌های حاوی دیپ‌فیک را برچسب‌گذاری یا به‌صورت کامل از پلتفرم حذف خواهد کرد. در مقاله‌ای در نیویورک‌تایمز، درباره‌ی تصمیم جدید توییتر نوشته شد:

توییتر در پستی وبلاگی اعلام کرد برای تشخیص دیپ‌فیک‌بودن توییت، آزمایش‌های متعددی انجام می‌دهد: آیا محتوای رسانه‌ای درون توییتی قرار دارد که به‌طور درخورملاحظه‌ای با هدف گمراه‌کردن نوشته شده است؟ آیا محتوای رسانه‌ای با شیوه‌ای گمراه‌کننده به‌اشتراک گذاشته می‌شود؟ در چنین مواردی، توییت مذکور برچسب زده می‌شود.

اگر توییتی باعث ایجاد خطر جدی برای جامعه شود و امنیت آن را به‌خطر بیندازد، قطعا حذف خواهد شد. توییتر همچنین اعلام کرده است درصورت تعامل کاربران با توییتی حاوی محتوای دست‌کاری‌شده، به آن‌ها هشدار می‌دهد و حتی دسترسی و توزیع توییت مذکور را محدود می‌کند.

رویکرد جدید توییتر بسیار دشوارتر از پاک‌کردن توییت‌هایی حاوی اطلاعات غلط درباره‌ی تاریخ انتخابات است. درواقع، این سؤال مطرح می‌شود که «پلتفرم چه واکنشی به محتوای طنز سیاسی نشان خواهد داد؟» شایان ذکر است سخن‌گویان شرکت می‌‌گویند رویکرد اصلی تمرکز بر خروجی محتوا خواهد بود. درواقع، آن‌ها در بررسی‌هایشان شیوه‌ی تولید محتوا را مدنظر قرار نمی‌دهند و صرف‌نظر از هدف و رویکرد سازنده، تأثیر آن را بر جامعه بررسی می‌کنند.

توجه به خروجی و تأثیر محتوا در پیاده‌سازی‌ سیاست‌ها چهارچوبی مناسب برای تصمیم‌گیری‌های سیاسی در داخل پلتفرم خواهد بود. حجم زیادی از محتوای مخرب در شبکه‌های اجتماعی وجود دارد که به‌‌دلیل تعداد کم مخاطبان و توزیع محدود، تأثیر و خطر زیادی ندارد. درمقابل، محتوای محدودی نیز تولید می‌شود که با توزیع گسترده، خطر زیادی به‌همراه دارد. توییتر تمرکز خود را بر دسته‌ی دوم خواهد گذاشت که تصمیمی معقول به‌نظر می‌رسد؛ درنتیجه تعهد به دخالت در مواردی که تهدید جدی ایجاد می‌کند، نه‌تنها معقول، بلکه مقیاس‌پذیر به‌نظر می‌رسد.

آویو اوادیا، محقق اطلاعات نادرست رسانه‌ای، پیشنهادهای بسیاری برای پلتفرم‌های فناوری‌ای دارد که در مقابله با تهدید رسانه‌های ساختگی مفید به‌نظر می‌رسند. یکی از پیشنهادهای جذاب او استفاده از انحصار شبکه‌های اجتماعی برای ملزم‌کردن توسعه‌دهندگان به اضافه‌کردن نشانه (واترمارک) روی محتوای تقلبی است که دیگر غول‌های دنیای فناوری این نشانه‌ها را می‌توانند شناسایی کنند. اوادیا در مقاله‌ای پیشنهادهای خود را این‌گونه شرح داد:

اگر بازارچه‌های اپلیکیشن و اپل همه‌ی ابزارهای تولید محتوای رسانه‌ای ساختگی را به پیروی از قوانین ملزم کنند، نتایج خوبی حاصل خواهد شد. درنتیجه، آن شرکت‌ها می‌توانند بر تولید و توزیع محتوای رسانه‌ای ساختگی در پلتفرم‌های خود را بهتر نظارت کنند. شرکت‌هایی همچون فیسبوک از نشانه‌های مخفی در محتوا برای مدیریت بهتر و متفاوت محتوای ساختگی استفاده و توزیع آن‌ها را مدیریت می‌کنند و می‌توانند بخشی از ابزارها را نیز به شرکت‌های پیمان‌کار مسئول بررسی صحت اطلاعات ارائه کنند.

بااین‌همه، تمامی ابزارها و راهکارهای کنونی تأثیر محدودی دارند. به‌عنوان مثال، بازیگران خراب‌کار دنیای فناوری بازهم می‌توانند ابزارهایی بدون محدودیت و قانون پیدا کنند؛ البته با تصمیم‌ و برنامه‌های صحیح، می‌توان دسترسی به ابزارهای بدون کنترل را نیز محدود کرد. وقتی ابزارهای دست‌کاری محتوا در پلتفرم‌های محبوب و مشهور توزیع نشود، نمی‌توان از آن‌ها به‌خوبی درآمدزایی کرد و درنتیجه، توسعه‌دهندگان تمایل کمتری به ساختشان دارند. درنهایت، هیچ راهکاری به‌عنوان راهکار طلایی درمقابل تهدید کنونی وجود ندارد و باید با مشکلات موجود به‌طورجدی مقابله‌ کرد.

تمامی نگرانی‌‌ها بابت شبکه‌های اجتماعی و غول‌های فناوری از ابعاد عظیم آن‌ها و پیامدهای ناخودآگاه مقیاس‌دهی پلتفرم‌ها نشئت می‌گیرد. اگر شرکت‌های بزرگ دنیای فناوری بخواهند مزیت ابعاد بزرگ خود را به مردم نشان دهند، اکنون بهترین موقعیت و زمان است؛ زیرا با بهره‌مندی از همین ابعاد عظیم، می‌توانند از گسترش بیشتر محتوای دروغین و مواردی شبیه به دیپ‌فیک جلوگیری کنند.