خلاصه کتاب بازی واقعیت اثر ساموئل وولی

خلاصه کتاب ” بازی واقعیت ” اثر ” ساموئل وولی ”
The Reality Game by Samuel Woolley
[stars_rating_avg]

چگونه با اخبار جعلی مبارزه کنید

شبکه‌های اجتماعی بیش از هر زمان دیگری، همچون سلاحی در دست حکومت‌های اقتدارگرا قرار گرفته‌اند. این حکومت‌ها در جای‌جای جهان، لشکرهایی از ربات‌ها و حساب‌های جعلی در اختیار دارند. مأموریت آن‌ها اغلب آزارواذیت روزنامه‌نگاران و بدنام کردن مخالفان است.
جمال خاشُقچی، روزنامه‌نگار عربستانی، در ماه‌های پیش از قتل خود، لحظه‌ای از تمسخر، توهین و تهدید حساب‌های توییتری وابسته به دولت عربستان در امان نبود. پس از آنکه در سال ۲۰۱۸، خاشقچی در کنسولگری عربستان سعودی در استانبول کشته شد، بسیاری از فعالان شبکه‌های اجتماعی حرف از نقش دولت در قتل او می‌زدند؛ اما ربات‌های وابسته به عربستان، در مدح خاندان سلطنتی می‌نوشتند و آن‌ها را بی‌گناه می‌دانستند.

نباید تصور کرد که تنها دیکتاتورها از تسلیحات دیجیتال استفاده می‌کنند: کشورهای دموکراتیک هم کاملاً در امان نیستند. در انتخابات ریاست‌جمهوری سال ۲۰۱۶ در آمریکا، تیم تبلیغاتی دونالد ترامپ هزاران حساب جعلی در شبکه‌های اجتماعی ساخت تا نظرات او را ترویج دهند.

آن‌سوی اقیانوس اطلس، هواداران جدایی بریتانیا از اتحادیهٔ اروپا (بِرِگزیت)، روش‌های مشابهی به کار گرفتند. هم ترامپ و هم هواداران برگزیت توانستند با نشر اخبار نادرست به پیروزی دست پیدا کنند. اکنون، کار به جایی رسیده است که کمپین‌های شایعه‌پراکنی در شبکه‌های اجتماعی می‌توانند زندگی میلیون‌ها نفر را دگرگون کنند.

مسئله تنها گروه‌ها و شخصیت‌های سیاسی نیستند. شایعه‌پراکنی گاهی هم انگیزه‌های مالی دارد. استفاده از تیترهای جنجالی راهی برای جذب مردم به وبسایت‌هایی است که از تبلیغات کسب درآمد می‌کنند. این نوع تلاش برای فریب دادن کاربران را نمی‌توان تنها یکی از عوارض جانبی توسعه فناوری دانست. شبکه‌ای پیچیده از مسائل اجتماعی، اقتصادی و سیاسی در پشت این جریان نهفته است؛ بنابراین، مسئله نه خودِ شبکه‌های اجتماعی، بلکه سوءاستفاده از آن‌ها است.

شبکه‌های اجتماعی کاربردهای مفید فراوانی دارند؛ اما باید بدانیم که چگونه جلوی استفاده‌های ناروا از ابزارهای دیجیتال را بگیریم. انگیزهٔ اصلی گردانندگان وبسایت‌ها و شبکه‌های اجتماعی، مانند هر بنگاه دیگری، کسب سود است؛ بنابراین در شکل‌گیری و توسعهٔ این شبکه‌ها اغلب ملاحظات کافی برای مقابله با اطلاعات غلط در نظر گرفته نشده است.

این شبکه‌ها اکنون جای رسانه‌های رسمی را گرفته‌اند؛ اما نظارت بر آن‌ها بسیار کمتر از نظارت بر آن رسانه‌هاست.

ساموئل وولی (Samuel Woolley) در کتاب بازی واقعیت، نگاهی به تأثیرات دروغ‌پراکنی در شبکه‌های مجازی می‌اندازد. هدف این کتاب، نه ترسیم تصویری تیره‌وتار از آینده، بلکه یافتن راهکاری برای بازگشت اعتماد اجتماعی و تقویت نهادهای دموکراتیک است. وولی عقیده دارد که برای مقابله با شایعه‌پراکنی باید هرچه سریع‌تر دست‌به‌کار شد. دولت‌ها، شرکت‌ها و مردم عادی هریک مسئولیت‌هایی در مبارزه با اخبار جعلی دارند. با گسترش فناوری‌های جدید همچون هوش مصنوعی و واقعیت مجازی، خطر دروغ‌پراکنی از هر زمانی بیشتر است؛ بنابراین، ضرورت افزایش آگاهی و توانایی تشخیص حقیقت از هر زمانی بیشتر احساس می‌شود.

در این خلاصه کتاب به موارد زیر نیز پرداخته می‌شود:

• چرا ربات‌ها احتمالاً آن‌قدرها هم که فکر می‌کنید هوشمند نیستند؟
• دروغ‌پراکن‌ها چگونه از تمایل افراد به تفکر عمیق بهره می‌برند؟
• چرا آزادی بیان بی‌حدوحصر، راه‌حل مشکلات امروز شبکه‌های اجتماعی نیست؟
• چگونه می‌توان از یادگیری ماشینی برای مبارزه با دروغ‌پراکنی استفاده کرد؟

رسانه‌ها در گذشته اعتماد به نهادها را تقویت می‌کردند؛ اما امروز به آن لطمه می‌زنند

اعتماد به نهادهای دموکراتیک اکنون از هر زمانی کمتر است. نظرسنجی مؤسسهٔ گالوپ در سال ۲۰۱۸ نشان داد که در ۴۵ سال گذشته، تعداد آمریکایی‌هایی که به کنگره اعتماد دارند از ۴۳ درصد به ۱۱ درصد رسیده است؛ اعتماد به بانک‌ها نصف شده است. اکنون تنها ۳۸ درصد از افراد می‌گویند که به نهادهای دینی اعتماد دارند؛ مقداری که در مقایسه با ۶۵درصد در اوایل دههٔ ۱۹۷۰ کاهشی قابل‌توجه داشته است. حتی اعتماد به نظام پزشکی ایالات متحده هم در این مدت از ۸۰ درصد به ۳۶ درصد رسید.

هرچند اعتماد به نهادهای علمی کاهش چشم‌گیری نداشته است، آن‌ها هم ارج‌وقرب چندانی ندارند. سروصدای مخالفان واکسیناسیون، مخاطب‌های زیادی را جذب می‌کند. آنان با شوروحرارت از خطر ابتلا به اوتیسم در صورت واکسینه شدن می‌گویند و واکسن‌ها را توطئهٔ حاکمان برای ناقص‌سازی مردم می‌دانند. بسیاری از افراد در مسائلی مثل تغییرات اقلیمی و اصلاح ژنتیکی محصولات کشاورزی و دامی، حرف مراجع علمی را نمی‌پذیرند. ویدئوهایی در یوتیوب که می‌گویند دانشگاه‌ها محل شست‌وشوی مغزی چپ‌گرایان است، میلیون‌ها بار مشاهده می‌شوند.

این مسئله منحصر به ایالات متحدهٔ آمریکا نیست. در کشورهای دیگری مثل برزیل، ایتالیا و آفریقای جنوبی هم که معمولاً آن‌ها را دموکراتیک می‌پنداریم، شاهد روندهای مشابهی هستیم. واقعاً چه خبر است؟ چرا شهروندان این‌قدر به نهادهای دموکراتیک بی‌اعتماد شده‌اند؟ پاسخ این سؤال را باید در شیوهٔ استفاده از رسانه‌ها برای درک واقعیت جست.

در آن زمان، جریان حرکت اطلاعات تنها در یک جهت بود: یک نفر صحبت می‌کرد و عدهٔ بسیاری گوش می‌کردند. هریک از گویندگان شبکه‌های تلویزیونی و ستون‌نویسان روزنامه‌ها هزاران شنونده یا خواننده را مخاطب قرار می‌دادند. هر سخنی پیش از آنکه در تلویزیون، رادیو یا روزنامه منتشر شود، باید راستی‌آزمایی می‌شد. البته، توطئه‌انگاران مثل هرکس دیگری اجازه داشتند که برای روزنامه‌های معتبری مثل نیویورک‌تایمز نامه بنویسند؛ اما روزنامه‌ها هم حق داشتند تصمیم بگیرند که این نوشته‌ها را منتشر کنند یا نکنند. این رویه، باعث می‌شد که میلیون‌ها شهروند که اطلاعات را از منبع مشترکی دریافت می‌کردند، تصور مشابهی از اینکه چه چیزی درست و واقعی است داشته باشند. به همین دلیل، اعتماد عمومی در جامعه تقویت می‌شد.

در سال‌های اخیر، وضعیت تغییر کرده است. اکنون دیگر اطلاعات با الگوی «چندبه‌چند» حرکت می‌کند: هرکسی می‌تواند محتوا تولید کند و تمامی کاربران به نوشته‌ها و گفته‌های دیگر کاربران عادی توجه نشان می‌دهند. دیگر برای انتشار نظرات خود نیازی نیست مسئولان یک شبکه یا روزنامه را قانع کنید. در دنیای وب، خودتان ناشر خودتان هستید.

پیشگامان اینترنت امیدوار بودند که آغازگر دوران طلایی آزادی بیان و مشارکت اجتماعی باشند؛ اما نباید تصور کرد که همهٔ افراد در شبکه‌های اجتماعی قدرت برابری دارند. مانند هر رسانهٔ دیگری، از شبکه‌های اجتماعی نیز می‌توان برای کنترل افکار مردم استفاده کرد.
علاوه‌بر تولیدکنندگان عادی محتوا، عده‌ای از صاحبان ثروت، قدرت و فناوری هم در این محیط، دست بالا را دارند. درضمن، تعداد (هرچند انگشت‌شماری) از شرکت‌ها نیز فضا را کاملاً در دست خود گرفته‌اند.

تفاوت مهم این شبکه‌ها با رسانه‌های سنتی آن است که صاحبان این شبکه‌ها در برابر مطالب منتشر شده، مسئولیت چندانی ندارند.
از آنجا که مقررات و نظارت در شبکه‌های اجتماعی ناچیز است، این فضاها به بستری برای پرورش اخبار دروغین تبدیل شده‌اند. گروه‌هایی سازمان‌یافته از انسان‌ها و ربات‌ها شبانه‌روز به دروغ‌پراکنی مشغولند.

در این محیط گل‌آلود که به‌آسانی می‌توان از الگوریتم‌های آن سوءاستفاده کرد، تشخیص راست و دروغ دشوار است. هریک از ما هرروز درمعرض ده‌ها خبر درست و غلط قرار می‌گیریم.

یک نظرسنجی در بریتانیا در سال ۲۰۱۸ نشان داد که ۶۴درصد بریتانیایی‌ها برای تشخیص اخبار واقعی و غیرواقعی با دشواری مواجهند. جای تعجب نیست که در چنین فضایی، بی‌اعتمادی به اوج خود رسیده است. اصلاً نمی‌دانیم که به چه کسی باید اعتماد کنیم.

اخبار جعلی با انگیزه‌های تجاری یا سیاسی، از تمایل مردم به تفکر نقادانه سوءاستفاده می‌کنند

«جسد مأمور اف‌بی‌آی که مشکوک به پخش ایمیل‌های هیلاری کلینتون بود، پیدا شد. به نظر می‌رسد که او مرتکب خودکشی شده است.»
در اوایل نوامبر ۲۰۱۶، این تیتر تکان‌دهنده در سایتی به نام «دنور گاردین» (Denver Guardian) منتشر شد. این سایتْ خود را «قدیمی‌ترین منبع خبری ایالت کلرادو» معرفی می‌کرد.

در آن گزارش که درست سه روز پیش از انتخابات ریاست جمهوری منتشر شد، هیلاری کلینتون )که در آن زمان کاندیدای حزب دموکرات بود( تلویحاً متهم به مشارکت در قتل برای لاپوشانی رسوایی‌هایش شده بود.

طولی نکشید که هزاران نفر روی این تیتر کلیک کردند. کار به جایی رسید که در هر دقیقه، صد صفحه در فیس‌بوک، این گزارش را هم‌رسانی می‌کردند. تنها یک مشکل وجود داشت: این خبر، درست مثل خبرگزاری منتشرکننده‌اش، جعلی بود.

در گزارش دنور گاردین، ذره‌ای حقیقت وجود نداشت. دنور گاردین «قدیمی‌ترین منبع خبری ایالت کلرادو» نبود؛ بلکه وبسایتی بود که تنها چندماه پیش از انتشار این گزارش ساخته شده بود. به جز این گزارش، مطلب دیگری در سایت وجود نداشت. نویسندهٔ گزارش، یک سرمایه‌گذار کالیفرنیایی به نام جستین کولر (Jestin Coler) بود، مالکیت وبسایت را هم خودش در اختیار داشت و تنها هدفش هم از انتشار این گزارش، کسب درآمد از تبلیغات بود. او متوجه شده بود که بهترین راه برای دیده شدن تبلیغات، شایعه‌پراکنی درباره رقابت‌های انتخاباتی است.

کولر در کسب درآمد از شایعه‌پراکنی بسیار موفق بود. او از این شایعه چیزی بین ۱۰هزار تا ۳۰هزار دلار در ماه پول درآورد.

کولر بعدها علناً گفت که گزارشی که منتشر کرد، با تمام جزئیاتش، دروغ محض بود. او گفت: «مردم می‌خواستند این را بشنوند.» نام تمام افراد و مکان‌های ذکر شده در آن گزارش صرفاً زادهٔ تخیل کولر بودند. تیم او در شبکه‌های اجتماعی، خبر را پس از انتشار، بر سر راه هواداران ترامپ قرار دادند و همین، سبب شد این مطلب خیلی سریع در همه‌جا پخش شود.

تفاوت کولر با دروغ‌پراکن‌های شناخته‌شده‌تر این بود که انگیزهٔ او کاملاً مالی بود.

حرف کولر درست بود. مردم دوست‌ دارند چنین چیزهایی را بشنوند؛ اما چرا؟ بسیاری هنوز به‌دنبال آن نوع اخباری هستند که خبرگزاری‌های معتبر منتشر می‌کردند. برای همین هم دنور گاردین ادعا می‌کرد که قدیمی‌ترین منبع خبری کلرادوست.

علاوه‌برآن، مردم دوست دارند که ته‌وتوی ماجراها را دربیاورند. در گذشته، خبرنگاران با راستی‌آزمایی اخبار به این نیاز پاسخ می‌دادند؛ اما با کم‌رنگ شدن این نقش، دروغ‌پراکن‌هایی پدیدار شدند که ابایی از جعل منابع خبری یا جا زدن گمانه‌زنی‌های بی‌اساس به‌جای تفکر انتقادی ندارند. اکنون زحمت راستی‌آزمایی اخبار بر دوش مخاطبان آن‌ها، یعنی مردم عادی است و طبیعی است که آن‌ها همیشه از پس چنین کاری برنمی‌آیند.

توطئه‌انگاری چیز جدیدی نیست. مردم همیشه تلاش می‌کردند که دست حاکمان را بخوانند. در هر جامعه‌ای شایعاتی درباره رسوایی‌ها، توطئه‌های پشت پرده و لاپوشانی‌ها وجود داشته؛ اما در دهه‌های اخیر، شایعه‌پراکنی شکل تازه‌ای به‌خود گرفته است.

در گذشته، نظریه‌های توطئه به‌کندی پخش می‌شدند. شایعه‌های غیرقابل اثبات مربوط به اعمال شرورانهٔ شاهان و رئیس‌جمهورها به‌ندرت به گوش همه می‌رسیدند؛ اما در فضای مجازی، وضعیت فرق می‌کند.

در شبکه‌های اجتماعی، نظریه‌های توطئه سریع‌تر پخش می‌شوند و به افراد بیشتری می‌رسند. کاربران در شبکه‌های اجتماعی به‌صورت ناشناس، چیزهایی را می‌گویند که حاضر نیستند در دنیای بیرون به زبان بیاورند.

کیواِنان (QAnon) نمونه‌ای از این نظریه‌های توطئه است. هواداران کیوانان که از راست‌گرایانِ افراطی ایالات متحده هستند، در دوران ریاست‌جمهوری ترامپ می‌گفتند که دسته‌ای از مقامات حکومتی غیرمنتخب که «دولت پنهان» (Deep State) نامیده می‌شدند، علیه رئیس‌جمهور دسیسه‌چینی می‌کنند.

این توطئه‌انگاران همچنین اعتقاد دارند که شخص میهن‌پرست گمنامی که کیو (Q) نامیده می‌شود، به دولت پنهان نفوذ کرده است. او به این دلیل کیو نامیده می‌شود که ادعا می‌کند دارای سطح دسترسی کیوست؛ یعنی بالاترین سطح دسترسی به اطلاعات طبقه‌بندی‌شده در ایالات متحده آمریکا. اخباری با امضای کیو گهگاه در شبکه اجتماعی فورچن (4chan) دیده می‌شوند؛ مثلاً کیو ادعا کرده است که سیاست‌مداران لیبرال در زیرزمین یک پیتزافروشی، محفلی برای سوءاستفاده جنسی از کودکان برپا کرده‌اند.

ادعاهای کیو به‌سرعت در شبکه‌های اجتماعی می‌پیچد. گروه‌هایی از فعالان راست افراطی این ادعاها را پس از انتشار اولیه در فورچن، به سایت‌های بزرگ‌تر مانند ردیت و توییتر می‌برند. آن‌ها برای این کار از «ربات» استفاده می‌کنند، برنامه‌هایی که کارهایی مانند هم‌رسانی محتوا یا پیام‌رسانی در شبکه‌های اجتماعی را به‌صورت خودکار انجام می‌دهند. پس از مدتی، مردم عادی هم نظریه‌های توطئه را تکرار می‌کنند و کمی بعد، رسانه‌های سنتی هم درباره آن صحبت می‌کنند. این باعث می‌شود شایعه، به گوش آدم‌های بیشتر و بیشتری برسد.

مسئله این است که این شایعه‌ها به سازوکارهای دموکراتیک لطمه می‌زنند. به گفته کیوانان، لیبرال‌ها به‌دنبال برانداختن تمام ارزش‌های آمریکایی هستند. فردی که چنین چیزی را قبول می‌کند، طبیعتاً قانع می‌شود که لیبرال‌ها حق ندارند بر آمریکا حکومت کنند، حتی اگر در انتخابات رأی بیاورند.

حال چرا شرکت‌هایی مثل فیس‌بوک و توییتر جلوی این توطئه‌پردازی‌ها را نمی‌گیرند؟ آن‌ها فکر می‌کنند که نظارت بر گفتار کاربران وظیفه‌شان نیست. درضمن، مگر همه مردم حق آزادی بیان ندارند؟

شرکت‌های گرداننده شبکه‌های اجتماعی در مقابله با ربات‌هایی که نظریه‌های توطئه را ترویج می‌کنند هم ناکارآمد بودند. این وضعیت فضایی ایجاد کرده است که انواع و اقسام توطئه‌انگاران می‌توانند از آن بهره ببرند. در قسمت بعدی این خلاصه کتاب می‌بینیم که شخصیت‌های سیاسی مطرح هم به‌مرور دارند استفاده از این فضا را می‌آموزند.

نخستین‌بار در ایالات متحدهٔ آمریکا، ربات‌ها در رویدادهای سیاسی دخالت کردند

در اواخر سال ۲۰۱۳، اوکراینی‌ها برای اعتراض به رئیس‌جمهور این کشور، ویکتور یانوکوویچ، که وابسته به روسیه بود به خیابان‌ها آمدند. واکنش دولت روسیه که یانوکوویچ را متحد دیرین خود می‌دانست، تهاجمی اینترنتی بود. هزاران کاربر و رباتْ شبکه‌های اجتماعی را پر کردند و به دروغ‌پراکنی علیه معترضان اوکراینی پرداختند. روس‌ها در انتخابات سال ۲۰۱۶ ایالات متحده نیز راهبرد مشابهی در پیش ‌گرفتند.

در آن زمان، بسیاری از ناظران تصور می‌کردند که این نخستین‌باری است که از شبکه‌های اجتماعی برای ضربه زدن به حریفی سیاسی سوءاستفاده می‌شود؛ اما واقعیت چیز دیگری است.

در سال ۲۰۱۰، مردم ایالت ماساچوست برای انتخاب سناتور به پای صندوق‌های رأی رفتند. رقابت میان دو نفر بود: اسکات براون (Scott Brown)، نامزد جمهوری‌خواه و مارتا کوکلی (Martha Coakley)، نامزد دموکرات.

پیروزی کوکلی به نظر قطعی می‌رسید. چندین دهه بود که ماساچوست پایگاه لیبرال‌ها بود. تد کندی، سناتور دموکرات که مرگش باعث برگزاری این انتخابات زودهنگام شده بود، از سال ۱۹۶۲ این ایالت را نمایندگی کرده بود. در ماه‌های نزدیک به انتخابات اما ناگهان محبوبیت براون افزایشی چشم‌گیر یافت.

در همان زمان، محققان علوم رایانه در دانشگاه وِسلیَن (Wesleyan University) متوجه اتفاق عجیبی شدند. به نظر می‌رسید که هزاران حساب توییتری در حمله‌ای برنامه‌ریزی‌شده علیه کوکلی با یکدیگر همکاری می‌کنند. آن‌ها به او این اتهام را وارد کرده بودند که با کاتولیک‌ها سر دشمنی دارد. در ایالتی مثل ماساچوست که بخش بزرگی از جمعیتش کاتولیک‌های دوآتشه‌اند، چنین اتهامی بسیار سنگین است.

این حساب‎ها هیچ سابقهٔ فعالیتی نداشتند. آن‌ها دنبال‌کنندگان زیادی نداشتند و فقط همدیگر را دنبال می‌کردند یا تعدادی کاربر بی‌ربط را که انگار تصادفی انتخاب شده بودند. اکثر آن‌ها تصویری روی پروفایل خود نگذاشته بودند، اگر هم تصویری در کار بود، معلوم بود که آن را از اینترنت برداشته‌اند. مطلبی دربارهٔ هیچ‌چیز غیر از کوکلی در صفحه‌هایشان به چشم نمی‌خورد و منظم، بعضاً هر ده ثانیه یک بار، علیه او توییتی منتشر می‌کردند. واضح بود که این‌ها رباتند، اما چه کسانی پشت آن‌ها بودند؟

محققان با پیگیری این حساب‌ها به گروهی از فعالان محافظه‌کار رسیدند که کیلومترها آن‌طرف‌تر از ماساچوست، در ایالت اوهایو پشت کامپیوتر نشسته بودند. از آنچه در حساب‌ها گفته می‌شد واقعاً نمی‌شد تشخیص داد که گوینده اهل ماساچوست نیست. در نگاه اول تصور می‌کردید با رأی‌دهندگانی عادی از ماساچوست طرف هستید، نه با سیاسی‌کارانی از ایالتی دیگر.

متأسفانه آن‌ها به مقصود خود رسیدند. ربات‌ها آن‌قدر سروصدا درست کردند که برخی خبرگزاری‌های رسمی مثل نشنال ریویو (National Review) هم دربارهٔ این شایعات نوشتند. آن‌ها در نوشته‌هایشان به توییت‌های ربات‌ها استناد می‌کردند. خبرنگاران نوشته‌های ربات‌ها را با یک پویش مردمی واقعی اشتباه گرفتند. خبرگزاری‌هایی که این مطالب را منتشر کردند، یک رسوایی مصنوعی را تشدید کردند. درنهایت، کوکلی در انتخابات شکست خورد و براون به کرسی مجلس سنا دست یافت.

احتمالاً هربار که وارد توییتر می‌شوید و توییت‎ها را می‌خوانید، با حساب‌های ربات‌ها هم مواجه می‌شوید. تشخیص ربات‌ها معمولاً چندان دشوار نیست. متن پیام‌های آن‌ها بعضاً جمله‌بندی به‌هم‌ریخته و ضعیفی دارد. این متن‌ها به‌طور معمول با زمان‌بندی دقیقی منتشر می‌شوند.

ظاهراً ربات‌ها خیلی پیچیده به نظر نمی‎رسند؛ پس چرا بسیاری از تحلیل‌گران می‌گویند که همین ربات‌ها و لشکرهای سایبری، دموکراسی را شکست داده‌اند؟ شاید به این دلیل که حرف زدن دربارهٔ ربات‌ها، آسان‌تر از تمرکز بر مسئلهٔ نگران‌کنندهٔ اصلی است: چرا می‌توان به این آسانی و با ابزارهایی بسیار ساده، در سازوکارهای دموکراتیک اختلال ایجاد کرد؟

به این سؤال خواهیم پرداخت، اما پیش از آن، بیایید تا نگاهی دقیق‌تر به این ربات‌ها بیندازیم. رقابت انتخاباتی سال ۲۰۱۶ میان هیلاری کلینتون و دونالد ترامپ را به یاد بیاورید. بسیاری دربارهٔ نقش ربات‌ها در آن انتخابات گفته‌اند. کمبریج آنالیتیکا، شرکتی که به ترامپ مشاوره می‌داد، قول داده بود که لشکری از ربات‌ها را برای کارزار انتخاباتی او مهیا کند. این شرکت ادعا می‌کرد که ربات‌های هوشمندش گروه‌های مختلف مردم را با دقت، آماج نقطه‌نظرات حامی ترامپ و مخالف کلینتون قرار می‌دهند. قرار بود که کمبریج آنالیتیکا برای این کار از اطلاعات مبتنی‌بر «روان‌نگاری» استفاده کند؛ یعنی اطلاعاتی مبسوط که از صفحات رأی‌دهندگان در فضای مجازی استخراج می‌شود.

ابزاری که آن‌ها توصیف می‌کردند بسیار پیشرفته بود؛ اما شواهدی که در دست داریم نشان می‌دهند که هیچ‌وقت از چنین ابزاری استفاده نشد. بااین‌حال، هواداران ترامپ، کارزار اینترنتی مؤثری به راه انداختند. همین موضوع نشان‌دهنده نکته بسیار مهمی است: در پروپاگاندای اینترنتی، برای پیروزی نیازی به ابزارهای هوشمند و تاکتیک‌های پیچیده نیست.

پژوهشگرانی که در دانشگاه آکسفورد دربارهٔ این موضوع تحقیق می‌کنند مشاهده کرده‌اند که اتفاقات کمابیش مشابهی بارها تکرار شده‌اند. از تهاجم اینترنتی روسیه علیه اوکراین در سال ۲۰۱۳ تا همه‌پرسی برگزیت و کارزار انتخاباتی ترامپ در سال ۲۰۱۶، اکثر ربات‌هایی که برای دروغ‌پراکنی استفاده شده‌اند مانند هم بوده‌اند.

تمام کاری که این ربات‌ها می‌توانستند انجام دهند، لایک کردن و هم‌رسانی پست‌ها، ارسال لینک‌ها و آزار دادن افراد بود. ربات‌ها توانایی گفت‌و‌گوی کارآمد نداشتند و از هوش مصنوعی برخوردار نبودند.

همین توانایی محدود ربات‌ها، برای از پا درآوردن طرف مقابلشان کافی بود. رگبار حرف‌های ربات‌ها به‌قدری نیرومند بود که حریفانشان احساس درماندگی می‌کردند و فرصتی برای فکر کردن و فراهم کردن پاسخ مناسب نداشتند.

یادگیری ماشینی کافی نیست، به مسئولیت‌پذیری گردانندگان شبکه‌های اجتماعی هم نیاز داریم

آموختیم که برای دست‌کاری نظرات مردم نیازی به فناوری‌های پیشرفته نیست. برای آنکه از دروغ‌پراکنی در شبکه‌های اجتماعی پولی به جیب بزنید یا در کارزار سیاسی خود از آن‌ها استفاده کنید، کافی است با تیترهای جنجالی، توجه مردم را جلب کنید یا تعدادی ربات ساده داشته باشید.

در اینجا به پرسشی برمی‌گردیم که در قسمت قبلی مطرح شد: چرا دموکراسی این‌قدر در برابر ابزارهای ساده آسیب‌پذیر است؟ پاسخ را می‌توان در مقررات مربوط به شبکه‌های اجتماعی جست. این شبکه‌ها اکنون همان جایگاهی را در جامعه دارند که در گذشته، روزنامه‌ها و شبکه‌های رادیویی و تلویزیونی داشتند؛ اما مقررات اعمال‌شده بر شبکه‌های اجتماعی بسیار ملایم‌ترند.

کمیسیون فدرال انتخابات، نهادی نظارتی در ایالات متحده است که قوانین وضع‌شده در زمینه جنبه‌های مالی کارزارهای انتخاباتی را اجرا می‌کند. این کمیسیون در سال ۲۰۰۶ اعلام کرد که کارزارهای اینترنتی از حوزه اختیاراتش خارجند. البته این تصمیم شامل آگهی‌های سیاسی نمی‌شود؛ اما کمیسیون انتخاباتی آمریکا نظارتی بر خبرهای جعلی و دروغ‌پراکنی با استفاده از ربات‌ها ندارد.

دیدیم که کمیسیون انتخابات نمی‌تواند کاری کند؛ اما آیا دولت آمریکا ابزار دیگری برای مقابله با دروغ‌پراکنی در دست دارد؟ بند ۲۳۰ قانون ارتباطات که در سال ۱۹۹۵ تصویب شد، به شرکت‌های اینترنتی اجازه می‌دهد که گفتارهای مخرّب را حذف کنند. این بند همچنین به شرکت‌ها درصورتی‌که در این زمینه اشتباه کنند، مصونیت می‌دهد.

درواقع، شبکه‌های اجتماعی در آمریکا از بند ۲۳۰ استفاده می‌کنند. آن‌ها برای حذف نفرت‌پراکنی‌های آشکار و گفته‌های خشونت‌آمیز واضح، مثلاً نوشته‌های یهودستیزانهٔ نئونازی‌ها، به همین بند استناد می‌کنند.بااین‌حال، شرکت‌ها با استناد به همین قانون، در مقابل مطالب سیاسی مسئله‌داری مثل دروغ‌پراکنی، دست روی دست می‌گذارند. مدیران این شرکت‌ها عقیده دارند که تعیین راست و دروغ، کار آن‌ها نیست. بند ۲۳۰ به این شرکت‌ها اجازه تصمیم‌گیری درمورد این مطالب را می‌دهد؛ اما آن‌ها از این قدرت استفاده چندانی نمی‌کنند. چرا؟ شاید به این دلیل که این کار با عقاید آزادی‌خواهانه مدیران سیلیکون‌ولی در تقابل است.

حتی اگر شرکت‌هایی مثل فیس‌بوک و توییتر بخواهند از اختیاراتشان استفاده کنند، پاک‌سازی این سایت‌ها اصلاً کار آسانی نیست. این سایت‌ها به‌سرعت رشد کردند و در فرایند توسعهٔ آن‌ها، توجه چندانی به مسائل اخلاقی نشد.

برای متوقف کردن سوءاستفاده‌های موجود، ساختار سایت‌ها به تحولی گسترده و ناگهانی نیاز دارد. یکی از کارکنان فیس‌بوک در مصاحبه‌ای با نویسندهٔ کتاب گفت که این شبکهٔ اجتماعی غول‌پیکر، مثل هواپیمایی است که هنوز کامل ساخته نشده؛ اما به پرواز درآمده است.

در پایان کار، به سؤالی دیگر می‌پردازیم: آیا می‌توان حضور ربات‌ها را در شبکه‌های اجتماعی به‌کلی ممنوع کرد؟ در سال ۲۰۱۸، سناتور آمریکایی، دایان فاینستین (Dianne Feinstein) در لایحه‌ای، همین پیشنهاد را ارائه کرد.

آن لایحه تصویب نشد؛ زیرا قانون‌گذاری علیه ربات‌ها ممکن است در تقابل با آزادی بیان قرار گیرد. درضمن، حتی اگر قانونی علیه ربات‌ها گذاشته شود، بازهم مشکل دروغ‌پراکنی کاملاً حل نخواهد شد؛ زیرا انسان‌ها هم می‌توانند اخبار دروغین پخش کنند. به‌عنوان‌مثال، «ارتش ۵۰ سِنتی» وابسته به حکومت چین، لشکری هماهنگ و منظم از انسان‌هاست که وظیفه‌شان پر کردن فضای وب از تبلیغات حکومتی است.

قانون‌گذاری علیه ربات‌ها جلوی این فعالیت‌ها را نمی‌گیرد؛ بنابراین بهتر است رویکردمان را تغییر دهیم. به‌جای آنکه به ربات‌ها بپردازیم باید نگاهمان به جریان اطلاعات باشد.

رباتی را تصور کنید که از یادگیری ماشینی (Machine Learning) استفاده می‌کند. چنین برنامه‌ای، از صحبت‌های افراد در شبکه‌های اجتماعی یاد می‌گیرد که دائماً شیوهٔ سخن گفتن خودش را بهبود ‌ببخشد و به انسان‌های واقعی شبیه‌تر شود.

حال، تصور کنید که این برنامه با کسی چت کند و او را قانع کند که مقاله‌ای در رد گرم شدن کرهٔ زمین منتشر کند. از همین گفت‌وگو، داده‌های زیادی به دست می‌آید. ربات، داده‌ها را تجزیه‌وتحلیل می‌کند تا دریابد چه راهکارهایی برای قانع کردن طرف مقابل موفق هستند و چه راهکارهایی ناموفقند. ربات در مکالمه‌های بعدی خود، نتایج این تجزیه‌وتحلیل را در نظر می‎‌گیرد.

ترسناک به نظر می‌رسد؟ بله؛ اما روی دیگر سکه را هم باید دید. از یادگیری ماشینی می‌توان برای مبارزه با دروغ‌پراکنی هم استفاده کرد.

ربات‌سنج از یادگیری ماشینی استفاده می‌کند تا تشخیص دهد که کدام حساب‌های توئیتری متعلق به ربات‌ها هستند. این ابزار برای یافتن ربات‌ها هزاران ویژگی هر حساب را تجزیه‌وتحلیل می‌کند. برای مثال، این برنامه به دوستان، الگوی فعالیت و لحن نوشته‌های هر حساب نگاه می‌کند. پس از انجام تجزیه‌وتحلیل، به حساب‌ها «نمرهٔ رباتی» داده می‌شود. این نمره به کاربران نشان می‌دهد که با آدم سروکار دارند یا با ربات و بنابراین یکی از مهم‌ترین منشأهای دروغ‌پراکنی را به‌خوبی لو می‌دهد.

الگوریتم‌های یادگیری ماشینی مثل ربات‌سنج، به‌تنهایی کافی نیستند. متخصصان نوید شکل‌گیری ابزارهای نظارتی ترکیبی را می‌دهند. مثلاً انسان‌ها می‌توانند اخبار را راستی‌آزمایی کنند و سپس سامانه‌های خودکار ربات‌هایی را که اخبار دروغ را پخش می‌کنند تشخیص دهند.

به نظر می‌رسد که برخی کارها مهم‌تر از آن‌ هستند که به‌طور کامل، آن‌ها را به ربات‌ها بسپاریم.