העסקה הבסיסית שמציעים אתרי המדיה החברתית למשתמשיהם היא: אתם תקבלו במה חופשית לפרסם מה שאתם רוצים, ואנחנו נרוויח מזה; לכם יהיה סיפוק ממשלוח תמונות החג, ואנחנו נשתמש במידע שלכם לצורכי פרסום". לטענת ג'ון נוטון, במאמר בגארדיאן, זוהי המקבילה המודרנית לאריסות עתיקת היומין: בעלי האדמה מאפשר לאריס לגדל על אדמתו ונוטל בתמורה את רוב היבול.

אלא שהגירסה הדיגיטלית הרבה יותר קיצונית מקודמתה, משום שהחלק ברווחים שנותנת פייסבוק ל"פועליה" הוא אפס. יוטיוב, לעומתה, מתחלקת בהכנסותיה מהפרסומות הצמודות לסרטוני הווידאו עם היוצרים החובבניים שלהם. אם הפקה אפית שכזו זוכה לצפיות מרובות, היא יכולה להניב הכנסה חביבה.

האריסות הדיגיטלית הייתה עסק מוצלח מאז 2006 – השנה בה גוגל קנתה את יוטיוב ופייסבוק פתחה את שעריה לפרסום חסר מגבלות. אולם מציין נוטון, בשנים האחרונות צצו כמה קשיים. ראשית, יצרני התוכן גילו ש"פייק ניוז" – כלומר תוכן חסר טעם, חסר ערך או חסר אמת – יכול להפוך לוויראלי. שנית, התברר שבמדיה החברתית יש המון אלימות, שנאה, גזענות, שנאת זרים וקיצוניות. האינטרנט הוא מראה של הטבע האנושי, וחלק ניכר ממה שאנחנו רואים איננו יפה כלל ועיקר.

"בעלי האדמות" ניסו במשך זמן רב להתעלם מבעיות אלו. הם הציעו למשתמשים לסמן תכנים בלתי ראויים, שלאחר מכן ייבדקו בקצב איטי. אך כאשר החל דאעש להשתמש במדיה החברתית והזירה הפוליטית במערב התחממה, הפך התוכן הבעייתי לאיום קיומי מבחינת הרשתות החברתיות. מפרסמים מרכזיים החליטו שאינם רוצים שהפרסומות שלהם יופיעו לצד עריפות ראשים. מנהלי האתרים מצאו את עצמם מותקפים בקונגרס האמריקני ובידי פוליטיקאים אירופיים וחשופים לסכנה של צעדים חמורים אם לא יפעלו.

החברות החלו לספר על העובדים הנוספים שהן שוכרות כדי להתמודד עם הבעיה. פייסבוק שוכרת 10,000 איש – מה שאומר שעד סוף 2018 היא תכפיל את מספר העובדים המופקדים על "אבטחה וביטחון", כלשונה. יוטיוב תגיע בסוף השנה הבאה ל-10,000 איש שיופקדו על אותה משימה. מה שלא נמסר, מדגיש נוטון, הוא כמה מאותו כוח אדם יהיו עובדים קבועים וכמה יהיו קבלנים חיצוניים, שאת עבודתם ניתן להפסיק בכל רגע; הוא מנחש שהרוב ישתייכו לקבוצה השנייה. והשאלה החשובה באמת שעליה לא ניתנה תשובה: כיצד בדיוק הם יפעלו?

זו שאלה חשובה, משום שרוב החומר השנוי במחלוקת המועלה לרשתות הוא באמת נתעב, ואנחנו יודעים שלצפייה מתמשכת בחומר כזה יש השלכות טראומטיות. אבל אנחנו לא יודעים דבר על האופן בו אותם אנשים יעבדו. בשבוע שעבר התקיימה בלוס אנג'לס הוועידה הראשונה שעסקה בשאלות אלו, והתברר בה שעובדי הקבלן יקבלו שני סנטים (כן, שני סנטים) לכל אייטם שיבדקו.

חשובות יותר היו ההשלכות הפסיכולוגיות שנחשפו בוועידה. עובד לשעבר סיפר, שכאשר עזב את עבודתו בחברת MySpace, הוא לא מסוגל היה ללחוץ ידיים במשך שלוש שנים, כי נגעל ממגע אנושי. "ראיתי אותו הדבר אצל חברי לעבודה. כולנו עזבנו עם דעות איומות על האנושות", הוסיף. נוטון מסכם: ברוכים הבאים לבטן הרכה של העולם המרושת שלנו; הבטיחות ברשת תגבה את מחירה.