אניו יורק טיימס דִוּוּחַגילתה שהאלגוריתם של YouTube בנה את מה שהעיתונאי מקס פישרמתארכ"קהל עצום - אולי חסר תקדים - לניצול מיני של ילדים". היא עשתה זאת על ידי הצעת סרטים ביתיים של ילדים עירומים למחצה לצופים שצפו בסרטים ביתיים אחרים של ילדים עירומים למחצה, ויצרה קטלוג שלם של סרטונים שלדברי מומחים עושים ילדים מיניים. אמא אחת בברזיל תיארה בפני הפִּיאיך בתה בת ה-10 העלתה סרטון שלה ושל חברה משחקים בבריכה בחצר האחורית, וזה צבר במהירות 400,000 צפיות.
בטוויטר, פישר סיכם את הממצאים של צוות חוקרים, שבדק את הקטלוג הזה של סרטוני משפחה:
כל סרטון עשוי להיראות תמים בפני עצמו, סרט ביתי של ילד בבגד ים שני חלקים או כותונת לילה. אבל לכל אחד יש שלוש תכונות משותפות:
• הילדה ברובה ללא בגדים או עירומה לזמן קצר
היא לא מבוגרת מגיל 8
הסרטון שלה מקודם בכבדות על ידי האלגוריתם של YouTube
YouTube עושה מאמצים להגן על קטינים. החברה פרסמה את אפוסט בבלוגהמפרטת את רשימת העדכונים העדכנית ביותר שלה - היא תאסור על קטינים סטרימינג בשידור חי אלא אם כן הם מלווים בבירור על ידי מבוגר, תשבית תגובות על סרטונים שמציגים קטינים, ותרחיב את ההגדרה של "תוכן גבולי" כך שתכלול "סרטונים המציגים קטינים במצבי סיכון" (YouTube מגביל את ההמלצה של תוכן זה). עם זאת, בינה מלאכותית מוצאת כל הזמן דרכים חדשות לשמור על המשתמשים לצפות. והדבר היחיד ש-YouTube לא יעשה, הדבר שפישרכותב יפתור את הבעיה, הוא כיבוי המלצות בסרטונים של ילדים. כשהוא שאל את יוטיוב למה היא לא תנקוט את הצעד הזה, זה היההתגובה שלהם.
"בתחילה, יוטיוב נתנה לי הערה ואמרה שהם מתכוונים לכיוון הזה", כתב פישר בטוויטר. "מומחים התלהבו, וכינו את זה צעד חיובי מאוד. ואז יוטיוב 'הבהיר' את התגובה שלהם. יוצרים מסתמכים על המלצות כדי להוביל תנועה, הם אמרו, ולכן ישארו".
זו לא הדוגמה הראשונה לאופן שבו האלגוריתם של YouTube יכול לגרום לנזק בעולם האמיתי בקנה מידה המוני (ראה פישר וקטרין בנהולדדיווח קודם של טיימסעל האופן שבו הוא מפנה את מחפשי החדשות הגרמנים לסרטוני ימין קיצוני). זו גם לא הפעם הראשונה שאנחנו רואיםבעיה עם יוטיוב וילדיםבִּכלָל. העובדה היא שכלצעד שאתה נוקט כדי לעזור לשמור על בטיחות ילדיך על הרציףלא יהיה חסין כישלון, וזה תלוי בך ליצור כללים הגיוניים עבור המשפחה שלך. אבל זה עשוי להיות הדבר שיגרום לך לשמור את הילדים שלך - ואת הסרטונים של הילדים שלך - מחוץ ל-YouTube לחלוטין. פישר כותב שהצפייה בסרטונים הפכה אותו ל"חולה פיזית" והעניקה לו סיוטים. הוא מוסיף: "אני לא יכול להבין איך זה עבור הורים שילדיהם נסחפים".
