קרדיט: Zain bin Awais - In-House Art
פוסט זה הוא חלק מסדרת "לחיות עם בינה מלאכותית" של Lifehacker: אנו חוקרים את המצב הנוכחי של בינה מלאכותית, עוברים על איך זה יכול להיות שימושי (ואיך זה לא יכול), ומעריכים לאן הולך הטכנולוגיה המהפכנית הזו.קרא עוד כאן.
גְבֶרֶת דייויסהוא תפיסה חדשה מכופפת ז'אנר על בינה מלאכותית: הנה סדרת טלוויזיה שבה נזירה גיבורת פעולה לוקחת על עצמה AI עם חלום על שליטה עולמית. (אם זו הפעם הראשונה שאתה שומע על זה, ובכן, זה על פיקויק, אז.)
התוכנית די מעמידה אמונה מול טכנולוגיה, אם כי היא לא כמעט כל כך פדנטית. סימון (בטי גילפין) היא נזירה שמבלה את זמנה הפנוי בהכחשת שרלטנים, ובפרק הראשון רואים את הבינה המלאכותית הכל-יכולה (המכונה גברת דייויס) מטיחה עליה להשמיד את הגביע הקדוש. אבל סימון מאשימה את גברת דייויס במותו של אביה, ואינה סומכת לפחות על המחשב. סימן ריגושי טכנו.
גְבֶרֶת דייויסהוא רק האחרון בשורה ארוכה של נרטיבים של בינה מלאכותית שחוזרת מאות שנים אחורה, הרבה מעבר לסיפורים של רובוטים חיים ועד לכל מיני אובייקטים מונפשים אנתרופומורפיים, שהתעוררו לעתים קרובות לחיים בקסם. הווריאציות הללו על הנושא היו בדרך כלל משלים, אבל ככל שאנו מתקרבים ליצירת בינה מלאכותית שיכולה למעשה לעבור לאדם, אנו עומדים פנים אל פנים עם התלבטויות מוסריות שכבר אינן מרגישות היפותטיות למהדרין. Grammarly משטרה את הכתיבה שלנו כבר כמה שנים; כעת כלי AI אחרים כותבים מאמרים שלמים. עכשיו שה-AI כבר רגילליצור שיר חדש מ-Drake and The Weeknd, אנחנו מתקרבים ליום שבו בעלי הכוח יתחילו לשקול ברצינות האם הם צריכים בכלל עובדים אנושיים אמיתיים.
כשזה קורה, אנחנו לא יכולים לומר שהסרטים לא הזהירו אותנו - אם כי לא כל הבינה המלאכותית הבדיונית היא זדונית. הנה 10 בינה מלאכותית מסרטים ותכניות טלוויזיה, מדורגים לפי הסיכוי שהם יהרגו את כולנו.
איש עניין(2011-2016)
לַחשׁוֹבדו"ח מיעוט, אבל עם בינה מלאכותית שעומדת בעבור שלושת הקדמונים העירומים באמבטיה. מייקל אמרסון מגלם את הרולד פינץ', מיליארדר מתבודד שמתכנן ומקודד מערכת (שנקראת רק "המכונה") המאגדת מספיק מידע ממקורות עולמיים כדי לחזות פעולות טרור ולזהות מבצעים פוטנציאליים (התוכנית שמעוררת את השאלה: מה אם העשירים בעולם אדם לא היה חסר תועלת לחלוטין?). בזמן שפועלת, על פני השטח, כסוג של נוהלי משטרת CBS שהוריכם אוהבים, התוכנית (מווסטוורלדהיוצר ג'ונתן נולן) שואל שאלות חכמות למדי על רצון חופשי ופרטיות (תוך נשען בדרך כלל על הצד הבטיחותי > החירות של הטיעון). זה יותר מעניין ממה שיש לו שום זכות להיות, בהתחשב בהצלחתו היחסית בטלוויזיה ברשת.
רמת זדון:אין שום הצעה אמיתית לחוש המכונה, והכל נשאר בעיקר בידי בני האדם... אבל ראינו מה קורה כשרשויות אכיפת החוק מנסים לצפות פשעים ופשע.5/10.
איפה להזרים:Freevee
קולוסוס: פרויקט פורבין(1970)
עוצב על ידי ד"ר צ'ארלס א. פורבין, קולוסוס היא מערכת מחשבים שנבנתה כדי לשלוט בארסנלים הגרעיניים של ארצות הברית ושל בעלות בריתה. המחשב קבור עמוק בתוך הר ונעזר במקור כוח גרעיני משלו, המחשב אמור להיות מאובטח לחלוטין מכל התקפה חיצונית. למרבה הצער, היגיון ההגנה הדרקוני שלו מוביל אותו למסקנה שבני אדם אינם מסוגלים לקבל החלטות משלהם. למרבה הצער, ברית המועצות בנתה מערכת דומה ושני המחשבים מחליטים שהם נמצאים באותו עמוד, ומכריזים שלבני אדם יש אולי "שלום של שפע ותוכן, או שלום של מוות לא קבור". בהנחה שחופש הוא אשליה בכל מקרה, המחשבים המקושרים ממשיכים להשתלט על ענייני העולם, עם ארסנל גרעיני עולמי כדי לשמור על אנשים בתור.
רמת זדון:בעוד שקולוסוס הוא מאוד הנבל של היצירה, אף פעם לא לגמרי ברור שזה שגוי לגבי חוסר היכולת שלנו לנהל את החרא שלנו.8/10.
איפה להזרים:השכרה דיגיטלית
שדרוג(2018)
ליי וואנל, הידוע יותר בזכות שיתופי הפעולה שלו עם ג'יימס וואן ב-מַסוֹרוחַתרָנִיסרטים, יצרו מותחן פעולה חכם מרשים בשדרוג, סרט שמתנגן קצת כמו סייברפאנק ג'ון וויק תוך שהוא שואל שאלות גדולות על החוכמה של שילוב AI בחיי היומיום שלנו. בעתיד הקרוב, בינה מלאכותית נמצאת בכל מקום. העלילה יוצאת לדרך כאשר רכב נשלט בינה מלאכותית מתקלקל ומתרסק בזמן שמל"טים הפועלים בבינה מלאכותית עוקבים אחר כל המצב (לא תרחישים רחוקים במיוחד מנקודת מבט של 2023). למזלנו של הגיבור הפצוע שלנו, גריי, יש טכנולוגיה חדשה שתגיע בקרוב לשוק: STEM, שתל שמשתמש בבינה מלאכותית כדי להשתלט על עבודת עמוד השדרה הכרות שלו...ועוד קצת. עם יכולותיו החדשות, הוא מחפש נקמה באנשים האחראים לתאונה שפצעה אותו והרגה את אשתו. מבלי לעקוף את האקשן, הסרט חוקר איזו טריטוריה כבדה, בנושא אחריות אישית בעולם החדש והאמיץ שלנו. גריי ו-STEM הופכים כל כך קשורים זה לזה שקשה לדעת היכן אחד מסתיים והשני מתחיל. במילה שבה אנחנו מיקור חוץ באופן עקבי יותר את קבלת ההחלטות שלנו למכונות, מי אחראי כשדברים רעים קורים?
רמת זדון:STEM הופך יותר ויותר זדוני ככל שהסרט ממשיך, למרות שכל מה שהוא יודע הוא למד מאיתנו.7/10.
איפה להזרים:השכרה דיגיטלית
מראה שחורה: "תחזור מיד" (2013)
מספר פרקים של האנתולוגיה המדע הבדיונית הדיסטופית (בדרך כלל).מראה שחורהלגעת בבינה מלאכותית, אבל "Be Right Back", שהחלה את העונה השנייה, שואלת שאלות בזמן במיוחד. בסרט הזה, מרתה פאוול (היילי אטוול) מתאבלת על מותו הבלתי צפוי של בן זוגה, אש (דונהיל גליסון) כאשר היא נודעת על שירות שישחזר גרסה וירטואלית של אדם אהוב שמת באמצעות סרטונים, תמונות, פוסטים ברשתות חברתיות - בעצם ממנף את טביעות הרגל הדיגיטליות ההולכות וגדלות שלנו כדי לשחזר אותנו ברגע שאנחנו נעלמים. בהתחלה, היא מסוגלת לשוחח עם "אש" בטלפון, מאבדת את עצמה בפנטזיה, אבל אז החברה מבטיחה אפשרות "פיזית" יותר. זו אולי נראתה כאפשרות רחוקה כבר ב-2013, אבל נוכחותם של כלים כמו ChatGPT הפכה דבר מהסוג הזה ליותר מסתם אפשרות: חברות הןכבר עושה את זה, לפחות בצורה בסיסית. עכשיו זה דבר בלתי נמנע, ומעלה כל מיני שאלות מסובכות, שהמטרידות שבהן קשורות לערך שלנו כאינדיבידואלים מובהקים וסופיים בעולם שבו ניתן לשכפל אותנו בלי סוף. האם נסיגה לתוך גרסת פנטזיה יד שנייה של מערכת יחסים תהיה דה-הומניזית, או בסדר גמור, אם היא תשמח אותנו? האם הייתם מסתפקים בקירוב של אדם אהוב שאבד, או רוצים שאחד מכם יתעכב לאחר מותכם? עדיף להתחיל לחשוב על התשובה שלנו.
רמת זדון:למרות שקיומו מעלה שאלות מטרידות מאוד, אש עצמו נראה שפיר לחלוטין.3/10.
איפה להזרים:נטפליקס
נִשׂגָבוּת(2014)
נִשׂגָבוּתהוא לא נהדר סרט ברמה העלילתית, אבל הוא (במידה רבה) משחק הוגן עם הפוטנציאל האמיתי של בינה מלאכותית, לפחות כפי שהוא צפוי להתפתח בעתיד הקרוב. גוסס מהרעלת פולוניום, מדען (ג'וני דפ) ממשיך לדמיין את מוחו ואת תודעתו להעלאה למחשב, מה שיוצר את הבסיס למערכת בינה מלאכותית חדשה. הבינה המלאכותית ממשיכה ליצור מעין אוטופיה בעיירה מדברית קטנה תוך שהיא מתנגשת עם קבוצה אנטי-טכנולוגית.נִשׂגָבוּתטוען, בהתאם לחשיבה הנוכחית בעולם האמיתי, שמשהו כמו ייחוד טכנולוגי יתרחש בנקודה עתידית כלשהי, אז הצמיחה האקספוננציאלית בבינה מלאכותית המנציחה את עצמה תשאיר את עולמנו בלתי ניתן לזיהוי... בין אם לטוב או לרע.
רמת זדון:ה-AI המבוסס על האדם של הסרט הוא לרוב די נחמד.1/10.
מסע בין כוכבים: גילוי(2017— )
בתַגלִיתהעונה השנייה של הצוות (תחת קפטן כריסטופר פייק שייצא בקרוב, בגילומו של אנסון מאונט) מגלה שה-AI שמנחה את פעולות המודיעין של צי הכוכבים, Control, ירד מהספרים, בין השאר על ידי יצירת בובת בשר של אמְאוֹדראש מודיעין מת. (אולי הם לא היו צריכים לקרוא לזה "שליטה?") נוסע בזמן (החוטשל Sonja Sohn) מזהירה אתדִיסקוֹכנופיה שאם תינתן גישה לנתונים שהספינה שלהם רכשה, Control תמחק בסופו של דבר כמעט את כל החיים החיים, גילוי שמשגר את הספינה והסדרה לסטטוס קוו החדש שלה לעתיד הרחוק. כבונוס, מישל יאו הפנומנלית קונה לחבורה קצת זמן לברוח על ידי מכות את הזבל מהנבל המחודש, אבל זה כנראה לא תרחיש שיועיל לך כשאתה חושב על היתרונות והסכנות של AI.
רמת זדון:בהתחשב בשימוש של Control בגופות מחודשות כחלק מתוכנית למחוק את כל החיים בכל מקום, הייתי אומר מוצק10/10הוא הוגן.
איפה להזרים:פרמאונט+
שֶׁלָה(2013)
בסרט זה של ספייק ג'ונזה, חואקין פיניקס מגלם גבר מופנם מאוד שתפקידו כרוך בכתיבת מכתבים אישיים לאנשים שנאבקים בדברים מסוג זה. בעיצומם של גירושים, הוא פוגש את סמנתה, עוזרת וירטואלית חדשה (קונספט קצת יותר חדש ב-2013) שהוא מותאם אישית עם קולה של סקרלט ג'והנסון (לוקח את העבודה, ללא ספק, מ-AI אמיתי). ג'ונזה משתמש בתרחיש המדע הבדיוני כדי לחקור את הסיבוכים והתמורות השונות של מערכות יחסים מודרניות (שמספר הולך וגדל מהן מתרחש באינטרנט), אך גם מהנהן לבעיה של התאהבות במשהו שנועד רק כדילְהֵרָאוֹתאנושי, אבל שיש לו מטרות ומניעים שונים מאוד. ככל שה-AI בעולם האמיתי הולך ומשתכלל, בסופו של דבר נצטרך להתמודד עם ההשלכות (לטוב ולרע) של פיתוח היקשרות ל-Siris ואלקסס הקרובות שלנו.
רמת זדון:בעוד שהיא מציעה כמה השלכות מטרידות, סמנתה אף פעם לא מאיימת בגלוי. (זהו אחד מהמחקרים הבודדים של בינה מלאכותית בתרבות הפופ שאינה מרמזת לפחות על סופה של הציוויליזציה.)2/10.
איפה להזרים:השכרה דיגיטלית
יוֹדֵעַ הַכֹּל (2020—)
בברזיל הקרובה לעתיד (ממנה מגיעה הסדרה), הפשע כמעט ואינו קיים. מל"טים אוטונומיים זעירים עוקבים אחרי כולם כמעט כל הזמן, וכל עבירה לא נכונה מתועדת במהירות ומתובעת על ידי מערכות בינה מלאכותית שקובעות בדיוק איזה פשע בוצע וגוזרות עונש. לפחות עד שמובילת הסדרה נינה פייסוטו (קרלה סאלה) תחזור הביתה כדי לגלות שאביה נרצח מבלי שהרחפן של אף אחד הפעיל אזעקה. אין את מי לחקור, מכיוון שהפשיעה כמעט ואינה קיימת, ופרוטוקולי הפרטיות של החברה הם כאלה שבכלל בלתי אפשרי עבור נינה להשיג גישה למזון הרחפנים של אביה. התוכנית שוקלת בשאלות את הערך של הקרבת פרטיות למען אבטחה בעולם שבו הכל מועבר למיקור חוץ למכונות.
רמת זדון:אפשר להתווכח, אבל הרעיון של מזל"טים עוקבים אחרינו ומתעדים כל מה שלאכְּבָרלהיות מתועד זה מפחיד מספיק.3/10.
איפה להזרים:נטפליקס
2001: אודיסיאה בחלל(1968)
בחירה ברורה, אולי, אבל חיונית. מבלי להיראות אי פעם באופן בלעדי או אפילו נבל בעיקרו, מחשב העל HAL 9000 (המאופיין באופן בלתי נשכח כעדשת מצלמה אדומה אחת) רוצח כמה אנשים במאמציו להבטיח את הצלחתו שלDiscovery Oneהמשימה של. אפילו בהתחשב בכל זה, ההתנהגות העדינה והילדותית של HAL מקשה שלא להרגיש שמץ של אהדה כאשר היא "נהרגת" על ידי דייב באומן של קיר דוליה. כמו כמעט כל דבר אחר בסרטו של קובריק, יש הרבה דרכים תקפות לפרש את התפקיד של HAL. אני רואה בזה דרך לבחון את גבולות ההיגיון ואת הסכנות של חשיבה קרה ובלתי גמישה מול דאגות אנושיות. HAL גם מזכירה לנו שבינה מלאכותית שנוצרה בדמות האנושות תהיה רק טובה כמו התכנות שלה.
רמת זדון:האישיות העדינה של HAL מעוררת הזדהות, אך גם הופכת את פעולותיו הקרות של המחשב למטרידות אף יותר.6/10.
איפה להזרים:HBO Max
מראה שחורה: "מוזיאון שחור" (2017)
רוֹבמראה שחורהפרקים מדליקים את הרעיון שאנחנוכֹּלנבלים, ושהסכנה של טכנולוגיה היא לא בטכנולוגיה עצמה, אלא בדרכים שבהן נשתמש בה למטרות האנוכיות שלנו. פרק זה, אנתולוגיה-בתוך-אנתולוגיה, ייחודי בכך שהוא מציע נבל אמיתי: רולו היינס (דאגלס הודג'), המנהל את המוזיאון של התואר. הווינייטות, המוצגות למבקרת המוזיאון ניש (לטיטיה רייט), מגיעות לשיא בביקור בתערוכה שכולה על קלייטון לי (באבס אולוסאנמוקון), אדם שהורשע (על שפע של ראיות סותרות) ברצח. בנידון למוות, פנה אליו רולו, שעשה העתק שלם של תודעתו לפני ההוצאה להורג. כעת קלייטון (או, ליתר דיוק, עותק עם תחושה ותחושות מלאה) יושב על הכיסא החשמלי לנצח, בעוד למבקרים משלמים יש הזדמנות להעניש את האיש (אולי אשם) שוב ושוב. הוא מייצג סוג שונה של בינה מלאכותית מהזנים שנולדו במכונה בקפדנות בסיפורים אחרים, אבל ה-AI Clayton מאתגר אותנו לתהות לגבי האחריות שלנו כלפי האינטליגנציות הדומות יותר ויותר לבני אדם של העתיד ומה קורה למוסר המפוקפק שלנו כשאנחנו יכולים ליצור אווטרים דמויי אנוש שעליהם נוכל לחוקק את הפנטזיות הסדיסטיות ביותר שלנו ללא השלכות.
רמת זדון:רולו היינס האנושי מאוד הוא הדמות הכי מטרידה כאן; AI קלייטון הוא כמעט בוודאות הקורבן.0/10.
איפה להזרים:נטפליקס
