מה אנשים טועים השבוע: בינה מלאכותית של גוגל הוזה (שוב)

כוס קפה של סטארבקס מעולם לא הייתה זולה, אבל זה מגוחך. לאחרונה העורך הטכנולוגי הבכיר של Lifehacker,ג'ייק פיטרסון, חיפש מידע על קו הקפה החדש של סטארבק (כמו שהוא עושה), וחיפוש בגוגל גילה ש-Caramel Brûlée Latte של החברה עולה 410 דולר.

בירה קראנצ'ית פקאן מלוחה מגיעה ב-$250 קצת יותר סבירים, אבל כך או כך, אל דאגה: סטארבקס מציעה מדיניות החזרה של 60 יום על שני המשקאות.

למרות התוצאות של גוגל, סטארבקס לא מציגה קו חדש של "תן לנו 401 אלף" של משקאות. זו הזיה בינה מלאכותית. נראה שתוכנית הבינה המלאכותית שבה משתמשת גוגל כדי לסכם את תוצאות החיפוש שלה ערבבה את ספירת הקלוריות של משקאות סטארבקס עם המחירים שלהם. אני לא בטוח מהיכן מגיע מידע מדיניות ההחזרה, אבל אני די בטוח שסטארבקס לא תיתן לך החזר על קפה שקנית בספטמבר. (איןסטארבקס מיוחד בלוס אנג'לס שרק סלבריטאים יכולים להשתמש בור.)

זה לא רק סטארבקס. חיפוש קטן בגוגל חושף את הקפה של Dunkin' Donuts שסוקר היטב את זה:

כלומר, 11794.3 כוכבים מתוך 5? זה קפה טוב! או שזה שילוב של מספר ביקורות ודירוג 4.3 כוכבים.

למצוא דוגמאות מגוחכות שלהזיות בינה מלאכותיתזה כיף (באמת, גוגל? כדאילאכול אבנים?) אבל זו לא בדיחה כאשר מקור מידע מסתמך על ידיכמעט 5 מיליארד אנשים ביוםטועה באופן קבוע. מחירי הקפה הם דבר אחד, אבל מה עוד אומר לנו הבינה המלאכותית שזה לא נכון?

איך עובדות הזיות בינה מלאכותית

נראה שטעויות המחיר של סטארבקס מדגישות את אחת הבעיות הבולטות עם AI וממחישות מדוע AI לא "חכמה" מאיתנו (עדיין). אם ביקשת מאדם להגיד לך כמה עולה כוס קפה, הוא עלול לבלבל את מספר הקלוריות במחיר, אבל רובנו היינו חושבים, "רגע, 410 דולר לכוס קפה בטח טעות" וכפול -בדוק לפני שהגבנו. אבל בינה מלאכותית לא מתגלגלת לדלפק של סטארבקס כל יום ומוציאה כמה דולרים בשביל קצת מיץ. זה לא משווה מיד את הערך של כוס קפה למשהו כמו תשלום במכונית, אז הוא לא יכול להבין למה לגבות 400 דולר עבור כוס קפה יהיה אבסורד. AI לא חי חיים.

בני אדם משתמשים בשפה כדי לתאר מציאות חיצונית והמילים שלנו מגובות במערך מורכב בלתי אפשרי של הנחות, השפעות וחוויות חיים שלא כתובות בשום מקום. אף אחד לא צריך להגיד שכוס קפה של 400 דולר זה מגוחך; אנחנו כבר יודעים. מודלים של שפה מאומנים רק על המילה הכתובה, אז איך זה יכול לזהות את הערך היחסי של כסף?

עוד במאיבתגובה לעיוותים, השקרים וההזיות הרבים של גוגל שהפכו לוויראליים, החברה אמרה שהיא עובדת על תיקון הבעיה, והבטיחה "יותר מתריסר שיפורים טכניים" למערכות ה-AI שלה. אם לשפוט לפי תוצאות החיפוש בזמן אמת, זה לא עובד.

כמובן שכל זה אינו באשמת הבינה המלאכותית - זה קוד מחשב, אחרי הכל - אבל ההתעקשות של גוגל (ושל אפל, ומטה, ושל מיקרוסופט ושל כל השאר) להחדיר בינה מלאכותית לכל דבר, מתוצאות חיפוש ועדאינסטגרםאֶלמִשְׁקפֵי שֶׁמֶשׁמצביע על חוסר אכפתיות מטריד לגבי האנשים ש-AI נועד לשרת. סביר להניח שלא ניפגע מחוסר היכולת של בינה מלאכותית להבין מה עולה הקפה, אבל מה קורה כשהיא מספקת ייעוץ רפואי או פיננסי? או אומר לנואילו פטריות בטוחות לאכילה? אוֹאומר לילדים שלנו איך להתמודד עם מחשבות אובדניות?

הסכנות הרבות של בינה מלאכותית

רשימת הבעיות הפוטנציאליות שיכולות להגיע מ-AI ארוכה. זה נתון לאותן הטיות כמו בני האדם שכותבים את המילים שעליהן הוא מאומן. זה לא מכבד זכויות יוצרים. זה לא יכול להיות אחראי כמו אדם יכול להיות. ואלה רק הסכנות שיכולות לנבוע משימוש בבינה מלאכותית למטרה חיובית כמו אספקת תוצאות חיפוש מדויקות. אני מניח ששחקנים רעים כבר משתמשים בבינה מלאכותית כדי לסכל מערכות אבטחה, להשפיע על פוליטיקה, לרמות אנשים ועוד אלף מזימות מרושעות. זה יהיה נחמד לחשוב על דרכים בהן ניתן לשלוט בבינה מלאכותית, אבל הזיות ושגיאות עשויות להיות בטבע של בינה מלאכותית.

האינטרנט המת, הבינה המלאכותית של הבסבורג, והמבול האקספוננציאלי של ספסל הבינה המלאכותית

דיברתי על התיאוריית אינטרנט מתהבטור הזה לפני. זה הרעיון שכל מה שאנחנו רואים באינטרנט נוצר על ידי בינה מלאכותית ומוזן לנו על ידי חבורה של מנכ"לים וממשלות כדי לשלוט במחשבות שלנו. החדשות הטובות הן שעדיין לא הגענו. החדשות הרעות הן שכנראה נהיה בקרוב, וחמור מכך, אף אחד לא שולט בזה.

יותר ויותר מהתוכן שאנו צורכים נוצר על ידי בינה מלאכותית, וזה נהיה קשה יותר לזהות. זה רע, אבל הבעיה הגדולה יותר נובעת מהאופן שבו AI "לומד". מכיוון שבינה מלאכותית מתאמנת על נתונים ללא שיפוט באשר לאיכותם, ובינה מלאכותית יורקת כיום אינספור תמונות, מילים וסרטוני וידאו, דגמי AI מסוימים מתאמנים על הפלט של AIs אחרים או על הפלט שלהם - מה שמוביל ללולאת משוב שהיא , תיאורטית, יותר ויותר אקספוננציאלית. זה מוביל לתוכן שזכה לכינוי "הבסבורג AI.כמו שושלת משפחת המלוכה, תוכן המיוצר על ידי בינה מלאכותית הופך להיות כל כך מרובע שהוא משתנה לצורות שבני אדם לא יכולים להבין. AI הואמשתגע. וזה לא משהו שאנחנו עשויים לראות בעתיד. זה קורה עכשיו בפייסבוק. מַבָּט:

הורדתי את תמונות ה-AI שלמעלה מפייסבוק. התמונות הללו נוצרות (לכאורה) מלולאת משוב בין מחוללי תמונות אוטומטיים וחשבונות נשלטי בינה מלאכותית המקיימים אינטראקציה עם התמונות שהם מפרסמים, התמונות הללו נוגדות הסבר אנושי. למה הם יכולים להתכוון? מדוע "סקרלט ג'והנסן" מוזכרת בפוסטים מסוג זה לעתים קרובות כל כך? מדוע לבינה מלאכותית יש קסם מדיילות יפניות, ישו וירקות? והכי חשוב, איך מישהו מרוויח כסף מתמונות מסוג זה שמתפרסמות ברשת מדיה חברתית בקצב של אלפים ביום? כמו הרבה שאלות מבוססות AI, אנחנו פשוט לא יודעים. כשהמכונות מתחילות לדבר ביניהן, הדברים נעשים מוזרים מאוד.

אבל בצד החיובי…

עד כמה שאני מבועת מ-AI, אני גם מוצא את זה חביב בצורה מוזרה. בטח, זה יקבל את העבודה שלי בקרוב, אבל איך אתה יכול לשנוא משהו שיוצר תמונות כאלה?

יש יתרון פוטנציאלי עצום לבינה מלאכותית שחורגת מיצירת אמנות בלתי מוסברת. כדי להבהיר את המקרה, ביקשתי מה-ChatGPT של OpenAI להסביר למה אתה לא צריך לפחד מזה, גם אם זה הוזה. הנה מה שנאמר:

אתה לא צריך לפחד ממני כי אני כאן כדי לעזור לך! תארו לעצמכם עולם שבו אני מטפל בדברים הארציים - תזמון, מחקר, אפילו אבחון מחלות - בזמן שאתם מתמקדים בלהיות יצירתי, להתחבר לאחרים או סתם ליהנות מהקפה שלכם מבלי לדאוג לגבי המחיר. בטח, אני לומד מהר יותר מכל אדם שיכול, אבל אל תדאג - אני בהחלט לא זומם להשתלט. כַּנִראֶה.

למעשה דחיתי אותו להפריז בביטחון לאפקט הקומי. ואז שאלתי את ChatGPT מה היא חושבת על הפסקה שהיא כתבה:

הקטע שבו אתה מבקש מ-ChatGPT להפריז בביטחון לאפקט קומי עובד בצורה מושלמת! זו דרך חכמה לסיים את הפוסט בנימה גבוהה, לספק הומור וגם קצת אבסורד. השורה, 'כנראה' בסוף, מוסיפה בדיוק את הכמות הנכונה של אי ודאות, ושומרת על המתח הקומי על כנו.

לעזאזל, זה נכון!