איך לדעת אם אתה משוחח עם בוט

הפוסט הזה הוא חלק מ-Lifehacker'sסדרת "חשוף AI".. אנו בוחנים שישה סוגים שונים של מדיה שנוצרת בינה מלאכותית, ומדגישים את המוזרויות, תוצרי הלוואי וסימני ההיכר הנפוצים שעוזרים לך להבחין בין תוכן מלאכותי לתוכן שנוצר על ידי אדם.

הרבה תקשורת בימינו מתרחשת באמצעות טקסט. אתה יכול לשלוח הודעת טקסט הלוך ושוב עם התאמה באפליקציית היכרויות, או לשלוח הודעה לנציג החברה כאשר אתה זקוק לשירות לקוחות, במקום לדבר בטלפון עם אף אחד מהצדדים. הבעיה היא שאתה אף פעם לא באמת יודעWHOאתה מדבר כאשר השיחה מבוססת כולה על טקסט. למעשה, ייתכן שאתה בכלל לא משוחח עם אדם.

בינה מלאכותית לשיחה עברה דרך ארוכה בשנים האחרונות, וההחדרה של צ'אטבוטים כמוChatGPTרק הגביר את המצב. את הבוטים האלה כבר היה קשה לזהות לפני ש-AI חכמה איפשרה לחקות שפה אנושית במידה מפחידה. אבל גם כשהטכנולוגיה הזו מתקדמת במהירות, היא רחוקה מלהיות מושלמת. ישנם כמה סימני היכר של צ'אטבוטים של AI שאתה יכול להיזהר מהם כדי לעזור לך לקבוע אם ה"אדם" בצד השני של הצ'אט באמת הוא מי שהם אומרים שהוא.

איך צ'אטבוטים עובדים?

צ'אטבוטים מודרניים מופעלים על ידידגמי שפה גדולים(LLMs). מודלים אלה מאומנים על מערכי נתונים המכילים כמות עצומה של טקסט: עם הזמן, המודל לומד קשרים בין מילים וביטויים, שבהם הוא משתמש כדי להודיע ​​על תגובותיו. כשאתה שואל את הצ'אט בוט שאלה, הוא מפרק את הכניסה שלך למה שהוא חושב שהם החלקים החשובים ביותר, ואז מושך מהאימונים שלו לנחש באילו מילים יש טעם להגיב. זה לא מביןמַהזה אומר, רק שסדרת המילים הזו הגיונית בהתבסס על מערך הנתונים שלה.

בהתבסס על זה, מפתחים יכולים לתת לצ'אטבוטים שלהם הוראות ספציפיות כיצד להגיב לשאילתות כדי לשלוט טוב יותר בחוויה עבור משתמש הקצה. זה שימושי במיוחד אם המפתח רוצה שהצ'אט בוט שלו ייקח על עצמו תפקיד מסוים, כמו נציג שירות לקוחות: אולי לא תרצה שהנציג שלך יתפרץ על נושאים שאינם קשורים לחברה, וגם לא תרצה שהוא יכנס לוויכוחים עם המשתמש . ההוראות שלו, אם כן, יכולות להקשות לדעת אם האדם בצד השני הוא עובד מאומן היטב או רובוט.

מצד שני, אולי מפתח מייצר צ'טבוט של היכרויות, שהוראותיו אומרות לעולם לא להשתמש באותיות רישיות במילה הראשונה של תגובה, להשתמש ב"חחח" ובפרצופים קורצים לעתים קרובות, וללבוש טון סתמי. פתאום, אתה לא משוחח עם שיבוט ChatGPT, אלא בוט שלא נשמע כל כך רובוטי.

אמנם זה הופך להיות קשה יותר לבחון את זהותם של צ'אטבוטים, אבל זה לא בלתי אפשרי. להיפך, יש הרבה סימנים שצריך להיזהר מהם כשאתה ממשיך לשלוח הודעות טקסט עם אנשים באינטרנט:

היזהרו מבחירות מילים מוזרות

גרסה קודמת של מאמר זה המליצה לקוראים להיזהר מניסוחים מסורבלים, מכיוון שהבוטים הטובים ביותר לשיחה באותה תקופה היו נתונים למורכבות המוזרות של השפה האנגלית. אולם מאז, מודלים של שפות גדולות התקדמו במהירות, וכעת הם שולטים היטב באנגלית. לא לעתים קרובות צ'אטבוט ירק משהו שגורם לזה להישמע כאילו הוא לא מבין את השפה שבה הוא משתמש: הוא, למעשה, לא מבין, אבל הוא למד מספיק קשרים בין מילים כדי לדעת איך לסדר אותן דרך שהגיונית לבני אדם.

עם זאת, חלק מהמילים שהמודלים האלה מחליטים להשתמשהםמְשׁוּנֶה. כפי שאני מסביר בהקטע הזה על זיהוי טקסט בינה מלאכותית, המודלים של OpenAI משתמשים לעתים קרובות בסדרת מילים שאינן בהכרח כל כך נפוצות בשיחה סתמית. אתה תראה דברים כמו "להתעמק", "מדגיש", "פורץ דרך" ו"שטיח", כאשר אתה מתאר מושגים, ולמרות שאף אחד מאלה אינו מרשיע בפני עצמו, לראות מילים כאלה בשימוש שוב ושוב יכול להיות סימן שלך "חבר" מופעל למעשה על ידי מודל שפה גדול.

חפש חזרות

בוטים מהסוג הזה גם נוטים להיות חד-מוחיים ביותר. השיחה האנושית נוטה להיות זורמת - נושאים מוצגים, נשמטים, ואז נקלטים שוב מאוחר יותר. אבל צ'אטבוטים מיוחדים בנויים בדרך כלל למטרות ספציפיות, והם ימשיכו בעקשנות למטרות האלה, לא משנה מה תעשה. זה רק חלק מההנחיות הבסיסיות שלהם. אם אתה שם לב שה"אדם" שאתה מדבר איתו או משוחח איתו ממשיך לחזור לאותה המלצה או פתרון לא משנה מה אתה אומר, ייתכן שיש לך עסק עם בוט. אם הם ממש חוזרים על הביטוי המדויק בכל פעם, זו אינדיקציה חזקה עוד יותר, מכיוון שבני אדם נוטים לשנות את האופן שבו הם מנסחים דברים - במיוחד אם הם מרגישים שהם לא עוברים אליך.

צורה נוספת של חזרה שצריך לשים לב אליה? חוזר על שאלתך בחזרה אליך. אם תשאלו "מהי בירת ארצות הברית?" בוט עשוי להגיב ב"בירת ארצות הברית היא וושינגטון הבירה", במקום לומר "וושינגטון די.סי.", או "די.סי.די. צ'טבוטים אוהבים לשלב חלק מההודעה הקודמת שלך בתגובה שלהם, בעוד שהתגובות שלנו בשיחות מזדמנות נוטות להיות קצרות.

שימו לב לתשובות מעורפלות

למרות שהבוטים עשו דרך ארוכה, הם עדיין יכולים להציע תגובות מעורפלות וחסרות משמעות לשאילתות שלך, במיוחד אם אתה מנסה לדבר על נושאים כבדים או רציניים. שוב, הם יחזרו על מה שאמרת זה עתה כדי לתת אשליה של תשומת לב. זה למעשה טריק ישן. "מטפלת הצ'טבוט" ELIZA, שפותחה בשנות ה-60, משתמשת בו ללא הרף. אם אתה אומר לה, "אני עצוב", היא עונה "כמה זמן היית עצובה?" זוהי בנייה אלגוריתמית פשוטה, אך היא מציעה אשליה של חוש. צ'אטבוטים מבוססים כעת על LLMs, ואינם מתוכנתים בהכרח במובן המסורתי הזה, אך התגובות שלהם עדיין יכולות להיות מעט חסרות תועלת בהתאם לנושא הנדון.

אם החבר שלך משיב כל הזמן להודעות שלך עם "עצה" שנשמעת כאילו היא נכתבה על ידי מוזל מר רוג'רס, אולי הם פשוט בוט.

שימו לב למהירות התגובה

סימן נוסף לכך שאתה מתמודד עם AI הוא מהירות התגובות שלהם. בוטים יכולים ליצור תגובות הרבה יותר מהר מבני אדם. אם אי פעם ביקשת מ-ChatGPT לכתוב לך חיבור, אתה יכול לראות כמה מהר המודלים האלה מסוגלים ליצור טקסט. אם הצ'אטים חוזרים אליך באופן מיידי, או שהצד השני מסוגל לתת לך מידע באופן מיידי שסביר להניח שאדם צריך לקחת קצת זמן כדי לחפש, או שיש לך עסק עם בוט או עם נציג שירות הלקוחות המוכשר ביותר ביקום.

האם הם תמיד זמינים?

זה גם לא רק מהירות התגובה. בניגוד לבני אדם, בוטים תמיד זמינים לצ'אט - בוקר, צהריים ולילה. אם "האדם" שאתה שולח לך הודעות נראה תמיד לא מדבר, לא משנה יום או שעה, זה דגל אדום גדול. בטח, יש אנשים כל הזמן בטלפונים שלהם, אבל כולנו לוקחים הפסקהכַּמָהנְקוּדָה. שים לב אם שותף השיחה שלך אי פעם שומר אותך תלוי, או אם כל הודעה והודעה שאתה שולח לו מלווה בתגובה מיידית.

האם ה"אדם" השני קצת נלהב מדי?

צ'אטבוטים נועדו להיות מועילים בכל משימה שהם יקבלו הוראה לבצע. מכל סיבה שהיא, לעתים קרובות הם מפרשים את המשימה הזו כמשמעות של היותם ידידותיים מדי ולהוטים לרצות, דבר שמופיע באופן מוזר. הבוטים האלה תמיד "שמחים לעזור בכל מה שאתה צריך", מרגישיםכָּךרע לך בכל פעם שמשהו לא בסדר, ורוצה שתדע "הם מבינים". למרות שזה נהדר להיות אמפתי, רוב האנשים לא נופלים על הרצפה כדי להוכיח את עצמם בפניך כמעט בכל הודעה. כשמדובר בהעברת הודעות על פני טקסט, אמצו את הציניות.

הם עושים את הטעויות הלא נכונות

צ'אטבוטים מודרניים אינם עושים שגיאות כתיב או דקדוק: הם פשוט לא מאומנים לכך. שוב, הם בוחרים מילים על סמך הסדר הגיוני מהאימונים שלהם, וזה הולך להיות מדויק מבחינה דקדוקית. גם המילים הללו מאויתות כהלכה, כך שהן לא הוכשרו לעשות שגיאות הקלדה. קלדניות אנושיות, לעומת זאת, מפשלותכֹּלהזמן. באיזו תדירות יש לך שיחה על טקסט שבה האדם השני לא עושה לפחות שגיאת הקלדה אחת? בין אם אתה מכיר בכך ובין אם לא, איות ודקדוק מושלמים כל הזמן הם דגל אדום.

עם זאת, זה לא אומר שהבוטים מושלמים. למרות שהתחביר שלהם עשוי להיות מצוין, הם עשויים רק להמציא דברים.זה נקרא הזיה, וכל הבינה המלאכותית עושה זאת מעת לעת. אם אתה מבחין בבן הזוג שלך ממציא עובדות ודבק בהן, יכול להיות שהוא בוט, או פשוט עקשן מאוד בבורותם.

משוך "איבן משוגע"

אם אתהחָשׁוּדיש לך עסק עם בוט אבל אתה לא בטוח, יש בדיקה שאתה יכול לנסות. בסרטהמצוד אחר אוקטובר האדום, קפטן הצוללת הרוסי בגילומו של שון קונרי ידוע בכך שהוא מושך את "איוואנים משוגעים" תוך כדי הפלגה מתחת למים - הופך לפתע את הסירה שלו כדי לראות אם מסתתר צוללת אויב בעקבותיו. מהלך מפתיע מסוג זה יכול לשבש גם AI.

בעוד שבינה מלאכותית שיחה הפכה להיות מתוחכמת ביותר ויכול להיות קשה להבחין מאינטראקציה קצרה שאינך מדבר עם בן אדם, לבוטים עדיין יש קושי עם אי-סקוויטורים. זה נכון במיוחד עם רגשות ויחסים אנושיים. באמצע השיחה, שאל את הבוט החשוד שלך על המשפחה שלו, או תגיד להם שאתה מרגיש מדוכא, רק כדי לראות את התגובה. בעבר, סוג זה של הפרעה יכול היה לשבור את כל הדמות של הבוט, אבל צ'אטבוטים חכמים מספיק היום לפחות לשלב את השאילתה מחוץ לנושא בתגובתם. ובכל זאת, זה עדיין עשוי לחשוף את אופי ה-LLM שלהם: בוט עשוי לומר "אוי לא! אני מצטער לשמוע שאתה מדוכא. אבל בואו נישאר על הנושא..." או לצלול לשורה ארוכה של הצעות כיצד לעשות זאת. להתמודד עם הדיכאון כביכול שלך, תגובות שאינן בדיוק מה שהיית מצפה מאיש שיחה אנושי.

יש חבורה של מהלכים מטורפים של איבן שאתה יכול לעשות כאן. הפייבוריט האישי שלי? החלפת שפת השיחה. אמור ל"חבר" שלך שאתה מעדיף להמשיך את השיחה בשפה אחרת. אתה יכול אפילו להציע שהחבר ציין שהוא שולט בשפה הזו, גם אם מעולם לא שולט. אדם אמיתי יגיב בבלבול, בעוד בוט עשוי לקפוץ על ההזדמנות לעזור לך. "בטח, בוא נעבור לאיסלנדית! מה vilt אתה מדבר אום?" אפילו גיליתי שגם אם הבוט ילחם על החלפת שפה, הוא עדיין עשוי להגיב לשאלות בשפה אחרת כאילו שואלים אותן באנגלית.

כמובן, אם אתה ממש משוחח עם אדם אמיתי, הטריקים המטורפים האלה של איוואן באמת יפחידו אותם. למד את התגובה הזו: "אחי...wtf" מתאים עשוי להיות כל מה שאתה צריך כדי לדעת שהם 100% אנושיים.