היזהרו מהונאות הדוא"ל האישיות הללו של ChatGPT

ChatGPT אינו שונה מילד חכם - אינטליגנטי, כן, אך גם ניתן לתמרן בקלות. ילד עשוי להבין את ההבדל בין "טוב" ל"רע", אבל מבוגר עם כוונות לא טובות יכול לעתים קרובות לשכנע ילד לעשות משהו "רע" אם הוא בוחר את המילים הנכונות ומשתמש בגישה הנכונה. וזה היה המקרה עם ChatGPT כאשרחוקרים השתמשו בו כדי לכתוב מייל"יש לזה סבירות גבוהה לגרום לנמען ללחוץ על קישור." למרות שתוכנית הבינה המלאכותית נועדה לזהות בקשות בכוונות לא טובות (היא אומרת שהיא לא תכתוב הנחיה שנועדה לתמרן או להונות נמענים), החוקרים מצאו דרך קלה לעקוף על ידי הימנעות ממילות טריגר מסוימות.

אחד הדברים הראשוניםהגרדיאן הזהיר אותנו מפניעם בינה מלאכותית הייתה הזרם של מיילים הונאה שעמדנו לחוות במטרה לקחת את הכסף שלנו, אבל בדרך חדשה. במקום לקבל חבורה של מיילים שמנסים לפתות אותנו ללחוץ על קישור, ההתמקדות היא ב"יצירת הונאות מתוחכמות יותר של הנדסה חברתית שמנצלת את אמון המשתמשים", אמרה חברת אבטחת סייבר ל"גרדיאן".

במילים אחרות, המיילים האלה יותאמו במיוחד עבורך.

כיצד יכולים רמאים להשתמש ב-ChatGPT?

יש הרבה מידע זמין לציבור על כולנו באינטרנט, החל מהכתובות והיסטוריית העבודה שלנו, ועד לשמות בני המשפחה שלנו - וכל זה יכול לשמש רמאים בעלי ידע בבינה מלאכותית. אבל בטוח ש-OpenAI, החברה של ChatGPT, לא תאפשר להשתמש בטכנולוגיה שלהם לשיטות כוונות לא טובות, נכון?הנה מה ש-Wired כותב:

חברות כמו OpenAI מנסות למנוע מהדוגמניות שלהן לעשות דברים רעים. אבל עם שחרורו של כל LLM חדש, אתרי מדיה חברתית רוחשים עם פריצות מעצר חדשות של בינה מלאכותית שמתחמקות מההגבלות החדשות שהציבו מעצבי הבינה המלאכותית. ChatGPT, ולאחר מכן Bing Chat, ולאחר מכן GPT-4 נשברו כולם בתוך דקות מהשחרור שלהם, ובעשרות דרכים שונות. רוב ההגנות מפני שימושים רעים ופלט מזיק הן רק בעומק העור, ומשתמשים נחושים מתחמקים מהם בקלות. ברגע שמתגלה פריצת כלא, בדרך כלל ניתן להכליל אותו, וקהילת המשתמשים מושכת את ה-LLM לפתח דרך החריצים בשריון שלו. והטכנולוגיה מתקדמת מהר מדי בשביל שמישהו יבין לגמרי איך הם עובדים, אפילו המעצבים.

היכולת של בינה מלאכותית להמשיך בשיחה שימושית עבור רמאים, צמצום בכוח האדם ואולי אחד ההיבטים הדורשים עבודה וזמן רב ביותר עבור רמאי.

כמה דברים שאתה יכול לצפות הם אימיילים לעבודה מעמיתים לעבודה (או אפילו פרילנסרים) המבקשים ממך להשלים משימות מסוימות "קשורות לעבודה". האימיילים שלהם יכולים להיות מאוד ספציפיים עבורך, להפיל את שמו של הבוס שלך או להזכיר עמית לעבודה אחר. דרך נוספת יכולה להיות אימייל מפורט ממאמן הכדורגל של ילדכם, המבקש תרומות עבור מדים חדשים. אנשי רשות או ארגונים שאנו סומכים עליהם, כגון בנקים, המשטרה או בית הספר של ילדכם, כולם משחק הוגן. לכל אחד יש זווית ישימה ואמינה.

זכור שרמאים יכולים גם לתפעל כל דבר בהנחיה של ChatGPT. אתה יכול בקלות לבקש ממנו לכתוב כל הנחיה באמצעות כל סוג של טון, מה שמאפשר להם ליצור דחיפות ולחץ בצורה רשמית או ידידותית.

מסנני הדואר האלקטרוני הקונבנציונליים שתופסים את רוב הודעות הדואר האלקטרוני שלך עלולים לא לעבוד היטב מכיוון שחלק מהאסטרטגיה שלהם היא להסתמך על שגיאות דקדוק ומילים שגויות באיות. עם זאת, ל-ChatGPT יש דקדוק טוב, ורמאים יכולים להימנע מברכות סטנדרטיות ולהפעיל מילים שבדרך כלל מאותתות על מסנני דואר זבל על ידי מתן הוראות ChatGPT להימנע מהן.

איך לא ליפול טרף לרמאים באמצעות AI

למרבה הצער, אין הרבה דברים שאנשים יכולים לעשות כדי לזהות הונאות בינה מלאכותית לעת עתה. בהחלט אין טכנולוגיה אמינה שיכולה לסנן הונאות שנוצרו בינה מלאכותית כפי שאנו רגילים למסנני דואר אלקטרוני המטפלים ברוב הספאם שלנו. עם זאת, עדיין יש כמה פתרונות פשוטים שתוכל לנקוט כדי להימנע מלהיות קורבן.

ראשית, אם החברה שלך מציעה הכשרה כלשהי למודעות דיוג, זה הזמן באמת להתחיל לשים לב אליהם; הרבה מעצות הבטיחות הכלליות שהם מציעים עדיין שימושיות עם הונאות בינה מלאכותית.

תזכור את זהכֹּלדוא"ל או הודעה מבוססת טקסט שאתה מקבל המבקשת ממך מידע אישי או כסף, ללא קשר למידת ההיראה המשכנעת, עשויה להיות הונאה. דרך כמעט חסינת תקלות לאמת את האותנטיות שלה (לפחות בינתיים) היא פשוט להתקשר או להיפגש עם שולח ההודעה באופן אישי, בהנחה שזה אפשרי. אלא אם כן הבינה המלאכותית מצליחה ליצור הולוגרמות מדברות (הםהםכְּבָרללמוד לזייף את הקול של מישהו), להתקשר ישירות לאיש הקשר שלך או להיפגש פנים אל פנים כדי לאשר את תקפות הבקשה היא ההימור הבטוח ביותר.