דלגו לתוכן הראשי
כל המדריכים
מדריך • AI Safety

איך בינה מלאכותית יכולה לחקות את הקול של הילדים שלכם?

מאת דניס קספה • • 5 דקות קריאה

הטלפון מצלצל. אתם שומעים קול שנשמע כמו הילד שלכם. הוא מבוהל, מבקש שתעבירו כסף מיד ולא משאיר הרבה מקום לשאלות. ברגע כזה, הדבר הראשון שעולה בראש הוא איך לעזור לו.

בפתיחת הסרטון אני מציג המחשה של שיחה כזאת. אחריה מגיע ההסבר: הקול המוכר יכול להיות חיקוי שנוצר באמצעות בינה מלאכותית. הדוגמה אינה תיעוד של אירוע אמיתי, אלא דרך להמחיש כיצד נראית בקשת עזרה מזויפת.

המטרה של המדריך הזה היא לעזור לכם להכין מראש דרך פעולה משפחתית. לא צריך ללמוד לזהות כל זיוף. צריך לדעת איך לבדוק בקשה חריגה לפני שפועלים לפיה.

תרשים בדיקת שיחה חשודה: עוצרים, משתמשים במילת קוד כאמצעי עזר וחוזרים למספר מוכר כדי לאמת את הבקשה.

רואים את זה בסרטון

תמונה מקדימה של הסרטון על הונאות שיבוט קול באמצעות בינה מלאכותית

לחיצה על ההפעלה טוענת את נגן YouTube (במצב youtube-nocookie), שירות חיצוני הכפוף גם למדיניות של Google. מדיניות הפרטיות

לצפייה בסרטון ב־YouTube

לקריאת תמליל הסרטון

(0:00) אמא, אמא, תקשיבי לי רגע, אני בצרות, אני לא יכול להסביר לך עכשיו הכל אני צריך שתעבירי לי כסף דחוף. בבקשה, אל תשאלי שאלות, אני ממש מפחד. אני צריך 10,000 ש״ח. עכשיו אני אשלח לך מספר חשבון. אמא, בבקשה, אין לי זמן, תעזרי לי.

(0:18) מפחיד, נכון? עכשיו תחשבו לרגע, מה אם הייתי אומר לכם שזה בכלל לא הבן שלכם, שהקול ששמעתם עכשיו נוצר באמצעות בינה מלאכותית? היום אפשר לשבט קול של אדם מתוך הקלטה קצרה ולגרום לו להישמע כאילו הוא אומר דברים שמעולם לא אמר. וכשאנחנו שומעים קול מוכר, במיוחד כשהוא נשמע מבוהל, אנחנו עלולים לפעול מתוך לחץ.

(0:42) אז איך מגנים על עצמנו? פשוט מאוד. קובעים מראש מילת קוד סודית עם בני המשפחה והחברים הקרובים. מילה שרק אתם מכירים ושלא מופיעה ברשתות החברתיות או בשיחות פומביות. אם מישהו מתקשר ומבקש כסף בדחיפות, גם אם הכל נשמע בדיוק כמו של אדם שאתם אוהבים, בקשו ממנו לומר את מילת הקוד. לא יודע את המילה, אל תעבירו כסף.

(1:03) נתקו את השיחה וצרו קשר עם אותו אדם במספר הטלפון שאתם כבר מכירים. כי בעידן הבינה המלאכותית לא תמיד אפשר לסמוך על מה שאנחנו שומעים, אבל אפשר לעצור, לבדוק ולא ליפול בפח. שתפו את הסרטון הזה עם האנשים שאתם אוהבים וממש היום קבעו ביניכם מילת קוד. זה יכול לחסוך לכם הרבה כסף ובעיקר הרבה כאב.

איך אפשר לחקות קול מתוך הקלטה?

כלי שיבוט קול יכולים להשתמש בקטע מוקלט כדי להפיק דיבור חדש בעל מאפיינים דומים לקול המקורי. לכן קול מוכר אינו הוכחה שמי שמדבר הוא האדם שאתם מכירים.

הקלטה כזאת עשויה להגיע מתוכן שפורסם ברשת. אין משך הקלטה אחד שמבטיח חיקוי משכנע בכל מצב, ואין צורך להיצמד למספר שניות כדי להבין את הסיכון. גם שמיעה של קול שנשמע אמיתי אינה מחליפה בדיקת זהות.

בהקשר של הונאה, השאלה החשובה היא מה מבקשים מכם לעשות ואיך אפשר לאמת את הבקשה באופן עצמאי.

למה בקשת עזרה כזאת עלולה לשכנע?

ההמחשה בסרטון משלבת קול מוכר, מצוקה ודחיפות. המשפטים קצרים: אני בצרות, אין לי זמן, אל תשאלי שאלות. הם דוחפים את האדם בצד השני לפעול לפני שהוא מספיק לבדוק.

כדאי לשים לב לצירוף של בקשה חריגה ולחץ לפעול מיד. דרישה שלא להתייעץ עם אף אחד, סירוב לאפשר בדיקה או פרטי תשלום שמגיעים תוך כדי השיחה הם סיבה לעצור ולאמת.

אין צורך להחליט באותו רגע אם זו בוודאות הונאה. אפשר להתייחס לבקשה ברצינות ולעבור לערוץ קשר שאתם בחרתם.

מילת קוד משפחתית: איך קובעים אותה?

בסרטון אני מציע לקבוע מראש מילת קוד עם בני המשפחה והאנשים הקרובים. היא יכולה לעזור כשמתקבלת בקשה חריגה, במיוחד אם היא אינה מבוססת על פרטים שקל למצוא ברשת.

בחרו מילה או צירוף קצר שקל לזכור, והסבירו מתי משתמשים בו. אל תשתמשו בשם של חיית המחמד, בתאריך לידה או בפרט אחר שכבר מופיע בפרופילים שלכם.

אל תפרסמו את מילת הקוד בפוסט, בתגובה או בדוגמה לסדנה. אם יש חשש שנחשפה, החליפו אותה ועדכנו את מי שצריך לדעת.

מילת הקוד אינה אישור להעברת כסף. גם אם התקבלה תשובה נכונה, בקשה חריגה דורשת אימות עצמאי. ואם קרוב משפחה שכח אותה, זה לא מוכיח שהשיחה מזויפת. עוברים לדרך בדיקה נוספת.

מה עושים כשמתקבלת שיחה דחופה?

  1. עוצרים את הפעולה הכספית. לא מעבירים כסף ולא מוסרים קוד אימות במהלך השיחה.
  2. אם נקבעה מילת קוד, מבקשים אותה בלי לומר את התשובה ובלי לתת רמזים.
  3. מסיימים את השיחה ומתקשרים באופן עצמאי למספר שכבר שמור אצלכם. לא משתמשים במספר או בקישור שנמסרו בשיחה החשודה.
  4. אם אין מענה, מנסים להגיע לאדם דרך בן משפחה נוסף או אדם קרוב שמכיר אותו.
  5. מתקדמים רק אחרי שהזהות והבקשה אומתו.

אפשר להכין מראש משפט פשוט שיעזור ברגע של לחץ:

אני רוצה לעזור. אני מסיים את השיחה ומתקשר אליך למספר ששמור אצלי כדי לוודא מה קרה.

החזרה למספר מוכר היא גם ההמלצה המרכזית של רשות הסחר הפדרלית בארצות הברית, FTC, בהנחיות שלה לגבי הונאות חירום משפחתיות ושיבוט קול.

אם יש חשש ממשי ומיידי לחיי אדם או לביטחונו, פונים למשטרה במוקד 100. בקשת כסף בטלפון אינה תחליף לטיפול במצב חירום.

הכנה קצרה שאפשר לעשות כבר היום

דברו עם הילדים, ההורים והסבים על התרחיש. אין צורך להפחיד אותם או לבחון אותם. המטרה היא שכולם יכירו את אותה דרך הפעולה.

קבעו מילת קוד, ודאו שמספרי הטלפון החשובים שמורים והסכימו על כלל משותף: כשיש בקשת כסף חריגה, חוזרים לאדם באופן עצמאי לפני העברה.

אפשר לשמור תזכורת קצרה בטלפון, בלי מילת הקוד עצמה:

עוצרים. לא מעבירים כסף בזמן השיחה. מתקשרים למספר מוכר. מאמתים לפני שפועלים.

ומה אם כבר העברתם כסף או מסרתם פרטים?

פנו מיד לבנק או לחברת התשלום דרך האפליקציה הרשמית או מספר מוכר. הסבירו שיש חשד להונאה ובקשו לבדוק אם אפשר לעצור את הפעולה או לצמצם את הנזק. אין הבטחה שאפשר יהיה להשיב את הכסף.

שמרו הודעות, מספרי טלפון, מועדי שיחה ואסמכתאות תשלום. אפשר להגיש תלונה למשטרה. אם האירוע כולל התחזות דיגיטלית או חשש לפגיעה בחשבון, ניתן לפנות גם למערך הסייבר הלאומי במוקד 119.

אל תישארו לבד עם האירוע. שתפו אדם קרוב שיוכל לעזור לכם לטפל בו בצורה מסודרת.

שאלות נפוצות

האם אפשר לזהות חיקוי לפי הקול?

לפעמים משהו נשמע חריג, אבל לא כדאי לבסס החלטה על האוזן בלבד. בדקו את הבקשה באמצעות יצירת קשר עצמאית.

האם מילת קוד מספיקה?

היא שכבת בדיקה נוספת. היא אינה מחליפה חזרה למספר מוכר ואימות של הבקשה עצמה.

מה אם הילד לא זוכר את המילה?

לא מסיקים מכך לבדו שמדובר בהונאה. מסיימים את השיחה ומנסים ליצור איתו קשר במספר מוכר או באמצעות אדם קרוב נוסף.

האם זה רלוונטי רק להורים?

לא. אותו כלל מתאים גם לבקשה שנשמעת כאילו הגיעה מהורה, מבן זוג, מחבר או מאדם אחר שאתם מכירים: בקשה חריגה בודקים בערוץ עצמאי.

לצפות, לשתף ולתאם מראש

הסרטון המצורף מדגים את התרחיש ומציע להתחיל משיחה משפחתית וממילת קוד. אחרי הצפייה, הקדישו כמה דקות כדי להסכים איך אתם בודקים בקשת עזרה חריגה.

אני מציע להכיר את הכלים ואת הסיכונים כחלק משימוש יומיומי בבינה מלאכותית. בקהילת אותנטיים ברשת אנחנו מדברים גם על השאלות האלה, ובמסגרת ההדרכות שלי אפשר לתרגל שימוש אחראי בכלים.

מקורות