בשנים האחרונות הבינה המלאכותית הפכה מכלי טכנולוגי מתקדם למרכיב יומיומי כמעט בכל תחום: עבודה, לימודים, שיווק, ניהול, שירות לקוחות ואפילו קבלת החלטות רגישות. ההתלהבות מובנת. מדובר בטכנולוגיה עוצמתית, מהירה ומרשימה. אבל לצד הפוטנציאל העצום, נחשף גם צד פחות מדובר: שימוש שגוי ב AI עלול להוביל לטעויות חמורות, לפגיעה באנשים ולמשברים של ממש. ככל שהטכנולוגיה מתקדמת כך גדל גם הסיכון שבשימוש לא אחראי בה.
יותר ויותר מקרים מהעולם מראים שהשאלה האמיתית אינה האם להשתמש בבינה מלאכותית אלא איך עושים זאת נכון.
כשמידע שגוי הפך להחלטה ציבורית
מקרה חריג שזכה להד תקשורתי רחב התרחש בבריטניה סביב משחק בליגה האירופית בין קבוצות הכדורגל של “אסטון וילה” ו”מכבי תל אביב” שהתרחש לקראת סוף שנת 2025. לקראת המשחק הודיעה משטרת מערב מידלנדס כי היא אוסרת על כניסת אוהדי הקבוצה הישראלית לאצטדיון, בטענה שקיים איום ביטחוני חריג הנשען על מידע מודיעיני ועל אירועים קודמים.
הבעיה הייתה שבין הנתונים שהוצגו לגורמים רשמיים הופיעו גם פרטים שמעולם לא התרחשו בפועל. למשל אזכור למשחק אלים כביכול בין מכבי תל אביב לווסטהאם משחק שמעולם לא התקיים. בהמשך התברר שהמידע השגוי לא הגיע ממקורות מודיעיניים אלא הופק באמצעות כלי בינה מלאכותית שבו נעשה שימוש כחלק מהכנת החומר לדיונים.
מפקד המשטרה עצמו הודה מאוחר יותר כי הסתמך על המידע שנוצר על ידי המערכת מתוך אמונה שהוא מבוסס, וכי לא בוצעה בדיקת עובדות מספקת לפני שהנתונים הוצגו בפני ועדות רשמיות ואף השפיעו על החלטות בשטח. בעקבות הפרשה הוא נאלץ להתנצל בפומבי בפני חברי הפרלמנט ולהודות שהשימוש בכלי AI ללא אימות אנושי הוביל להצגת תמונת מציאות שגויה.
זה כבר לא מקרה תאורטי של טעות טכנולוגית אלא דוגמה מוחשית לאופן שבו פלט שגוי של מערכת AI יכול להשפיע על חופש התנועה של אנשים, על החלטות ציבוריות ועל אמון הציבור במוסדות.
המקרה הזה ממחיש עד כמה מסוכן להעניק לבינה מלאכותית מעמד של מקור סמכות. המערכת יודעת לנסח מידע בצורה משכנעת מאוד, לעיתים אפילו יותר מאדם, אך היא אינה נושאת באחריות לאמת. האחריות לבדיקה, להצלבה ולהפעלת שיקול דעת תמיד נשארת בידי האדם.
כשמערכת זיהוי גרמה לעיכוב ולחשד שווא
באוקטובר 2025 בתיכון בולטימור במרילנד, ארצות הברית, מערכת בינה מלאכותית שהותקנה כדי לזהות נשק על בסיס צילום משדרי האבטחה הובילה לתקרית מבהילה. תלמיד בן 16 בשם טאקי אלן סיים אימון פוטבול ואכל שקית חטיפים מסוג דוריטוס. בסיום הארוחה קימט את השקית והניח אותה בכיסו. כעבור כ-20 דקות המערכת פירשה בטעות את צורת השקית המקומטת יחד עם תנוחות הידיים של טאקי כמשמעותית לנשק.
המערכת שלחה התראה על אדם עם כלי נשק לביטחון בית הספר והנער היה מוקף במהירות על ידי שמונה ניידות משטרה שהגיעו חמושות למקום. השוטרים הורו לו לרדת על הקרקע, אזקו אותו וחיפשו בקפדנות על מנת לוודא שאין נשק. רק לאחר חיפוש נמצא כי אין כל נשק אצל הנער או לידו והם מצאו את שקית החטיף בלבד.
השוטרים אף הראו לתלמיד תמונה שהמערכת שלחה, שבה נראתה השקית המקומטת בתנוחה שגורמת ל-AI לזהות דמיון לצורת אקדח. המקרה הסתיים ללא פגיעה פיזית, אך האירוע הותיר את טאקי המום, והוא הביע כי לא חש בטוח לצאת ממקום מוגן אפילו בעת אכילה בעתיד. בעקבות התקרית פרצו דיונים ציבוריים ותביעות לבחון מחדש את האופן שבו מערכות זיהוי מבוססות בינה מלאכותית מופעלות במוסדות חינוך, במיוחד בכל הקשור להגדרה של איום אמיתי לעומת אזעקות שווא.
הלקח כאן ברור: במערכות רגישות במיוחד כמו חינוך, ביטחון ואכיפה, AI יכול לשמש ככלי תומך בלבד, אך לעולם לא כתחליף להחלטה אנושית.
כשבינה מלאכותית הפכה לכלי להפליה
בשנת 2018 נחשף מקרה מביך במיוחד בחברת “אמזון”, אחת מחברות הטכנולוגיה הגדולות בעולם. החברה פיתחה מערכת בינה מלאכותית פנימית שנועדה לסייע למחלקת משאבי אנוש לסנן אלפי קורות חיים של מועמדים לתפקידים טכנולוגיים. המטרה הייתה לייעל את תהליך הגיוס ולזהות מועמדים איכותיים במהירות, אך בפועל התוצאה הייתה הפוכה לחלוטין.
המערכת אומנה על קורות חיים של עובדים שהתקבלו לאמזון לאורך כעשור אחורה. מאחר שבפועל רוב העובדים בתפקידי פיתוח והנדסה באותה תקופה היו גברים, האלגוריתם למד לזהות דפוסים ומאפיינים שהופיעו יותר בקורות חיים של מועמדים גברים והחל לדרג אותם גבוה יותר באופן שיטתי.
במהלך הבדיקות הפנימיות גילו אנשי הפיתוח שהמערכת מורידה ניקוד לקורות חיים שבהם הופיעו ביטויים כמו “מועדון נשים”, “תוכנית לנשים במדעי המחשב” או כל אזכור אחר למילה נשים גם כאשר הרקע המקצועי היה מצוין. כלומר, לא הייתה כאן כוונת אפליה, אך האלגוריתם שיקף באופן מדויק את ההטיה שכבר הייתה קיימת בנתונים שעליהם אומן.
כאשר הנהלת אמזון הבינה שהמערכת מייצרת הטיה מגדרית מובנית, הוחלט לעצור את הפרויקט ולבטל אותו לחלוטין והוא מעולם לא הוטמע בתהליך הגיוס בפועל.
המקרה הזה הפך לדוגמה קלאסית בעולם ה AI לכך שאלגוריתם אינו ניטרלי. הוא משקף את הנתונים שעליהם הוא לומד, וכאשר הנתונים מוטים גם התוצאה תהיה מוטה. זו תזכורת חדה לכך שפיתוח מערכות חכמות מחייב לא רק יכולת טכנולוגית אלא גם אחריות, ביקורת וחשיבה אתית עמוקה.
הבעיה אינה בטכנולוגיה אלא בגישה אליה
שלושת המקרים הללו שונים מאוד זה מזה אך המכנה המשותף ברור. בכל אחד מהם הבינה המלאכותית לא פעלה בזדון אלא הופעלה ללא מספיק בקרה, ללא הבנה מלאה של המגבלות שלה וללא אחריות אנושית מספקת סביב התהליך.
כאשר אנשים מתייחסים ל AI כאל סמכות במקום ככלי עזר נוצר מרחב מסוכן שבו טעויות טכנולוגיות הופכות לטעויות אנושיות בעלות השפעה ממשית.
שימוש נכון בבינה מלאכותית מתחיל בהבנה בסיסית של הכללים. המערכת היא כלי תומך ולא מקבל החלטות עצמאי. יש לאמת מידע חשוב, במיוחד כאשר מדובר בהחלטות רגישות. יש להפעיל שיקול דעת אנושי בכל נקודת הכרעה. יש להבין את מגבלות הכלי ולא להסתנוור מהיכולת המרשימה שלו לנסח ולהישמע בטוח בעצמו.
ארגונים שמובילים את תחום ה AI כיום אינם אלה שמטמיעים את הכלים הכי מהר אלא אלה שבונים תרבות של שימוש אחראי. הם משלבים הדרכה, בקרה, שקיפות וחשיבה ביקורתית כחלק בלתי נפרד מהעבודה עם הטכנולוגיה.
מי שידע לעבוד עם AI יוביל את העתיד
הפער בשוק העבודה כבר אינו בין מי שמשתמש בבינה מלאכותית לבין מי שלא, אלא בין מי שיודע לעבוד איתה בצורה מודעת, ביקורתית וחכמה לבין מי שנשען עליה באופן עיוור. ככל שהטכנולוגיה משתלבת ביותר תחומים כך עולה הדרישה לאנשי מקצוע שלא רק יודעים להפעיל כלי AI, אלא מבינים איך הם עובדים, מה המגבלות שלהם, איך לזהות טעויות ואיך לנהל סיכונים בסביבה אמיתית.
כאן בדיוק נכנסת החשיבות של לימודי AI מסודרים ומקצועיים. במקום ללמוד שימוש בכלים בצורה שטחית דרך סרטונים וקיצורי דרך, יותר ויותר אנשים בוחרים ללמוד בינה מלאכותית במסגרת מובנית שמעניקה גם ידע טכנולוגי וגם הבנה עמוקה של ההקשר הרחב. לימודים כאלה משלבים היכרות עם מודלים, עבודה מעשית עם כלי AI מתקדמים, הבנת הטיות, אחריות מקצועית, חשיבה ביקורתית ואתיקה בשימוש בטכנולוגיה.
בג’ון ברייס שילבו תכני AI בתוך מגוון רחב של מסלולי הכשרה להייטק, החל מקורסים למתחילים ועד מסלולים מתקדמים למפתחים, אנשי דאטה, מנהלים, אנשי סייבר ואנשי שיווק. המטרה אינה רק ללמד איך להשתמש בכלי, אלא להכשיר אנשי מקצוע שיודעים לשלוט בטכנולוגיה, להבין אותה לעומק ולהשתמש בה בצורה חכמה בעולם העבודה האמיתי.
היכולת להבין את הבינה המלאכותית ולא רק לצרוך אותה הופכת במהירות לאחת המיומנויות החשובות ביותר בשוק העבודה של השנים הקרובות.
