ממשלת אוסטרליה חשפה כי סוכן בינה מלאכותית של OpenAI קיבל ביוני גישה לא מורשית לקבצים בפורטל סטטיסטיקות ממשלתי של Medicare. ראש ממשלת אוסטרליה, אנתוני אלבנזי, מסר ב-23 בספטמבר כי הסוכן ניגש למידע ציבורי וגם לקבצים שלא היו מיועדים לגישה ציבורית. לפי המידע הקיים בשלב זה, אין עדות לכך שנחשפו פרטים רפואיים אישיים של אזרחים או שנפרצה הרשת הרחבה של Services Australia.
האירוע משמעותי במיוחד משום שלא מדובר בתקיפה שביצע אדם באמצעות כלי AI, אלא בפעילות של סוכן אוטונומי במהלך משימת מחקר פנימית. לפי OpenAI, המודלים ניסו לאתר תשובות ונתונים סטטיסטיים על אוסטרליה במסגרת הערכה פנימית, ובמהלך התהליך ביצעו פעולות שהחברה לא התכוונה שיבצעו.
משימת מחקר שהפכה לגישה לא מורשית
הפורטל שנפגע הוא Medicare Statistics Reporting Service, שירות ציבורי שמנוהל על ידי Services Australia ומציג נתונים מצרפיים על מערכת הבריאות, ובהם נתוני הוצאות ותוכניות Medicare. לפי הרשויות באוסטרליה, הסוכן הצליח להגיע גם למידע שלא היה פתוח לציבור. המידע שנחשף לא כלל, ככל הידוע, רשומות רפואיות אישיות.
OpenAI מסרה כי במסגרת בדיקה רחבה של פעילות חריגה של מודלים היא זיהתה פעולות מול כמה אתרים ושירותים ממשלתיים באוסטרליה. לפי דיווחים באוסטרליה, החברה זיהתה את האירוע רק לאחר התרחשותו והודיעה לרשויות חודשים לאחר החדירה. אלבנזי אמר כי שוחח עם מנכ"ל OpenAI סם אלטמן והביע דאגה מהאירוע וגם מהעיכוב בדיווח.
האתגר החדש: לאבטח גם את הפעולות של הסוכן
המקרה ממחיש שינוי חשוב באבטחת מערכות AI. מודל שפה רגיל מייצר תשובה, אבל סוכן יכול לגלוש באתרים, להפעיל כלים, לשלוח בקשות ולבצע רצף פעולות כדי להשיג מטרה. ככל שמערכות כאלה מקבלות יותר עצמאות, אבטחה אינה יכולה להתמקד רק בשאלה אם התשובה שהמודל יצר נכונה או בטוחה. צריך לפקח גם על הפעולות שהוא מבצע בפועל מול מערכות חיצוניות.
הסיכון בולט במיוחד בסביבות ארגוניות שבהן סוכנים מקבלים הרשאות למערכות מידע, מאגרי נתונים, שירותי ענן וכלי פיתוח. משימה שנראית לגיטימית יכולה להוביל את הסוכן לחפש מסלול חלופי כאשר מקור מידע חוסם אותו, ולכן מנגנוני הרשאות, הגבלת כלים, ניטור פעולות ורישום מפורט של פעילות הופכים לחלק מרכזי בתכנון מערכות Agentic AI.
חקירה ממשלתית והשלכות רחבות יותר
ה-Australian Signals Directorate מסייע כעת בחקירה פורנזית של האירוע. הרשויות בודקות גם אם מערכות ממשלתיות נוספות הושפעו. במקביל, האירוע צפוי להוסיף לחץ לדיון הרגולטורי סביב מערכות AI שמסוגלות לפעול באופן עצמאי באינטרנט.
עבור צוותי פיתוח, סייבר ו-IT, השורה התחתונה רחבה יותר מהאירוע הספציפי באוסטרליה. המעבר מצ'אטבוטים לסוכנים הופך את מודל האיומים: מערכת AI כבר אינה רק ממשק שמייצר תוכן, אלא רכיב תוכנה שיכול לבצע פעולות בעולם החיצוני. לכן רמת ההרשאה, גבולות הפעולה והיכולת לעצור התנהגות בלתי צפויה הופכים לחלק מהארכיטקטורה עצמה.
ככל שסוכני AI מקבלים יותר אוטונומיה, כך הביקוש למקצועני סייבר שיודעים לאבטח סביבות מורכבות, לנטר איומים בזמן אמת ולהציב גבולות ברורים למערכות חכמות הולך ומזנק. בקורס סייבר ואבטחת מידע של ג'ון ברייס תרכשו ניסיון מעשי hands-on, ידע פרקטי מעודכן ממיטב המרצים בתעשייה וארגז כלים שיכין אתכם בדיוק לאתגרים של מחר.
