חברת KnowBe4, המובילה העולמית בתחום אבטחת כוח העבודה הדיגיטלי, המספקת הגנה הן לעובדים והן לסוכני בינה מלאכותית, הודיעה על השקת דו”ח המחקר החדש שלה, 'מסיכון הנובע מסוכני בינה מלאכותית אוטונומיים להצלחות אנושיות: בניית תרבות של אבטחה בעידן הבינה המלאכותית הסוכנית'. ממצאי המחקר מצביעים על מציאות מדאיגה עבור ארגונים באיחוד האמירויות הערביות ובערב הסעודית: השימוש ההולך וגובר בכלי בינה מלאכותית אוטונומיים מרחיב את משטח התקיפה של הארגון בקצב העולה על יכולתם של צוותי אבטחת המידע להטמיע מנגנוני בקרה והגנה מתאימים.
ככל שהבינה המלאכותית הסוכנית הופכת לחלק בלתי נפרד מהעבודה היומיומית, 84% ממנהלי הסייבר באיחוד האמירויות ובערב הסעודית מציינים כי סוכני בינה מלאכותית כבר פועלים באופן עצמאי בתוך תהליכי העבודה של הארגון. עם זאת, היעדר מדיניות ממשל ובקרה מספקת חושף ארגונים לסיכונים. מהמחקר עולה כי כמעט 1 מכל 4 ארגונים (24%) משתמשים בבינה מלאכותית ללא אישור ארגוני או ללא מסגרת ממשל ובקרה מסודרת. תופעת ה-'Shadow AI' – שימוש בכלי בינה מלאכותית שאינם מנוהלים או מפוקחים – יוצרת למעשה שכבה סמויה של 'עובדי צללים' דיגיטליים, המטפלים במידע ארגוני רגיש ללא פיקוח ובקרה.
הממצאים המרכזיים של הדוח:
- 88% מהעובדים באיחוד האמירויות ובערב הסעודית אומרים כי סרטוני והקלטות דיפ-פייק הפכו למשכנעים כל כך, עד שכמעט בלתי אפשרי להבחין בין אמת לזיוף. בנוסף, 52% מודים כי הם עלולים ליפול קורבן להונאת דיפ-פייק במסגרת עבודתם.
- 54% ממנהלי הסייבר באיחוד האמירויות ובערב הסעודית מציינים כי טעויות אנוש בשגרת העבודה היו הגורם שהשפיע ביותר על רמת אבטחת המידע בארגון שלהם במהלך 12 החודשים האחרונים. המצב מחמיר עוד יותר כאשר 44% מהעובדים מציינים כי עומס, לחץ זמן והסחות דעת בעבודה מובילים אותם לבצע טעויות אבטחת מידע משמעותיות — אפילו כשהם מודעים לנהלים הנכונים.
- 36% ממנהלי הסייבר באיחוד האמירויות ובערב הסעודית מציינים כי מתקפות מבוססות בינה מלאכותית יהוו גורם משמעותי בהגדלת סיכוני אבטחת המידע הנובעים מהתנהגות אנושית בעתיד.
- 41% מהעובדים מציינים כי הם פונים באופן עצמאי לכלי בינה מלאכותית אוטונומיים כאשר הארגון אינו מספק להם פתרונות מתאימים או מגביל את השימוש בהם — מצב שעלול לחשוף ארגונים לסיכוני סייבר. במקביל, 52% ממנהלי הסייבר מציינים כי שימוש בתוכנות ובאפליקציות בינה מלאכותית לא מאושרות השפיע באופן ממשי על רמת האבטחה הארגונית שלהם ב-12 החודשים האחרונים.
- אף ש-76% ממנהלי הסייבר סבורים כי הם "ערוכים היטב" להתמודדות עם איומי בינה מלאכותית חדשים או בלתי צפויים בשנה הקרובה, 84% מודים כי יש צורך בשיפורים נוספים כדי לוודא שכלי וסוכני בינה מלאכותית פועלים בהתאם למדיניות האבטחה של הארגון ולרמות הסיכון שהוגדרו.
הדו”ח מצביע על כך שהארגונים שמצליחים להתקדם הם אלה הרואים באבטחת מידע תרבות ארגונית שלמה — ולא רק תפקיד של צוות הסייבר — ומשלבים הרגלי עבודה בטוחים באופן רציף בתוך הפעילות היומיומית. ארגונים אלה מטפחים סביבת עבודה שבה העובדים מרגישים בנוח לדווח על טעויות ללא חשש, כאשר 82% מהעובדים מציינים שהם מסכימים לכך.
"תחום אבטחת הסייבר נכנס לתקופה של חוסר יציבות, שבה ארגונים נדרשים לאבטח כוח עבודה משולב של בני אדם וסוכני בינה מלאכותית — כוח עבודה שמתפתח מהר יותר מהיכולת של מנהלי האבטחה להיערך אליו", אמר ד"ר מרטין קריימר, יועץ CISO ב-KnowBe4. "התוקפים מתקדמים בקצב מכונה, ומשתמשים בטכניקות תקיפה כמו דיפ-פייקים כדי לתקוף עובדים, ובהזרקות פרומפטים זדוניות כדי לחטוף שליטה על סוכני בינה מלאכותית. כאשר כמעט רבע מהשימוש בבינה מלאכותית בארגון מתבצע ללא פיקוח ובקרה, הדבר יוצר פתח משמעותי עבור תוקפים וגורמי איום".
דו”ח 'מסיכון הנובע מסוכני בינה מלאכותית להישגים אנושיים: בניית תרבות של אבטחה בעידן הבינה המלאכותית האוטונומית' מסכם כי השגת "הצלחות" מחייבת ארגונים לתכנן מערכות שמכוונות התנהגות, לבנות תרבויות תומכות, ולעבור ממעקב אחר כשלים לחיזוק פעולות חיוביות — תוך הרחבת גישת 'אבטחה בראש סדר העדיפויות' הן לסוכני בינה מלאכותית והן לעובדים אנושיים.
להורדת תובנות הנתונים עבור איחוד האמירויות הערביות וערב הסעודית לחצו כאן, ולהורדת הדו”ח הגלובלי לחצו כאן.
מחקר זה מבוסס על סקר עולמי שבוצע על ידי Vanson Bourne, ובמסגרתו נסקרו 4,000 אנשי מקצוע: הסקר כלל 800 מקבלי החלטות בתחום אבטחת המידע ו-3,200 עובדים מאזורי אמריקה, אירופה, המזרח התיכון ואפריקה (EMEA) ואסיה-פסיפיק ויפן (APJ), אשר מייצגים ארגונים עם 250 עובדים ומעלה.
אודות KnowBe4
KnowBe4 מסייעת לכוח העבודה המודרני לקבל מדי יום החלטות מושכלות ובטוחות יותר בתחום אבטחת המידע. עם אמון של יותר מ-70,000 ארגונים ברחבי העולם, KnowBe4 היא חלוצה בתחום אבטחת כוח העבודה הדיגיטלי, ומספקת הגנה הן לסוכני בינה מלאכותית והן לעובדים אנושיים. פלטפורמת KnowBe4 מציעה סימולציות של מתקפות והכשרות, אבטחת כלי שיתוף פעולה ואבטחת סוכני בינה מלאכותית, המונעות באמצעות AIDA (סוכני הגנה מבוססי בינה מלאכותית) ובאמצעות ציון סיכון קנייני של החברה. הפלטפורמה מבוססת על 15 שנות נתונים התנהגותיים, ומשמשת להתמודדות עם איומים מתקדמים כגון הנדסה חברתית, מתקפות הזרקת פרומפטים ו-Shadow AI. באמצעות הגנה על בני אדם ועל סוכני בינה מלאכותית כאחד, KnowBe4 מובילה את התחום ביצירת אמון ובהגנה על כוח העבודה הדיגיטלי.
מידע נוסף זמין בכתובת www.knowbe4.com.
