השפעת התפתחות טכנולוגיית הבינה המלאכותית על עולם האבטחה: הזדמנויות ואתגרים

השפעת התפתחות טכנולוגיית הבינה המלאכותית על עולם האבטחה: הזדמנויות ואתגרים

מאת: גיל ברעם*

בחודשים האחרונים עלתה טכנולוגיית הבינה המלאכותית (AI) לכותרות בשל הפוטנציאל שלה לחולל מהפכה בתחומים רבים, ותחום האבטחה אינו יוצא מן הכלל. טכנולוגיית בינה מלאכותית צפויה להשפיע השפעה משמעותית על תעשיית האבטחה, מכיוון שהיא מציעה הזדמנויות חדשות למעקב משופר, להערכת סיכונים ולזיהוי איומים. עם זאת, כמו בכל טכנולוגיה מתפתחת, יש גם חששות הנוגעים להשפעתה על הפרטיות, על אבטחת המידע ועל התעסוקה. וכמובן, לכל אלה מתלווים חששות כבדים מהניסיונות לנצל אותה לרעה.

אנסה להסביר במאמר קצר זה כיצד תשפיע בינה מלאכותית על תחום האבטחה. אתמקד בעיקר בשלושה מרכיבים של עולם האבטחה, שעשויים בסבירות גבוהה להיות מושפעים מכניסת טכנולוגיית הבינה המלאכותית: הערכת סיכונים, שיפור מערכות האבטחה הקיימות וחיזוי אירועים עתידיים.

בתחום האבטחה הפיזית, הערכת סיכונים כוללת זיהוי איומי אבטחה פוטנציאליים, ניתוח הסבירות והנזק הפוטנציאלי שלהם ופיתוח אסטרטגיות להפחתת סיכונים אלו. בינה מלאכותית צפויה להשפיע על תהליכים אלה. היא יכולה לשפר את תהליך הערכת הסיכונים באמצעות ניתוח כמויות עצומות של נתונים, שיאפשרו לזהות דפוסים ומגמות שעשויים להצביע על איומי אבטחה פוטנציאליים. מערכות הבינה המלאכותית יוכלו לנתח את השפעות הסביבה, השפעות מזג האוויר, השפעות חברתיות ועוד, לשלב בניתוחים אלה את ניתוח דפ"אות היריב ולהציג בסקר סיכונים מענה המבוסס על מידע רב ומגוון. תהליך כזה יאפשר לאנשי אבטחה לפתח אסטרטגיות הערכת סיכונים מקיפות יותר, אשר יתבססו על תובנות מבוססות-נתונים.

התוכנה תוכל לסייע בתכנון הצבה אופטימלית של אנשים ושל אמצעים במבצעי אבטחה מורכבים, וכן תסייע בהגדרת משימותיהם.

אחת ההשפעות הבולטות של בינה מלאכותית על האבטחה הפיזית תהיה היכולת שלה לשפר את מערכות המעקב בזמן אמת. מערכות מעקב המופעלות על ידי בינה מלאכותית יכולות לנתח כמויות גדולות של נתונים בזמן אמת, ולזהות מייד חריגות או איומים פוטנציאליים. מערכות כאלה כוללות טכנולוגיה לזיהוי פנים שיכולה לזהות אנשים ולעקוב אחר תנועותיהם, והן כוללות גם מערך לניתוח התנהגות, שיכול לזהות דפוסי התנהגות חשודים. מערכות מעקב המופעלות על ידי בינה מלאכותית יוכלו לספק התראות בזמן אמת ולהביא לנקיטת פעולות מיידיות כדי להתמודד עם איומי אבטחה פוטנציאליים.

תארו לעצמכם מצב שבו אתם פותחים את הבוקר בפנייה למערכת: אתרי לי פרצות במערך האבטחה או באבטחת המידע, ומקבלים בתוך שניות תשובה עניינית מעודכנת וישימה.

דרך נוספת שבה טכנולוגיית בינה מלאכותית תשפיע על תחום האבטחה הפיזית היא באמצעות פיתוח אמצעים אנליטיים המאפשרים לחזות אירועים. בינה מלאכותית יכולה להשתמש בנתונים היסטוריים כדי לזהות דפוסים ומגמות שיסייעו לה ליצור תחזיות לגבי אירועים עתידיים. בתחום האבטחה הפיזית, אלו יכולים להיות נתונים על פרצות אבטחה קודמות שיאפשרו לחזות היכן צפויות להתרחש הפרות עתידיות. ניתוח חזוי יכול לעזור לאנשי אבטחה להקצות משאבים ביעילות רבה יותר, לצמצם את זמני התגובה ולמנוע פרצות אבטחה לפני שהן מתרחשות.

בתחום אחר של האבטחה – התמודדות עם האיום הפנימי ועם הצורך בסינון ומיון עובדים – תוכל הבינה המלאכותית לנתח את האיומים בצורה רחבה יותר ואף תוכל לייצר מנגנונים לטיפול בזמן אמת, כאשר, למשל, תספק מידע רלוונטי תוך כדי שיחה או ריאיון בהתאם להתפתחות השיח. אין ספק שלבינה המלאכותית תהיה גם השפעה על אופן ההכשרה של מערכי האבטחה. הצורך במוסדות הכשרה יפחת ויכולת ההכשרה "בשטח" וכן יכולות הלימוד העצמי יגדלו במידה ניכרת. כבר היום פועלות מערכות טכנולוגיות הנותנות משוב על אימון מעשי עצמאי, ובהמשך תותאם ההכשרה לרקע ולידע המוקדם האישיים של הלומדים והמתאמנים. יכולות המעקב והבקרה גם הן יקבלו ממד חדש, שיאפשר התאמה מלאה לתא השטח ולכוח האדם הספציפי.

עם זאת, כמו בכל תהליך אימוץ של טכנולוגיה מתפתחת, יש גם חששות הנוגעים להשפעת טכנולוגיית הבינה המלאכותית על פרטיות ועל אבטחת נתונים. הועלו חששות שמערכות מעקב המופעלות על ידי בינה מלאכותית יובילו להפרות של פרטיות ולשימוש לרעה פוטנציאלי בנתונים אישיים. נוסף על כך, השימוש בבינה מלאכותית במערכות אבטחה פיזיות דורש איסוף ואחסון של כמויות עצומות של נתונים, ומאגרי נתונים אלה עלולים להיות פגיעים לתקיפות סייבר ולניסיונות פריצה. ארגונים חייבים להיות ערניים בהגנה על נתונים אלה ולהבטיח שהשימוש בהם ייעשה באחריות ובאתיות.

לבסוף, יש חששות לגבי ההשפעה של טכנולוגיית בינה מלאכותית על התעסוקה בתחום האבטחה הפיזי. בשלב זה, טכנולוגיית הבינה המלאכותית עדיין אינה תחליף למאבטחים חמושים, אך שילוב של בינה מלאכותית ברובוטים מתקדמים, שקיים כבר היום, אולי יביא לכך בעתיד (ראו כיצד התפתחו כלי הרכב האוטונומיים). אולם, ככל שמערכות המונעות על ידי בינה מלאכותית הופכות נפוצות יותר, עולה הסיכון שהן יחליפו עובדים אנושיים בתפקידים מסוימים אחרים, כגון תפקידי בקרה ותצפית, וכן תיווצר אלטרנטיבה להכנת תוכניות אבטחה ולכתיבת פק"מים.

גם החשש מטעויות קיים כמובן, וכמו בכל תוכנה גם כאן ינוצלו פרצות או תוכנה שאינה בשלה לצורך "שתילת" מידע שגוי, מטעה ומוליך שולל. יש להתמודד גם עם בעיות אתיות של תכנים שאינם הולמים, שפה פוגענית ועוד.

לסיכום, לטכנולוגיית בינה מלאכותית צפויה להיות השפעה משמעותית על תחום האבטחה. מערכות מעקב המופעלות על ידי בינה מלאכותית, כלי הערכת סיכונים, ניתוח ואף חיזוי ישפרו את אמצעי האבטחה ואת זמני התגובה. עם זאת, ארגונים צריכים להיות מודעים לסיכונים הפוטנציאליים של פגיעה בפרטיות ובאבטחה הקשורים לטכנולוגיית הבינה המלאכותית, ולנקוט צעדים כדי להפחיתם. בינה מלאכותית עשויה להפוך את תחום האבטחה הפיזי ליעיל, לאפקטיבי ולבעל יכולת תגובה מהירה יותר, אך יש להשתמש בה באחריות ובאתיות כדי שמלוא הפוטנציאל שלה ימומש. חשוב לזכור כי היכולות הללו עומדות גם לרשות היריב, והן כוללות את יכולותיו לשבש ולהטעות את המערכות שלנו.

* הכותבת הינה ד"ר גיל ברעם, מומחית לאסטרטגיה ומדיניות סייבר. חוקרת, מרצה ויועצת לארגונים. עמיתת מחקר באוניברסיטת קליפוניה סן-דייגו. בעבר הייתה מנהלת צוות המחקר לסייבר וחלל בסדנת יובל נאמן למדע, טכנולוגיה וביטחון באוניברסיטת תל אביב.