כיצד ניתן להשתמש ב- AI גנוצרי בביטחון סייבר ?

מָבוֹא

AI גנרטיבי - מערכות בינה מלאכותית המסוגלות ליצור תוכן או תחזיות חדשות - מתגלה ככוח טרנספורמטיבי באבטחת סייבר. כלים כמו GPT-4 של OpenAI הוכיחו את היכולת לנתח נתונים מורכבים וליצור טקסט דמוי אדם, המאפשרים גישות חדשות להגנה מפני איומי סייבר. מומחי אבטחת סייבר ומקבלי החלטות עסקיות בכל תעשיות בוחנים כיצד AI גנרטיבי יכול לחזק את ההגנות מפני התקפות מתפתחות. מפיננסים ושירותי בריאות ועד קמעונאות וממשל, ארגונים בכל מגזר מתמודדים עם ניסיונות דיוג מתוחכמים, תוכנות זדוניות ואיומים אחרים ש-AI יצירתי עשוי לסייע בהתמודדות. במאמר הלבן הזה, אנו בוחנים כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר, הדגשת יישומים בעולם האמיתי, אפשרויות עתידיות ושיקולים חשובים לאימוץ.

בינה מלאכותית גנרית שונה מבינה מלאכותית אנליטית לא רק בכך שהיא מזהה דפוסים אלא גם יצירה תוכן - בין אם מדמיית התקפות לאימון הגנות או הפקת הסברים בשפה טבעית לנתוני אבטחה מורכבים. היכולת הכפולה הזו הופכת אותה לחרב פיפיות: היא מציעה כלים הגנה חדשים וחזקים, אבל גם שחקני איומים יכולים לנצל אותה. הסעיפים הבאים בוחנים מגוון רחב של מקרי שימוש עבור AI גנרטיבי באבטחת סייבר, מאוטומציה של זיהוי דיוג ועד לשיפור התגובה לאירועים. אנו דנים גם ביתרונות שמבטיחים חידושי הבינה המלאכותית, לצד הסיכונים (כמו "הזיות" בינה מלאכותית או שימוש לרעה יריב) שארגונים חייבים לנהל. לבסוף, אנו מספקים אמצעים מעשיים שיעזרו לעסקים להעריך ולשלב באחריות AI גנרטיבי באסטרטגיות אבטחת הסייבר שלהם.

AI גנרטיבי באבטחת סייבר: סקירה כללית

AI גנרטיבי באבטחת סייבר מתייחס למודלים של AI - לרוב מודלים של שפות גדולות או רשתות עצביות אחרות - שיכולים לייצר תובנות, המלצות, קוד, או אפילו נתונים סינתטיים כדי לסייע במשימות אבטחה. בניגוד למודלים חזויים גרידא, בינה מלאכותית גנרטיבית יכולה לדמות תרחישים ולייצר פלטים הניתנים לקריאה (למשל דוחות, התראות או אפילו דגימות קוד זדוני) על סמך נתוני ההדרכה שלו. את היכולת הזו ממונפים לחזות, לזהות ולהגיב לאיומים בדרכים דינמיות יותר מבעבר (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks). לדוגמה, מודלים גנרטיביים יכולים לנתח יומנים עצומים או מאגרי מודיעין איומים ולייצר סיכום תמציתי או פעולה מומלצת, המתפקדים כמעט כמו "עוזר" בינה מלאכותית לצוותי אבטחה.

יישומים מוקדמים של AI גנרטיבי להגנת סייבר הראו הבטחה. בשנת 2023 הציגה מיקרוסופט טייס משנה אבטחה, עוזר מופעל GPT-4 עבור מנתחי אבטחה, כדי לסייע בזיהוי הפרות ולסנן את 65 טריליון האותות שמיקרוסופט מעבדת מדי יום (Microsoft Security Copilot הוא עוזר GPT-4 AI חדש לאבטחת סייבר | הגבול). אנליסטים יכולים להנחות מערכת זו בשפה טבעית (למשל "סכם את כל אירועי האבטחה ב-24 השעות האחרונות"), וטייס המשנה יפיק סיכום סיפורי שימושי. באופן דומה, של גוגל AI של Threat Intelligence משתמש במודל מחולל הנקרא מַזַל תְאוּמִים כדי לאפשר חיפוש שיחה דרך מסד הנתונים העצום של האיומים של גוגל, ניתוח מהיר של קוד חשוד וסיכום ממצאים כדי לסייע לציידי תוכנות זדוניות (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). דוגמאות אלו ממחישות את הפוטנציאל: בינה מלאכותית יצירתית יכולה לעכל נתוני אבטחת סייבר מורכבים בקנה מידה גדול ולהציג תובנות בצורה נגישה, ולהאיץ את קבלת ההחלטות.

במקביל, AI גנרטיבי יכול ליצור תוכן מזויף מציאותי ביותר, המהווה ברכה עבור סימולציה והדרכה (ולמרבה הצער, עבור תוקפים שמעצבים הנדסה חברתית).ככל שנמשיך למקרי שימוש ספציפיים, נראה את היכולת של הבינה המלאכותית הגנרטיבית לשניהם לסנתז ו לְנַתֵחַ מידע עומד בבסיס יישומי אבטחת הסייבר הרבים שלה. להלן, אנו צוללים לתוך מקרי שימוש מרכזיים, החל ממניעת דיוג ועד פיתוח תוכנה מאובטח, עם דוגמאות כיצד כל אחד מהם מיושם בתעשיות.

יישומי מפתח של בינה מלאכותית גנרטיבית באבטחת סייבר

איור: מקרי שימוש מרכזיים עבור AI גנרטיבי באבטחת סייבר כוללים טייסי AI עבור צוותי אבטחה, ניתוח פגיעות קוד, זיהוי איומים אדפטיבי, סימולציית התקפות של אפס יום, אבטחה ביומטרית משופרת וזיהוי דיוג (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ).

זיהוי ומניעת דיוג

פישינג נותר אחד מאיומי הסייבר הנפוצים ביותר, המרמה משתמשים ללחוץ על קישורים זדוניים או לחשוף אישורים. בינה מלאכותית גנרטיבית נפרסת לשניהם לזהות ניסיונות דיוג ולחזק את הכשרת המשתמשים כדי למנוע התקפות מוצלחות. בצד ההגנתי, מודלים של בינה מלאכותית יכולים לנתח תוכן אימייל והתנהגויות שולחים כדי לזהות סימנים עדינים של דיוג שמסננים מבוססי כללים עלולים להחמיץ. על ידי למידה ממערכי נתונים גדולים של אימיילים לגיטימיים לעומת הונאה, מודל מחולל יכול לסמן חריגות בטון, בניסוח או בהקשר המעידים על הונאה - גם כאשר הדקדוק והאיות כבר לא מסגירים זאת. למעשה, חוקרי Palo Alto Networks מציינים שבינה מלאכותית גנרטיבית יכולה לזהות "סימנים עדינים של הודעות דוא"ל דיוג שאחרת עלולות לא להתגלות," לעזור לארגונים להישאר צעד אחד לפני הרמאים (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks).

צוותי אבטחה משתמשים גם ב-AI גנרטיבי כדי לדמות התקפות פישינג להדרכה וניתוח. לדוגמה, Ironscales הציגה כלי סימולציית דיוג המופעל על ידי GPT שיוצר אוטומטית הודעות דיוג מזויפות המותאמות לעובדי הארגון (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). הודעות דוא"ל אלה שנוצרו בינה מלאכותית משקפות את טקטיקות התוקפים העדכניות ביותר, ומעניקות לצוות תרגול ריאלי באיתור תוכן פישי. אימון מותאם אישית כזה הוא חיוני שכן התוקפים עצמם מאמצים AI כדי ליצור פתיונות משכנעים יותר. יש לציין, בעוד שבינה מלאכותית מחוללת יכולה לייצר הודעות פישינג מלוטשות מאוד (חלפו הימים של אנגלית שבורה בקלות), המגינים גילו שבינה מלאכותית אינה בלתי מנוצחת. בשנת 2024, חוקרי אבטחה של IBM ערכו ניסוי שהשווה הודעות דיוג שנכתבו על ידי אדם לאלו שנוצרו בינה מלאכותית, ו "למרבה ההפתעה, מיילים שנוצרו על ידי AI עדיין היו קלים לזיהוי למרות הדקדוק הנכון שלהם" (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). זה מצביע על כך שהאינטואיציה האנושית בשילוב עם זיהוי בסיוע בינה מלאכותית עדיין יכולה לזהות חוסר עקביות עדין או אותות מטא נתונים בהונאות שנכתבו בבינה מלאכותית.

בינה מלאכותית גנרטיבית מסייעת להגנת פישינג בדרכים אחרות, גם. ניתן להשתמש במודלים כדי ליצור תגובות או מסננים אוטומטיים שבודקים מיילים חשודים. לדוגמה, מערכת בינה מלאכותית יכולה להשיב לדוא"ל עם שאילתות מסוימות כדי לאמת את הלגיטימיות של השולח או להשתמש ב-LLM כדי לנתח קישורים וקבצים מצורפים של אימייל בארגז חול, ואז לסכם כל כוונה זדונית. פלטפורמת האבטחה של NVIDIA מורפיאוס מדגים את הכוח של AI בזירה זו - הוא משתמש במודלים של NLP מחוללים כדי לנתח ולסווג במהירות הודעות דוא"ל, והוא נמצא כמשפר את זיהוי דוא"ל התחזות בחנית על ידי 21% בהשוואה לכלי אבטחה מסורתיים (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). Morpheus אפילו פרופיל של דפוסי תקשורת של משתמשים כדי לזהות התנהגות חריגה (כמו משתמש ששלח פתאום אימייל לכתובות חיצוניות רבות), מה שיכול להצביע על חשבון שנפגע ששולח מיילים דיוג.

בפועל, חברות ברחבי תעשיות מתחילות לסמוך על AI כדי לסנן אימייל ותעבורת אינטרנט עבור התקפות הנדסה חברתית. חברות פיננסים, למשל, משתמשות בבינה מלאכותית גנרטיבית כדי לסרוק תקשורת לאיתור ניסיונות התחזות שעלולים להוביל להונאות רשת, בעוד שספקי שירותי בריאות פורסים בינה מלאכותית כדי להגן על נתוני חולים מפני הפרות הקשורות להתחזות. על ידי יצירת תרחישי פישינג מציאותיים וזיהוי סימני ההיכר של הודעות זדוניות, AI יצירתי מוסיף רובד רב עוצמה לאסטרטגיות למניעת דיוג. הטייק אווי: AI יכול לעזור לזהות ולנטרל התקפות דיוג מהר יותר ומדויק יותר, אפילו כשהתוקפים משתמשים באותה טכנולוגיה כדי לשפר את המשחק שלהם.

זיהוי תוכנות זדוניות וניתוח איומים

תוכנות זדוניות מודרניות מתפתחות כל הזמן - התוקפים מייצרים גרסאות חדשות או מטשטשים קוד כדי לעקוף חתימות אנטי-וירוס. AI Generative מציע טכניקות חדשות הן לזיהוי תוכנות זדוניות והן להבנת ההתנהגות שלה. גישה אחת היא שימוש ב-AI כדי ליצור "תאומים מרושעים" של תוכנות זדוניות: חוקרי אבטחה יכולים להזין דגימת תוכנות זדוניות ידועות למודל יצירתי כדי ליצור גרסאות מוטציות רבות של תוכנה זדונית זו. על ידי כך, הם למעשה צופים את השינויים שהתוקף עשוי לבצע. לאחר מכן ניתן להשתמש בגרסאות אלה שנוצרו בבינה מלאכותית כדי לאמן מערכות אנטי-וירוס וזיהוי פריצות, כך שאפילו גרסאות משוונות של התוכנה הזדונית מזוהות בטבע (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). אסטרטגיה פרואקטיבית זו עוזרת לשבור את המעגל שבו האקרים משנים מעט את התוכנה הזדונית שלהם כדי להתחמק מזיהוי והמגנים חייבים לטרוף לכתוב חתימות חדשות בכל פעם. כפי שצוין בפודקאסט אחד בתעשייה, מומחי אבטחה משתמשים כעת בבינה מלאכותית "לדמות תעבורת רשת ולייצר מטענים זדוניים המחקים התקפות מתוחכמות," בודקים את ההגנות שלהם נגד משפחה שלמה של איומים ולא בפני מקרה בודד. זֶה זיהוי איומים אדפטיבי פירוש הדבר שכלי אבטחה הופכים עמידים יותר בפני תוכנות זדוניות פולימורפיות שאחרת היו חומקות.

מעבר לזיהוי, AI גנרטיבי מסייע ניתוח תוכנות זדוניות והנדסה לאחור, שבאופן מסורתי הן משימות עתירות עבודה עבור מנתחי איומים. מודלים של שפה גדולים יכולים לקבל משימה לבחון קוד או סקריפטים חשודים ולהסביר בשפה פשוטה מה הקוד נועד לעשות. דוגמה בעולם האמיתי היא Insight Code של VirusTotal, תכונה של VirusTotal של גוגל הממנפת מודל בינה מלאכותית (Sec-PaLM של גוגל) כדי לייצר סיכומים בשפה טבעית של קוד זדוני (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). זה בעצם "סוג של ChatGPT המוקדש לקידוד אבטחה," פועל כאנליסט תוכנות זדוניות בינה מלאכותית שעובד 24/7 כדי לעזור לאנליסטים אנושיים להבין איומים (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). במקום להתעמק בסקריפט או קוד בינארי לא מוכרים, חבר צוות אבטחה יכול לקבל הסבר מיידי מה-AI - למשל, "הסקריפט הזה מנסה להוריד קובץ משרת XYZ ולאחר מכן לשנות את הגדרות המערכת, מה שמעיד על התנהגות תוכנות זדוניות." זה מאיץ באופן דרמטי את התגובה לאירועים, מכיוון שאנליסטים יכולים לבדוק ולהבין תוכנות זדוניות חדשות מהר יותר מאי פעם.

AI גנרטיבי רגיל גם כן לאתר תוכנות זדוניות במערכי נתונים מסיביים. מנועי אנטי-וירוס מסורתיים סורקים קבצים לאיתור חתימות ידועות, אך מודל מחולל יכול להעריך את מאפייני הקובץ ואף לחזות אם הוא זדוני על סמך דפוסים שנלמדו. על ידי ניתוח תכונות של מיליארדי קבצים (זדוניים ושפירים), בינה מלאכותית עשויה לתפוס כוונות זדוניות כאשר לא קיימת חתימה מפורשת.לדוגמה, מודל מחולל יכול לסמן קובץ הפעלה כחשוד בגלל פרופיל ההתנהגות שלו "מראה" כמו וריאציה קלה של תוכנת כופר שהוא ראה במהלך האימון, למרות שהבינארי חדש. זיהוי מבוסס התנהגות זה עוזר להתמודד עם תוכנות זדוניות חדשניות או אפס-יום. לפי הדיווחים, ה-Threat Intelligence AI של גוגל (חלק מ-Chronicle/Mandiant) משתמש במודל הגנרטיבי שלה כדי לנתח קוד פוטנציאלי זדוני "ביעילות וביעילות רבה יותר לסייע לאנשי אבטחה במאבק בתוכנות זדוניות וסוגים אחרים של איומים." (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי).

מהצד השני, עלינו להכיר בכך שתוקפים יכולים להשתמש ב-AI גנרי גם כאן - כדי ליצור אוטומטית תוכנות זדוניות שמתאים את עצמו. למעשה, מומחי אבטחה מזהירים זאת AI גנרטיבי יכול לעזור לפושעי סייבר לפתח תוכנות זדוניות שקשה יותר לזהות (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks). ניתן להורות למודל בינה מלאכותית לעצב שוב ושוב פיסת תוכנה זדונית (שינוי מבנה הקבצים שלו, שיטות ההצפנה וכו') עד שהוא מתחמק מכל בדיקות האנטי-וירוס המוכרות. שימוש יריב זה הוא דאגה גוברת (המכונה לפעמים "תוכנות זדוניות המופעלות על ידי AI" או תוכנות זדוניות פולימורפיות כשירות). נדון בסיכונים כאלה מאוחר יותר, אבל זה מדגיש שבינה מלאכותית גנרטיבית היא כלי במשחק חתול ועכבר זה המשמש גם מגינים וגם תוקפים.

בסך הכל, AI גנרטיבי משפר את ההגנה מפני תוכנות זדוניות על ידי מתן אפשרות לצוותי אבטחה לחשוב כמו תוקף - יצירת איומים ופתרונות חדשים בתוך הבית. בין אם מדובר בייצור תוכנות זדוניות סינתטיות כדי לשפר את שיעורי הזיהוי או שימוש בבינה מלאכותית כדי להסביר ולהכיל תוכנות זדוניות אמיתיות שנמצאות ברשתות, הטכניקות הללו חלות על פני תעשיות. בנק עשוי להשתמש בניתוח תוכנות זדוניות מונעות בינה מלאכותית כדי לנתח במהירות מאקרו חשוד בגיליון אלקטרוני, בעוד שחברת ייצור עשויה להסתמך על בינה מלאכותית כדי לזהות תוכנות זדוניות המכוונות למערכות בקרה תעשייתיות. על ידי הגדלת ניתוח תוכנות זדוניות מסורתיות עם AI יצירתי, ארגונים יכולים להגיב לקמפיינים של תוכנות זדוניות מהר יותר ובאופן יזום יותר מבעבר.

מודיעין איומים וניתוח אוטומטי

מדי יום, ארגונים מופגזים בנתוני מודיעין איומים - החל מהזנות של אינדיקטורים חדשים של פשרה (IOCs) ועד לדיווחי אנליסטים על טקטיקות האקרים מתעוררות. האתגר של צוותי האבטחה הוא לנפות את מבול המידע הזה ולהפיק תובנות מעשיות. AI גנרטיבי מוכיח את עצמו כבעל ערך רב ב אוטומציה של ניתוח וצריכה של מודיעין איומים. במקום לקרוא ידנית עשרות דוחות או רשומות מסד נתונים, אנליסטים יכולים להשתמש בבינה מלאכותית כדי לסכם ולהקשר את אינטל האיומים במהירות המכונה.

דוגמה קונקרטית אחת היא של גוגל מודיעין איומים סוויטה, המשלבת בינה מלאכותית גנרטיבית (מודל Gemini) עם שלל נתוני האיומים של גוגל מ-Mandiant ו-VirusTotal. AI זה מספק "חיפוש שיחות במאגר העצום של מודיעין איומים של גוגל", המאפשר למשתמשים לשאול שאלות טבעיות על איומים ולקבל תשובות מזוקקות (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). לדוגמה, אנליסט יכול לשאול, "האם ראינו תוכנות זדוניות כלשהן הקשורות ל-Threat Group X המתמקדות בתעשייה שלנו?" וה-AI ימשוך מידע רלוונטי, אולי שימו לב "כן, קבוצת האיום X הייתה מקושרת למסע פרסום דיוג בחודש שעבר באמצעות תוכנה זדונית Y", יחד עם סיכום של התנהגות תוכנה זדונית זו. זה מקטין באופן דרמטי את הזמן לאסוף תובנות שאחרת היו דורשות שאילתות בכלים מרובים או קריאת דוחות ארוכים.

AI גנרטיבי יכול גם לתאם ו לסכם מגמות איומים.הוא עשוי לסרוק אלפי פוסטים בבלוגים בנושא אבטחה, לפרסם חדשות ופטפוטים ברשת האפלה ולאחר מכן ליצור סיכום מנהלים של "איומי הסייבר המובילים השבוע" לתדרוך של CISO. באופן מסורתי, רמה זו של ניתוח ודיווח דרשה מאמץ אנושי משמעותי; כעת, דגם מכוון היטב יכול לנסח אותו תוך שניות, כאשר בני אדם רק משכללים את הפלט. חברות כמו ZeroFox התפתחו FoxGPT, כלי AI גנרטיבי שתוכנן במיוחד עבור "להאיץ את הניתוח והסיכום של מודיעין על פני מערכי נתונים גדולים," כולל תוכן זדוני ונתוני פישינג (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). על ידי אוטומציה של ההרמה הכבדה של קריאה והצלבה של נתונים, בינה מלאכותית מאפשרת לצוותי אינטל איומים להתמקד בקבלת החלטות ובתגובה.

מקרה שימוש נוסף הוא ציד איומי שיחה. תארו לעצמכם שמנתח אבטחה מקיים אינטראקציה עם עוזר בינה מלאכותית: "הראה לי כל סימן של פליטת נתונים ב-48 השעות האחרונות" אוֹ "מהן נקודות התורפה החדשות המובילות שתוקפים מנצלים השבוע?" ה-AI יכול לפרש את השאילתה, לחפש ביומנים פנימיים או מקורות מידע חיצוניים, ולהגיב בתשובה ברורה או אפילו רשימה של אירועים רלוונטיים. זה לא מופרך - מערכות מודרניות של מידע אבטחה וניהול אירועים (SIEM) מתחילות לשלב שאילתות בשפה טבעית. חבילת האבטחה QRadar של IBM, למשל, מוסיפה תכונות בינה מלאכותית ב-2024 כדי לאפשר לאנליסטים "שאל […] שאלות ספציפיות על נתיב התקיפה המסוכם" של אירוע וקבל תשובות מפורטות. זה יכול גם "לפרש ולסכם מודיעין איומים רלוונטי ביותר" אוטומטית (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). בעיקרו של דבר, AI גנרטיבי הופך הרים של נתונים טכניים לתובנות בגודל צ'אט לפי דרישה.

על פני תעשיות, יש לכך השלכות גדולות. ספק שירותי בריאות יכול להשתמש בבינה מלאכותית כדי להתעדכן בקבוצות האחרונות של תוכנות כופר המתמקדות בבתי חולים, מבלי להקדיש אנליסט למחקר במשרה מלאה. ה-SOC של חברה קמעונאית יכול לסכם במהירות טקטיקות חדשות של תוכנות זדוניות POS כאשר מתדרכים את צוות ה-IT של החנות. ובממשלה, שבה יש לסנתז נתוני איומים מסוכנויות שונות, בינה מלאכותית יכולה להפיק דוחות מאוחדים המדגישים את האזהרות המרכזיות. עַל יְדֵי אוטומציה של איסוף ופרשנות מודיעין של איומים, בינה מלאכותית גנרטיבית עוזרת לארגונים להגיב מהר יותר לאיומים המתעוררים ומפחיתה את הסיכון להחמצת אזהרות קריטיות המוסתרות ברעש.

אופטימיזציה של מרכז תפעול אבטחה (SOC).

מרכזי תפעול אבטחה ידועים לשמצה בעייפות התראה ובנפח מוחץ של נתונים. אנליסט SOC טיפוסי עשוי לדשדש אלפי התראות ואירועים בכל יום, ולחקור תקריות פוטנציאליות. AI גנרטיבי פועל כמכפיל כוח ב-SOCs על ידי אוטומציה של עבודה שגרתית, מתן סיכומים חכמים ואפילו תזמור של כמה תגובות. המטרה היא לייעל את זרימות העבודה של SOC כך שאנליסטים אנושיים יוכלו להתמקד בנושאים הקריטיים ביותר בזמן שטייס המשנה של AI יטפל בשאר.

יישום מרכזי אחד הוא שימוש בבינה מלאכותית גנרטיבית "טייס המשנה של האנליסט". ה-Security Copilot של מיקרוסופט, שצוין קודם לכן, מדגים זאת: זה "נועד לסייע לעבודתו של מנתח אבטחה במקום להחליף אותה," עזרה בחקירות אירועים ודיווח (Microsoft Security Copilot הוא עוזר GPT-4 AI חדש לאבטחת סייבר | הגבול). בפועל, זה אומר שאנליסט יכול להזין נתונים גולמיים - יומני חומת אש, ציר זמן של אירועים או תיאור אירוע - ולבקש מה-AI לנתח אותם או לסכם אותם.טייס המשנה עשוי להפיק נרטיב כמו, "נראה שבשעה 2:35 לפנות בוקר, התחברות חשודה מ-IP X הצליחה בשרת Y, ואחריה העברות נתונים חריגות, המעידות על פריצה אפשרית של אותו שרת." סוג זה של הקשר מיידי הוא בעל ערך רב כאשר הזמן הוא המהות.

טייסי משנה בינה מלאכותית גם עוזרים להפחית את עומס הטריאג' ברמה 1. על פי נתוני התעשייה, צוות אבטחה יכול להוציא 15 שעות שבועיות רק ממיין כ-22,000 התראות ותוצאות כוזבות (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). בעזרת בינה מלאכותית, רבות מההתראות הללו ניתנות לבדיקה אוטומטית - הבינה המלאכותית יכולה לבטל את אלו שהן שפירות בבירור (עם נימוקים ניתנים) ולהדגיש את אלו שבאמת זקוקות לתשומת לב, לפעמים אפילו להציע את העדיפות. למעשה, הכוח של בינה מלאכותית גנרטיבית בהבנת הקשר פירושה שהוא יכול לקשר בין התראות שעלולות להיראות בלתי מזיקות בבידוד, אך יחד מצביעות על התקפה רב-שלבית. זה מקטין את הסיכוי להחמיץ התקף עקב "עייפות התראה".

אנליסטים של SOC משתמשים גם בשפה טבעית עם AI כדי להאיץ את הציד והחקירות. של SentinelOne AI סגול פלטפורמה, למשל, משלבת ממשק מבוסס LLM עם נתוני אבטחה בזמן אמת, המאפשרת לאנליסטים "שאל שאלות מורכבות לציד איומים באנגלית פשוטה וקבל תשובות מהירות ומדויקות" (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). אנליסט יכול להקליד, "האם נקודות קצה כלשהן יצרו קשר עם הדומיין badguy123[.]com בחודש האחרון?", ו- Purple AI יחפש ביומנים כדי להגיב. זה חוסך מהאנליסט מלכתוב שאילתות או סקריפטים של מסד נתונים - ה-AI עושה זאת מתחת למכסה המנוע. זה גם אומר שאנליסטים זוטרים יכולים לטפל במשימות שבעבר דרשו מהנדס מנוסה מיומן בשפות שאילתות, ביעילות שיפור מיומנויות הצוות באמצעות סיוע בינה מלאכותית. ואכן, אנליסטים מדווחים כי הנחיית AI גנרטיבית "מגביר את הכישורים והמיומנות שלהם", מכיוון שצוות זוטר יכול כעת לקבל תמיכה בקידוד לפי דרישה או טיפים לניתוח מה-AI, מה שמפחית את התלות בבקשת עזרה תמיד מחברי צוות בכירים (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ).

אופטימיזציה נוספת של SOC היא סיכום ותיעוד אירועים אוטומטיים. לאחר טיפול באירוע, מישהו חייב לכתוב את הדו"ח - משימה שרבים מוצאים שהיא מייגעת. בינה מלאכותית גנרטיבית יכולה לקחת את הנתונים הפורנזיים (יומני מערכת, ניתוח תוכנות זדוניות, ציר זמן של פעולות) ולהפיק טיוטה ראשונה של דוח אירועים. IBM בונה את היכולת הזו לתוך QRadar כך שעם "לחיצה אחת" ניתן להפיק סיכום של אירוע עבור בעלי עניין שונים (מנהלים, צוותי IT וכו') (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). זה לא רק חוסך זמן אלא גם מבטיח ששום דבר לא יתעלם בדוח, מכיוון שה-AI יכול לכלול את כל הפרטים הרלוונטיים באופן עקבי. כמו כן, לצורך תאימות וביקורת, AI יכול למלא טפסים או טבלאות ראיות המבוססות על נתוני תקריות.

תוצאות בעולם האמיתי משכנעות. המאמצים המוקדמים של SOAR (תזמורת אבטחה, אוטומציה ותגובה) מונעת בינה מלאכותית של Swimlane מדווחים על רווחי פרודוקטיביות עצומים - Global Data Systems, למשל, ראתה את צוות ה-SecOps שלהם מנהל עומס מקרים גדול בהרבה; אמר במאי אחד "מה שאני עושה היום עם 7 אנליסטים כנראה ייקח 20 אנשי צוות בלי" האוטומציה המופעלת על ידי AI (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר). במילים אחרות, AI ב-SOC יכול להכפיל את הקיבולת.בכל התעשיות, בין אם מדובר בחברת טכנולוגיה העוסקת בהתראות אבטחה בענן או במפעל ייצור המנטר מערכות OT, צוותי SOC עומדים להשיג זיהוי ותגובה מהירים יותר, פחות תקריות שהוחמצו ופעולות יעילות יותר על ידי אימוץ עוזרי בינה מלאכותית. מדובר בעבודה חכמה יותר - לאפשר למכונות להתמודד עם המשימות החוזרות ונשנות ועתירות הנתונים, כך שבני אדם יוכלו ליישם את האינטואיציה והמומחיות שלהם היכן שזה הכי חשוב.

ניהול פגיעות וסימולציית איומים

זיהוי וניהול של פגיעויות - חולשות בתוכנה או במערכות שתוקפים יכולים לנצל - היא פונקציית אבטחת סייבר. בינה מלאכותית גנרטיבית משפרת את ניהול הפגיעות על ידי האצת גילוי, סיוע בתעדוף תיקון, ואפילו הדמיית התקפות על פגיעויות אלו כדי לשפר את המוכנות. למעשה, AI עוזר לארגונים למצוא ולתקן את החורים בשריון שלהם מהר יותר, וכן באופן יזום בודקים הגנות לפני שתוקפים אמיתיים עושים זאת.

יישום משמעותי אחד הוא שימוש ב-AI גנרטיבי עבור סקירת קוד אוטומטית וגילוי פגיעות. בסיסי קוד גדולים (במיוחד מערכות מדור קודם) מכילים לעתים קרובות פגמי אבטחה שלא שמים לב אליהם. ניתן לאמן מודלים של בינה מלאכותית גנרטיבית על שיטות קידוד מאובטחות ודפוסי באגים נפוצים, ואז לשחרר אותם על קוד מקור או קבצים בינאריים להידור כדי למצוא נקודות תורפה אפשריות. לדוגמה, חוקרי NVIDIA פיתחו צינור AI יצירתי שיכול לנתח מיכלי תוכנה מדור קודם ולזהות נקודות תורפה "בדיוק גבוה - עד פי 4 מהר יותר ממומחים אנושיים." (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). ה-AI למעשה למד איך נראה קוד לא מאובטח והצליח לסרוק תוכנות בנות עשרות שנים כדי לסמן פונקציות וספריות מסוכנות, ולהאיץ מאוד את התהליך האיטי בדרך כלל של ביקורת קוד ידנית. סוג זה של כלי יכול להיות מחליף משחקים עבור תעשיות כמו פיננסים או ממשל המסתמכים על בסיסי קוד גדולים וישנים יותר - ה-AI עוזר לחדש את האבטחה על ידי חפירת בעיות שעשויים לקחת לצוות חודשים או שנים למצוא (אם בכלל).

AI גנרטיבי גם מסייע תהליכי עבודה לניהול פגיעות על ידי עיבוד תוצאות סריקת פגיעות ותעדוף אותן. כלים כמו של Tenable ExposureAI השתמש בבינה מלאכותית גנרטיבית כדי לאפשר לאנליסטים לבצע שאילתות בנתוני פגיעות בשפה פשוטה ולקבל תשובות מיידיות (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). ExposureAI יכול "לסכם את נתיב ההתקפה המלא בנרטיב" עבור פגיעות קריטית נתונה, מסביר כיצד תוקף יכול לשלשל אותה עם חולשות אחרות כדי לסכן מערכת. הוא אפילו ממליץ על פעולות לתיקון ועונה על שאלות המשך לגבי הסיכון. המשמעות היא שכאשר יוכרז על CVE קריטי חדש (חולשות וחשיפה נפוצות), אנליסט יכול לשאול את ה-AI, "האם מישהו מהשרתים שלנו מושפע מה-CVE הזה ומה התרחיש הגרוע ביותר אם לא נתקן?" ולקבל הערכה ברורה שנלקחה מנתוני הסריקה של הארגון עצמו. על ידי הפצת נקודות תורפה לפי הקשר (למשל, זה חשוף לאינטרנט ובשרת בעל ערך גבוה, כך שזה בעדיפות עליונה), AI גנרטיבי עוזר לצוותים לתקן בצורה חכמה עם משאבים מוגבלים.

בנוסף לאיתור וניהול פגיעויות ידועות, AI גנרטיבי תורם בדיקות חדירה והדמיית תקיפה - בעצם לגלות לֹא יְדוּעַ נקודות תורפה או בדיקות אבטחה. רשתות יריבות גנרטיביות (GANs), סוג של AI גנרטיבי, שימשו ליצירת נתונים סינתטיים המחקים תעבורת רשת אמיתית או התנהגות משתמשים, שיכולים לכלול דפוסי התקפה נסתרים.מחקר משנת 2023 הציע להשתמש ב-GAN ליצירת תעבורת תקיפה מציאותית של יום אפס כדי להכשיר מערכות זיהוי חדירה (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). על ידי הזנת ה-IDS בתרחישי תקיפה שנוצרו בינה מלאכותית (שאינם מסתכנים בשימוש בתוכנה זדונית ממשית ברשתות ייצור), ארגונים יכולים לאמן את ההגנות שלהם לזהות איומים חדשים מבלי לחכות להיפגע מהם במציאות. באופן דומה, בינה מלאכותית יכולה לדמות תוקף שחוקר מערכת - למשל, מנסה אוטומטית טכניקות ניצול שונות בסביבה בטוחה כדי לראות אם יש כאלה מצליחות. הסוכנות לפרויקטי מחקר מתקדמים של ארה"ב (DARPA) רואה כאן הבטחה: אתגר ה-AI Cyber ​​​​2023 שלה משתמש במפורש ב-AI גנרטיבי (כמו מודלים של שפות גדולות) כדי "מצא ותקן באופן אוטומטי פגיעויות בתוכנת קוד פתוח" במסגרת תחרות ( DARPA שואפת לפתח AI, יישומי אוטונומיה שלוחמים יכולים לסמוך עליהם > משרד ההגנה האמריקאי > חדשות משרד ההגנה ). יוזמה זו מדגישה שבינה מלאכותית לא רק עוזרת לתקן חורים ידועים; היא חושפת באופן פעיל חדשים ומציעה תיקונים, משימה מוגבלת באופן מסורתי לחוקרי אבטחה מיומנים (ויקרים).

AI גנרטיבי יכול אפילו ליצור עציצי דבש אינטליגנטיים ותאומים דיגיטליים להגנה. סטארט-אפים מפתחים מערכות פיתוי מונעות בינה מלאכותית שמחקות באופן משכנע שרתים או מכשירים אמיתיים. כפי שהסביר מנכ"ל אחד, AI גנרטיבי יכול "שכפל מערכות דיגיטליות כדי לחקות מערכות אמיתיות ולפתות האקרים" (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). כלי הדבש שנוצרו על ידי AI מתנהגים כמו הסביבה האמיתית (נניח, מכשיר IoT מזויף ששולח טלמטריה רגילה) אך קיימים אך ורק כדי למשוך תוקפים. כאשר תוקף מכוון את הפיתוי, הבינה המלאכותית הונה אותם למעשה לחשוף את השיטות שלהם, שהמגנים יכולים ללמוד ולהשתמש בהם כדי לחזק את המערכות האמיתיות. הרעיון הזה, המופעל על ידי דוגמנות גנרטיבית, מספק דרך צופה פני עתיד להפוך את השולחן לתוקפים, באמצעות הונאה משופרת על ידי AI.

בכל תעשיות, ניהול פגיעות מהיר וחכם יותר פירושו פחות הפרות. בתחום ה-IT, למשל, בינה מלאכותית עשויה לזהות במהירות ספרייה מיושנת ופגיעה במכשיר רפואי ולבקש תיקון קושחה לפני שכל תוקף ינצל אותה. בבנקאות, בינה מלאכותית יכולה לדמות התקפת פנים על אפליקציה חדשה כדי להבטיח שנתוני לקוחות יישארו בטוחים בכל התרחישים. בינה מלאכותית גנרטיבית פועלת אפוא כמיקרוסקופ וגם כבודק מתח עבור תנוחת האבטחה של ארגונים: היא מאירה פגמים נסתרים ומערכות לחצים בדרכים דמיון כדי להבטיח חוסן.

יצירת קוד מאובטח ופיתוח תוכנה

הכישרונות של AI גנרטיבי אינם מוגבלים לזיהוי התקפות - הם גם משתרעים על יצירת מערכות מאובטחות יותר מההתחלה. בפיתוח תוכנה, מחוללי קוד AI (כמו GitHub Copilot, OpenAI Codex וכו') יכולים לעזור למפתחים לכתוב קוד מהר יותר על ידי הצעת קטעי קוד או אפילו פונקציות שלמות. זווית אבטחת הסייבר מבטיחה שחלקי הקוד המוצעים על ידי AI מאובטחים ומשתמשים בבינה מלאכותית כדי לשפר את שיטות הקידוד.

מצד אחד, AI גנרטיבי יכול לפעול כ עוזר קידוד שמטמיע שיטות אבטחה מומלצות. מפתחים יכולים להנחות כלי AI, "צור פונקציית איפוס סיסמה ב-Python," ובאופן אידיאלי לקבל בחזרה קוד שהוא לא רק פונקציונלי אלא גם עוקב אחר הנחיות מאובטחות (למשל אימות קלט נאות, רישום, טיפול בשגיאות ללא דליפת מידע וכו'). עוזר כזה, שהוכשר על דוגמאות קוד מאובטח נרחבות, יכול לסייע בהפחתת טעויות אנוש שמובילות לפרצות. לדוגמה, אם מפתח שוכח לחטא את קלט המשתמש (פתיחת הדלת להזרקת SQL או בעיות דומות), AI יכול לכלול זאת כברירת מחדל או להזהיר אותם.כמה כלי קידוד בינה מלאכותית עוברים כעת כוונון עדין עם נתונים ממוקדי אבטחה כדי לשרת את המטרה המדויקת הזו - בעצם, תכנות AI עם מצפון אבטחה.

עם זאת, יש צד הפוך: בינה מלאכותית גנרטיבית יכולה באותה קלות להציג פגיעויות אם היא לא מנוהלת כראוי. כפי שציין מומחה האבטחה של Sophos, Ben Verschaeren, שימוש ב-AI גנרטיבי לקידוד הוא "בסדר עבור קוד קצר וניתן לאימות, אבל מסוכן כאשר קוד לא מסומן משתלב" לתוך מערכות ייצור. הסיכון הוא שבינה מלאכותית עשויה לייצר קוד נכון מבחינה לוגית שאינו מאובטח בדרכים שאולי לא מומחה לא ישים לב. יתרה מכך, שחקנים זדוניים עלולים להשפיע בכוונה על מודלים של AI ציבוריים על ידי זרימתם עם דפוסי קוד פגיעים (סוג של הרעלת נתונים), כך שה-AI מציע קוד לא מאובטח. רוב המפתחים אינם מומחי אבטחה, אז אם בינה מלאכותית מציעה פתרון נוח, הם עלולים להשתמש בו באופן עיוור, מבלי להבין שיש בו פגם (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). החשש הזה הוא אמיתי - למעשה, יש כעת רשימה של OWASP Top 10 עבור LLMs (מודלים של שפה גדולה) שמתארת ​​סיכונים נפוצים כמו זה בשימוש ב-AI לקידוד.

כדי להתמודד עם בעיות אלה, מומחים מציעים "נלחם בבינה מלאכותית גנרית עם בינה מלאכותית גנרטיבית" בתחום הקידוד. בפועל, זה אומר להשתמש ב-AI כדי סקירה וקוד בדיקה ש-AI אחרים (או בני אדם) כתבו. בינה מלאכותית יכולה לסרוק דרך התחייבויות קוד חדש הרבה יותר מהר מאשר סוקר קוד אנושי ולסמן פגיעויות פוטנציאליות או בעיות לוגיקה. אנחנו כבר רואים כלים צצים שמשתלבים במחזור החיים של פיתוח התוכנה: קוד נכתב (אולי בעזרת AI), ואז מודל מחולל מאומן על עקרונות קוד מאובטח סוקר אותו ומפיק דוח על כל דאגה (למשל, שימוש בפונקציות שהוצאו משימוש, בדיקות אימות חסרות וכו'). המחקר של NVIDIA, שהוזכר קודם לכן, שהשיג זיהוי פגיעות מהיר פי 4 בקוד הוא דוגמה לרתימת AI לניתוח קוד מאובטח (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ).

יתר על כן, AI גנרטיבי יכול לסייע יצירת תצורות וסקריפטים מאובטחים. לדוגמה, אם חברה צריכה לפרוס תשתית ענן מאובטחת, מהנדס יכול לבקש מבינה מלאכותית ליצור את סקריפטי התצורה (תשתית כקוד) עם בקרות אבטחה (כמו פילוח רשת תקין, תפקידי IAM לפחות הרשאות). ה-AI, לאחר שעבר הכשרה באלפי תצורות כאלה, יכול לייצר קו בסיס שהמהנדס יבצע כוונון עדין. זה מאיץ את ההגדרה המאובטחת של המערכות ומפחית שגיאות בתצורה שגויה - מקור נפוץ לאירועי אבטחה בענן.

ארגונים מסוימים ממנפים גם AI גנרטיבי כדי לשמור על בסיס ידע של דפוסי קידוד מאובטחים. אם מפתח לא בטוח כיצד ליישם תכונה מסוימת בצורה מאובטחת, הוא יכול לשאול AI פנימי שלמד מהפרויקטים ומהנחיות האבטחה בעבר של החברה. ה-AI עשוי להחזיר גישה מומלצת או אפילו קטע קוד שמתיישר הן עם הדרישות הפונקציונליות והן עם תקני האבטחה של החברה. גישה זו שימשה על ידי כלים כמו אוטומציה של שאלונים של Secureframe, השואב תשובות ממדיניות החברה ומפתרונות העבר כדי להבטיח תגובות עקביות ומדויקות (בעצם יצירת תיעוד מאובטח) (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). הרעיון מתורגם לקידוד: AI ש"זוכר" איך יישמת משהו בצורה מאובטחת בעבר ומנחה אותך לעשות זאת שוב.

לסיכום, AI גנרטיבי משפיע על פיתוח תוכנה על ידי הפיכת סיוע בקידוד מאובטח לנגיש יותר. תעשיות שמפתחות הרבה תוכנות מותאמות אישית - טכנולוגיה, פיננסים, הגנה וכו'.- תוכל להפיק תועלת מקיומם של טייסי משנה בינה מלאכותית שלא רק מזרזים את הקידוד אלא פועלים כסוקר אבטחה ערני תמידי. כאשר הם מנוהלים כראוי, כלי בינה מלאכותית אלו יכולים להפחית את הצגת פגיעויות חדשות ולעזור לצוותי פיתוח לדבוק בשיטות עבודה מומלצות, גם אם אין לצוות מומחה אבטחה מעורב בכל שלב. התוצאה היא תוכנה חזקה יותר נגד התקפות מהיום הראשון.

תמיכה בתגובה לתקריות

כאשר תקרית אבטחת סייבר מתרחשת - בין אם זו התפרצות תוכנה זדונית, פרצת נתונים או הפסקת מערכת כתוצאה מהתקפה - הזמן הוא קריטי. AI גנרטיבי רגיל יותר ויותר תמיכה בצוותי תגובה לאירועים (IR). בהכלה ותיקון של תקריות מהר יותר ועם מידע נוסף בהישג יד. הרעיון הוא שבינה מלאכותית יכולה לשאת חלק מעומס החקירה והתיעוד במהלך אירוע, ואפילו להציע או להפוך כמה פעולות תגובה.

תפקיד מרכזי אחד של AI ב-IR הוא ניתוח וסיכום אירועים בזמן אמת. בעיצומו של תקרית, המגיבים עשויים להזדקק לתשובות לשאלות כמו "איך התוקף נכנס?", "אילו מערכות מושפעות?", ו "אילו נתונים עלולים להיפגע?". AI גנרטיבי יכול לנתח יומנים, התראות ונתונים משפטיים ממערכות מושפעות ולספק במהירות תובנות. לדוגמה, Microsoft Security Copilot מאפשר למגיב לאירועים להזין ראיות שונות (קבצים, כתובות URL, יומני אירועים) ולבקש ציר זמן או סיכום (Microsoft Security Copilot הוא עוזר GPT-4 AI חדש לאבטחת סייבר | הגבול). ה-AI עשוי להגיב עם: "הפרה החלה ככל הנראה בדוא"ל דיוג למשתמש JohnDoe בשעה 10:53 GMT המכילה תוכנות זדוניות X. לאחר ביצועה, התוכנה הזדונית יצרה דלת אחורית ששימשה יומיים לאחר מכן כדי לעבור לרוחב לשרת הכספים, שם היא אספה נתונים." תמונה קוהרנטית זו בתוך דקות ולא שעות מאפשרת לצוות לקבל החלטות מושכלות (כמו אילו מערכות לבודד) הרבה יותר מהר.

AI גנרטיבי יכול גם להציע פעולות בלימה ותיקון. לדוגמה, אם נקודת קצה נגועה בתוכנת כופר, כלי בינה מלאכותית יכול ליצור סקריפט או קבוצה של הוראות לבודד את המחשב הזה, להשבית חשבונות מסוימים ולחסום כתובות IP זדוניות ידועות בחומת האש - בעצם ביצוע של ספרי הפעלה. Palo Alto Networks מציינת כי בינה מלאכותית גנרטיבית מסוגלת "יצירת פעולות מתאימות או תסריטים בהתבסס על אופי האירוע", אוטומציה של השלבים הראשוניים של התגובה (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks). בתרחיש שבו צוות האבטחה מוצף (נניח מתקפה נרחבת על פני מאות מכשירים), ה-AI עשוי אפילו לבצע ישירות חלק מהפעולות הללו בתנאים שאושרו מראש, שיתנהג כמו מגיב זוטר שעובד ללא לאות. לדוגמה, סוכן בינה מלאכותית יכול לאפס אוטומטית אישורים שלדעתו נפגעו או להסגר מארחים שמפגינים פעילות זדונית התואמת את פרופיל האירוע.

במהלך תגובה לאירוע, תקשורת חיונית - הן בתוך הצוות והן לבעלי העניין. AI גנרטיבי יכול לעזור ניסוח דוחות עדכון אירועים או תדריכים תוך כדי תנועה. במקום שמהנדס יפסיק את פתרון הבעיות שלהם כדי לכתוב עדכון בדוא"ל, הם יכולים לשאול את הבינה המלאכותית, "תסכם את מה שקרה בתקרית הזו עד כה כדי ליידע את המנהלים." ה-AI, לאחר שקלט את נתוני האירוע, יכול לייצר סיכום תמציתי: "החל מהשעה 15:00, התוקפים ניגשו ל-2 חשבונות משתמש ו-5 שרתים. הנתונים המושפעים כוללים רשומות לקוח במסד הנתונים X. אמצעי בלימה: בוטלה גישת VPN לחשבונות שנפגעו והשרתים בודדו. השלבים הבאים: סריקה לאיתור מנגנוני התמדה.” לאחר מכן, המשיב יכול לאמת או לכוונן זאת במהירות ולשלוח אותו החוצה, על מנת להבטיח שמחזיקי עניין יהיו מעודכנים עם מידע מדויק ועדכני.

לאחר שקיעת האבק, יש בדרך כלל דוח תקריות מפורט להכנה ולקחים להפיק. זהו תחום נוסף שבו תמיכת בינה מלאכותית זורחת. זה יכול לסקור את כל נתוני האירוע ו להפיק דוח שלאחר התקרית מכסה את סיבת השורש, כרונולוגיה, השפעה והמלצות. IBM, למשל, משלבת בינה מלאכותית גנרטיבית כדי ליצור "סיכומים פשוטים של מקרים ותקריות אבטחה שניתן לשתף עם בעלי עניין" בלחיצת כפתור (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). על ידי ייעול הדיווח לאחר הפעולה, ארגונים יכולים ליישם שיפורים מהר יותר וגם לקבל תיעוד טוב יותר למטרות תאימות.

שימוש חדשני צופה פני עתיד הוא סימולציות תקריות מונעות בינה מלאכותית. בדומה לאופן שבו אפשר להפעיל תרגיל כיבוי אש, חברות מסוימות משתמשות בבינה מלאכותית גנרטיבית כדי לעבור דרך תרחישי תקריות "מה אם". הבינה המלאכותית עשויה לדמות כיצד תוכנת כופר עשויה להתפשט בהתחשב בפריסת הרשת, או כיצד אדם מבפנים יכול לסנן נתונים, ולאחר מכן לבחון את האפקטיביות של תוכניות התגובה הנוכחיות. זה עוזר לצוותים להכין ולחדד ספרי משחק לפני שמתרחש תקרית אמיתית. זה כמו שיש לך יועץ תגובה לאירועים המשתפר כל הזמן, שבודק כל הזמן את המוכנות שלך.

בתעשיות עתירות סיכון כמו פיננסים או בריאות, שבהן זמן השבתה או אובדן נתונים מתקריות יקרים במיוחד, יכולות ה-IR מונעות בינה מלאכותית הן מאוד אטרקטיביות. בית חולים שחווה תקרית סייבר לא יכול להרשות לעצמו הפסקות מערכת ממושכות - בינה מלאכותית שמסייעת במהירות בבלימה עשויה להציל חיים. באופן דומה, מוסד פיננסי יכול להשתמש בבינה מלאכותית כדי לטפל בניסוי הראשוני של חשד לחדירת הונאה בשעה 3 לפנות בוקר, כך שעד שאנשי התורן יהיו מקוונים, עבודת היסוד (ניתוק חשבונות מושפעים, חסימת עסקאות וכו') כבר נעשתה. עַל יְדֵי הגדלת צוותי תגובה לאירועים עם AI גנרטיבי, ארגונים יכולים לצמצם משמעותית את זמני התגובה ולשפר את יסודיות הטיפול בהם, ובסופו של דבר לצמצם נזקים מתקריות סייבר.

ניתוח התנהגות וזיהוי אנומליות

התקפות סייבר רבות יכולות להיתפס על ידי שימת לב כאשר משהו חורג מהתנהגות "רגילה" – בין אם זה חשבון משתמש המוריד כמות חריגה של נתונים או מכשיר רשת שמתקשר פתאום עם מארח לא מוכר. AI Generative מציע טכניקות מתקדמות עבור ניתוח התנהגות וזיהוי חריגות, ללמוד את הדפוסים הרגילים של משתמשים ומערכות ואז לסמן כשמשהו נראה כבוי.

זיהוי חריגות מסורתי משתמש לרוב בספים סטטיסטיים או למידת מכונה פשוטה על מדדים ספציפיים (עליות בשימוש ב-CPU, כניסה בשעות מוזרות וכו'). AI גנרטיבי יכול לקחת זאת הלאה על ידי יצירת פרופילים ניואנסים יותר של התנהגות. לדוגמה, מודל בינה מלאכותית יכול להטמיע את התחברות, דפוסי גישה לקבצים והרגלי דוא"ל של עובד לאורך זמן וליצור הבנה רב-ממדית של ה"נורמלי" של אותו משתמש. אם החשבון הזה יעשה מאוחר יותר משהו חריג מהנורמה שלו (כמו כניסה ממדינה חדשה וגישה לשלל קבצי משאבי אנוש בחצות), ה-AI יזהה סטייה לא רק במדד אחד אלא כדפוס התנהגות שלם שאינו מתאים לפרופיל המשתמש. במונחים טכניים, מודלים גנרטיביים (כמו מקודדים אוטומטיים או מודלים של רצף) יכולים לדגמן איך נראה "רגיל" ואז ליצור טווח צפוי של התנהגות. כשהמציאות נופלת מחוץ לטווח הזה, היא מסומנת כאנומליה (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks).

יש יישום מעשי אחד ניטור תעבורת רשת. על פי סקר משנת 2024, 54% מארה"בארגונים ציינו ניטור תעבורת רשת כמקרה שימוש מוביל עבור AI באבטחת סייבר (צפון אמריקה: מקרי השימוש המובילים בבינה מלאכותית באבטחת סייבר ברחבי העולם 2024). בינה מלאכותית גנרית יכולה ללמוד את דפוסי התקשורת הרגילים של רשת של ארגון - אילו שרתים בדרך כלל מדברים אחד עם השני, אילו נפחי נתונים זזים בשעות העבודה לעומת לילה, וכו'. אם תוקף מתחיל לסנן נתונים משרת, אפילו לאט כדי להימנע מזיהוי, מערכת מבוססת בינה מלאכותית עשויה להבחין בכך "שרת A אף פעם לא שולח 500MB של נתונים ב-2 לפנות בוקר ל-IP חיצוני" ולהעלות התראה. מכיוון שה-AI אינו משתמש רק בכללים סטטיים אלא במודל מתפתח של התנהגות רשת, הוא יכול לתפוס חריגות עדינות שחוקים סטטיים (כמו "התראה אם ​​נתונים > X MB") עלולים להחמיץ או לסמן בטעות. אופי הסתגלות זה הוא מה שהופך את זיהוי החריגות המונע בינה מלאכותית לעוצמתי בסביבות כמו רשתות עסקאות בנקאיות, תשתית ענן או ציי מכשירי IoT, שבהן הגדרת כללים קבועים עבור נורמלי לעומת חריג היא מורכבת ביותר.

AI גנרטיבי גם עוזר ניתוח התנהגות משתמש (UBA), שהוא המפתח לאיתור איומים פנימיים או חשבונות שנפגעו. על ידי יצירת קו בסיס של כל משתמש או ישות, AI יכול לזהות דברים כמו שימוש לרעה באישורים. לדוגמה, אם בוב מהנהלת חשבונות יתחיל לפתע לשאול את מסד הנתונים של הלקוחות (משהו שהוא מעולם לא עשה קודם לכן), מודל הבינה המלאכותית להתנהגות של בוב יסמן זאת כחריג. יכול להיות שזו לא תוכנה זדונית - זה יכול להיות מקרה של גניבת אישורים של בוב והשתמשו בו על ידי תוקף, או שבוב חיטט היכן שאסור לו. כך או כך, צוות האבטחה מקבל הודעה ראשונית לחקור. מערכות UBA מונעות בינה מלאכותית קיימות במוצרי אבטחה שונים, וטכניקות מודלים גנרטיביות דוחפות את הדיוק שלהן גבוה יותר ומפחיתות אזעקות שווא על ידי התחשבות בהקשר (אולי בוב נמצא בפרויקט מיוחד וכו', שה-AI יכול לפעמים להסיק מנתונים אחרים).

בתחום ניהול הזהויות והגישה, זיהוי זיוף עמוק הוא צורך הולך וגובר - בינה מלאכותית גנרטיבית יכולה ליצור קולות סינתטיים וסרטונים שמטעים את האבטחה הביומטרית. מעניין לציין שבינה מלאכותית גנרטיבית יכולה גם לסייע בזיהוי הזיופים העמוקים הללו על ידי ניתוח חפצים עדינים באודיו או בווידאו שקשה לבני אדם להבחין בהם. ראינו דוגמה עם Accenture, שהשתמשה בבינה מלאכותית גנרטיבית כדי לדמות אינספור הבעות פנים ותנאים רַכֶּבֶת המערכות הביומטריות שלהם כדי להבחין בין משתמשים אמיתיים לבין זיופים עמוקים שנוצרו על ידי בינה מלאכותית. במשך חמש שנים, גישה זו עזרה לאקסנצ'ר לחסל סיסמאות עבור 90% מהמערכות שלה (מעבר לביומטריה וגורמים אחרים) ולהפחית את ההתקפות ב-60% (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). בעיקרו של דבר, הם השתמשו בבינה מלאכותית גנרטיבית כדי לחזק את האימות הביומטרי, מה שהופך אותו לעמיד בפני התקפות גנרטיביות (המחשה נהדרת של בינה מלאכותית הנלחמת בבינה מלאכותית). סוג זה של מודלים התנהגותיים - במקרה זה מזהים את ההבדל בין פנים אנושיות חיות לעומת פנים מסונתזות בינה מלאכותית - הוא חיוני מכיוון שאנו מסתמכים יותר על AI באימות.

זיהוי חריגות המופעל על ידי בינה מלאכותית גנרטיבית ישים בכל תעשיות: בתחום הבריאות, ניטור התנהגות מכשירים רפואיים לאיתור סימני פריצה; בפיננסים, צפייה במערכות מסחר לאיתור דפוסים לא סדירים שעלולים להצביע על הונאה או מניפולציה אלגוריתמית; באנרגיה/שירותים, התבוננות באותות של מערכת הבקרה לאיתור סימני חדירה. השילוב של רוחב (הסתכלות על כל ההיבטים של התנהגות) ו עומק (הבנת דפוסים מורכבים) שה-AI הגנרטיבי מספק הופך אותו לכלי רב עוצמה לאיתור אינדיקטורים של מחט בערימת שחת של אירוע סייבר. ככל שהאיומים נעשים חמקניים יותר, מסתתרים בין פעולות רגילות, היכולת הזו לאפיין במדויק "נורמלי" ולצעוק כשמשהו סוטה הופכת להיות חיונית.AI גנרטיבי משמש אפוא כזקיף בלתי נלאה, לומד ומעדכן תמיד את הגדרת הנורמליות שלו כדי לעמוד בקצב השינויים בסביבה, ומתריע בפני צוותי אבטחה על חריגות שזכות לבדיקה מעמיקה יותר.

הזדמנויות ויתרונות של AI גנרטיבי באבטחת סייבר

היישום של AI גנרטיבי באבטחת סייבר מביא שורה של הזדמנויות והטבות לארגונים המוכנים לאמץ את הכלים הללו. להלן, אנו מסכמים את היתרונות העיקריים שהופכים AI גנרטיבי לתוספת משכנעת לתוכניות אבטחת סייבר:

• זיהוי ותגובה מהירים יותר של איומים: מערכות AI גנרטיביות יכולות לנתח כמויות אדירות של נתונים בזמן אמת ולזהות איומים הרבה יותר מהר מאשר ניתוח אנושי ידני. יתרון מהירות זה פירושו זיהוי מוקדם יותר של התקפות והכלה מהירה יותר של אירועים. בפועל, ניטור אבטחה מונע בינה מלאכותית יכול לתפוס איומים שייקח לבני אדם הרבה יותר זמן להתאם. על ידי תגובה מיידית לאירועים (או אפילו ביצוע אוטונומי של תגובות ראשוניות), ארגונים יכולים לצמצם באופן דרמטי את זמן השהייה של התוקפים ברשתות שלהם, ולמזער את הנזק.

• דיוק משופר וכיסוי איומים: מכיוון שהם לומדים ללא הרף מנתונים חדשים, מודלים גנרטיביים יכולים להסתגל לאיומים המתפתחים ולתפוס סימנים עדינים יותר לפעילות זדונית. זה מוביל לשיפור דיוק הזיהוי (פחות שליליות שגויות וחיוביות שגויות) בהשוואה לכללים סטטיים. לדוגמה, בינה מלאכותית שלמדה את סימני ההיכר של דוא"ל דיוג או התנהגות תוכנה זדונית יכולה לזהות גרסאות שלא נראו מעולם. התוצאה היא כיסוי רחב יותר של סוגי איומים - כולל התקפות חדשות - מחזק את עמדת האבטחה הכוללת. צוותי אבטחה מקבלים גם תובנות מפורטות מניתוח בינה מלאכותית (למשל הסברים על התנהגות תוכנות זדוניות), המאפשרות הגנות מדויקות וממוקדות יותר (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks).

• אוטומציה של משימות חוזרות: בינה מלאכותית גנרטיבית מצטיינת באוטומציה של משימות אבטחה שגרתיות ועתירות עבודה - מסירוק ביומנים והרכבת דוחות ועד כתיבת סקריפטים לתגובה לאירועים. האוטומציה הזו מפחית את העומס על האנליסטים האנושיים, לשחרר אותם להתמקד באסטרטגיה ברמה גבוהה ובקבלת החלטות מורכבות (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks). מטלות יומיומיות אך חשובות כמו סריקת פגיעות, ביקורת תצורה, ניתוח פעילות משתמשים ודיווח תאימות יכולות להיות מטופלות (או לפחות ניסוח ראשון) על ידי AI. על ידי טיפול במשימות אלו במהירות המכונה, AI לא רק משפר את היעילות אלא גם מפחית טעויות אנוש (גורם משמעותי בהפרות).

• הגנה יזומה וסימולציה: AI גנרטיבי מאפשר לארגונים לעבור מאבטחה תגובתית לאבטחה פרואקטיבית. באמצעות טכניקות כמו הדמיית תקיפה, יצירת נתונים סינתטיים ואימונים מבוססי תרחישים, מגינים יכולים לצפות ולהתכונן לאיומים לִפנֵי הם מתממשים בעולם האמיתי. צוותי אבטחה יכולים לדמות התקפות סייבר (מסעות פרסום דיוג, התפרצויות תוכנות זדוניות, DDoS וכו') בסביבות בטוחות כדי לבדוק את התגובות שלהם ולחזק את כל החולשות. אימון מתמשך זה, שלעיתים בלתי אפשרי לבצע אותו ביסודיות רק במאמץ אנושי, שומר על הגנות חדות ועדכניות. זה דומה ל"תרגיל אש" סייבר - בינה מלאכותית יכולה להטיל איומים היפותטיים רבים על ההגנות שלך כדי שתוכל לתרגל ולשפר.

• הגדלת המומחיות האנושית (AI כמכפיל כוח): בינה מלאכותית גנרטיבית פועלת כאנליסט זוטר, יועץ ועוזר בלתי נלאה שהתגלגלו לאחד.זה יכול לספק לחברי צוות פחות מנוסים הדרכה והמלצות המצופה בדרך כלל ממומחים מנוסים, ביעילות דמוקרטיזציה של מומחיות בכל הצוות (6 מקרי שימוש עבור AI גנרטיבי באבטחת סייבר [+ דוגמאות] ). זה חשוב במיוחד בהתחשב במחסור בכשרונות באבטחת סייבר - AI עוזר לצוותים קטנים יותר לעשות יותר עם פחות. אנליסטים מנוסים, לעומת זאת, נהנים מבינה מלאכותית שמטפלת בעבודת גרוט ומציאת תובנות לא ברורות, שאותן הם יכולים לאמת ולפעול לפיהן. התוצאה הכוללת היא צוות אבטחה שהוא הרבה יותר פרודוקטיבי ומסוגל, כאשר בינה מלאכותית מגבירה את ההשפעה של כל חבר אנושי (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר).

• תמיכה ודיווח משופרים בהחלטות: על ידי תרגום נתונים טכניים לתובנות שפה טבעית, AI גנרטיבי משפר את התקשורת וקבלת ההחלטות. מובילי אבטחה מקבלים נראות ברורה יותר לנושאים באמצעות סיכומים שנוצרו בינה מלאכותית ויכולים לקבל החלטות אסטרטגיות מושכלות מבלי צורך לנתח נתונים גולמיים. באופן דומה, תקשורת צולבת תפקודית (למנהלים, קציני ציות וכו') משתפרת כאשר בינה מלאכותית מכינה דוחות קלים להבנה על מצב אבטחה ותקריות (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). זה לא רק בונה אמון והתאמה בנושאי אבטחה ברמת המנהיגות, אלא גם עוזר להצדיק השקעות ושינויים על ידי ניסוח ברור של סיכונים ופערים שהתגלו בינה מלאכותית.

בשילוב, היתרונות הללו פירושם שארגונים הממנפים בינה מלאכותית באבטחת סייבר יכולים להשיג תנוחת אבטחה חזקה יותר עם עלויות תפעול נמוכות יותר. הם יכולים להגיב לאיומים שהיו מכריעים בעבר, לכסות פערים שלא נוטרו, ולהשתפר ללא הרף באמצעות לולאות משוב מונעות בינה מלאכותית. בסופו של דבר, AI גנרטיבי מציע הזדמנות להקדים את היריבים על ידי התאמת ה מהירות, קנה מידה ותחכום של התקפות מודרניות עם הגנות מתוחכמות לא פחות. כפי שמצא סקר אחד, יותר ממחצית ממנהיגי העסקים והסייבר צופים זיהוי מהיר יותר של איומים ודיוק מוגבר באמצעות שימוש בבינה מלאכותית (AI)[PDF] Global Cybersecurity Outlook 2025 | הפורום הכלכלי העולמי) (AI גנרטיבי באבטחת סייבר: סקירה מקיפה של LLM ...) – עדות לאופטימיות סביב היתרונות של טכנולוגיות אלו.

סיכונים ואתגרים של שימוש בבינה מלאכותית גנרטיבית באבטחת סייבר

למרות שההזדמנויות הן משמעותיות, זה קריטי לגשת לבינה מלאכותית באבטחת סייבר עם עיניים פקוחות סיכונים ואתגרים מְעוּרָב. אמון עיוור ב-AI או שימוש לרעה בו עלולים להציג פגיעויות חדשות. להלן, אנו מתארים את החששות והמלכודות העיקריות, יחד עם ההקשר עבור כל אחד מהם:

• שימוש יריב על ידי פושעי סייבר: אותן יכולות יצירתיות שעוזרות למגנים יכולות להעצים תוקפים. שחקני איומים כבר משתמשים בבינה מלאכותית גנרטיבית כדי ליצור אימיילים דיוגים משכנעים יותר, ליצור פרסונות מזויפות וסרטונים מזויפים להנדסה חברתית, לפתח תוכנות זדוניות פולימורפיות שמשתנה כל הזמן כדי להתחמק מזיהוי, ואפילו להפוך היבטים של פריצה לאוטומטיים (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks). כמעט מחצית (46%) ממובילי אבטחת הסייבר מודאגים מכך שבינה מלאכותית גנרטיבית תוביל להתקפות יריבות מתקדמות יותר (אבטחת בינה מלאכותית גנרית: מגמות, איומים ואסטרטגיות הפחתה). "מירוץ חימוש בינה מלאכותית" זה אומר שכאשר מגינים מאמצים בינה מלאכותית, התוקפים לא יהיו הרחק מאחור (למעשה, הם עשויים להיות מקדימים באזורים מסוימים, תוך שימוש בכלי בינה מלאכותית לא מוסדרים). ארגונים חייבים להיות מוכנים לאיומים משופרים בינה מלאכותית שהם תכופים יותר, מתוחכמים יותר וקשים לאיתור.

• הזיות AI ואי דיוק: דגמי AI גנרטיביים יכולים לייצר תפוקות שכן סביר אך שגוי או מטעה – תופעה המכונה הזיה. בהקשר אבטחה, בינה מלאכותית עשויה לנתח תקרית ולהסיק בטעות שפגיעות מסוימת היא הסיבה, או שהיא עשויה ליצור סקריפט תיקון פגום שלא מצליח להכיל התקפה. טעויות אלו עלולות להיות מסוכנות אם לוקחות אותן כערך נקוב. כפי שמזהירה NTT Data, "ה-AI הגנרטיבי עשוי להפיק תוכן לא אמיתי, ותופעה זו נקראת הזיות... כרגע קשה לחסל אותן לחלוטין" (סיכוני אבטחה של בינה מלאכותית ואמצעי נגד, והשפעתה על אבטחת סייבר | קבוצת NTT DATA). הסתמכות יתר על AI ללא אימות עלולה להוביל למאמצים מוטעים או לתחושת ביטחון כוזבת. לדוגמה, בינה מלאכותית עשויה לסמן בטעות מערכת קריטית כבטוחה כאשר היא אינה, או להיפך, לעורר פאניקה על ידי "זיהוי" פריצה שמעולם לא קרתה. אימות קפדני של תפוקות בינה מלאכותית וקבלת בני אדם במעגל לקבלת החלטות קריטיות חיוני כדי להפחית את הסיכון הזה.

• חיובי שווא ושליליים: קשור להזיות, אם מודל בינה מלאכותית מאומן או מוגדר בצורה גרועה, ייתכן שהוא דיווח יתר על פעילות שפירה כזדונית (תוצאות חיוביות שגויות) או, גרוע מכך, מתגעגע לאיומים אמיתיים (שליליים כוזבים) (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר). התראות שווא מוגזמות עלולות להכריע את צוותי האבטחה ולהוביל לעייפות התראה (מבטלת את הישגי היעילות שהבטיחו הבינה המלאכותית), בעוד שזיהוי החמצה מותיר את הארגון חשוף. כוונון דגמים גנרטיביים לאיזון הנכון הוא מאתגר. כל סביבה היא ייחודית, וייתכן שבינה מלאכותית לא תפעל באופן אופטימלי מיד מהקופסה. למידה מתמשכת היא גם חרב פיפיות - אם הבינה המלאכותית לומדת ממשוב מוטה או מסביבה משתנה, הדיוק שלו יכול להשתנות. צוותי אבטחה חייבים לפקח על ביצועי AI ולהתאים ספים או לספק משוב מתקן למודלים. בהקשרים בעלי סיכון גבוה (כמו זיהוי חדירה לתשתית קריטית), ייתכן שיהיה זהיר להפעיל הצעות בינה מלאכותית במקביל למערכות קיימות למשך תקופה, כדי להבטיח שהן מתואמות ומשלימות ולא מתנגשות.

• פרטיות נתונים ודליפה: מערכות AI גנרטיביות דורשות לרוב כמויות גדולות של נתונים לצורך אימון ותפעול. אם המודלים הללו מבוססי ענן או לא מכוסים כראוי, קיים סיכון שמידע רגיש עלול לדלוף. משתמשים עלולים להזין בטעות נתונים קנייניים או נתונים אישיים לשירות בינה מלאכותית (חשבו לבקש מ-ChatGPT לסכם דוח תקרית סודי), ונתונים אלו עשויים להפוך לחלק מהידע של המודל. ואכן, מחקר שנערך לאחרונה מצא 55% מהכניסות לכלי AI גנרטיביים הכילו מידע רגיש או אישי מזהה, מעלה חששות רציניים לגבי דליפת נתונים (אבטחת בינה מלאכותית גנרית: מגמות, איומים ואסטרטגיות הפחתה). בנוסף, אם בינה מלאכותית עברה הכשרה על נתונים פנימיים ונשאלת אותו בדרכים מסוימות, הוא עשוי תְפוּקָה חלקים מהנתונים הרגישים למישהו אחר. ארגונים חייבים ליישם מדיניות קפדנית לטיפול בנתונים (למשל שימוש במופעי AI מקומיים או פרטיים עבור חומר רגיש) וללמד עובדים לגבי אי הדבקת מידע סודי בכלי AI ציבוריים. תקנות פרטיות (GDPR וכו') גם כן נכנסות לתמונה - שימוש בנתונים אישיים כדי להכשיר AI ללא הסכמה או הגנה מתאימות עלול להיתקל בחוקים.

• אבטחת מודל ומניפולציה: דגמי AI גנרטיביים עצמם יכולים להפוך למטרות.יריבים עשויים לנסות הרעלת מודל, הזנת נתונים זדוניים או מטעים במהלך שלב האימון או ההכשרה מחדש כך שה-AI לומד דפוסים שגויים (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר). לדוגמה, תוקף עלול להרעיל בעדינות את נתוני האיומים, כך שה-AI לא יזהה את התוכנה הזדונית של התוקף עצמו כזדונית. טקטיקה נוספת היא הזרקה מיידית או מניפולציה של פלט, שבו תוקף מוצא דרך להנפיק תשומות ל-AI שגורמות לו להתנהג בדרכים לא מכוונות - אולי להתעלם ממעקות הבטיחות שלו או לחשוף מידע שהוא לא צריך (כמו הנחיות פנימיות או נתונים). בנוסף, קיים סיכון של התחמקות מדגם: תוקפים יוצרים קלט שתוכנן במיוחד כדי לשטות ב-AI. אנו רואים זאת בדוגמאות יריבות - נתונים מעט מוטרדים שאדם רואה כנורמליים אך הבינה המלאכותית מסיווגת באופן שגוי. הבטחת שרשרת האספקה ​​בינה מלאכותית מאובטחת (שלמות נתונים, בקרת גישה למודל, בדיקות חוסן יריבות) היא חלק חדש אך הכרחי מאבטחת סייבר בעת פריסת הכלים הללו (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks).

• הסתמכות יתר ושחיקת מיומנויות: קיים סיכון רך יותר שארגונים עלולים להסתמך יתר על המידה על בינה מלאכותית ולתת לכישורים האנושיים להתנוון. אם אנליסטים זוטרים יסמכו על תפוקות AI באופן עיוור, ייתכן שהם לא יפתחו את החשיבה הביקורתית והאינטואיציה הדרושים למקרים שבהם AI אינו זמין או שגוי. תרחיש שיש להימנע ממנו הוא צוות אבטחה שיש לו כלים מעולים אבל אין לו מושג איך לפעול אם הכלים האלה יורדים (בדומה לטייסים שמסתמכים יתר על המידה על טייס אוטומטי). תרגילי אימון רגילים ללא סיוע בינה מלאכותית וטיפוח חשיבה לפיה בינה מלאכותית היא עוזרת, לא אורקל בלתי ניתן לטעויות, חשובים כדי לשמור על אנליסטים אנושיים חדים. בני אדם חייבים להישאר מקבלי ההחלטות האולטימטיביים, במיוחד עבור שיפוטים בעלי השפעה רבה.

• אתגרי אתיקה וציות: השימוש בבינה מלאכותית באבטחת סייבר מעלה שאלות אתיות ועלול לעורר בעיות ציות לרגולציה. לדוגמה, אם מערכת בינה מלאכותית מעיבה בטעות על עובד כמקורב זדוני עקב חריגה, היא עלולה לפגוע שלא בצדק במוניטין או בקריירה של אותו אדם. החלטות שמתקבלות על ידי AI יכולות להיות אטומות (בעיית "הקופסה השחורה"), מה שמקשה להסביר למבקרים או לרגולטורים מדוע ננקטו פעולות מסוימות. ככל שתוכן שנוצר בינה מלאכותית הופך נפוץ יותר, הבטחת שקיפות ושמירה על אחריות היא חיונית. הרגולטורים מתחילים לבחון את הבינה המלאכותית - חוק הבינה המלאכותית של האיחוד האירופי, למשל, יטיל דרישות על מערכות בינה מלאכותית "בסיכון גבוה", ובינה מלאכותית של אבטחת סייבר עשויה להיכלל בקטגוריה זו. חברות יצטרכו לנווט בתקנות אלה ואולי לדבוק בתקנים כמו NIST AI Risk Management Framework כדי להשתמש ב-AI מחולל באחריות (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). תאימות משתרעת גם על רישוי: שימוש בקוד פתוח או במודלים של צד שלישי עשוי לכלול תנאים המגבילים שימושים מסוימים או דורשים שיפורים בשיתוף.

לסיכום, AI גנרטיבי אינו כדור כסף - אם לא מיושם בקפידה, הוא יכול להציג חולשות חדשות גם כאשר הוא פותר אחרים. מחקר של הפורום הכלכלי העולמי משנת 2024 הדגיש כי 47% מהארגונים מציינים את ההתקדמות בתחום הבינה המלאכותית הגנרטיבית על ידי תוקפים כדאגה עיקרית, מה שהופך אותו "ההשפעה המדאיגה ביותר של AI גנרטיבי" באבטחת סייבר ([PDF] Global Cybersecurity Outlook 2025 | הפורום הכלכלי העולמי) (AI גנרטיבי באבטחת סייבר: סקירה מקיפה של LLM ...). לכן, ארגונים חייבים לאמץ גישה מאוזנת: למנף את היתרונות של AI תוך ניהול קפדני של סיכונים אלה באמצעות ממשל, בדיקות ופיקוח אנושי. בהמשך נדון כיצד להשיג בפועל את האיזון הזה.

תחזית עתידית: התפקיד המתפתח של AI גנרטיבי באבטחת סייבר

במבט קדימה, בינה מלאכותית גנרטיבית עומדת להפוך לחלק בלתי נפרד מאסטרטגיית אבטחת סייבר - וכמו כן, כלי שיריבי סייבר ימשיכו לנצל. ה דינמיקה של חתול ועכבר יאיץ, עם AI משני צידי הגדר. הנה כמה תובנות צופות פני עתיד לגבי האופן שבו בינה מלאכותית גנרטיבית עשויה לעצב את אבטחת הסייבר בשנים הקרובות:

• הגנת סייבר מוגברת בינה מלאכותית הופכת לסטנדרט: עד 2025 ואילך, אנו יכולים לצפות שרוב הארגונים הבינוניים עד הגדולים ישלבו כלים מונעי בינה מלאכותית בפעולות האבטחה שלהם. בדיוק כפי שאנטי וירוס וחומות אש הם סטנדרטיים היום, טייסי AI ומערכות זיהוי חריגות עשויים להפוך למרכיבים בסיסיים של ארכיטקטורות אבטחה. סביר להניח שהכלים הללו יהפכו למתמחים יותר - למשל, דגמי בינה מלאכותית מובחנות שהותאמו היטב לאבטחת ענן, לניטור מכשירי IoT, לאבטחת קוד יישומים וכן הלאה, כולם עובדים ביחד. כפי שאחת התחזית מציינת, "בשנת 2025, בינה מלאכותית גנרטיבית תהיה חלק בלתי נפרד מאבטחת סייבר, ויאפשר לארגונים להתגונן מפני איומים מתוחכמים ומתפתחים באופן יזום" (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר). בינה מלאכותית תשפר את זיהוי האיומים בזמן אמת, תהפוך פעולות תגובה רבות לאוטומטיות ותעזור לצוותי אבטחה לנהל נפחי נתונים גדולים בהרבה ממה שהם יכלו באופן ידני.

• למידה והסתגלות מתמשכת: מערכות AI גנרטיביות עתידיות בסייבר ישתפרו למידה תוך כדי תנועה מאירועים חדשים ומודיעין איומים, עדכון בסיס הידע שלהם כמעט בזמן אמת. זה יכול להוביל להגנות אדפטיטיביות באמת - דמיינו בינה מלאכותית שלומדת על קמפיין דיוג חדש שפוגע בחברה אחרת בבוקר ובצהריים כבר התאימה את מסנני האימייל של החברה שלכם בתגובה. שירותי אבטחת בינה מלאכותית מבוססי ענן עשויים להקל על סוג זה של למידה קולקטיבית, שבה תובנות אנונימיות מארגון אחד מועילות לכל המנויים (בדומה לשיתוף מידע איומים, אך אוטומטי). עם זאת, זה ידרוש טיפול זהיר כדי להימנע משיתוף מידע רגיש וכדי למנוע מתוקפים להזין נתונים גרועים למודלים המשותפים.

• התכנסות של AI וכישרון אבטחת סייבר: מערך המיומנויות של מקצועני אבטחת הסייבר יתפתח ויכלול מיומנות ב-AI ומדעי נתונים. בדיוק כפי שהאנליסטים של היום לומדים שפות שאילתות ותסריטים, האנליסטים של מחר עשויים לכוונן באופן קבוע מודלים של בינה מלאכותית או לכתוב "פנקסי הפעלה" לביצוע AI. אולי נראה תפקידים חדשים כמו "מאמן אבטחה בינה מלאכותית" אוֹ "מהנדס AI אבטחת סייבר" – אנשים המתמחים בהתאמת כלי בינה מלאכותית לצרכי הארגון, אימות הביצועים שלהם והבטחת פעילותם מאובטחת. מהצד השני, שיקולי אבטחת סייבר ישפיעו יותר ויותר על פיתוח בינה מלאכותית. מערכות בינה מלאכותית ייבנו עם תכונות אבטחה מהיסוד (ארכיטקטורה מאובטחת, זיהוי חבלה, יומני ביקורת להחלטות AI וכו'), ומסגרות עבור AI אמין (הוגן, ניתן להסבר, חזק ומאובטח) ינחה את הפריסה שלהם בהקשרים קריטיים לאבטחה.

• התקפות מתוחכמות יותר מבוססות בינה מלאכותית: לרוע המזל, נוף האיומים יתפתח גם עם AI. אנו צופים שימוש תכוף יותר בבינה מלאכותית כדי לגלות נקודות תורפה ביום אפס, ליצירת דיוג חנית ממוקד במיוחד (למשל בינה מלאכותית המגרדת מדיה חברתית ליצירת פיתיון מותאם בצורה מושלמת), וכדי ליצור קולות או סרטונים מזויפים עמוקים משכנעים כדי לעקוף אימות ביומטרי או לבצע הונאה. עלולים להופיע סוכני פריצה אוטומטיים שיכולים לבצע באופן עצמאי התקפות רב-שלביות (סיור, ניצול, תנועה לרוחב וכו') תוך פיקוח אנושי מינימלי.זה ילחץ על המגינים להסתמך גם על AI - בעצם אוטומציה מול אוטומציה. התקפות מסוימות עשויות להתרחש במהירות המכונה, כמו בוטים של בינה מלאכותית המנסים אלף תמורות של דיוג בדוא"ל כדי לראות מי מהם עובר מסננים. הגנות סייבר יצטרכו לפעול במהירות ובגמישות דומות כדי לעמוד בקצב (מהו בינה מלאכותית גנרטיבית באבטחת סייבר? - Palo Alto Networks).

• רגולציה ובינה מלאכותית אתית באבטחה: ככל שבינה מלאכותית תהיה מוטמעת עמוק בפונקציות אבטחת סייבר, תהיה בדיקה רבה יותר ואולי גם רגולציה כדי להבטיח שמערכות בינה מלאכותיות אלו ינוצלו בצורה אחראית. אנו יכולים לצפות למסגרות ולתקנים ספציפיים ל-AI באבטחה. ממשלות עשויות לקבוע קווים מנחים לשקיפות - למשל, לדרוש שהחלטות אבטחה משמעותיות (כמו הפסקת הגישה של עובד בשל חשד לפעילות זדונית) לא יכולות להתקבל על ידי AI בלבד ללא ביקורת אנושית. ייתכנו גם אישורים למוצרי אבטחה של AI, כדי להבטיח לקונים שה-AI הוערך עבור הטיה, חוסן ובטיחות. יתר על כן, שיתוף פעולה בינלאומי עשוי לצמוח סביב איומי סייבר הקשורים לבינה מלאכותית; למשל, הסכמים על טיפול בדיסאינפורמציה שנוצרה על ידי בינה מלאכותית או נורמות נגד כלי נשק סייבר מונעי בינה מלאכותית.

• אינטגרציה עם מערכות בינה מלאכותיות ו-IT רחבות יותר: AI גנרטיבי באבטחת סייבר ישתלב ככל הנראה עם מערכות AI אחרות וכלי ניהול IT. לדוגמה, AI שמנהל את אופטימיזציית הרשת יכול לעבוד עם AI האבטחה כדי להבטיח ששינויים לא יפתחו פרצות. ניתוח עסקי מונע בינה מלאכותית עשוי לחלוק נתונים עם מערכות בינה מלאכותיות אבטחה כדי לתאם חריגות (כמו ירידה פתאומית במכירות עם בעיה אפשרית באתר עקב התקפה). בעצם, בינה מלאכותית לא תגור בממגורה - היא תהיה חלק ממארג אינטליגנטי גדול יותר של פעילות הארגון. זה פותח הזדמנויות לניהול סיכונים הוליסטי שבהם ניתן לשלב נתונים תפעוליים, נתוני איומים ואפילו נתוני אבטחה פיזיים על ידי AI כדי לתת מבט של 360 מעלות על עמדת האבטחה הארגונית.

בטווח הארוך, התקווה היא ש-AI גנרטיבי יעזור להטות את האיזון לטובת המגינים. על ידי טיפול בקנה מידה ובמורכבות של סביבות IT מודרניות, AI יכול להפוך את מרחב הסייבר להגנה יותר. עם זאת, זה מסע, ויהיו כאבי גדילה כאשר אנו משכללים את הטכנולוגיות הללו ונלמד לסמוך עליהן כראוי. הארגונים שנשארים מעודכנים ומשקיעים בהם אימוץ AI אחראי שכן האבטחה יהיו ככל הנראה אלו הממוקמים בצורה הטובה ביותר לנווט את איומי העתיד.

כפי שצוין בדו"ח מגמות אבטחת הסייבר האחרון של גרטנר, "הופעת מקרי שימוש (וסיכונים) של AI גנרטיבי יוצרת לחץ לשינוי" (מגמות אבטחת סייבר: חוסן באמצעות טרנספורמציה - גרטנר). אלה שמסתגלים ירתמו את AI כבעל ברית רב עוצמה; אלה שמאחרים עלולים למצוא את עצמם עולים על ידי יריבים המוסמכים בבינה מלאכותית. השנים הקרובות יהיו זמן מרכזי בהגדרת האופן שבו בינה מלאכותית מעצבת מחדש את שדה הקרב בסייבר.

טיפים מעשיים לאימוץ AI גנרטיבי באבטחת סייבר

לעסקים שמעריכים כיצד למנף AI גנרטיבי באסטרטגיית אבטחת הסייבר שלהם, הנה כמה טיפים והמלצות מעשיות להנחות אימוץ אחראי ואפקטיבי:

1. התחל עם חינוך והדרכה: ודא שצוות האבטחה שלך (וצוות ה-IT הרחב יותר) מבינים מה AI גנרטיבי יכול לעשות ומה לא יכול לעשות. ספק הדרכה על היסודות של כלי אבטחה מונעי בינה מלאכותית ועדכן את שלך תוכניות מודעות לאבטחה לכל העובדים לכסות איומים התומכים בבינה מלאכותית. לדוגמה, למד את הצוות כיצד בינה מלאכותית יכולה ליצור הונאות דיוג משכנעות מאוד ושיחות מזויפות עמוקות. במקביל, הכשיר את העובדים לשימוש בטוח ומאושר בכלי AI בעבודתם.משתמשים בעלי מידע טוב נוטים פחות לטפל ב-AI בצורה לא נכונה או ליפול קורבן להתקפות משופרות בינה מלאכותית (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי).

2. הגדר מדיניות שימוש ברורה בינה מלאכותית: התייחס לבינה מלאכותית גנרטיבית כמו כל טכנולוגיה חזקה - עם ניהול. פתח מדיניות שמפרטת מי יכול להשתמש בכלי בינה מלאכותית, על אילו כלים יש סנקציות ולאילו מטרות. כלול הנחיות לגבי טיפול בנתונים רגישים (למשל אין הזנה של נתונים סודיים לשירותי AI חיצוניים) כדי למנוע דליפות. כדוגמה, ייתכן שתאפשר רק לחברי צוות אבטחה להשתמש בעוזר AI פנימי לתגובה לאירועים, ושיווק יכול להשתמש ב-AI בדוק לתוכן - כל השאר מוגבלים. ארגונים רבים מתייחסים כעת באופן מפורש לבינה מלאכותית גנרטיבית במדיניות ה-IT שלהם, וגופי תקינה מובילים מעודדים מדיניות שימוש בטוח ולא איסורים מוחלטים (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). הקפד להעביר את הכללים הללו ואת ההיגיון מאחוריהם לכל העובדים.

3. צמצם את "Shadow AI" ונטר את השימוש: בדומה ל-Shadow IT, "Shadow AI" מתעורר כאשר עובדים מתחילים להשתמש בכלים או בשירותי בינה מלאכותית ללא ידיעת ה-IT (למשל מפתח המשתמש בעוזר קוד AI לא מורשה). זה יכול להכניס סיכונים בלתי נראים. ליישם אמצעים ל לזהות ולשלוט בשימוש ב-AI ללא אישור. ניטור רשת יכול לסמן חיבורים לממשקי AI פופולריים, וסקרים או ביקורת כלים יכולים לגלות במה הצוות משתמש. הציעו חלופות מאושרות כך שעובדים בעלי כוונות טובות לא יתפתו להתחרפן (לדוגמה, ספק חשבון ChatGPT Enterprise רשמי אם אנשים מוצאים את זה שימושי). על ידי הבאת השימוש ב-AI לאור, צוותי אבטחה יכולים להעריך ולנהל את הסיכון. הניטור הוא גם המפתח - רישום פעילויות ותפוקות של כלי בינה מלאכותית ככל שניתן, כך שיש נתיב ביקורת להחלטות שה-AI השפיע עליה (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי).

4. מנף בינה מלאכותית בהגנה - אל תיפול מאחור: הכר שתוקפים ישתמשו בבינה מלאכותית, אז גם ההגנה שלך צריכה. זהה כמה אזורים בעלי השפעה גבוהה שבהם בינה מלאכותית גנרטיבית יכולה לסייע באופן מיידי לפעולות האבטחה שלך (אולי בדיקת התראות, או ניתוח יומן אוטומטי) ולהפעיל פרויקטי פיילוט. הגבר את ההגנות שלך עם המהירות והקנה מידה של AI כדי להתמודד עם איומים שנעים במהירות (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). אפילו אינטגרציות פשוטות, כמו שימוש בבינה מלאכותית כדי לסכם דוחות תוכנות זדוניות או ליצור שאילתות ציד איומים, יכולות לחסוך לאנליסטים שעות. התחילו בקטן, העריכו את התוצאות וחזרו. הצלחות יבנו את המקרה לאימוץ AI רחב יותר. המטרה היא להשתמש בבינה מלאכותית כמכפיל כוח - לדוגמה, אם התקפות דיוג מציפות את דלפק העזרה שלך, פרוס סיווג דוא"ל בינה מלאכותית כדי לצמצם את הנפח הזה באופן יזום.

5. השקיעו בשיטות AI מאובטחות ואתיות: בעת הטמעת AI גנרטיבי, עקוב אחר נוהלי פיתוח ופריסה מאובטחים. לְהִשְׁתַמֵשׁ דגמים פרטיים או מתארחים בעצמם עבור משימות רגישות כדי לשמור על שליטה על הנתונים. אם אתה משתמש בשירותי AI של צד שלישי, סקור את אמצעי האבטחה והפרטיות שלהם (הצפנה, מדיניות שמירת נתונים וכו'). שלב מסגרות לניהול סיכונים בינה מלאכותית (כמו מסגרת ניהול הסיכונים של AI של NIST או הנחיות ISO/IEC) כדי לטפל באופן שיטתי בדברים כמו הטיה, יכולת הסבר וחוסן בכלי ה-AI שלך (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר? 10 דוגמאות מהעולם האמיתי). תכננו גם עדכוני מודלים/תיקונים כחלק מתחזוקה - למודלים של AI יכולים להיות גם "פגיעויות" (למשל, הם עשויים להזדקק לאימונים מחדש אם הם מתחילים להיסחף או אם מתגלה סוג חדש של התקפה יריבה על המודל).על ידי יצירת אבטחה ואתיקה בשימוש ב-AI שלך, אתה בונה אמון בתוצאות ומבטיח עמידה בתקנות המתפתחות.

6. שמור על בני אדם במעגל: השתמש ב-AI כדי לסייע, לא להחליף לחלוטין, את השיפוט האנושי באבטחת סייבר. קבע נקודות החלטה שבהן נדרש אימות אנושי (לדוגמה, בינה מלאכותית עשויה לנסח דוח תקרית, אך אנליסט סוקר אותו לפני ההפצה; או בינה מלאכותית עשויה להציע חסימת חשבון משתמש, אך אדם מאשר את הפעולה הזו). זה לא רק מונע משגיאות בינה מלאכותית לא להיבדק, אלא גם עוזר לצוות שלך ללמוד מה-AI ולהיפך. עודד זרימת עבודה משותפת: אנליסטים צריכים להרגיש בנוח לפקפק בתפוקות AI ולבצע בדיקות שפיות. לאורך זמן, דיאלוג זה יכול לשפר הן את ה-AI (באמצעות משוב) והן את כישורי האנליסטים. בעיקרו של דבר, תכנן את התהליכים שלך כך שבינה מלאכותית וחוזקות אנושיות ישלימו זה את זה - בינה מלאכותית מטפלת בנפח ובמהירות, בני אדם מטפלים בעמימות ובהחלטות סופיות.

7. מדידה, ניטור והתאמת: לבסוף, התייחס לכלי ה-AI הגנרטיביים שלך כמרכיבים חיים של מערכת האקולוגית האבטחה שלך. באופן רציף למדוד את הביצועים שלהם - האם הם מפחיתים את זמני התגובה לאירועים? תופסים איומים מוקדם יותר? איך מגמת השיעור חיובי כוזב? בקש משוב מהצוות: האם ההמלצות של ה-AI מועילות, או שזה יוצר רעש? השתמש במדדים אלה כדי לחדד מודלים, לעדכן נתוני אימון או להתאים את אופן שילוב הבינה המלאכותית. איומי הסייבר והצרכים העסקיים מתפתחים, ויש לעדכן את דגמי הבינה המלאכותית שלך או להכשיר אותם מדי פעם כדי להישאר יעילים. ערכו תוכנית לניהול מודל, כולל מי אחראי לתחזוקתו ובאיזו תדירות הוא נבדק. על ידי ניהול אקטיבי של מחזור החיים של ה-AI, אתה מבטיח שהוא יישאר נכס, לא התחייבות.

לסיכום, AI גנרטיבי יכול לשפר משמעותית את יכולות אבטחת הסייבר, אך אימוץ מוצלח דורש תכנון מתחשב ופיקוח מתמשך. עסקים שמחנכים את אנשיהם, קובעים קווים מנחים ברורים ומשלבים בינה מלאכותית בצורה מאוזנת ומאובטחת יקצרו את הפירות של ניהול איומים מהיר וחכם יותר. ההטבות הללו מספקות מפת דרכים: שלב מומחיות אנושית עם אוטומציה של בינה מלאכותית, מכסה את יסודות הממשל, ושומרים על זריזות כאשר גם טכנולוגיית הבינה המלאכותית וגם נוף האיומים מתפתחים בהכרח.

על ידי נקיטת צעדים מעשיים אלה, ארגונים יכולים לענות בביטחון על השאלה "כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר?" - לא רק בתיאוריה, אלא בפרקטיקה היומיומית - ובכך לחזק את ההגנות שלהם בעולם הדיגיטלי והמונחה בינה מלאכותית שלנו. (כיצד ניתן להשתמש בבינה מלאכותית גנרטיבית באבטחת סייבר)