מיומנויות סייבר בעידן הבינה המלאכותית: מה עסקים צריכים לדעת ואיך מתחילים ללמוד בישראל

ככל שעסק מחבר כלי בינה מלאכותית למיילים, למסמכים ולמערכת הלקוחות שלו, מיומנויות סייבר נעשות חלק מהיכולת לעבוד נכון. צריך לדעת איזה מידע מותר למסור לכלי, איך בודקים בקשה חשודה ומה מאפשרות ההרשאות שניתנו לו. הידע הזה נוגע גם למנהלת שיווק, לאיש מכירות ולבעלת עסק, לצד אנשי המחשוב שמגדירים ומתחזקים את המערכות.

למי ששוקלים ללמוד סייבר בישראל, זהו כיוון מעשי לבחירת מסלול: להבין את התשתיות שעליהן העסק עובד, ואז ללמוד כיצד מגינים עליהן כאשר גם אנשים וגם מערכות אוטומטיות פועלים בתוכן. ההתחלה היא בהבנת פעולה פשוטה, למשל פתיחת מסמך או אישור גישה לתיקייה, והמשמעות שלה עבור המידע העסקי.

דיוג בעזרת AI משנה את מה שצריך לבדוק בהודעה

בהתרעה שפרסם בדצמבר 2024, ה-FBI תיאר כיצד עבריינים משתמשים בבינה מלאכותית יוצרת כדי לנסח הודעות משכנעות ולהפחית שגיאות כתיב ודקדוק. המשמעות לקורא היא שטקסט רהוט אינו הוכחה לזהות השולח. בדיקת השפה עדיין יכולה לעזור, אבל היא צריכה להצטרף לבדיקה של הבקשה עצמה.

נניח שמתקבלת הודעה מספק המבקש לעדכן את פרטי התשלום שלו. זהו תרחיש המחשה: השם מוכר, הניסוח מקצועי ויש הסבר סביר לדחיפות. הבדיקה החשובה היא האם השינוי אומת דרך איש קשר וערוץ תקשורת שכבר מוכרים לעסק. פרטי קשר שנוספו באותה הודעה אינם בסיס עצמאי לאימות שלה.

כדאי לתרגל עם העובדים את רגע ההחלטה: מי רשאי לשנות פרטי ספק, מי מאשר את השינוי ואיפה מתעדים אותו. כך ההדרכה מתחברת לפעולה אמיתית בעבודה. עובד שמבין את התהליך יכול לעצור בקשה חריגה גם כשאין בה שגיאת כתיב אחת.

כשגם קול מוכר דורש אימות נוסף

אותה התרעת FBI מתייחסת גם לשכפול קולות ולסרטונים המשמשים להתחזות, לרבות שיחות וידאו עם מי שמוצגים כבכירי חברה. דיפפייק הוא תוכן שנוצר או שונה באמצעים טכנולוגיים כדי להציג אדם או פעולה באופן מטעה. לכן קול מוכר או תמונה משכנעת אינם מספיקים לאישור פעולה רגישה.

בעסק אפשר לקבוע מראש שבקשה להעברה כספית חריגה מחייבת אימות בערוץ מוכר ואישור של גורם נוסף. הכלל צריך לחול גם כשהמבקש נשמע בטוח בעצמו וגם כשהוא בכיר. מיומנות הסייבר הנדרשת כאן היא לדעת להפעיל את הנוהל בלי להיגרר ללחץ שמייצרת השיחה.

המידע שמעלים לכלי AI הוא החלטת אבטחה

הסיכון אינו מתחיל בהכרח בהודעה זדונית. עובד שרוצה לסכם התכתבות עם לקוח עשוי להעתיק לכלי חיצוני שמות, נתונים כספיים או מידע עסקי חסוי. ארגון OWASP, העוסק באבטחת יישומים, מונה חשיפת מידע רגיש בין הסיכונים של יישומים המבוססים על מודלי שפה.

לפני שמעלים קובץ, צריך לברר אם הכלי אושר לשימוש הזה, איזה מידע נדרש למשימה ומהם תנאי השמירה והשימוש בנתונים. אין להסיק שכל שירות AI מאמן את המודל על כל קובץ שנמסר לו. יש לבדוק את התנאים וההגדרות של השירות ושל המסלול שבו משתמשים בפועל.

תרגיל שימושי הוא לקחת מסמך דמה ולסמן אילו פרטים נחוצים לסיכום ואילו אפשר להסיר. אחר כך מנסחים כלל קצר שהעובדים יכולים ליישם: למשל, באיזה כלי מאושר עובדים עם נתוני לקוחות ומתי משתמשים רק בדוגמה נטולת פרטים מזהים. זו דרך להפוך מדיניות כללית להחלטה שאפשר לקבל בזמן העבודה.

כשכלי הבינה המלאכותית מקבל יכולת לפעול

כלי שמנסח טיוטה פועל בגבולות שונים מכלי שמסוגל לשלוח הודעות או לשנות רשומות. OWASP מתאר סיכון הנובע מעודף הרשאות, יכולות או עצמאות במערכות כאלה. ככל שהכלי מסוגל לבצע יותר פעולות, צריך לבדוק בזהירות מה באמת נדרש למשימה שלו.

לצד זאת קיימת הזרקת הנחיות, המכונה Prompt Injection. לפי OWASP, הוראות שמופיעות במקור חיצוני, כמו אתר או קובץ, עלולות להסיט את התנהגות המודל. למשל, מסמך שהעוזר התבקש לסכם עשוי לכלול טקסט שמנסה לגרום לו לחרוג מהמשימה. התוצאה האפשרית תלויה במערכת, במידע הזמין לה ובהרשאותיה.

מכאן נובעות שאלות תכנוניות ברורות: האם עוזר שמסכם מסמכים זקוק גם להרשאת מחיקה? האם שליחת מידע החוצה מחייבת אישור? האם נשמר רישום של הפעולות שבוצעו? OWASP ממליץ לצמצם יכולות והרשאות ולהוסיף אישור אנושי לפעולות בעלות השפעה משמעותית. את מגבלות הגישה צריך לאכוף במערכות עצמן; הוראה כתובה למודל לבדה אינה בקרה מספקת.

אילו יסודות כדאי ללמוד לפני שמתמחים באבטחת AI

מסלול למידה טוב צריך לאפשר ללומדים להסביר כיצד מערכת עובדת לפני שהם מנתחים מה השתבש בה. כדאי להתחיל מרשתות, מערכות הפעלה, משתמשים והרשאות. מי שמבין איך משתמש מקבל גישה לקובץ יכול לשאול שאלות מדויקות יותר גם על עוזר AI שמקבל גישה לאותה תיקייה.

אפשר לבנות את הלמידה סביב שלוש יכולות שניתנות לתרגול:

• לקרוא פעילות מערכת: להבין מה מתועד ביומן אירועים, לזהות מה דורש בדיקה ולהפריד בין עובדה להשערה.
• לנהל גישה: להגדיר משתמשים והרשאות בסביבת תרגול ולהסביר מדוע כל הרשאה נחוצה.
• לתעד החלטה: לכתוב תיאור קצר של אירוע, הבדיקות שנעשו והמידע שעדיין חסר.

גם כשנעזרים ב-AI להסבר פקודה או לניתוח ראשוני, כדאי לחזור לתיעוד המקורי ולבדוק את התוצאה בסביבה מבודדת. מטרת התרגול היא לפתח יכולת להסביר מה קרה, מדוע פעלתם בדרך מסוימת ואיך תבדקו שהפעולה השיגה את מטרתה.

איך בוחרים נקודת התחלה ללימודי סייבר בישראל

תחילה כדאי להגדיר מה רוצים להשיג. בעל עסק שרוצה להנהיג שימוש בטוח בכלי AI זקוק לתוכן שונה ממי שמכוון לתפקיד טכני ראשון. איש מחשוב שכבר מנהל רשתות עשוי לחפש העמקה בחקירת אירועים. הגדרת היעד עוזרת לבדוק את הסילבוס לפי משימות שתרצו לבצע.

במסגרת ההשוואה אפשר לבחון את מסלולי לימודי הסייבר שמציג Israel Cyber Campus. באתר מופיעים בין היתר מסלולי SOC Analyst, ניהול אבטחת מידע, פורנזיקה ותגובה לאירועים ובדיקות חדירות. בעמוד SOC Analyst מתואר מסלול למתחילים, הכולל יסודות מחשוב, רשתות, מערכות הפעלה ותרגול מעשי. זהו תיאור ההיצע כפי שמציג אותו המוסד; יש לבדוק מולו את ההתאמה האישית ואת תנאי ההרשמה העדכניים.

לפני שנרשמים, בקשו לראות דוגמה לתרגיל ולמשוב שמקבלים עליו. בררו מה נדרש באנגלית, כמה עבודה עצמאית צפויה ומה כלול במחיר. כדאי להבחין בין תעודת סיום של מוסד לימודים לבין הכנה לבחינת הסמכה חיצונית, ולברר בנפרד את תנאי הבחינה ועלותה. כך ההשוואה נשענת על פרטים שניתן לבדוק.

תרגול קטן שמחבר בין הלימודים לעסק

אפשר להתחיל במיפוי תהליך אחד שבו כבר משתמשים ב-AI: סיכום פניות, הכנת הצעות או עבודה עם מסמכים. רשמו איזה מידע נכנס, מי יכול לראות את התוצאה ואילו פעולות הכלי רשאי לבצע. בחרו נקודה אחת לשיפור, כגון צמצום הרשאה או הגדרת דרך לאימות בקשה חריגה.

למי שבוחרים מסלול מקצועי, אותו מיפוי יכול להפוך לפרויקט תרגול עם נתונים מדומים ובסביבה מורשית. התוצר יהיה מסמך קצר שמציג את התהליך, הסיכון והבקרה שנבחרה. היכולת לקשור בין החלטה טכנית לצורך עסקי היא מטרה מעשית ללמידה, שאפשר להתחיל לפתח כבר בתרגיל הראשון.