העתיד כבר כאן: בינה מלאכותית במצבי חירום
ד"ר יעל אילת ון אסן וד"ר גלית ולנר | 13.03.2025 | צילום: Pixabay, נוצר על ידי AI

אנחנו חיים במתכונת חירום מתמשכת, בין מגפה למלחמה לחשש מצונאמי, ולכן שאלות של מוכנות (preparedness), תגובתיות ושיקום מטרידות אותנו ברמה האישית, הקהילתית והלאומית. האם יש לבינה מלאכותית בשורה חדשה גם בתחום הזה? מה נרוויח ומה נפסיד אם ההחלטות בנוגע לעורף במצבי חירום יועברו למערכות של AI? איך זה יפעל? והאם זה יהיה באמת יעיל יותר?
שילוב בינה מלאכותית במצבי חירום: מבט ביקורתי
דוח חדש שכתבו ד"ר יעל אילת ון אסן וד"ר גלית ולנר, ושיצא זה עתה במכון ון ליר, מציג את תמונת המצב העכשווית לקראת אפשרות של הטמעת טכנולוגיות בינה מלאכותית במערכות חוסן בישראל, ומציע סדרה של שאלות ביקורתית שמהוות מצע אסטרטגי ואתי לדיון בקשר בין בינה מלאכותית למצבי חירום.
המחקר בוחן את הפוטנציאל והאתגרים שבשילוב טכנולוגיות בינה מלאכותית (AI) במערכות ניהול משברים בישראל, על רקע אירועי מגפת הקורונה (2019–2022) ומלחמת חרבות ברזל שפרצה בעקבות אסון 7 באוקטובר 2023. המחקר מתמקד בפרקטיקות חוסן, משלב ההתכוננות למצבי חירום, דרך זמן ההתרחשות ועד לשיקום, ומציע מבט ביקורתי על שילוב טכנולוגיה זו בניהול משברים. הוא בוחן את התשתיות הטכנולוגיות, החברתיות והמינהליות בישראל, מתוך התייחסות לטשטוש הגבולות בין גופים אזרחיים לצבאיים, ולמאמצי איגום המידע הממשלתי הנדרשים לפיתוח מערכות AI. החוקרות טוענות כי אנו נמצאים ב"רגע הזהב" לפני אפיון ופיתוח של מערכות חוסן מבוססות AI, וממליצות על שילוב שיקולים אתיים, חברתיים ופוליטיים בשלבים המוקדמים של פיתוחן, כדי להתמודד עם סוגיות של משילות, הטיות, אחריות, הוגנות, הסברתיות ושקיפות.
חוסן: בין המערכת לפרט
חלקו הראשון של מחקר זה מוקדש להתייחסויות השונות למושג החוסן, מתוך מטרה לייצר מעטפת רחבה יותר לדיון במצבי חירום. מושג החוסן מתייחס ליכולתה של מערכת לצפות משברים, להתמודד עימם בלי לקרוס ולהתאושש מהם. אף שהחוסן נתפס כמושג שנושא עימו הקשרים חיוביים, המחקר מדגים כיצד פרקטיקות של חוסן יכולות להגביר אי-שוויון חברתי ולפגוע בזכויות הפרט, לאור הקשר ההדוק בין אידיאולוגיות ניאו-ליברליות למושג זה ולניסיונותיהם של ממשלות, תאגידים וארגונים ליצור אצל האזרחים תחושת חוסר ביטחון כדרך פעולה שנועדה לשרת את בעלי הכוח. לפיכך אפשר לראות במושג החוסן לא רק מטרה שיש לשאוף אליה, אלא גם אסטרטגיה המושתתת על מניעים פוליטיים וכלכליים. בהקשר הזה מוצגת הבעייתיות האתית האינהרנטית הקיימת במערכות חוסן, שנובעת מהצורך לתעדף את המערכת על פני הפרט. המחקר בוחן כיצד אפשר לקיים חוסן מתוך יצירת איזון בין הפרט למערכת, ובכך ליישם עקרונות של צדק חברתי, שוויון הזדמנויות ושמירה על הדמוקרטיה. כך למשל, רצוי להבטיח שמערכת שבוחנת תצלומי אוויר של אזורים שנפגעו ברעידת אדמה, תדע להמליץ על סדר עדיפויות בשיקום שלא יפלה לרעה פריפריה שבה הבינוי דליל יותר והאוכלוסייה חלשה יותר.
חזון, אתגרים והיישום בישראל
במקום לסקור שימושים נקודתיים בבינה מלאכותית בשלבים השונים של טיפול במצבי חירום, המחקר בוחן אפשרות למערכת כוללת מבוססת AI המוגדרת במסגרתו כחמב"ם (מערכת חוסן מבוססת בינה מלאכותית). אומנם בעת עריכת המחקר לא ידוע על מערכות מתפקדות מסוג זה, אבל לטענת החוקרות קרוב לוודאי שמערכות חמב"ם ייכנסו לשימוש בעתיד הלא רחוק לאור ההתפתחויות האחרונות בתחום ה-AI. תנאי סף להקמת מערכת מתכללת מסוג זה הוא מאגרי נתונים רחבי היקף (אגם מידע), שבימים אלה נמצאת בשלבי הקמה. ברמה האופרטיבית, מערכת חמב"ם עתידית תוכל לסייע בקבלת החלטות (Decision Support System) ואפילו לקבל החלטות באופן אוטומטי (Automatic Decision Making). קבלת החלטות אוטומטית ואוטונומית רצויה במצבים שבהם נדרשת החלטה מיידית (כמו בזמן מתקפת כטב"מים רחבת היקף), או כאשר צריך להביא בחשבון מצבים אופציונליים שונים ולהתמודד עם כמות גדולה של נתונים, בהיקף ובקצב שמעבר ליכולת אנושית (למשל בהתמודדות עם מספר רב של נפגעים כשסוגי הפגיעות מגוונים ולעיתים מצטברים). לאור זאת מציג המחקר את הצורך האקוטי בחשיבה מראש על השיקולים שצריכים להוביל בנייה של מערכות אלו. בהקשר הזה הוא מצביע על האתגרים הקשורים לשימוש בבינה מלאכותית, ובהם אתגרים טכנולוגיים כמו התרעות שווא, אתגרים אתיים כמו חשש להטיות אלגוריתמיות ופגיעה בפרטיות, ואתגרים חברתיים כמו הקושי בהנגשת הטכנולוגיה לאוכלוסיות שונות. אם הגישה לסייען מבוסס AI מחייבת שימוש בטלפון נייד מדגם חדיש, הרי מראש נוצרת מגבלת גישה שמקשה על האוכלוסייה שאין לה נגישות למכשירים אלו, ובייחוד על חסרי מיומנויות דיגיטליות.
מאחר שמערכות חוסן מבוססות AI הן מערכות סוציו-טכניות במהותן, אי אפשר לבחון אותן במנותק מהחברה שבה הן פועלות. לכן, כחוקרות ישראליות, הן בחרו את ישראל כ"מקרה הבוחן", וחלקו השני של המחקר מוקדש להקשר הישראלי שבמסגרתו נבחן המבנה המוסדי הקיים של ניהול מצבי חירום בישראל ומתוארת תפיסת החוסן הלאומי. המחקר מציג תמונה מורכבת של חלוקת האחריות בין הגופים השונים – פיקוד העורף (פקע"ר), רשות החירום הלאומית (רח"ל), משרדי הממשלה, הרשויות המקומיות ומרכזי החוסן הקהילתיים – והחפיפות, אי-הבהירויות וחוסר התיאום, שהתגלו במשבר הקורונה ובמלחמת "חרבות ברזל". הסקירה ההיסטורית בבסיס פרק זה מדגימה כיצד ריבוי מצבי החירום הביטחוניים בישראל הוביל לדומיננטיות של גופים צבאיים בטיפול במצבי החירום, גם במשברים אזרחיים באופיים, תוך זליגה של פרקטיקות צבאיות למרחב האזרחי. החוקרות מציגות טשטוש גבולות בין הצבאי לאזרחי במקביל לשינויים באופי האיומים על אזרחי המדינה.
דגש מיוחד מושם במחקר על ניתוח של מערכת שוע"ל של פיקוד העורף. שוע"ל – מערכת ממוחשבת לשליטה ובקרה בעורף הלאומי – מסייעת לדרג מקבלי ההחלטות לנהל אירועי חירום, לרבות העברת הנחיות לכוחות שבשטח, תיאום ביניהם, ואף תיעוד של שלבי האירוע. בהתמודדות עם מגפת הקורונה נעשה שימוש נרחב במערכת זו. היא הוטמעה במשרדים ממשלתיים ורשויות מקומיות לצורך הזה, אך גם מתוך מחשבה כי היא תוכל לשמש אותם אף בשגרה. זהו שלב חדש בטשטוש הגבולות בין הצבאי לאזרחי, שבו מערכת צבאית מוטמעת במרחב אזרחי. כיום מערכת שוע"ל אינה מבוססת על בינה מלאכותית, אבל היא יכולה להוות תשתית למערכת חוסן מבוססת בינה מלאכותית. חזון מסוג זה הוצג במסמכי אסטרטגיה להטמעת טכנולוגיות AI בישראל בהקשרים האזרחיים והצבאיים, ובייחוד בדוחות של שנסקרים במחקר.
עתיד ה-AI במצבי חירום בישראל
החלק השלישי, שכותרתו "לקראת פיתוח ויישום אתיים של מערכות חמב"ם בישראל", מציג את הסיכונים וההזדמנויות הטמונים בהטמעת בינה מלאכותית בטיפול במצבי חירום בהקשרים אזרחיים ואתיים. בצד הסיכונים מוצגים האתגרים הכרוכים בשמירה על זכויות הפרט, הבטחת שוויון, יצירת שקיפות ואחריות כלפי הדורות הבאים. לצד אלו, השימוש בטכנולוגיות בינה מלאכותית יכול לתמוך בתהליכים דמוקרטיים ואזרחיים. ספציפית, מערכות חמב"ם יכולות להוות הזדמנות לשנות את היחסים בין גורמים צבאיים לאזרחיים, לכונן שינויים בתרבות הארגונית של הממשלה והרשויות המקומיות, ולהניע תכנון ארוך טווח. נוסף על כך, הערך המוסף של AI טמון ביכולתו ליצור גישה כוללת ומאוחדת לניהול משברים, לשלב מידע ממגוון מקורות, ולהתאים את המערכת למצבים משתנים תוך שינוי היחס בין חירום לשגרה. הדוח מסתיים בהמלצות מעשיות לפיתוח ויישום אתיים של מערכות חמב"ם בישראל, הכוללות בין היתר המלצות לשילוב ציבור רחב בתהליך פיתוח מערכות חמב"ם כדי להבטיח שהמערכות הללו ישרתו את טובת האזרחים.
---
אפשר לקרוא את הדוח המלא מאת ד"ר יעל אילת ון אסן וד"ר גלית ולנר, בעריכת פרופ' חגי בועז, באתר הוצאת מכון ון ליר.