לוחמת רחפנים והחרבת עזה 

חלק 2 – נחילי רחפנים ופירוקו של המשפט ההומניטרי הבינלאומי 

שירי קרבס

תרגם: יוסי רוזנמן

מאוקראינה ועד איראן, לבנון ופלסטין, טכנולוגיות רחפנים ומערכות דיגיטליות משמשות ליצירת מטרות, לתיעדופן ולבחירתן לצורך פעולות צבאיות, ובכך מפעילות אלימות כלפי בני אדם ומקומות. למערכות אלה תפקיד מרכזי הן בהסלמת האלימות הצבאית והן בהקניית לגיטימציה לאלימות זו. בחלקו הראשון של מאמר זה בחנתי כיצד יכולות החישה של רחפנים מוחקות את אישיותם ואת אנושיותם של פלסטינים. בחלקו השני של המאמר אני מסבירה כיצד יכולות דיגיטליות אלו משנות את אופן יישומן ואת משמעותן של נורמות היסוד של המשפט ההומניטרי הבינלאומי בעזה ומחוצה לה, ובכך תורמות לפירוקן של המגבלות שנועדו לרסן אלימות מזוינת מאורגנת. אתמקד בשלוש סוגיות מרכזיות בלוחמת רחפנים, ואדגים כיצד טכנולוגיות רחפנים מחלישות את כוחו המגן של המשפט ההומניטרי הבינלאומי. ראשית, טכנולוגיות רחפנים משנות את פרקטיקות הפרשנות המשפטית באמצעות הסטת אמות המידה המשפטיות ואימוץ הגדרות הניתנות לקידוד. שנית, טכנולוגיות רחפנים משנות את היקף האלימות, בכך שהן מייצרות מידע היכול להצדיק מספר רב של תקיפות המבוצעות בו־זמנית, תוך הסתרת השלכותיו של המערך הצבאי הכולל. שלישית, טכנולוגיות רחפנים יוצרות פער באחריותיות, שכן למכונות אין כוונה, ותהליכי קבלת ההחלטות מתפצלים לשרשרת ארוכה של בחירות ופעולות דיגיטליות שאופיין נותר עמום ובלתי שקוף. 

טכנולוגיות רחפנים משנות את פרקטיקות הפרשנות המשפטית 

בעידן הדיגיטלי, מונחים משפטיים נדרשים להיות ניתנים לקידוד או להסבר במונחים שמערכות דיגיטליות מסוגלות לעבד. כך, למשל, מונח משפטי כגון "מטרה בעלת ערך גבוה" חייב להיות מקודד ומתורגם למשהו שניתן לחשב ולכמת, והמונח "אזרח" חייב להיות מתורגם למאפיינים שניתן לעבד באמצעות אלגוריתמים וחיישנים. אפילו מושגים פשוטים יותר, כגון "ילד" – הרלוונטיים להגדרת הסטטוס המשפטי וההגנה המוקנית למי שנמצאים באזור לחימה – חייבים להיות ניתנים לקידוד, ודורשים הכרעות תכנותיות ביחס למאפיינים פיזיים ולגורמים רלוונטיים נוספים. תהליך הקידוד מרדד מושגים אנושיים מורכבים ותלויי הקשר והופך אותם למשהו אחר: לקטגוריות טכניות מטבען, הרגישות פחות להקשרים חברתיים ולנסיבות משתנות.

בנוסף, סטנדרטים משפטיים מרכזיים עוצבו עבור אתיקה וקוגניציה אנושיות, ולכן אינם מותאמים להחלטות שמתקבלות על ידי מכונות. לדוגמה, סטנדרטים משפטיים מקובלים דורשים שהחלטה תתקבל "בתום לב", על בסיס "ספק סביר" או מתוך "אמונה סבירה". אולם מכונות אינן מטילות ספק, ואינן מחזיקות באמונות – סבירות או בלתי סבירות. גם מושג "תום הלב" זר לאופן פעולתן, לתכנותן ולתהליכי העיבוד שלהן. אי־התאמה זו משמעותה כי סטנדרטים משפטיים בסיסיים הנוגעים לראיות, להוכחה ולהצדקת החלטות אינם יכולים להתקיים במלואם כאשר החלטות מתקבלות באמצעות מערכות דיגיטליות. תחתם מופיעים תחליפים הניתנים לקידוד, לצד תפיסות טכניות המבוססות על שיעורי שגיאה, חישובים מכניים ומדדים סטטיסטיים.

טכנולוגיות רחפנים משנות את הרגישויות המשפטיות

טכנולוגיות רחפנים משנות את היקף האלימות הצבאית באמצעות יכולות מעקב מתמשך והסקות הסתברויות לגבי אנשים ומקומות. יכולות אלה משנות את ההקשר שבו פועלות נורמות משפטיות, ומרחיקות עוד יותר את המשפט ההומניטרי הבינלאומי ממטרתו היסודית: להגן על אנשים מפני נזקי המלחמה. לדוגמה, אלגוריתמים המשמשים לתיעדוף ובחירת מטרות יכולים לייצר במהירות מספר רב של מטרות, ובכך להגדיל באופן משמעותי את מספר המבצעים והתקיפות האפשריים. היכולות של נחילי רחפנים וכלים מבוססי בינה מלאכותית ליצירת מטרות, יחד עם סוגי הנתונים שהם אוספים על אנשים ומקומות ("מטרות פוטנציאליות"), מניעים מעבר ממספר מצומצם של מטרות למספר רב של מטרות, וממטרות בעלות ערך גבוה למטרות בעלות ערך נמוך יותר. בהתאם לכך, גם מושגים משפטיים כגון "יעד בעל ערך גבוה", עוברים כיול מחדש באמצעות תהליכי קידוד, כפי שתואר לעיל. שינויים אלה מעניקים לגיטימציה למספר גדול יותר של תקיפות, ומטבעם גם מרחיבים את היקף הנזק האגבי הנתפס כקביל, פשוט משום שמספרן והיקפן של הפעולות הצבאיות הזוכות ללגיטימציה גדלים באופן ניכר. אלגוריתמים מבוססי בינה מלאכותית המשמשים ליצירת מטרות מעניקים לגיטימציה גם למקרי מוות שנגרמו בטעות, כחלק מובנה מן המערכת, באמצעות שיעורי השגיאה המוצהרים שלהם. אם שיעור השגיאה הידוע של אלגוריתם יצירת מטרות הוא 10%, המשמעות היא שמתוך מאה אנשים (או מקומות) שסומנו כמטרה, אנו יודעים מראש כי 10 הם חפים מפשע וייהרגו בטעות. במילים אחרות, המערכת מקבלת מראש מקרי מוות בלתי מוצדקים אלה כחלק אינהרנטי מאופן פעולתה. באופן פרדוקסלי, דווקא השרירותיות, היעדר הכוונה והריחוק ממקבלי החלטות אנושיים מקלים על הענקת לגיטימציה לתקיפות ומאפשרים להציג פגיעה בחפים מפשע ככשל טכני או תוצאה בלתי מכוונת של המערכת. כאשר מצרפים לכך את העובדה שנחילי רחפנים מפחיתים באופן משמעותי את הסיכון למפעיליהם ומאפשרים יצירת מספר גדול בהרבה של מטרות לתקיפה, מתקבלת דינמיקה המובילה להסלמה של האלימות ולהעמקת ההרס. 

הסלמה זו בהיקף ההרס ידועה גם בשם פרדוקס הדיוק. פרדוקס הדיוק מתרחש כאשר השימוש במערכות נשק מדויקות או מתוחכמות יותר, כגון נחילי רחפנים, אינו מוביל בהכרח לצמצום הפגיעה, ואף עלול להעצים את ההרס. במקרה של נחילי רחפנים, הגידול בהיקף הפגיעה עלול להתרחש גם כאשר הזיהוי מדויק ושיעור השגיאה המובנה במערכת נמוך. זאת משום שהיכולות המשופרות לייצר במהירות מספר רב של מטרות מעניקות לגיטימציה להפעלת אלימות בהיקף רחב יותר. השימוש במעקב מתמשך ורחב־היקף לצורך איתור איומים, ממסגר בני אדם כאיומים פוטנציאליים ומציג את חיסולם כפעולות דחופות והכרחיות. מערכות בחירת וייצור מטרות מבוססות בינה מלאכותית המופעלות כיום על ידי הצבא הישראלי בעזה ממחישות היטב את הדינמיקה הזו. בעוד שהצבא הישראלי הכיר בשימוש בחלק ממערכות הבינה המלאכותית, כגון "הבשורה", במסגרת תהליכי תיעדוף המטרות שלו, מערכות אחרות, כגון "לבנדר", נחשפו בעקבות מידע שמסרו חושפי מידע לעיתונות. הדיווחים שהתפרסמו (לרבות המידע שנמסר על ידי הצבא) מצביעים בבירור על עלייה דרמטית במספר המטרות המיוצרות באמצעות בינה מלאכותית, לצד מידה מצומצמת ביותר של התערבות או ביקורת אנושית (כתוצאה ישירה של הגידול העצום בהיקף ייצור המטרות). תוצאותיהן של מערכות בחירת וייצור מטרות אלה ניכרות בהרס הנרחב בעזה ובשיעורם הגבוה במיוחד של נשים וילדים בקרב ההרוגים. בפס הייצור האלגוריתמי של מטרות אנושיות בעזה, פלסטינים ופלסטיניות "מופללים" כמטרות ונהרגים תוך מעורבות אנושית מוגבלת ביותר. רוב מקרי המוות אינם נחקרים ואינם זוכים לבחינה או למתן דין וחשבון. בנוסף, מידע מהותי על אופן יצירת המטרות ותעדופן, ועל הסיבות והנסיבות שהובילו להרג, נותר לעיתים קרובות חסוי או בלתי נגיש, באופן שמונע בחינה משפטית אפקטיבית וייחוס אחריות.

כמובן, עזה אינה הזירה היחידה שבה לוחמת רחפנים מובילה לאלימות נרחבת ולפגיעה באזרחים. גם רוסיה וגם אוקראינה מפעילות רחפנים מבוססי בינה מלאכותית. לפי כתב העת הרפואי The Lancet, מערכות אלה גרמו ל"יותר נפגעים באוקראינה מכל אמצעי לחימה אחר". בזירה האיראנית, מערכת בחירת מטרות (ככל הנראה Maven), זיהתה את בית הספר היסודי לבנות בעיר מינאב כמטרה צבאית על סמך מידע לא עדכני ובשל קרבתו לבסיסים צבאיים. התקיפה גרמה למותם של כ-175 בני ובנות אדם, רובם תלמידות בית ספר צעירות, בגילאי שבע עד שתיים-עשרה. 

אמנם לא ברור אם בינה מלאכותית הייתה מעורבת בתהליך קבלת ההחלטות שהוביל לתקיפה המחרידה של בית הספר היסודי במינאב (ואם כן, באיזו מידה), אך ברור שמכלול מורכב של מערכות דיגיטליות דוחס ומערפל את תהליך בחירת המטרות, ובתוך כך גם את ההחלטה לתקוף את בית הספר במינראב. מערכות אלה מייצרות מטרות רבות יותר ובקצב מהיר מאי פעם, על בסיס תהליכים טכניים חסרי שקיפות. דחיסה זו מאיצה את תהליך יצירת המטרות באופן משמעותי, ומגבילה את תפקידם של בני ובנות אדם בתהליך. כבני אדם, איננו מסוגלים לעבד מידע או לגבש שיקול דעת מושכל בקצב שבו מכונות המלחמה שלנו מייצרות, מדרגות, ובוחרות מטרות חדשות. תהליך ייצור המטרות הדיגיטלי אינו רק מהיר מדי עבור הקוגניציה האנושית ואינו רק רחב-היקף ומורכב מכדי שניתן יהיה להבין אותו במלואו; הוא גם משנה את האופן שבו אנו תופסים "אנשים" ו"מטרות", את סוגי המטרות המזוהות ומתועדפות, ואת האופן שבו אנו מעריכים את חומרת האיומים ואת חוקיותן של פעולות צבאיות מתוכננות. 

באוקראינה, באיראן ובעזה, טכנולוגיות רחפנים אינן משנות רק את ניהול הלחימה; הן מעצבות מחדש את הרגישויות המשפטיות ואת האופן שבו כלים משפטיים מפרשים ומצדיקים אלימות, באמצעות מסגרות טכנו-משפטיות ההופכות יותר ויותר מבוססות נתונים, פרוצדורליות ומנותקות מן המציאות האנושית הממשית.

טכנולוגיות רחפנים חסרות כוונה, יכולת לבחינה עצמית וחרטה

טכנולוגיות רחפנים מאתגרות מושגים משפטיים של כוונה, אחריות ואחריותיות (accountability). אחריות משפטית – ובכלל זה אחריות פלילית אישית – מבוססת על ההנחה שניתן לייחס מעשים מזיקים למקבלי החלטות אנושיים, אשר ניתן להעריך, לבחון ולשפוט את כוונותיהם. אולם מכונות אינן מסוגלות לגבש כוונות, להפעיל שיקול דעת מוסרי או לשאת באחריות. יתרה מכך, מרכזיותן של טכנולוגיות רחפנים בתהליכי קבלת החלטות צבאיים מרחיקה את בני האדם המצויים "בלולאת ההחלטה" (human-in-the-loop) מן ההחלטות עצמן ומתוצאותיהן. 

מצב זה יוצר קשיים מיוחדים ביחס לפשעים כגון רצח עם, שבהם האחריות המשפטית תלויה בהוכחת כוונה מיוחדת להשמיד, במלואה או בחלקה, קבוצה מוגנת. חוקרות וחוקרי רצח עם עמדו זה מכבר על הקשיים הכרוכים בהסקת כוונות קולקטיביות או מדינתיות. טכנולוגיות רחפנים מקשות עוד יותר על ייחוס כוונה, משום שהן מפזרות את תהליך קבלת ההחלטות על פני מארג חברתי־טכנולוגי מורכב של מפעילים, מפקדים, מהנדסי תוכנה, אלגוריתמים, חיישנים ותהליכים אוטונומיים. 

התוצאה איננה רק אתגר ראייתי, אלא שינוי עמוק באופן שבו אלימות נחווית ומובנת. מנקודת המבט של מי שחשופים לתקיפות רחפנים, ההרס נתפס לעתים קרובות כשרירותי וחסר סוכנות אנושית. מקרי מוות רבים אינם נחקרים, מידע מהותי על החלטות של בחירת ואישור מטרות נותר בלתי נגיש, והאפשרויות לקבלת סעד או למיצוי דין מוגבלות מאד – ולעיתים אינן קיימות כלל. ככל שתהליכי קבלת ההחלטות מתווכים יותר ויותר באמצעות מסכים, זרמי נתונים ומערכות דיגיטליות, כך האחריות נעשית מפוזרת יותר וקשה יותר לאתר את מקורה. עדשת הרחפן מרחיבה אפוא את פער האחריותיות בלחימה בת זמננו: היא מרחיקה אנשים מהשלכותיהן של פעולות צבאיות, מותירה את הקורבנות חשופים לפגיעה הנראית כאילו הגיעה משום מקום ומכל מקום, ויוצרת וואקום שבו אין ממי לבקש תשובות ואין מי שייתן דין וחשבון. 

 שירי קרבס היא פרופסור למשפטים ומנהלת המרכז למשפט כהגנה (Centre for Law as Protection) באוניברסיטת דיקין שבמלבורן, אוסטרליה. בנוסף, היא עמיתת מחקר בכירה של קרן אלכסנדר פון הומבולדט באוניברסיטת המבורג וחוקרת במרכז של אוניברסיטת סטנפורד לביטחון ושיתוף פעולה בינלאומי ( CISAC). מאמר זה מבוסס על מחקר במימון ממשלת אוסטרליה באמצעות מועצת המחקר האוסטרלית (DE230101646).