פרק 22. לא שדה ולא קרב: צבא על-אנושי עם ד”ר לירן ענתבי

להאזנה לפרק לחצו פליי כאן, יש לגלול מטה על מנת לקרוא את התמלול


שלום לכולם, אפשר לומר שהפרק הנוכחי הוא סוג של ספיישל פוסט-יום העצמאות כי הדבר הכי קרוב שהפודקאסט הזה יכול לעשות למפגן צבאי או מטס, זה לשרטט את תמונת הצבא ושדה הקרב העתידי, ולגלות היכן בעצם העתיד הזה כבר כאן, אבל בצורה שונה ממה שאנחנו מדמיינים

שדה הקרב משתנה והוא כבר לא “שדה קרב” במובן של שדה וקרב

זו הייתה האורחת שלנו, ד”ר לירן ענתבי, מנהלת תוכנית טכנולוגיות מתקדמות ובטחון במכון למחקרי בטחון לאומי, מרצה באקדמיה, ויועצת בתחום הטכנולוגיה והביטחון. בעזרתה נבין איך נראית לוחמה ללא שדה וללא קרב ואולי אפילו ללא בני אדם


כשאני אומרת “שדה קרב” אתם בטח מדמיינים סצנה מסרט היסטורי או סרט פנטזיה, של שני כוחות שרצים בשאגות זה לעבר זה בעמק ירוק. בפועל, זה הריי כבר מזמן לא ככה

אין בכלל שדה קרב שבו כוח צבאי פוגש כוח צבאי, ובמקום להיות רכוב על סוסים, הוא רכוב על הכלבים הרובוטיים של בוסטון דיינמיקס. לפני זמן מה, מתראיין הרמטכ”ל הבריטי ואומר שעד שנת 2030, כ-25 אחוז מהכוחות הבריטיים יהיו רובוטים, וזה, בין היתר, יסייע להם לפתור פער של אלפי לוחמים, כי הם לא מצליחים לגייס ואין שם גיוס חובה, וגיוס הפך למשהו שהוא פחות אטרקטיבי. חשוב מאד להבין על מה מדובר כי הוא אומר 25 אחוז מהכוחות אבל זה לא שיצעדו לוחמים רובוטים כאלה לבושים במדים הבריטים היפים, או יעזרו במשמר המלכה. לא, אנחנו מדברים על חלופה של מערכות שלא נראות כמו אדם, הן מסוגלות לחפש, לאתר, ולפגוע במטרה, ללא מעורבות יד אדם. מה זה ללא מעורבות יד אדם? רגע נדייק את זה: המערכות האלה לא יוצאות למלחמה על דעת עצמן ולא מחפשות או בוחרות מטרה או סוג של מטרות על דעת עצמן. הן קודם כל פותחו, נבנו, תוכנתו, ואח”כ גם עוצבו והופעלו, וגם ניתנו להן נתונים ומידע

מאז תקופת המלחמה הקרה, אנחנו רואים מעבר להרבה יותר לוחמה א-סימטרית, ומאז הנקודה הטכנולוגית של הופעת הסייבר במהפכה הטכנולוגית בעניינים צבאיים של שנות התשעים, אז אנחנו כבר מתחילים לדבר על דברים שבאמת קורים בממדים שאי אפשר לראות אותם, הממד הקיברנטי. אם מישהו עכשיו יוצא באיזושהי מתקפת סייבר שתשבית למדינה אחרת את כל תחנות הכוח או את כל הרמזורים ותוביל לאסונות גדולים, הם יהיו גדולים לאין שיעור אפילו ממה שיכול היה להתחולל בשדה קרב. ובטח בעידן שבו הקצב משחק תפקיד מאד גדול והוא עולה על קצה גבול היכולת האנושית, בין אם בסייבר ובין אם מערכות שעוברות לשימוש בבינה מלאכותית. אם מישהו יצליח לייצר איזשהו כפתור שמשבית לחלוטין את היכולות של הצד השני, הכפתור שלו ניצח ובכלל לא הגענו לנקודה של התנגשות ממש

זה לא צריך להפתיע אותנו שככל שהחיים שלנו הופכים ליותר וירטואליים אז גם המלחמות שלנו יהיו יותר מלחמות סייבר. לפי מה שלירן אומרת, המלחמות יהפכו מהירות מאד ובלתי נראות לעין, ושדות הקרב יתחלפו בסיבים אופטיים. בואו נחשוב רגע על ההשלכות של זה: קודם כל, להיות חייל קרבי בעתיד הקרוב משמעו להיות ג’ובניק, לשבת מול מחשב בקריה ולתכנת

כן, מלחמת כפתור בכפתור. עברנו מהכפתור האדום של הגרעין ומי משגר קודם, והאם לצד השני יש את יכולת המכה השנייה, לכפתור סייברי, שמי שיהיה לו מתכנת יותר טוב, או מערכת אוטונומית שתתכנת יותר טוב באופן אוטונומי… ואז כאילו את בטח נורא מרגישה עכשיו בגוף “סקיינט”, לא נעים לך

סקיינט היא שמה של הבינה המלאכותית בסדרת סרטי “שליחות קטלנית” שנלחמת בבני האדם. המדע הבדיוני המערבי (וזאת בשונה מהמדע הבדיוני היפני למשל) מפמפם לנו במשך עשרות שנים כבר את הפחד הזה, שבינה מלאכותית תפנה נגד בני האדם ותשמיד אותם. הפחד הזה נוכח גם בדיונים רציונליים יותר לגבי רובוטים אוטונומיים בצבא והפחד שהם יקבלו החלטה לא מוסרית, או יפרשו את התכנות שלהם באופן בעייתי ויפגעו בסוף בבני אדם. לירן חושבת שדווקא ההיפך הוא הנכון

אני מאמינה ביתרון של המכונה על האדם מהרבה מאד בחינות: היא לא מפחדת, היא לא עייפה, היא לא עכשיו מסמסת לחבר/ה שלה בבית, היא לא מונעת מנקמה על פגיעה באדם אהוב או מאיזושהי סיבה אחרת – היא פועלת לפי מה שתכנתנו אותה. אני מאמינה במכונות, אני פשוט לא מאמינה בנו שאנחנו יוצרים אותן בצורה נכונה, אגב, לא רק ביצור ובפיתוח של המערכות האלו, גם בהטמעה שלהן, גם בשימוש שלהן. ואני רואה למשל דו”ח שהוגש ב1 במרץ לקונגרס האמריקאי ע”י ועדה שמונתה עוד ע”י הממשל של טראמפ, אבל אנשים שבאמת לא שנויים במחלוקת – אריק שמידט מנכ”ל גוגל לשעבר, רוברט וורק שהיה סגן שר ההגנה האמריקאי – האנשים האלה עמדו בראש ועדה שעוסקת בבינה מלאכותית ובטחון לאומי בארה”ב, נושא שאני כתבתי אודותיו כאן בישראל, ואחת מההמלצות שלהם לארה”ב היא לאסור את הניסיון למנוע את השימוש במערכות כאלו. הם אומרים: ארה”ב לא צריכה להצטרף לניסיון למנוע את השימוש במערכות האלו

למה? הם נוקטים בטיעון מתחום הפילוסופיה של המוסר ואומרים, אם יש כאן איזשהו פוטנציאל למנוע פגיעה בחיי אדם, מהסיבות שמנינו קודם אודות המערכות האלו, אז חובה עלינו קודם להתנסות בשימוש בהן ורק אחר כך להחליט כיצד והאם להגביל אותן. אני מתחברת לדבר הזה כי אני מאד רוצה להרחיק את האדם משדה הקרב. יש כבר למשרד ההגנה האמריקאי, למשל, קוד אתי, של חמישה סעיפים מאד ברורים – עדיין לא ברור איך ליישם אותם, אבל לפחות הם החליטו מה הם רוצים לחשוב ולהרגיש לגבי המערכות האלו – שניתן יהיה לעקוב אחרי הפעולה שלהן, שהן יהיו נשלטות. ואני חושבת שהשיח בישראל הוא מעט מפגר אחרי העניין הזה וגם אם הוא מתקיים, הוא לא מתקיים בגלוי ולא מאפשר דיון אודותיו

דבר נוסף שחשוב להבין בתמונה שלירן מציירת לנו כאן, היא שאנחנו לא מדברים על עימות של חייל בשר ודם עם רובוט מסוג “אטלס” מפחיד כזה של בוסטון דיינמיקס, שעושה סלטות מהירות לעברנו ואין לנו סיכוי. אנחנו מדברות בעצם על מלחמת נשק אוטונומי בנשק אוטונומי אחר

במחקר שערכנו כאן במכון למחקרי בטחון לאומי ופורסם ב2015, שהוביל אותו יואב זקס ואני ניהלתי אותו, בעצם ניסינו לחזות באמצעות חקר עתידים את ההתפתחות של כלים בלתי מאוישים בתחום הצבאי. דיברנו על כך שרוב הלוחמה תעבור להיות מבוצעת, ומתוכננת קודם כל, ע”י מערכות אוטונומיות, משימות יצאו לפועל ע”י מערכות אוטונומיות, ולבסוף ככל הנראה תפעלנה בנחילים, כי הקונספט הזה הוא יהיה הרבה יותר אפקטיבי. ואז כבר ניסינו להבין מה המשמעויות של זה. אז קודם כל, אולי מלחמת כפתור בכפתור. מערכה שהיא מתרחשת מעל לקצה גבול היכולת האנושית ואתה תלוי לחלוטין במערכות האוטונומיות, ואיפה שאתה מחליט להשאיר אדם מסיבות ערכיות ומשפטיות, אתה יוצר צוואר בקבוק שאולי יגרום לך להפסיד מול האויב שלך שלא ישאיר אדם, כי אין לו את אותם ערכים

למדינה כמונו שסופרת את חלליה כל שנה, זו בשורה מעולה שהמלחמה מתרחקת מגופו של החייל. אבל במציאות של לוחמת הכפתור שתיארנו, הגבול בין שדה קרב לעורף אזרחי מיטשטש, אז האירוניה היא שאולי דווקא אנחנו האזרחים, הופכים לחשופים יותר לפגיעה בעתיד שכזה. אבל אנחנו עוד לא שם, אנחנו רק בדרך לשם. ביקשתי מלירן לתאר איך נראים עימותי העתיד הקרוב כשאנחנו בחצי הדרך לשם

המערכות הללו נמצאות כבר בפריסה יחסית רחבה, אבל המערכות שנמצאות בפריסה יחסית רחבה הן מערכות לא מאד מתקדמות. זאת אומרת, חלק מהמערכות האלו, על בסיס טכנולוגיות דומות לאלו שכבר השתמשנו בהן בשנות השמונים. למשל, יודעות לאתר מכ”ם, להתביית עליו ולהשמיד אותו, ללא מעורבות יד אדם, בתא שטח שהוגדר מראש, עם מערכת מתאבדת כלשהי. יכולת שהוצגה כבר בשנות השמונים ובעצם עשתה עבודה יפה אז. ועל בסיס הטכנולוגיות האלו שהלכו והתפתחו, היום המערכות האלו יודעות לחזור לנחיתה, למשל, אם הן לא מצאו מטרה, אפשר לעשות איתן עוד כל מני דברים, הציגו שימוש, למשל, ממש בעת האחרונה, בעימות שבין אזרבייג’ן לארמניה

אחד המוטיבים שחזרו בכמה פרקים בפודקאסט הזה כשדיברנו על בינה מלאכותית וטכנולוגיה אוטונומית, הוא שאנחנו מפחדים מאיזשהו דמיון מד”בי וממחזרים סוגיות פילוסופיות, אבל בפועל הטכנולוגיה כבר כאן בגרסאות חלקיות ו”מטומטמות” יותר. במקרה של לחימה, גם הטכנולוגיות הבסיסיות יותר מהוות סכנה עצומה

אנחנו רואים מה זה מערכות נשק אוטונומיות שיוצאות מהתעשיות וכמה זה מתקדם ויכול בעצם לקחת לכיוונים מטורפים, ואז אומרים “טוב, את זה ארגון טרור לא יכול לעשות”. לא יכול לעשות? וואלה. אז בואו נחשוב רגע בקומון-סנס של ילד שיושב מול האינטרנט ויכול להשיג ידע באינטרנט, בדארקנט ואולי לא: לארגון טרור יש יכולת להשיג נשק, חומרי נפץ וכו’? יש, ראינו את זה קורה. לארגון טרור יש יכולת להשיג, למשל, טכנולוגיות זיהוי פנים פשוטות, שיש לנו בטלפונים סלולריים או בכל מני אפליקציות שקיימות על המדף, שאפשר להוריד אותן, שמישהו כבר תכנת? האם אפשר לחבר את זה ולעשות עם זה משהו ולהציב את זה באיזשהו מקום? הופה! מערכת נשק אוטונומית, נחותה, בידי ארגון טרור – לא הייתי רוצה לראות את זה קורה

מדברים על השימוש ברחפנים לצורך פיזור חומר רדיואקטיבי שיגנבו מאיזשהו מתקן רפואי. במתקנים רפואיים שונים יש חומרים רדיואקטיביים, ומתקן כזה לא מוגן מספיק, אפשר לגנוב ולהפוך את זה לפצצה מלוכלכת. לא פצצה שתתפוצץ, לא פיצוץ גרעיני, אבל לפזר חומר שירעיל את האזור. זה היה בסימולציה בוועידת הגרעין ב2016, אז אובאמה מארה”ב וקמרון מבריטניה נאלצו להתמודד עם השאלה מה הם יעשו כמנהיגי העולם החופשי. לא פשוט בכלל, והדברים האלה נמצאים לפתחנו. מדברים על העימות הבא האפשרי בצפון עם חיזבאללה, אולי עם כוחות נוספים שנמצאים בצפון, ומדברים על פגיעה מאד קשה, אבל גם מנסים להגיב לכך. אנחנו יכולים גם באותה מידה לדמיין כיצד אותה טכנולוגיה גם מאפשרת לנו לייצר הגנות נוספות. הנושא של כיפת ברזל, לפני 10-15 שנה היית אומרת מדע בדיוני

כרמל: עוד אחד מהחששות הגדולים לגבי החייל העתידי היה שניקח בנאדם ונשדרג אותו ללוחם סייבורג שנוכל לעצב על פי צרכינו, סופר-חייל שכזה סטייל קפטן אמריקה. כתבו על זה עשרות ספרים פילוסופיים, היה על זה פרק נהדר בסדרה “מראה שחורה” אבל ממה שלירן מספרת זה בכלל לא הכיוון בצבאות העולם כרגע. אני מציעה ללירן שני תרחישים פוסט-אנושיים נוספים לעידן הביניים הזה של מעבר הדרגתי לבינה מלאכותית, ובינתיים שיתוף פעולה בין בני אדם לרובוטים אוטונומיים בצבא. התרחיש הראשון, נקרא לו התרחיש האנטי-הומניסטי, הוא שערך חיי האדם ישחק, שחיילים יתפסו כ”זולים” יותר ביחס לטכנולוגיות האוטונומיות היקרות, שהן אלו שמשיגות לנו את היתרון בקרב, וכך למרות שהמערכות האלו נועדו במקור כדי להחליף בני אדם בקרב, בפועל חיילים יוקרבו על מנת להגן עליהן. התרחיש השני, נקרא לו תרחיש ההאנשה, זה משהו שכבר מתרחש בתעשייה וחולל את תופעת הרובוטים החברתיים. אנשים נקשרים למכונות שהם עובדים איתן, במיוחד כשיש להן מראה קצת אנושי או כמו אנושי או חייתי, אבל לא רק. וחיילים מיוזמתם עלולים להסתכן על מנת להגן על הרובוטים האוטונומיים. לירן חושבת שאחד מהתרחישים הללו הוא מופרך לחלוטין ואחד כבר מתרחש. כמו שאומרים “תייגו את שניהם ואל תספרו להם מי זה מי”… נסו לנחש רגע איזה תרחיש מתרחש ואיזה מופרך

לירן: בתחילת השימוש ברובוטים שונים, בעיקר רובוטים מפרקי פצצות במלחמה בעיראק ובאפגניסטן (של האמריקאים), היה איזה מקרה, הם היו נותנים לרובוטים האלה שמות והיו מתייחסים אליהם כאל חבר צוות, וחבר צוות חשוב ויקר כי הוא עושה תפקיד, הוא מפנה להם את הדרך בלי שהם ימותו בדרך, ומטענים מאולתרים הייתה סיבת המוות מספר אחת של כוחות וקבלנים אמריקאים באזורים האלה. בקיצור, סיפור על צוות אמריקאי שהיה להם רובוט ונתנו לו שם ונתנו לו ערך וחשיבות בצוות, ותחת אש אחד החיילים רץ להציל אותו ונפצע. שאלו אותה: תגיד, למה עשית את זה? הוא אמר: מה זאת אומרת? הוא חבר צוות, לא משאירים חבר צוות מאחור! וזה הנושא של ההאנשה של הדברים האלה ויותר מדי וול-אי שראינו ואנחנו חושבים שהוא נורא חמוד ואיזה מסכן בעבודה הסיזיפית שלו לנקות את העולם מכל הזבל שהאנושות השאירה אחריה

אבל כשלוקחים את זה רגע בסיפור לא מחויך, אני חושבת כמי שחיה במדינה דמוקרטית ליברלית, מדינת ישראל, ומכירה דמוקרטיות ליברליות אחרות, אנחנו רואים באמת הקצאה של משאבים עצומים לא רק בשביל להגן על חיי הלוחמים שלנו אלא גם (ומדינת ישראל היא מהראשונות לעשות את זה בעולם) להשקיע כסף בלנסות למנוע פגיעה בחפים מפשע בצד השני. והשקענו כסף באיך לעשות את זה בשביל להציל חיים, וזה בעצם האתוס שלאורו אנחנו מחונכים ואיתו אנחנו הולכים, ואם נאבד אותו אז אנחנו בעצם איבדנו את הסיבה שבשבילה אנחנו נלחמים והצד השני ניצח שלא בשדה הקרב. אני לא רואה מצב כזה

תודה רבה לדנה שכטמן-שני, היארדיו דנה“, על הקאבר לטיטאניום של סיה שהושמע בפרק

ממש לפני שבועיים צה”ל יצאו בהודעה דרמטית על סוג חדש של לוחם קרבי, לוחם טכנולוגי שיפעיל רחפנים ורובוטים, עדיפות לרקע בגיימינג. תפקידים כאלו כבר קיימים בצבא ארה”ב, ועלה חשש שהחיילים הצעירים יתייחסו לקרבות כאל משחקים. הזכרנו זאת גם בפרק 10 כשדיברנו על דימויי ראיית מכונה וחששנו שמאחורי אותו ייצוג שהתרגלנו לירות בו בקלות בגיימינג, יעמוד עכשיו אדם ויהיה קשה לעשות את השינוי בתפיסה. לירן לא חושבת שזו סכנה רלוונטית ואפילו סבורה שהשיח על זה מזיק

אותם אנשים שפועלים מרחוק, מפעילים מערכות מרחוק, בין אם זה בריחוק מהסכנה (זאת  אומרת נמצאים כן באזור שדה הקרב) ובין אם אנשים שפועלים ממש מרחוק. למשל, בארה”ב המפעילים של המל”טים שפועלים בפקיסטן, תימן, ואפגניסטן, יושבים 40 דקות מלאס וגאס. אז כבר היום בעצם אנחנו נמצאים בדבר כזה. מאד חשוב לי להגיד שרוב, כמעט כל, האנשים שמפעילים את המערכות האלו, יודעים שהם לא במשחק מחשב, יודעים שהם עשויים לקחת חיי אדם ושיש להם אחריות גדולה, ומעטים יוצאים בטענות שהם הרגישו שהם באיזשהו משחק מחשב וטבחו בכל הבא ליד (כי כבר עלו טיעונים כאלה אז שלא נשחק לידיהם של מי שטוענים את הטיעונים האלו). הרבה פעמים הטענות האלה פשוט באות להחליש את אותו שימוש בטכנולוגיות, שבעצם יש להם חשיבות מאד גדולה בצמצום הפגיעה בחיי אדם, כולל חפים מפשע בצד השני, נורא חשוב לי להגיד את זה

ראינו את הדבר הזה, למשל, בהצלחה של הגיוס לדאע”ש. דאע”ש הרבה פעמים ניסה למכור לכל מני אנשים, בין היתר עם רקע מוסלמי, לקשור אותם גם לרעיונות ולערכים, וגם לבוא ולהגיד להם: כל מה שראיתם במשחקי המחשב, בואו תעשו אצלנו. אבל אנחנו לא פועלים בצורה הזו, הפוך: אנחנו מדברים על טוהר הנשק ומבחינים את משחק המחשב או את הטכנולוגיה ואת הסטיק שבו אנחנו משתמשים, ממה שהוא עושה ומהתוצאה שהוא יוצר, ובאמת קשה לי לדמיין דבר כזה קורה אצלנו. לא כמשהו נקודתי, מקרים בודדים יכולים לקרות, אבל כערך, כמגמה, לפחות עם האנשים שאני מכירה היום שתפקידם הוא לחנך ולהוביל, גם ביחידות הטכנולוגיות וגם בחיל החינוך ובמקומות אחרים, אני לא רואה את זה קורה

שאלתי את לירן האם בינה מלאכותית היא מרוץ החימוש החדש, שמחליף את האיום הגרעיני

לא, זה לא האיום הגרעיני החדש, כי שוב, אנחנו לא נמצאים כרגע במלחמה קרה ובאיזשהו איום של ראשי קרב גרעיניים מול ראשי קרב גרעיניים, אנחנו מדברים על דברים שיכולים לפעול בשדה הקרב עצמו, החל ממל”טים כאלה שיודעים להתאבד על מטרות מסוימות, או טנקים שיודעים לפעול ברמה מסוימת של אוטונומיות, קצת גמלונית אבל בכל זאת, ויכולים להטות קרב. והדבר הזה יש בו היום מרוץ חימוש בין ארה”ב, רוסיה, סין, ישראל גם נחשבת מדינה שמפתחת, גם לקוריאה הדרומית יש מערכות כאלו והיא מפתחת. וגם למדינות שאנחנו לא תמיד חושבים עליהן כמדינות לוחמניות, כמו אוסטרליה, יש מה להגיד בעניין והיא פועלת כדי לאפשר חופש פעולה. זה תחום מאד בולט בגלל שאפשר להתחיל לפעול בו גם אם אין לך את הטכנולוגיות הכי מתקדמות, אתה יכול להתבסס על טכנולוגיות דור אחד ושניים אחורה ולהתחיל לפתח ועדיין ליצור שינוי בכוחות שלך

הבעיה היא שאנחנו רואים במרוץ החימוש הזה דברים לא טובים קורים, וכל מני פיתוחים שמופעלים בכל מני שדות ניסוי ע”י רוסיה שפועלת במזה”ת, אירן שמתחילה להפעיל כל מני דברים, וזה דברים שהם לא פועלים בסטנדרטים המערביים ושולחים אותם לפעול בכל זאת, וזה מאד מטריד. וזה קורה היום, זה קורה אתמול, זה לא בעתיד, זה עכשיו. כוחות הופכים הרבה יותר קטנים, מנסים להיות בעלי כוח אש הרבה יותר גדול, אבל בזמן שהם קטנים ועובדים בצורה מאד ממוקדת וספציפית. זה כבר לא התקופה של המלחמה הקרה שיש מרוץ של ראשים גרעיניים והגיעו למצב שאפשר להשמיד את העולם יותר מפעם אחת, שינינו את הפריזמה והניסיון הוא להשיג את העוצמה המתאימה והמדויקת ביותר והמהירה ביותר, יש תחרות על מהירות ועל דיוק

אמרנו שאחד ממאפייני הלוחמה העתידית הוא המהירות שלה. הדבר הזה נכון גם כשלא מדובר בלוחמת סייבר או רובוטים, אלא בנשק קונבנציונלי יותר

לזה צריך להוסיף מרוץ חימוש שמתרחש רק בקרב המעצמות (מדינות קטנות יותר מתקשות מאד) וזה נשק היפר-סוני, נשק במהירות היפר-סונית, מהירות מאד מאד גדולה שמאפשרת לנשק להיות משוגר, בואו נדמיין את זה, מארה”ב… בעצם האמריקאים הציבו לעצמם אתגר להיות מסוגלים לפגוע באופן קונבנציונלי בכל נקודה על פני כדור הארץ, תוך שעה. והדבר הזה כשהוא מגיע לנשק הוא יוצר לנו בעיות חדשות, אגב אסטרטגיות. יש מי שטוען שזה מרוץ חימוש לגיטימי, יכול אפילו לסייע בלוחמה בטרור, היכולת לשגר מכל מקום הופך את היכולת שלך לפעול נגד טרור לבלתי תלוי, אתה לא צריך להציב כוחות איפשהו וכו’. מצד שני, במכ”מים זה עלול להראות כמו שיגור של נשק גרעיני. אולי נשגר משהו כזה ונוביל לתגובה גרעינית, זו אחת מהטענות שעולות נגד מרוץ החימוש הזה והוא מתחולל אצל כל הגדולות

בניגוד גמור למהירות הטכנולוגית הזו, לירן חוששת שמה שעומד בדרכנו כיום, הוא בכלל לא עניין טכנולוגי, אלא דווקא גורמים מעכבים מאד אנושיים ומוכרים

כשמסתכלים על הערכאות שמטפלות בנושאים האלה, בין היתר באו”ם והוועדות שמטפלות בזה, הן לא מטפלות בבינה המלאכותית, הן מטפלות בהיותה חמושה, תחת ועדה שמטפלת בנשקים קונבנציונליים. מה?! זה בכלל לא דומה ולא קשור ולא יכול להתקיים תחת אותו שיח שבו אנחנו דנים במוקשים או בפצצות מצרר, משום שהדבר הזה אפשר לגנוב אותו באמצעות סייבר, אפשר לשבש אותו באמצעות סייבר, אפשר בכלל לא לדעת איך הוא מתפתח או מה הקופסא השחורה שבתוכה מתקבלות ההחלטות. זה לא אותו שיח, זה לא אותם מושגים, אני חושבת שהדיון הזה הוא פשוט מוטעה, וזה שהוא גם מתקיים בקצב האיטי בהיסטוריה כי כל כך הרבה פוליטיקה בוחשת בו… אחד המחדלים הגדולים (וגם תואר כמחדל בדו”ח מבקר המדינה מ2016 אם אני לא טועה) זה הנושא של איום הרחפנים. מבקר המדינה מתאר שם כיצד איום הרחפנים ידוע לנו, מדינת ישראל, כאיום כבר כארבע שנים ( הוא אומר אז, ב2016) אבל לא מטפלים בו כי יש ויכוח בין משטרת ישראל לחיל האוויר, מי אחראי לאיום אווירי שהוא בשטחי המדינה ולא מחוצה לה, ומה אם יופעל מתוך שטחיי וכו’. הכירו בבעיה, התחילו להציע פתרונות שונים, ובכל זאת אנחנו רואים בעצם שאנחנו לקראת הקפיצה הבאה

מדברים על נחילים של רחפנים שיגיעו, אולי יופעלו באמצעות בינה מלאכותית, או שלכל הפחות נזדקק – וזו הערכה אמריקאית מהתקופה האחרונה, שמדברת על נחילים של רחפנים, שהדרך היחידה להתמודד איתם תהיה מערכות מגובות בינה מלאכותית, משום שבן אנוש והמערכות שקיימות היום, לא יצליחו להתמודד עם הכמויות הגדולות, זה בעצם נועד לפגוע ביכולות של אותן מערכות. מה שהכי מתסכל אותי בעניין הזה, זה שיש איזשהו טווח בין מתי שאנחנו מתחילים להשתמש בפתרון לבין מתי שהאויב מבין, מפנים, ומתחיל לייצר את האתגר הבא. אני קוראת לו מרחב המחקר וההיערכות, אבל אנחנו לא תמיד חוקרים ולא תמיד נערכים שם, ואנחנו מפספסים את זה. אנחנו מתחילים לטפל בזה בעצם כשזה כבר מכה בנו. אנחנו פשוט צריכים להיות כל הזמן בהערכה ובהסתגלות, כי בעצם הארגונים, ובעיקר ארגוני הטרור שכבר הפכו לצבאות טרור, שאנחנו נלחמים מולם, נמצאים כל הזמן בשינוי והסתגלות, ואנחנו פחות טובים בזה. אנחנו פחות טובים בזה מסיבות טובות: אנחנו מדינה, אנחנו בירוקרטיה, אנחנו דמוקרטיה, לוקח זמן לאשר דברים. אבל יש לנו גם סיבות לא טובות שבעטיין אנחנו משתנים יותר באיטיות, ושם אני לא מוכנה שנפספס, לא מקובל עליי, ועל זה אני נלחמת, זאת השליחות

אנחנו משקיעים, בישראל יודעים להשקיע המון במחקר, גם בסיסי באקדמיה, וגם מחקר יישומי ביחידות הרלוונטיות או בגופים הרלוונטיים, בתעשיות הרלוונטיות, אבל פחות יודעים להעריך בישראל את מחקר המעטפת שדרוש לנו בשביל להצליח. המחקר מוכיח שאי אפשר לעשות מהפכה אמיתית בשימוש בטכנולוגיות האלו, או מה שמכונה “מהפכה בעניינים צבאיים”, אי אפשר להשיג אותו רק באמצעות טכנולוגיה. אתה חייב שינוי ארגוני ושינוי דוקטרינרי, ואותי מאד מתסכל כחוקרת שצריך ללכת ולהתדפק על הדלתות גם בשביל להנגיש כבר ידע שיצרנו, ולא מעריכים ידע וידע אקדמי כמו שמעריכים למשל בארה”ב או בקוריאה. והם מעריצים אותנו והם רוצים ללמוד מאיתנו, אבל כשמסתכלים על היכולת פה לגייס תקציבים למחקר ולבוא להביא ידע שהוא מעבר, בין אם זה למשרד הביטחון ובין אם זה לצבא, זה עבודה שהיא יותר קשה מהעבודה המחקרית, וחבל, כי אנחנו מפספסים איזשהו ערך שיכול לקחת אותנו עוד רמה אחת קדימה. 30% מהעבודה שלי, אני לא מגזימה, אני עוסקת בלהנגיש ידע כדי שיהיה זמין בצורה נהירה ופשוטה גם לציבור וגם למקבלי ההחלטות, ואני חושבת שזו תכונה ישראלית פחות טובה לדחות את הידע הזה, שהרבה פעמים פרטים מסוימים או קבוצות מסוימות חושבות שהן יודעות את הכל או שאפשר לייצר את הידע רק בתוכן

הפערים הללו בין ההתפתחות הטכנולוגית לאנושית מעלים בי עוד תהייה: הבנו שצורת המלחמה תשתנה מקצה לקצה, אבל מה עם הסיבות שבגללן אנחנו נלחמים? האם גם שם יש שינוי

אז בואי נדבר על דור חמישי, שהסינים מאד שולטים היום בעולם בפריסה של הרשתות האלה, וכל המידע אצל הסינים. מה הם יכולים לעשות עם המידע הזה? אנחנו מדברים על לוחמה שאולי היא לוחמת כפתור. הדברים כבר משתבשים, ופתאום הקו (שגם ככה היטשטש בגלל הטרור והגרילה) בין עורף לשדה קרב, הולך ועוד יותר מיטשטש, כי אנחנו נכנסים בעצם ללוחמת נתונים. ואומרים שנתונים הם, דאטה היא הנפט של העידן החדש, אז יש פה מאבק על הנתונים. אם בעבר האמריקאים הושמצו שהם יצאו לכל מני מלחמות במזה”ת בגלל או בשביל הנפט, האם אנחנו רואים מישהו יוצא למלחמה על הנתונים? אז היום המלחמה היא מלחמה כלכלית, האמריקאים, למשל, בשנתיים האחרונות, הוציאו כל מני הנחיות שאסור למכור רכיבים מסוימים לסינים כדי למנוע מהם להשיג באותה מלחמה, שהיא לא מלחמה בשדה קרב, אבל היא בשדה הקרב של הנתונים או של הבינה המלאכותית. ושדה הקרב של הפיתוח הוא גם שדה קרב 

לסיכום, דארווין לא אמר שהחזק שורד אלא שהמתאים, זה שמסתגל במהירות לסביבה חדשה, הוא השורד. והדבר הזה נכון במיוחד בשדה הקרב. אז כן, צבא העתיד הוא צבא מאד מאד טכנולוגי, אבל חדשנות לא תמיד משמעה קדמה טכנולוגית, לפעמים זה אפילו ההפך. ואת המסר הזה צריך לזכור במיוחד בעולם של חוסר ודאות, משבר אקלים, ומגמות רטרו למיניהן

ככל שהקדמה הטכנולוגית בקרב כוחות מסוימים עלתה, רואים ניסיון של הצד הפחות מפותח ללכת בכיוונים פחות טכנולוגיים, עוד יותר פחות טכנולוגיים…כמו שלמשל אנחנו רואים בקרב חמאס את השימוש בעפיפונים ובלונים, למרות שיש להם את היכולת להשתמש ברחפנים. מאמר שכתבתי ביחד עם אביעד מנדלבאום שחוקר כאן במכון, ובעצם ניסינו לנתח למה חמאס לא משתמש כל כך ברחפנים, וראינו שיש לזה סיבות, גם טכנולוגיות וגם אחרות: תפיסתיות, ארגוניות ואחרות. ובעצם מה שאנחנו רואים זה ניסיון עוד יותר גדול לפגוע באזרחים. זאת אומרת, ככל שדה הקרב הופך ליותר טכנולוגי ויותר קשה להתקדם בו, להזיז בו כוחות או בכלל לפעול בו, אז בעצם אנחנו רואים צדדים שהם לא דמוקרטיים ליברליים, שלא חרטו על דגלם את הניסיון למנוע פגיעה בחפים מפשע ובאזרחים ובמי שאינם מעורבים, בעצם מנסים באופן מכוון לפגוע באזרחים. זה טרור לכל דבר ועניין אבל זה העידן שאנחנו נמצאים בו מבחינת מלחמות והוא עשוי אף להסלים, כי בגלל שהקדמה הזו דורשת כל כך הרבה ועולה כל כך הרבה, הרבה כוחות יישארו מאחור ולא יוכלו להדביק את הפער

זה גורם לי לחשוב למשל על “מלחמת הכוכבים“, בתקופת רייגן בארה”ב, שבעצם יש מי שטוען שהפרויקט של מלחמת הכוכבים, אותה מערכת שנועדה ליירט את הטילים הגרעיניים של הסובייטים מחוץ לאטמוספירה באמצעות לייזר, משהו גרנדיוזי; בעצם “מלחמת הכוכבים” היה כינוי גנאי שנתנו לפרויקט הזה כי הנשיא בא מהוליווד אז אמרו הוא חי בסרט. יש מי שטוען שהדבר הזה הוביל את הסובייטים לנקודה שבה, מבחינה כלכלית ומבחינות אחרות, הם לא יכלו יותר, וזה אחד מהגורמים לפירוק הגוש הסובייטי ולנפילת חומת ברלין בסופו של דבר – וזה פרויקט שלא יצא לפועל. בעצם טכנולוגיה יכולה להוביל לשינויים גיאופוליטיים מאד משמעותיים גם אם היא לא מתרחשת באמת

ומצד שני, אנחנו רואים מקרים בהיסטוריה שבהם המציאות הכריחה אותנו להחזיר סוסים, סוסים אמיתיים. כשהכוחות הראשונים יצאו לאפגניסטן אחרי פיגועיי 11.9 (יש על זה גם סרט, 12 לוחמים), הלוחמים האמריקאים הגיעו לאפגניסטן, רצו לפעול עם בעלי ברית שם ונאלצו לרכוש כישורי רכיבה וגם להתקשר לאמריקה ולהגיד: תשלחו לנו מזון לסוסים. אני יודע שאין לזה מק”ט! ודונלד ראמספלד, שר ההגנה דאז, באיזשהו נאום אומר: אמרו עלי שאני אולד טיימר כשחזרתי להיות פעם שנייה שר הביטחון, אבל אף אחד לא דמיין שאני אחזיר את חיל הפרשים. אבל זה היה כורח המציאות והוא מדבר על זה נורא יפה והוא אומר: החדשנות שנדרשת מאתנו אל מול אותם אויבים, זה להתמודד עם הבלתי ידוע, והבלתי ידוע הזה הוא לא רק נשקי הייטק (הוא ממש אומר את זה במילותיו במאמר שמבוסס על הנאום), זה תחרות על האיך ועל המה. וגם על הערכים שאנחנו מביאים איתנו

עד כאן להפעם, בפרק הבא נישאר בעולם הלחימה, ונדבר על ההיסטוריה של אמנויות הלחימה בסין בהקשר על-אנושי. אם מעניין אתכן/ם איך לירן התגלגלה לחקור את הנושאים הללו, בהמשך השבוע נפרסם בעמוד הפייסבוק של הפודקאסט קטע וידיאו עם לירן, שנותר על מסך תוכנת העריכה. להשתמע בקרוב

?רוצה לקבל מייל כשהפרק הבא מתפרסם

רוב המקורות שולבו כלינקים בתמלול

לכל הפרסומים של ד”ר לירן ענתבי

:מקורות מומלצים להרחבה

אדמסקי, דימיטרי. (2012). תרבות אסטרטגית וחדשנות צבאית : השפעת התרבות האסטרטגית על המהפכה בעניינים צבאיים ברוסיה, ארצות-הברית וישראל. תרגום: ישי קורדובה. הוצאת מודן

Jai Galliott and Mianna Lota (Eds.). (2016). Super Soldiers: The Ethical, Legal and Social Implications. VT: Ashgate Publishing Company.

Sparrow, R., (2006). “Killer Robots”, Journal of Applied Philosophy, 24(1): 63-77.

Published by Dr. Carmel Vaisman

חוקרת תרבות דיגיטלית עם מיקוד בשיח, תיאולוגיה ופוסט-אנושיות Digital Culture researcher focusing on discourse, theology and posthumanism

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

%d bloggers like this: