סטיבן הוקינג טען, ובאנגלית זה נשמע יותר טוב, כי:
The rise of powerful AI will be either the best or the worst thing ever to happen to humanity. We do not yet know which
אז אנחנו לא יודעים מה זה יעשה [ויש הטוענים שהבינה המלאכותית תשמיד את האדם], ולאן זה יוליך, ואנחנו עוד רוצים לתת לבינה המלאכותית, את הסמכות להרוג - את האוטונומיות להרוג.
פאול שכאררי (Paul Scharre), יוצא למסע עדכני ומפורט בעקבות הנשק האוטונומי ועתיד המלחמה ב'צבא של כלום' או בצבא של ריק - Army of None (W. W. Norton&Company, 2018). שכאררי מגדיר נשק אוטונומי ככלי נשק או אמל"ח אשר מקבל הוראה לסרוק, לאתר, להחליט ולפעול כאשר האדם מחוץ למעגל (Out of the Loop). האם כיפת ברזל היא נשק שכזה? כנראה שקרוב מאוד לכך. ואכן כלי נשק הגנתיים, בעיקר במרחבים נוחים - אוויר וים, הם האוטונומיים ביותר, אבל אנחנו נדחפים ודוחפים לכלים אוטונומיים יבשתיים [וגם אוויריים, ימיים,] שהיו בעלי יכולת להרוג. ועוד לא שדברנו על המערכות הבלתי נשלטות, כמעט, על ידי האדם המתרחשות בעולם הנסתר של הסב"ר (סייבר).
אגב, שכאררי טוען שהטיל המשוטט נגד רדאר של התעשייה האווירית - הארפי [Horpy] הוא הראשון בכלי הנשק האוטונומיים ההתקפיים - מקבל גזרת סריקה, מאתר ומקבל החלטה אוטונומית לתקוף [אין לי מושג עם זה נכון]. למתעניינים בדוגמאות ומקרים הספר מלא בהם, ונעשה בהם שימוש נכון להסביר את הרעיונות.
שכאררי [שיסלח לי על איך שאני מעוות את שמו], שעבד בפנטגון, גם בתחום המדיניות של הרובוטיקה והנשק האוטונומי הוא מתמצא גדול בתחום וגם מקומות רבים פתוחים בפניו במשרד ההגנה, בכוחות המזוינים, באקדמיה ובתעשייה. ולכן הוא מצליח להקיף את הנושא המורכב מכל או מרבית הכיוונים - שימוש צבאי-מלחמתי, טכנולוגיה, חוק, מוסר, מדיניות ופוליטיקה ועוד.
אחרי מסע ארוך, מתיש אבל מלמד [מכל הספרים והחומרים שקראתי בתחום, הוא הדידקטי ביותר ומהמעניינים שבהם], ואחרי שהוא מסביר, כמו אחרים, שהוא מודאג מהנשק האוטונומי, הוא שואל האם אפשר והאם כדאי לאסור את השימוש בנשק אוטונומי באמנה בינלאומית או בשיטה אחרת. כפי שקראו רבים לעשות. לצורך כך הוא סוקר את כל או מרבית הניסיונות לאסור שימוש בכלי נשק במרוצת ההיסטוריה, מסביר את התפיסות המשפטיות והאמנות הבין לאומיות, וטוען שיש לנקוט בהגבלות או לפחות לנסות לשלוט בהפצה ובשימוש. האם זה יצליח? מסופקני.
#ספר מרתק על נשק אוטונומי, והגבלתו. לא קל, מורכב, אבל חשוב. ותזכרו אולי אתם לא מתעניינים בנשק אוטונומי אבל הוא מתעניין בכם. מומלץ למי שכן מתעניין, וכאמור הוא מפורט ועדכני. ואגב גם למשפטנים יהיה מעניין לקרוא.
אוטונומי או לא, תקראו ותהיו נחמדים. טוב?
ויש גם שיר [אחרי שלמדתי איך מעלים סרטונים לפוסט]