
האם מכונה תוכל להחליט לבד את מי להרוג? בז'נבה שבשווייץ נפתחה היום (שני) ועידה בינלאומית שעוסקת בשאלה הזאת. הדיונים מתקיימים במסגרת אמנת האו"ם בדבר כלי נשק קונבנציונליים מסוימים, שחברות בה 128 מדינות. על הפרק: האם לפתוח במשא ומתן רשמי על כללים שיאסרו או יגבילו מערכות נשק אוטונומיות קטלניות (LAWS). רוב המדינות תומכות בהסכם מחייב. ארה"ב, רוסיה וישראל מתנגדות לו.
הבינה המלאכותית כבר משנה את הלחימה. רחפנים, רובוטים, טנקים, ספינות וצוללות יכולים היום לזהות מטרות, לנתח מידע ולפעול בעצמם. מערכות חצי-אוטונומיות כבר הופעלו באוקראינה, בסודאן ובמזרח התיכון, ויש דיווחים ראשונים גם על שימוש במערכות אוטונומיות לגמרי. ההבדל חשוב: במערכת חצי-אוטונומית אדם עדיין מעורב בחלק מההחלטות. מערכת אוטונומית לגמרי יכולה לזהות מטרה ולתקוף אותה בלי אישור של אדם.
ארה"ב, רוסיה וישראל טוענות שהמשפט ההומניטרי הבינלאומי הקיים מספיק כדי להסדיר את התחום, ולכן אין צורך בהסכם נוסף. וושינגטון מעדיפה הנחיות לא מחייבות, והציעה משא ומתן של חמש שנים על מסמך לא מחייב. רוסיה עוד לא הציגה בפומבי את עמדתה, אבל בעבר התנגדה לכללים מחייבים. דיפלומט מערבי בכיר אמר לרויטרס שמוסקבה אף מתכננת למנוע מנציגי האיחוד האירופי, שמשתתף כמשקיף, לנאום בוועידה.
עוד באתר:
יו"ר הדיונים הציע משא ומתן קצר יותר, של שנתיים, שבסופו ייחתם פרוטוקול מחייב משפטית. בריטניה, גרמניה וצרפת מציעות פשרה: לפתוח במשא ומתן על מסמך בינלאומי, אבל להשאיר פתוחה את השאלה אם יהיה מחייב. שני דיפלומטים שמעורבים בהכנות לוועידה אמרו לרויטרס שהמשא ומתן יהיה קשה, אבל אפשר עוד להגיע לפשרה עד סוף השבוע. יש שלוש אפשרויות: הסכם מחייב, הנחיות לא מחייבות, או מסגרת שמשלבת את שתיהן.
ארגוני זכויות אדם מזהירים שמערכות כאלה עלולות לטעות טעויות קטלניות, בין השאר כי בינה מלאכותית יכולה לפעול בצורה לא צפויה. וריטי קויל מארגון Human Rights Watch אמרה: "מכונות לעולם לא צריכות להיות מורשות להחליט מי יחיה ומי ימות בשדה הקרב, אבל זו המציאות הדיסטופית שאנחנו מתקרבים אליה במהירות". גם הנהגת האו"ם והוועד הבינלאומי של הצלב האדום קראו להסדיר את התחום. בצלב האדום אומרים שדיני הלחימה הקיימים לא נותנים מענה מלא לסיכונים של נשק שמחליט לבד.
אנה היהיר, האחראית על מדיניות הבינה המלאכותית הצבאית במכון האמריקני Future of Life Institute, אומרת שנשק אוטונומי כבר אינו מדע בדיוני. לדבריה, הדיווחים על מערכות אוטונומיות לגמרי מראים כמה מהר הטכנולוגיה מתקדמת. היא מעריכה שארה"ב ורוסיה ינסו לרכך את נוסח ההחלטות, כמו שעשו בדיונים בספטמבר. אחד החששות הגדולים הוא שמערכת תזהה בטעות אזרחים כמטרות צבאיות. עולה גם שאלת האחריות המשפטית: מי יישא באחריות אם מכונה תבצע תקיפה אסורה? ההחלטה בז'נבה לא תאסור את הנשק הזה מיד. היא תקבע אם יתחיל תהליך רשמי לניסוח כללים מחייבים, וזה עשוי להשפיע מאוד על המלחמות בעתיד.
























