מטה האו"ם בז'נבה, אילוסטרציה | צילום: unsplash

האם מכונה תוכל להחליט לבד את מי להרוג? בז'נבה שבשווייץ נפתחה היום (שני) ועידה בינלאומית שעוסקת בשאלה הזאת. הדיונים מתקיימים במסגרת אמנת האו"ם בדבר כלי נשק קונבנציונליים מסוימים, שחברות בה 128 מדינות. על הפרק: האם לפתוח במשא ומתן רשמי על כללים שיאסרו או יגבילו מערכות נשק אוטונומיות קטלניות (LAWS). רוב המדינות תומכות בהסכם מחייב. ארה"ב, רוסיה וישראל מתנגדות לו.

הבינה המלאכותית כבר משנה את הלחימה. רחפנים, רובוטים, טנקים, ספינות וצוללות יכולים היום לזהות מטרות, לנתח מידע ולפעול בעצמם. מערכות חצי-אוטונומיות כבר הופעלו באוקראינה, בסודאן ובמזרח התיכון, ויש דיווחים ראשונים גם על שימוש במערכות אוטונומיות לגמרי. ההבדל חשוב: במערכת חצי-אוטונומית אדם עדיין מעורב בחלק מההחלטות. מערכת אוטונומית לגמרי יכולה לזהות מטרה ולתקוף אותה בלי אישור של אדם.

ארה"ב, רוסיה וישראל טוענות שהמשפט ההומניטרי הבינלאומי הקיים מספיק כדי להסדיר את התחום, ולכן אין צורך בהסכם נוסף. וושינגטון מעדיפה הנחיות לא מחייבות, והציעה משא ומתן של חמש שנים על מסמך לא מחייב. רוסיה עוד לא הציגה בפומבי את עמדתה, אבל בעבר התנגדה לכללים מחייבים. דיפלומט מערבי בכיר אמר לרויטרס שמוסקבה אף מתכננת למנוע מנציגי האיחוד האירופי, שמשתתף כמשקיף, לנאום בוועידה.

יו"ר הדיונים הציע משא ומתן קצר יותר, של שנתיים, שבסופו ייחתם פרוטוקול מחייב משפטית. בריטניה, גרמניה וצרפת מציעות פשרה: לפתוח במשא ומתן על מסמך בינלאומי, אבל להשאיר פתוחה את השאלה אם יהיה מחייב. שני דיפלומטים שמעורבים בהכנות לוועידה אמרו לרויטרס שהמשא ומתן יהיה קשה, אבל אפשר עוד להגיע לפשרה עד סוף השבוע. יש שלוש אפשרויות: הסכם מחייב, הנחיות לא מחייבות, או מסגרת שמשלבת את שתיהן.

ארגוני זכויות אדם מזהירים שמערכות כאלה עלולות לטעות טעויות קטלניות, בין השאר כי בינה מלאכותית יכולה לפעול בצורה לא צפויה. וריטי קויל מארגון Human Rights Watch אמרה: "מכונות לעולם לא צריכות להיות מורשות להחליט מי יחיה ומי ימות בשדה הקרב, אבל זו המציאות הדיסטופית שאנחנו מתקרבים אליה במהירות". גם הנהגת האו"ם והוועד הבינלאומי של הצלב האדום קראו להסדיר את התחום. בצלב האדום אומרים שדיני הלחימה הקיימים לא נותנים מענה מלא לסיכונים של נשק שמחליט לבד.

אנה היהיר, האחראית על מדיניות הבינה המלאכותית הצבאית במכון האמריקני Future of Life Institute, אומרת שנשק אוטונומי כבר אינו מדע בדיוני. לדבריה, הדיווחים על מערכות אוטונומיות לגמרי מראים כמה מהר הטכנולוגיה מתקדמת. היא מעריכה שארה"ב ורוסיה ינסו לרכך את נוסח ההחלטות, כמו שעשו בדיונים בספטמבר. אחד החששות הגדולים הוא שמערכת תזהה בטעות אזרחים כמטרות צבאיות. עולה גם שאלת האחריות המשפטית: מי יישא באחריות אם מכונה תבצע תקיפה אסורה? ההחלטה בז'נבה לא תאסור את הנשק הזה מיד. היא תקבע אם יתחיל תהליך רשמי לניסוח כללים מחייבים, וזה עשוי להשפיע מאוד על המלחמות בעתיד.











עוד כתבות שיעניינו אותך

אחרי 15 שנות עצמאות

אין דמוקרטיה: המדינה הצעירה בעולם שוב דוחה את הבחירות

פנחס בן זיו
איזנקוט מגיב בחריפות

דיווח מטלטל: האם לשכת נתניהו עמדה מאחורי מעצרי רע"מ

קובי סגל
ביקורת פתע

"פס הייצור נעצר": מה גילו הרבנים בתוך מפעל הסופגניות

הרב יוחנן רייכמן
תקרית חריגה

פעוט עלה על מסוע המזוודות בנתב"ג ונעלם להוריו

פנחס בינדר
ראיון למהדורה

"חיכינו לה שלוש שנים": האב שבתו זקוקה לניתוח מדבר

שניאור ובר
הרופאים מזהירים

בת שנתיים שתתה כמויות גדולות של מים ופרכסה

בנימין כגן
מאחורי הקלעים

לפני המשא ומתן עם איזנקוט: המחלוקת בתוך יהדות התורה

שלום שטיין
לצפייה

מי יהיו שני העולים הבאים? 'הקלידנים 3' עם פרק שני

הקלידנים
מטריד

"הילדים התעוררו בבהלה, המיטות רעדו": סיוט לילי בבירה

הלל קסלר
מעבר לכל דימיון

תחקיר מטלטל: המוסד חטף שני גנרלים איראנים, חקר וחיסל

שלמה ריזל
צפו

"לא בהרמת יד": האזהרה בשמחת בית ויזניץ נגד הצלמים

נתי קאליש
לא היה ולא נברא

"שקר מיסודו": חסידות סלונים מגיבה לחשיפת עמית סגל

נתי קאליש
סירב לבדיקה

הרוכב נפטר אחרי חמישה ימים: זה העונש לנהג הפוגע

קובי סגל
הבה נתחכמה לו

"תישאר חרדי ותשנה מבפנים": השיטה שנחשפת

נתי שולמן
די לתופעה!

קובי ברומר חושף: "גיליתי למה אני אלרגי"

אריאל ספקטור
"קרקס פוליטי"

ליברמן התיישב בכיסא היו"ר ותקף את נתניהו, כ"ץ השיב אש

שלום שטיין
מבטיחים לא להשתנות

לילה של מיליונים: שני תושבי השרון זכו בלוטו

יצחק חן
סדקים בגוש

מרד בדרך? זו הח"כית שמציבה קו אדום לאיזנקוט

פנחס בינדר
הכרעה

דרמה בפוניבז': מועד הפינוי נקבע, והמחיר כבד במיוחד

נתי קאליש
אירוע סגור למוזמנים בלבד

במאה שערים: נכדו החסידי של בנימין נתניהו מתחתן הערב

נתי קאליש