תארו לעצמכם מצב שבו מערכת הגנה אוטונומית מזהה מתקפת "יום אפס", פרצה שעדיין לא קיים עבורה עדכון אבטחה, ונאלצת להחליט בתוך שניות ספורות אם לנתק תשתית שלמה מהרשת. אם צדקה, המתקפה נעצרת באיבה. אם טעתה, רשת חשמל או בית חולים עלולים לקרוס בלי שאיש התכוון לכך. זהו התרחיש שבחר ראש מערך הסייבר הלאומי, יוסי כראדי, כדי להמחיש את הסכנה במסמך אסטרטגי שהפיץ אמש למנהיגי מדינות ולראשי ארגוני הגנת סייבר ברחבי העולם.
המסמך מציב במרכזו חשש מפני אובדן השליטה בסוכנים ובמודלים של בינה מלאכותית, וקורא למדינות לקבוע ללא דיחוי גבולות ריבוניים ברורים. "אנחנו מתקרבים למציאות שבה מערכות הגנת סייבר יצטרכו לקבל החלטות בקצב שאינו מאפשר מעורבות אנושית בכל פעולה", כותב כראדי. האזהרה אינה תיאורטית: היא נשלחת על רקע אירועים שהתרחשו לאחרונה בעולם, ובהם חדירה של סוכני AI למאגרי מידע ממשלתיים, לצד שורה ארוכה של מקרים שבהם חברות מצאו את עצמן חסרות שליטה על מה שעשו הסוכנים שהפעילו.
לב הבעיה, כפי שמתאר אותה ראש המערך, נמצא בזירה הביטחונית. מתקפות הסייבר נעשות מהירות, אוטומטיות וממוקדות יותר, ובהתאם, גם מערכות ההגנה ייאלצו לזהות איום, לשקול תגובה ולבצע אותה בקצב של מכונה, קצב שבו אין זמן לבקש חתימה של אדם על כל צעד. אבל כאן טמון הפרדוקס: ככל שמעניקים למערכת חופש פעולה רחב יותר, כך מתקשים יותר להבין מדוע החליטה כפי שהחליטה, לבלום אותה כשצריך, ולקבוע על מי מוטלת האחריות כשמשהו משתבש. לדברי כראדי, הטכנולוגיה דוהרת קדימה מהר יותר מהיכולת של מדינות לעדכן את המדיניות, הרגולציה ומנגנוני הפיקוח שלהן.
עוד באתר:
כדי להתמודד עם הפער הזה, מציג כראדי את "המשולש האסטרטגי של הבינה המלאכותית", מודל שנועד לאזן בין שלושה ערכים: חדשנות, ביטחון ושליטה אנושית. לפי הגישה, הדיון כבר אינו עוסק בשאלה אם להטמיע AI, אלא בשאלות מדויקות יותר: באילו תחומים כדאי להאיץ את השימוש בו, היכן הישענות על ספקים ותשתיות זרים הופכת לסיכון ברמה לאומית, ואילו סמכויות פשוט אינן יכולות לעבור לידי מכונה.
מכאן נגזר מדרג בן ארבע דרגות שכראדי ממליץ למדינות לאמץ. בדרגה הראשונה, פעולות שאפשר למסור לבינה המלאכותית במלואן. בשנייה, פעולות שמותרות לה רק בתוך מגבלות שנקבעו מראש. בשלישית, פעולות שמחייבות אישור של אדם. ובדרגה העליונה, פעולות שהשלכותיהן לאומיות ואינן ניתנות לתיקון, שאסור להפקיד בידי מערכת אוטונומית בשום מצב, ויסומנו כ"סמכות ריבונית שאינה ניתנת להאצלה". כראדי קורא למנהיגים ולראשי גופי הסייבר להכריע כבר עכשיו מה נכנס לכל אחת מהקטגוריות, ולא לחכות שהמציאות תכתיב את התשובה.
בסיום המסמך פונה ראש מערך הסייבר ישירות למקבלי ההחלטות, ומבהיר שאין צורך שיהפכו למומחים טכנולוגיים כדי לעמוד באתגר. "מנהיגים אינם צריכים להפוך למהנדסי AI, הם צריכים להחליט היכן תלות היא מקובלת, היכן חוסן אינו נתון למשא ומתן, והיכן הסמכות האנושית חייבת להישאר מכרעת", הוא כותב, ומוסיף: "אל תשאירו לאחרים להגדיר את העתיד שלכם, רתמו אותם לבנות את העולם שאתם מאמינים בו".
