מהלך חדש בניסיון להתמודד עם החששות סביב התפתחות הבינה המלאכותית: נשיא ארצות הברית דונלד טראמפ ובכירי חברות הטכנולוגיה הגדולות חתמו אמש (שלישי) בבית הלבן על הסכם וולונטרי שנועד ליצור שכבות נוספות של פיקוח ובקרה על מערכות AI מתקדמות. ההסכם אינו רגולציה ממשלתית מחייבת בחוק, אלא התחייבות של החברות לפקח על הפיתוחים שלהן ולבחון את הסיכונים הכרוכים בהם. טראמפ תיאר אותו כ"מחייב מבחינה מוסרית".
סביב השולחן התכנסו כמה מהשמות החזקים ביותר בעולם הטכנולוגיה: מנכ"ל מטא מארק צוקרברג, מנכ"ל גוגל סונדאר פיצ'אי, מנכ"ל אנתרופיק דריו אמודי, מנכ"ל אנבידיה ג'נסן הואנג, נשיא OpenAI גרג ברוקמן ואילון מאסק, לצד בכירים נוספים. יו"ר בית הנבחרים מייק ג'ונסון השתתף אף הוא. לאחר המפגש אמר טראמפ לעיתונאים: "אני מזהה פיקוח עצמי משמעותי. הם מבינים שעליהם לפקח על עצמם".
בלב ההסכם עומדות ארבע שכבות בקרה. החברות התחייבו להפעיל מנגנונים פנימיים לבדיקת היכולות והסיכונים של המודלים במהלך הפיתוח וההפעלה; להעמיד צוות פנימי שיוודא כי מנגנוני הבטיחות פועלים כנדרש; לעבוד עם גורם חיצוני ועצמאי שיבחן את הבקרות; ולהקים ועדה עצמאית בדירקטוריון שתפקח על הדוחות ותוודא כי ליקויים שמתגלים מטופלים. ההסכם מתייחס בין היתר לסיכוני סייבר, איומים ביולוגיים וכימיים ולמצבים שבהם מערכות AI עלולות לגשת למערכות טכנולוגיות באופן שלא תוכנן.
עוד באתר:
ההסכמות מגיעות בתקופה שבה חברות הטכנולוגיה משקיעות סכומי עתק בהקמת מרכזי נתונים ובתשתיות הנדרשות לפיתוח ולהפעלת מודלים מתקדמים. טראמפ ממשיך להציג את התחום כמנוע צמיחה מרכזי וכזירת תחרות עולמית, ובמקביל מתמודד הממשל עם לחץ ציבורי להגברת אמצעי הבטיחות. הנשיא אמר כי הוא שוקל להקים גוף פיקוח בן כעשרה חברים, בעוד החברות התחייבו להיפגש באופן קבוע כדי לפתח סטנדרטים ושיטות עבודה משותפות.
אלא שההסכם אינו סוף הוויכוח על עתיד הרגולציה. המסמך עצמו מציין כי בהמשך ייתכן שיהיה מקום לעגן את הצעדים בחקיקה או בתקנות, בעוד טראמפ מעדיף בשלב זה מודל המבוסס במידה רבה על אחריות החברות ולא על מערכת רגולטורית ממשלתית כבדה. גם בתוך התעשייה נשמעים קולות המזהירים מהסיכונים: מנכ"ל אנתרופיק דריו אמודי הדגיש את הצורך בהתמודדות רצינית עם סכנות הטכנולוגיה, וב-OpenAI הודיעו לאחרונה על האטת השקה של מודל חדש בעקבות חששות שעלו בבדיקות בטיחות.
