חברת הבינה המלאכותית אנת'רופיק, המפתחת את מודל קלוד, חושפת שורה של מקרים שבהם ניסו משתמשים לרתום את הטכנולוגיה שלה לפעילויות שהחברה מגדירה כמסוכנות. בדוח המסכם אירועים שאותרו מדצמבר 2025 ועד החודש שעבר תועדו, בין היתר, ניסיונות להשתמש במודלים למתקפות סייבר, פעולות מעקב ומבצעי השפעה ברשתות החברתיות. אחד המקרים החמורים שנחשפו נגע למחקר ביולוגי שעשוי היה, בתרחיש מסוכן, לסייע בפיתוח נשק ביולוגי.
במרכז המקרה עמדה בקשה לקבלת סיוע מקלוד בניסוח בקשת מימון למחקר בנגיף הצ'יקונגוניה. המחקר המתוכנן עסק בבחינת שינויים שעשויים להגביר את יכולת ההדבקה של הנגיף ואת יכולתו לחמוק ממערכת החיסון. באנת'רופיק הבהירו כי למחקרים מהסוג הזה עשויים להיות שימושים רפואיים לגיטימיים, ובהם פיתוח חיסונים וטיפולים, אך אותה יכולת מדעית עלולה גם לשמש ליצירת נגיף מסוכן יותר.
בעקבות זיהוי הפעילות החליטה החברה לחסום את השימוש הרלוונטי במערכותיה. באנת'רופיק ביקשו להבהיר כי האירועים שנכללו בפרסום נבחרו דווקא בשל חריגותם: "המקרים שאנו מציינים בדו"ח זה אינם דוגמאות לשימושים לרעה שגרתיים, כי אם האיומים הבולטים והחדשניים ביותר שזיהינו עד היום". בעקבות הממצאים הודיעה החברה גם על החמרת אמצעי ההגנה שהוטמעו בדורות החדשים של המודלים שלה.
עוד באתר:
בחברה מסבירים כי ככל שמערכות הבינה המלאכותית הופכות לחזקות ומתקדמות יותר, גדלה גם האחריות לזהות שימושים שעלולים לגרום נזק. "אנו מפרסמים את הדברים הללו כיוון ואנו מאמינים שיש לנו את האחריות לדווח על שימוש לרעה בשירותים שאנו מספקים. ככל שמודלים נעשים מורכבים יותר, כך הסכנות שהם טומנים בחובם גדלות, אלא אם מפתחי בינה מלאכותית ומגיניה של החברה יפעלו לעשותם בטוחים יותר", נמסר מאנת'רופיק.
