OpenAI חשפה וסיכלה מבצע השפעה חשאי פרו-רוסי שעשה שימוש ב-ChatGPT כדי לייצר ולהפיץ תכנים שנועדו לקדם מסרים התואמים אינטרסים רוסיים. במרכז המבצע עמד גוף פיקטיבי בשם International Burke Institute, שהציג את עצמו כ"מכון מחקר" שמושבו בישראל – אף שלפי OpenAI מדובר היה במעטפת שנבנתה כדי להעניק אמינות למסרים שהופצו ברשת.
לפי הדוח הרשמי של OpenAI, מפעילי הקמפיין פעלו ככל הנראה מרוסיה והשתמשו ב-VPN כדי לעקוף את הגבלת הגישה ל-ChatGPT מתוך המדינה. הם פנו למערכת ברוסית, אך ביקשו ממנה לייצר בעיקר תוכן באנגלית ואף להעלים סימנים לשוניים שיכולים להסגיר כי מאחורי הפעילות עומדים דוברי רוסית. התכנים הופצו ב-X, פייסבוק, לינקדאין, טלגרם ו-Substack.
הפעילות לא הסתכמה בכתיבת פוסטים. המכון הפיקטיבי הפעיל אתר שנרשם בפברואר 2025 והציג את עצמו כגוף מקצועי וישראלי. לפי בדיקות שפורסמו, באתר הופיעו שמות מוכרים ובהם פרנסיס פוקויאמה ונועם חומסקי כאילו היו קשורים למכון, בעוד שחלק גדול מאוד מהמאמרים באתר הועתק ממקורות אחרים ולעיתים פורסם בייחוס מטעה. לפי ynet, 34 מתוך 36 מאמרים שנבדקו היו למעשה מועתקים.
עוד באתר:
אחד המרכיבים המרכזיים של האתר היה "מדד ריבונות" שהציג את רוסיה באור חיובי והעניק ציונים נמוכים יותר למדינות מערביות. כך נוצר מנגנון שבו פוסט ברשת החברתית יכול היה להפנות ל"מחקר" שנראה מקצועי ואקדמי, אף שבפועל עמד מאחוריו גוף שזהותו והמקורות שלו הוסתרו. OpenAI ציינה כי זהו מבצע השפעה רוסי חריג ברמת המורכבות שלו, גם אם בפועל החשיפה שלו לקהלים רחבים נותרה מוגבלת.
בחקירה עלה עוד כי חלק מהמפעילים הפעילו גם ערוצי טלגרם נוספים שהתמקדו במדינות כמו גרמניה, ארצות הברית, צרפת, פולין וטורקיה. לפחות אחד מהערוצים הפיץ תכנים שביקרו את אוקראינה, את האיחוד האירופי ואת ממשלת גרמניה וקראו לשיפור היחסים עם רוסיה. OpenAI חסמה את אשכול החשבונות שנקשר לפעילות לאחר שאיתרה את השימוש שנעשה במערכת שלה.
את החקירה הוביל צוות ב-OpenAI שבו פועל בן נימו, המתמחה באיתור ובשיבוש ניצול לרעה של בינה מלאכותית למבצעי השפעה. לצד הפרשה, גופי מחקר בישראל מזהירים כי בינה מלאכותית מאפשרת כיום לגורמי השפעה זרים לא רק לייצר תוכן בכמויות גדולות, אלא גם לבנות מראית עין של סמכות, מומחיות ואותנטיות – יכולת שמקבלת משמעות מיוחדת בתקופת בחירות.
