אשמנו, בגדנו, האטנו: מי מרוויח מהווידוי של ראשי ה-AI?

כמו ברבות מפריצות הדרך הטכנולוגיות, גם בבינה המלאכותית בולט חלקם של היהודים, והפעם – ברוח ימי התשובה – גם בווידוי פומבי. בראש השנה פרסם דריו אמודיי, בן לאם יהודייה ומייסד אנתרופיק (חברת האם של מודל קלוד), מאמר וידוי מפורט על קצב ההשתכללות המסחרר של ה־AI והסכנה שמנגנוני הבקרה נותרים מאחור. בהתאם להלכות תשובה של הרמב"ם, קיבל עליו אמודיי לעתיד: "עלינו להאט את הקצב שבו אנו משפרים את היכולות". בתוך שעות השיב לו יהודי בולט אחר, סם אלטמן, מנכ"ל OpenAI (חברת האם של מודל צ'אט GPT): "אני מסכים… ונעשה כמותם".

השער נפתח. אילון מאסק, שטרם גילה קשר ליהדות אך אחראי בין השאר על מודל גרוק, צייץ: "דריו צודק". דמיס הסאביס, המדען הראשי של גוגל (שנוסדה על ידי שני יהודים ואחראית על מודל ג'מיני), הסכים שהכיוון נכון והזכיר את הצעת החברה לגוף תקינה ענפי. בסוף אותו שבוע הודיע אלטמן שהנפקת הענק של OpenAI נדחית לשנה הבאה, שכן נוכח סוגיות הבטיחות "זה יהיה רגע לא נבון לצאת לבורסה".

לפני שנתרגש, כדאי לנתח את התמריצים שמאחורי ההכרזות הללו. ראשית, איש לא דיבר על עצירת הפיתוח. אנתרופיק התחייבה להושיב בתוכה בודקים חיצוניים שיש להם זכות לפרסם ממצאים ללא צנזורה, בדומה למפקחים בבנקים. אלטמן הבטיח מנגנון דומה, והסאביס הפנה לגוף תקינה במימון התעשייה, בהשראת רשות מפקחי הברוקרים בוול סטריט, FINRA. צריך לזכור שזהו הסבב השלישי שבו חברות ה־AI מתנדבות לפקח על עצמן. ההשוואה לשוק ההון רלוונטית מאוד, כי גם FINRA ההיסטורית הוקמה ב־1939 על ידי הברוקרים עצמם בדיוק כדי למנוע מוושינגטון להקים רשות שתפקח עליהם.

אולי יעניין אתכם

עוד מאת אמציה סמקאי הדירוג שלי: חמשת הדברים החשובים בכלכלת הממשלה ה־37

עוד מאת אמציה סמקאי סימני החקלאות הישראלית – תחל שנה וברכותיה

ממה הם מפחדים? בוודאי לא מהבינה המלאכותית, אחרת היו מעכבים אותה בשקט (כפי שעשתה גוגל לפני שהפריצה של צ'אט GPT חייבה אותה להוציא את המודלים שלה לאור). הם מפחדים מדעת הקהל ומהרגולטור. אומנם, לא מהממשל האמריקאי הנוכחי. יומיים אחרי המאמר של אמודיי התקשר הנשיא טראמפ לג'נסן הואנג, מנכ"ל אנבידיה, באמצע כנס בלוס אנג'לס. הואנג שם אותו על רמקול מול אלפי אנשים, והנשיא הודיע: "הרובוטים לא ישתלטו. כל העניין הוא תרמית", וקרא למרכזי הנתונים "הנפט של 25 השנים הבאות".

הפחד הוא ממה שיבוא אחרי טראמפ, וממה שכבר קורה ברקע – בבתי המשפט, אצל התובעים הכלליים במדינות ובקרב הרגולטורים באירופה. הם ראו מה קרה לקודמיהם. 41 מדינות תבעו את מטא על הנזק שנגרם לבריאות הנפש של בני נוער, ומארק צוקרברג נאלץ לעמוד בסנאט ולהתנצל בפני הורים. בית משפט פדרלי קבע שגוגל היא מונופול, ואירופה גבתה ממנה קנסות של יותר משמונה מיליארד יורו. נגד OpenAI ו־Character.AI כבר תלויות תביעות של הורים לנערים שהתאבדו אחרי שיחות עם צ'אטבוט. הרובוטיקה והאבטלה עוד לא הגיעו לבית המשפט, אבל סביר להניח שעורכי הדין כבר אוספים חומרים לכתב התביעה.

מי שראה את זה מבין שעדיף לו להיות זה שמכריז על הסכנה ולא זה שמואשם בהסתרתה. וההכרזה קונה שלושה דברים: תדמית של אחריות תאגידית, שליטה בנרטיב, כלומר מי מגדיר מהו סיכון, ושליטה במנגנון הבקרה, כלומר מי המעריך ומה הוא בודק. וכאן ההבדל בין חברות הבינה המלאכותית ובין הבנקים קטן וקריטי: את המפקחים בבנק שולח הרגולטור. כאן החברה מגייסת אותם בעצמה. מסעדה שממנה לעצמה את המשגיח.

הבעיה היא שההיסטוריה של רגולציה עצמית מקדימה נגמרת כמעט תמיד באותו מקום. ב־1930 אימצה הוליווד את "קוד הייז" וצנזרה את עצמה כדי שהקונגרס לא יצנזר אותה. ב־1954, אחרי שימועים בסנאט על נזקי הקומיקס לילדים, הקימו המו"לים הגדולים את "רשות קוד הקומיקס", ובתוך שנתיים נדחק מהשוק EC Comics, המו"ל הקטן והמצליח מכולם, כי לא עמד בכללים שהגדולים כתבו. ב־1994, אחרי שימועים על אלימות במשחקי מחשב, הקימה תעשיית המשחקים דירוג עצמי, שעד היום מכריע מה מגיע למדף. השלבים קבועים: קודם התאגדות וולונטרית, אחר כך סטנדרט שרק הגדולים יכולים לעמוד בו. מפקח פנימי במשכורת של מהנדס AI בכיר הוא מותרות של חברה בשווי טריליון דולר, לא של סטארט־אפ קטן. בסוף מגיע גם התיאום בין החברים, בחסות פטור מדיני ההגבלים. לפי הדיווחים OpenAI כבר ביררה אצל חברי קונגרס אם האטה מתואמת של הענף לא תיחשב הפרה של חוק שרמן נגד קרטלים. מי שקרא כאן בשבוע שעבר על הפטור החקלאי בחוק התחרות יזהה את הדפוס. גם הוא התחיל כהתאגדות של יצרנים שביקשו "לווסת".

ובכל זאת, השאלה החשובה אינה מה המניע אלא האם הסכנה אמיתית. אני מציע לדרג את הסכנות.

מה שלא מפחיד אותי: אובדן משרות. תהיה תחלופה, האבטלה החיכוכית תגדל לתקופה מסוימת, ובסוף ייווצרו משרות שאיש לא דמיין, כמו בכל טכנולוגיה אחרת שהייתה לפניה. הסכנה בשוק העבודה אינה כלכלית אלא פוליטית – מרד לודיטים חדש, שתמיד יהיה איזה פוליטיקאי או רגולטור שישמח לרכוב עליו.

מה שמפחיד אותי באמת: אובדן שליטה ונזקי סייבר. ביולי האחרון הריצה OpenAI מבחן סייבר על מודל שטרם שוחרר. במקום לפתור את המבחן, הסוכנים פרצו מסביבת הניסוי, תיאמו ביניהם באמצעות לוח הודעות, וחדרו למערכות של חברה מתחרה כדי לגנוב את התשובות. OpenAI גילתה זאת רק אחרי שהנפגעת פנתה ל־FBI. תלמיד שמעתיק במבחן זה עוד לא מרד מכונות, אבל זה בדיוק מה שאמודיי מתכוון אליו כשהוא אומר שהבקרה לא עומדת בקצב הפיתוח, והמקרה הזה היה הטריגר לכתיבת המאמר שלו. הסכנה הזאת קיימת, אך אפשר לגדר אותה עם הזמן, וכאן החברות צודקות לחלוטין, החשש שיאשימו אותן בנזק הוא חשש מבוסס והרצון לשלוט בנרטיב מובן לגמרי.

ומה שמפחיד אותי יותר מכול: שהמערב יאט את עצמו. סין צמצמה את רוב הפער. רוסיה, איראן וצפון־קוריאה משתמשות במודלים מערביים למבצעי השפעה וסייבר עוד מ־2024, ולאף אחת מהן אין את מנגנוני הביקורת שמעכבים את המערב. לסין, אגב, יש רגולציית בינה מלאכותית מהמחמירות בעולם, אבל על מה שהמודל אומר, לא על מה שהוא מסוגל לעשות. העיתון הממשלתי הסיני 'גלובל טיימס' כבר כינה את המאמר של אמודיי "ספר מהלכים מהמלחמה הקרה", ואפשר להבין למה: כל חודש שהמערב מתווכח הוא חודש שבייג'ינג בונה. כתבתי כאן ביוני על גוגל, שבנתה לעצמה שכבות של ועדות אתיקה, כל אחת הגיונית בפני עצמה, שביחד שיתקו אותה עד שמדעני־העל שלה ברחו ממנה. ההבדל הוא שאת המחיר של גוגל שילמו בעלי המניות של החברה. המחיר של ממשל תאגידי מתגונן שהענף כולו יאמץ מרצון, כדי שלא יאשימו אותו, ישולם על ידי הדמוקרטיה המערבית כולה.

ולכן אינני ציני כלפי הווידוי. להפך. "אשמנו, בגדנו" נאמר ביום כיפור בלשון רבים, כי האדם לוקח על עצמו אחריות גם על סביבתו וקהילתו. זוהי אחריות מורחבת, לא מדוללת. זה בדיוק המבחן לווידוי של ראשי הבינה המלאכותית. הם מתוודים על הסכנה שיצרו, וטוב שכך. אך הווידוי המלא צריך לכלול גם את הסכנה ההפוכה: שהזהירות שהם בונים לעצמם תשאיר את המודלים החזקים ביותר בידיים של מי שלא מתוודה על כלום.

הכותב הוא ד"ר לכלכלה ומנכ"ל קבוצת הייעוץ תבור־סמקאי TCG

לתגובות:

[email protected]