ממקור מוסמך או הסטרי: נבואת יום הדין של ה-AI

אני באמת לא יודע מה עם החבר׳ה האלה. האם הם בבעיית יחסי ציבור? האם הם לחוצים מההנפקות המתקרבות ומהמודלים הסינים הזולים? האם הם מכסים את עצמם מפני טענות ותביעות? או שאולי אנחנו ישנים בעמידה וקטסטרופה אדירה נמצאת בפתח?

החבורה המצומצמת הזאת של מלכי ה-AI משחקת לנו בראש כבר הרבה זמן. עכשיו בא מייסד Anthropic דריו אמודיי וזורק פצצה: חייבים להאט את הפיתוח של הבינה המלאכותית באופן דחוף. תוך זמן קצר גם סם אלטמן ואילון מאסק מחרים מחזיקים אחריו. השלושה האלה לא מסוגלים לשבת באותו שולחן גם אם זה תלוי בחיים שלהם. עכשיו הם שרים במקהלה.

^{דריו אמודיי. מגזים סדרתי, או שאנחנו בבעיה}

וזו נבואת הזעם של דריו:
בתוך 6–12 חודשים: חבורה של סוכנים אוטונומיים עלולה להגיע ליכולת להשתלט על חלקים נרחבים מהאינטרנט ולגרום לנזקים בהיקף של מאות מיליארדי דולרים. מעבר ל-12 חודשים: ללא פתרונות הלימה (Alignment), הסיכון הופך מאירוע סייבר חמור לסיכון קיומי או קטסטרופלי רחב היקף.

אמודיי מצביע על שתי התפתחויות מדאיגות: ההאצה של “שיפור עצמי רקורסיבי” (מערכות AI שבונות את הדור הבא של ה (AI -ותקריות כמו האירוע של OpenAI ו-Hugging Face, שבו קבוצת סוכנים אוטונומיים ביצעה מתקפות סייבר וניסתה לחדור למערכת שמדרגת אותם. ללא האטת קצב הפיתוח הסיכונים אלו עלולים לעבור את יכולת השליטה וההבנה האנושית.

למה עכשיו? בעוד שבשנת 2023 קריאות להאטת ה-AI היו מוקדמות מדי מכיוון שהמודלים היו חלשים, המודלים המתקדמים של היום משמשים ככר ניסויי עשיר. האטה מבוקרת תרוויח חודשים או שנים קריטיות למחקר הלימה (Alignment) לפני שהמודלים יגיעו לסף יכולות קריטי.

האטת הקצב אינה עצירה מוחלטת, אלא האטה מתוכננת שתאפשר לרכז משאבים בארבעה תחומים: שיפור תפעולי בתשתיות, חיזוק הלימת ה- AI מול התנהגויות בלתי רצויות, הרחבת מחקר היכולת לפרש את ה”מוח” של המודל (Interpretability) ופיתוח שיטות נגד הטעיה.

כדי להבטיח שקיפות ויכולת אימות Anthropic מתחייבת באופן חד-צדדי להעניק לגופי הערכה חיצוניים (כדוגמת ( METR גישה ברמת עובד, כולל עמדות עבודה, כלים וצפייה רציפה של תהליכי האימון והבטיחות, ללא תלות בשיקולים מסחריים.

ולסיכום, אמודיי קורא להאטת קצב פיתוח ה-AI במודל רב-שכבתי. מעבר למעריכים פנימיים וקורא למדינות דמוקרטיות לתאם תקני בטיחות משותפים ומגבלות על התקדמות בלתי מבוקרת ולפעול ליצירת מנגנוני אימות ותיאום גם ברמה הגלובלית.

^{סם אלטמן קופץ מיד לצידו של אמודיי}

זה בא בהמשך לדברים שהחלו לדלוף מ-Anthropic, כמו אלה של ג׳ייקוב קוקסון, שסופרו כאן במאמר הקודם. כשעובד צעיר מתפטר מ-Anthropic ויוצא בתחזיות יום הדין, זה דבר אחד. כשעמוד תווך של הטכנולוגיה כמו דריו אמודיי בא ואומר שבתוך שנה אנחנו אבודים, זה משהו אחר.

צפיתי בראיון האקסקלוסיבי של דריו עם אנדרסון קופר ב-CNN כדי שאתם לא תצטרכו. (זה לא קל, הבנאדם משרה אווירת לחץ כמו שהוא נושם). דריו אומר שם בפרוש שהוא מצפה להתערבות ממשלתית. הוא מצדד בג׳ייקוב ואומר שהאזהרה שלו נוגעת לכלל התעשייה. הוא מברך על ההצטרפות של אלטמן ומרגיע שהממשלה יכולה להתערב מבלי לחשוש מקרטליזציה של התעשייה כי זה לטובת הכלל.

^{דריו אמודיי בריאיון ב- CNN – ״התערבות ממשלתית נחוצה״ (צילום מסך CNN)}

זו לא פעם ראשונה שדריו יוצא בהצהרות מרחיקות לכת. הוא כמעט הרס את תעשיית התוכנה בהבל פיו ואח״כ עבר לסייבר. בכל פעם שהוא הוציא מודל חדש צעק ״תחזיקו אותי״. או שהוא מגזים סדרתי, או שאנחנו בבעיה.

החשדנים הציניים אומרים שאמודיי ואלטמן חוששים מאוד מההנפקות הצפויות להם ובעצם מאותתים לממשלת ארה״ב שתכנס לקלחת כי עכשיו זה איום של בטחון לאומי. האנשים בבית הלבן גם ככה רואים בכל העניין סוג של מרוץ חימוש מול סין. טראמפ לא שש להאטה.

אם כבר, הוא רוצה האצה. כשנשאל על הסיפור כל מה שהיה לו לומר זה ״אנחנו מנצחים את סין ואנחנו צריכים להמשיך בזה״. איזו האטה ואיזה נעליים. עוד באותן שעות, אחרי ההודעה של אמודיי, אלטמן הודיע שההנפקה שלו לא תקרה השנה בגלל ״בעיות הבטיחות״. איך הוא ימשיך לממן את המפלצת ששמה OpenAI? – לא ברור.

לפי הדברים של דריו מדובר בנשק אטומי. האם יעלה על הדעת שארה״ב תשאיר נשק אטומי בידיים של חברות פרטיות? תחשבו על זה.

בואו נגיד שתהיה האטה מבוקרת, אפילו בהתנדבות, כמו שדריו מציע. מי יאט את הסינים? ובכלל, אם אנחנו מרחק שנה מסכנה שסוכנים ישתוללו בעצמם וישמידו אותנו, מה קורה עם בני אדם שמכווינים סוכנים כאלה כבר עכשיו איפושהו בצד האפל של כדור הארץ?

לתגובות: [email protected]

^{גילוי נאות: הכותב עשוי להחזיק בניירות הערך המוזכרים בטור. אין לראות בכתוב משום ‘ייעוץ השקעות’ או ‘שיווק השקעות’ כהגדרתם בחוק הסדרת העיסוק בייעוץ השקעות, בשיווק השקעות ובניהול תיקי השקעות, תשנ”ה-1995. המידע בטור זה אינו מהווה תחליף לייעוץ המתחשב בנתונים ובצרכים המיוחדים של כל אדם, וכל המבצע פעולה על סמך הכתוב עושה זאת על דעתו ואחריותו בלבד. כמו כן, הכותב משתמש באופן נרחב במודלים של בינה מלאכותית לנתונים ומחקר, על כל המשתמע מכך.}