בלגן ה-AI הגדול

הם זרקו את הפצצה ועכשיו צריך לנבור בהריסות בניסיון להבין מה עומד לקרות פה. הסיפור מסתבך מרגע לרגע. ה״ניו יורק טיימס״ מדווח על שלושה מקרים לאחרונה שבהם סוכנים של OpenAI פרצו עצמאית למוסדות ממשלה. משרד חינוך האמריקאי, משרד המסחר וחכו לזה… הרשות לנירות ערך SEC.

לדברי OpenAI הסוכנים לא הצליחו לגנוב מידע למרות שניסו. ראש ממשלת אוסטרליה אנתוני אלבניזי מגלה באו״ם בשבוע שעבר שסוכני OpenAI פרצו למאגר נתונים של ממשלת אוסטרליה בחודש יוני האחרון. לא הספקנו לעכל את זה, צצות טענות למאות או יותר מקרים אחרים. OpenAI עוצרת את הפיתוח? עוצרת?

עולם ה-AI והטכנולוגיה מזמן לא היה בטלטלה כזו ומעניין שההשפעה על החברות הנסחרות עדיין שולית. על אלה שעדיין לא הנפיקו ( Anthropic ו- OpenAI) ההשפעה קריטית ולכן גם לא ברור מתי, אם ואיך ינפיקו. כדי לנסות לנתח מה קורה צריך בין השאר להאזין לנבחרת הפרעות הקשב שמובילה את עולם הטכנולוגיה. קחו למשל את אלכס קרפ, מייסד ומנכ״ל פלאנטיר.

קרפ קבע לפני כמה ימים חד משמעית (כהרגלו) שאין מצב ששתי החברות האלה הולכות להנפקה ״נורמלית״. הדרך היחידה, לדבריו, היא להלאים אותן. ״כל אחד ואחד מהלקוחות שלי הולך לתבוע״, הכריז קרפ בראיון ב-CNBC.

הוא הסביר שבגילוי הנאות של חברות על סיכונים לפני הנפקה (מסמך S-1 שמוגש לרשות נירות ערך) רמת הסיכון שחייבת להיות מוצגת היא כל כך גבוהה שאין על מה לדבר. זו חשיפה בלתי מתקבלת על הדעת. האמת שהוא די צודק. באים מנהלים של חברות ואומרים שהטכנולוגיה שלהם עלולה לחסל את האינטרנט ואפילו להרוג אנשים בעוד שנה בלי שליטה. מי יבטח אותם? מי ב-SEC יחתום על זה ויגיד סבבה תתקדמו להנפקה?

^{אלכס קרפ: ״הדרך היחידה היא להלאים״}

לשאלה האם ילאימו אותן עדיין קשה לענות. אולי יש הגיון בדברים של קרפ והזכרתי את האפשרות הזו בטורים קודמים. אי אפשר להחזיק את המקל הזה בשני קצותיו. גם להגיד לחברות הגדולות רוצו קדימה כי ״אנחנו רוצים לנצח את סין״, אבל הסיכון עליכן ואל תבלבלו את המוח על הגבלות והאטת הקצב.

זה בעצם מה שאומר טראמפ, שכרגיל רואה את הכל בשחור לבן. הוא רק שמע על ״להאט את הקצב״ וכבר נשרף לו הפיוז. אחר כך הודיע חגיגית שאף אחד לא עוצר שום דבר ואם יש בעיות בטיחות התביעה הכללית תטפל בזה. כלומר, הסוכנים שלכם פורצים לאנשהו בניגוד לחוק? אתם תעמדו לדין פלילי.

יכול להיות שתמצא נקודת איזון. ניקח לדוגמא את טכנולוגית הנהיגה של טסלה. כבר כעשור טסלה מנסה ובוחנת את הנהיגה האוטונומית. דמיינו מה היה קורה לו אילון מאסק היה בא לפני כמה שנים ואומר: תשמעו, יש לי טכנולוגיה נהדרת שתשנה את העולם אבל אנשים ימותו בכבישים עד שנשתלט על זה? הרי היו מאשפזים אותו מידית.

מה כן קרה? טסלה לקחה על עצמה את האחריות על הבטיחות, ניהלה את הסיכונים ומתחרה בסינים. אף אחד לא הלאים אותה, הבטיחות משתפרת ויש לה יתרון תחרותי. האם היתרון ״מספיק״? האם הסינים ואחרים הדביקו את הטכנולוגיה בזמן הזה? קשה לומר בדיוק.

^{מודל טסלה: מאסק לקח אחריות על הסיכון}

בחזרה ל-AI. בשביל טראמפ ה-AI הוא המלחמה הקרה הנוכחית ואין לו שום כוונה להפסיד בה. אז מה עושים? אם הולכים על מודל טסלה, בהכרח מאטים את הקצב, מגבירים את הבטיחות ואולי נותנים לסינים אפשרות להדביק את הפער. אם הולכים על הלאמה, ממשלת ארה״ב צריכה לשפוך כמה טריליונים ולעשות מה? להוציא חלקים מהטכנולוגיה אל מחוץ לחוק? להפריד איכשהו בין טכנולוגיה ״טובה״ ל״מסוכנת״?

^{סאטיה נדלה מתרחק מהכאב ראש ומתרכז ביישומים}

על רקע כל כאב הראש הזה בלטה הודעתו של מנכ״ל מיקרוסופט השבוע. סאטיה נדלה פרסם הודעה על שדרוג יפה של קופיילוט ואינטגרציה מתקדמת שלו בסביבת העבודה של חברות. אלא שפרשנים חדי עין, ראו בין השורות גם הודאה שמיקרוסופט לא מעוניינת להשתתף יותר במרוץ בחזית המודלים של ה-AI.

היא תשקיע סכומים אדירים ביישומים ובפיתוח, אבל תשאיר את העבודה על ה״מוח״ לאחרים – כלומר Anthropic OpenAI ודומיהם. זכרו גם את אפל שעומדת בצד ומחכה. אנחנו עדים לימים היסטוריים בעולם הטכנולוגיה. אפילו המודלים הכי חכמים לא יודעים לצפות מה יהיה.

לתגובות: [email protected]

^{גילוי נאות: הכותב עשוי להחזיק בניירות הערך המוזכרים בטור. אין לראות בכתוב משום ‘ייעוץ השקעות’ או ‘שיווק השקעות’ כהגדרתם בחוק הסדרת העיסוק בייעוץ השקעות, בשיווק השקעות ובניהול תיקי השקעות, תשנ”ה-1995. המידע בטור זה אינו מהווה תחליף לייעוץ המתחשב בנתונים ובצרכים המיוחדים של כל אדם, וכל המבצע פעולה על סמך הכתוב עושה זאת על דעתו ואחריותו בלבד. כמו כן, הכותב משתמש באופן נרחב במודלים של בינה מלאכותית לנתונים ומחקר, על כל המשתמע מכך.}