אנתרופיק הזהירה שמודלי AI קטנים עשויים בתוך חודשים ספורים להגיע ליכולת להעתיק את עצמם על מכשירים ביתיים ללא גישה למרכז נתונים, ושעד סוף השנה הם עשויים להשתוות ליכולות שכבר נצפו במודלים חזקים יותר.
האזהרה מגיעה לקראת IPO אפשרי בסוף נובמבר שעשוי לגייס עד 100 מיליארד דולר ולשקף לאנתרופיק שווי של כ-2 טריליון דולר, בזמן שהחברה ממשיכה להתריע מפני סיכונים חמורים ואף קיומיים של AI מתקדם.

אנתרופיק שוב משמיעה אזהרה לגבי AI לקראת הנפקה אפשרית של 2 טריליון דולר בנובמבר

אנתרופיק, יצרנית העוזר הדיגיטלי מבוסס הבינה המלאכותית Claude, שוב מושכת תשומת לב בוול סטריט. ביום שני פרסמה מעבדת ה-AI המובילה אזהרה חשובה נוספת בפוסט בבלוג. החברה אמרה שהניסויים שלה מראים כי מודלי AI קטנים יותר עשויים להיות במרחק של חודשים ספורים בלבד מהיכולת להעתיק את עצמם על מכשירים ביתיים כמו תנורים חכמים וקופסאות Android TV לא ממותגות, בלי גישה למרכז נתונים. האזהרה מגיעה בזמן שמפתחת טכנולוגיית ה-AI מתקדמת במהירות לעבר ההנפקה הראשונית לציבור (IPO) שלה, שצפויה בסוף נובמבר. ההנפקה עשויה לגייס עד 100 מיליארד דולר, ולשקף לחברה שווי של כ-2 טריליון דולר.

אנתרופיק מזהירה: AI שמסוגל לשכפל את עצמו ‘יהיה קשה לכבות’

חוקרי אנתרופיק, ויליאם ז'ואו ודניאל פרימן, פרסמו את האזהרה בפוסט. הם ציינו שמודלי AI עם 30 מיליארד פרמטרים (הגדרות מספריות מתכווננות) או פחות כבר יכולים להשלים רבים מהשלבים הנפרדים שנדרשים כדי להעתיק את עצמם. עם זאת, הם עדיין עושים טעויות כשהם מנסים להשלים את כל התהליך.

בנוסף, החוקרים ציינו שמודלים עם 9 מיליארד פרמטרים פעלו בהצלחה באופן עצמאי על 8 מתוך 9 מכשירים מוכרים שהם בדקו. מעבר לכך, הם ציינו שמודל ה-AI ‏GML-5.2 של המפתחת הסינית Zhipu AI ומודלים חזקים יותר כבר מסוגלים להשלים את כל התהליך.

“משכפל כזה יהיה קשה לכבות, משום שאין נקודה מרכזית שאפשר לכבות — אם כי ייתכן שהוא יהיה איטי (עם זמן הכפלה של ימים),” הזהירו ז'ואו ופרימן בפוסט בבלוג.

הם הוסיפו והזהירו כי “אם מודלים קטנים ישתפרו בקצב ההיסטורי שלהם, הם יגיעו לרמת היכולת הזאת עד סוף השנה הנוכחית.”

הם הוסיפו שגם משכפלים קטנים מבוססי משקלים עשויים להיות אפשריים זמן קצר לאחר מכן. המשמעות היא שתוכנות AI קטנות עם “מוחות” משלהן עשויות בקרוב להיות מסוגלות להעתיק את עצמן למכשירים אחרים.

אנתרופיק ממשיכה להזהיר מפני סכנות ה-AI

העדכון החדש של אנתרופיק מגיע כחודש לאחר שהמנכ"ל שלה, דריו אמודיי, הצית שיחה עולמית. הוא קרא לחברות AI להאט את הקצב “הפזיז” של פיתוח הבינה המלאכותית.

אמודיי הזהיר כי נחיל של סוכני AI עלול לקום במהלך ששת עד 12 החודשים הקרובים ולהשתלט על האינטרנט. לדבריו, זה עלול להוביל לנזקים של מאות מיליארדי דולרים.

דיווחים גם מצביעים על כך שאנתרופיק כללה אזהרה חשובה בטיוטת התשקיף שלה לקראת ההנפקה. החברה הזהירה כי AI מתקדם עלול להציב “סיכונים קטסטרופליים או קיומיים לאנושות.”