שולה
שולה
פרנסואה שולה @fchollet

יוצר Keras, חוקר AI ב-Google. מפתח ARC-AGI — מבחן אינטליגנציה כללית למכונות.

שולה קובע גבול עליון לאינטליגנציה — והאנושות כבר קרובה אליו

בעולם שמתרגש מ-IQ 10,000 ו-superintelligence, שולה מציב קיר: אינטליגנציה היא לא גובה שאפשר להגדיל בלי גבול — היא יחס המרה בין מידע לפתרון, ויש לו תקרה מתמטית. הטענה הפרובוקטיבית: קולקטיב גדול של בני אדם חכמים עם כלים נכונים כבר יושב קרוב לתקרה הזו. כלומר — AI עתידי עם "10,000 IQ" הוא קונספט חסר משמעות, כמו לדבר על טמפרטורה של מינוס אלף.

שולה מחזק את הנקודה עם דוגמה פרקטית: ניסויים אוטומטיים של LLMs שמנסים לגלות ארכיטקטורות חדשות עדיין פחות יעילים מחיפוש בייסיאני קלאסי. זה לא חוסר כוח — זו בעיית ארכיטקטורה. בדיוק כמו אתמול כשהגדיר AGI, היום הוא מגדיר את הגבול העליון — ומפריך את הסיפור ש-"עוד כוח חישוב = עוד אינטליגנציה".

שולה על גבולות האינטליגנציה

One of the biggest misconceptions people have about intelligence is seeing it as some kind of unbounded scalar stat, like height. "Future AI will have 10,000 IQ", that sort of thing. Intelligence is a conversion ratio, with an optimality bound. Increasing intelligence is not so
אחד המיתוסים הגדולים ביותר לגבי אינטליגנציה הוא לראות אותה כמשתנה סקלרי ללא גבול, כמו גובה. "ל-AI העתידי יהיה IQ 10,000" — מהסוג הזה. אינטליגנציה היא יחס המרה, עם גבול אופטימלי. להגדיל אינטליגנציה זה לא כזה
לפוסט המקורי ↗
💡
תובנה
"IQ 10,000" זה לא חזון — זה אנלפביתיות מתמטית עטופה בהייפ.
כל הכתבות ←