אליאביב
אליאביב
אורי אליאביב @urieli17

יזם טק ישראלי ומשקיע. קול ישראלי מוביל בשיח ה-AI הגלובלי.

אליאביב: העלות האמיתית של הפעלת מודלים – לא תמיד זולה מהאלטרנטיבות

אליאביב מסביר שכשעוברים לארח מודלים עבור מאות משתמשים, כבר לא מדובר בפרויקט צדדי אלא דורש חומרה ייעודית ומשאבים משמעותיים. העלות בפועל עלולה להיות גבוהה מהצפוי, ולעיתים אף לא משתלמת לעומת חלופות קיימות. יש לעקוב האם יגיעו נתונים נוספים שישפכו אור על הכדאיות הכלכלית.

הפוסט שמחזיק את מרכז הכובד של הסיפור הזה אצל @urieli17

@AmitHajaj4 תשמע, זה לא דבר שאתה מריץ על הדרך במחשב נייח. זה כבר צריך חומרה יותר רצינית במיוחד אם אתה רוצה לשרת 500 איש. זה לא בטוח זול יותר מהאלטרנטיבות.
@AmitHajaj4 תשמע, זה לא דבר שאתה מריץ על הדרך במחשב נייח. זה כבר דורש חומרה ייעודית, במיוחד כשמשרתים מאות משתמשים.
לפוסט המקורי ↗
💡
תובנה
הפעלת מודלים בקנה מידה גדול דורשת השקעה תשתיתית שלא תמיד מצדיקה את עצמה כלכלית.
כל הכתבות ←