Gemma 4: מנצח מודלים גדולים פי 10 — ורץ על RTX 4090 אחד

יום שבת, ט"ז בניסן תשפ"ו

הסביס Gemma 4: מנצח מודלים גדולים פי 10 — ורץ על RTX 4090 אחד

נושאים

Gemma 4 שוחררה ב-Apache 2.0 — ארבעה גדלים: E2B ו-E4B לקצה עם vision ו-audio, 26B MoE ו-31B Dense לעבודה כבדה Benchmark: Gemma 4 26B MoE מנצח מודלים גדולים פי 10 — 162 tokens/שנייה על RTX 4090 אחד, 9GB VRAM NVIDIA קוונטיזה את Gemma 4 31B ב-NVFP4: 99.7% מביצועי הבסיס עם דחיסה פי 4 — Blackwell-ready

Apache 2.0 הוא הכותרת האמיתית: עד היום כל Gemma הגיעה עם רישיון שהגביל שימוש מסחרי. עכשיו כל ארבעת המודלים פתוחים לחלוטין — כולל מסחרי, ללא הגבלה. אחרי שנה שבה Qwen ו-DeepSeek שלטו ב-leaderboards הפתוחים, זה U-turn אסטרטגי של גוגל.

ראשקא (rasbt) בדק את הארכיטקטורה: דומה ל-Gemma 3, אבל training data ו-recipes שונים הסבירים את ה-benchmarks.

📌 הפוסט המומלץ

הסביס מכריז על Gemma 4

Gemma 4 outperforms models over 10x their size! (note the x-axis is log scale!)

Gemma 4 מנצח מודלים גדולים ממנו פי 10! (שימו לב שציר ה-X הוא לוגריתמי)

לפוסט המקורי ↗

💡

תובנה

בעוד שנה, לשלם ל-API על Gemma-level models ירגש כמו לשלם על מים מהברז.

כל הכתבות ←