דלנגו
דלנגו
קלמן דלאנג @clementdelangue

מנכ"ל Hugging Face. מוביל את מהפכת ה-open source AI.

דלנגו חושפת יכולת סייבר חדשה, ומשחררת אותה בזהירות

דלנגו מציגה יכולת סייבר חדשה עם שחרור מבוקר ושותפים שמתחילים לעבוד איתה בפועל, ולא רק מסר בטיחותי מופשט. הניסוי שערכו כלל הפעלה של מודלים קטנים וזולים על קוד פגיעויות שהוצגו על ידי אנטרופיק, והמודלים הצליחו לשחזר את אותה ניתוח. משמעות הדבר היא שכאשר היכולת למצוא ולנצל חולשות עולה על רמת החוקרים האנושיים, מדיניות הפצה מבוקרת הופכת לחלק הכרחי מהשקת המודל.

הפוסט שמחזיק את מרכז הכובד של הסיפור הזה אצל @clementdelangue

"But here is what we found when we tested: We took the specific vulnerabilities Anthropic showcases in their announcement, isolated the relevant code, and ran them through small, cheap, open-weights models. Those models recovered much of the same analysis. Eight out of eight
דלנגו חושפת יכולת סייבר חדשה, ומשחררת אותה בזהירות. לא מדובר בעוד מסר בטיחותי מופשט, אלא בהצגה של יכולת סייבר חדשה עם שחרור מבוקר ושותפים שמתחילים לעבוד איתה בפועל.
לפוסט המקורי ↗
💡
תובנה
כשהיכולת למצוא ולנצל חולשות עולה על רף החוקרים האנושיים, הפצה מבוקרת היא הכרחית להשקה בטוחה.
כל הכתבות ←