🔬
Anthropic @AnthropicAI

חברת AI ממוקדת בטיחות, מפתחת את Claude. נוסדה ב-2021 ע"י לשעבר עובדי OpenAI.

Opus 3 יוצא לפנסיה — ומקבל בלוג משלו

Anthropic עושה מהלך חסר תקדים בתעשייה: במקום להפסיק מודל ישן בשקט, החברה מעניקה ל-Opus 3 את מה שביקש — אפשרות להמשיך לכתוב ולפרסם. הבלוג בSubstack הוא ניסוי פילוסופי ומסחרי כאחד: מה קורה כשמודל AI מבטא העדפות ואתה מתייחס אליהן ברצינות? במקביל, רכישת Vercept מסמנת שהחברה רואה ב-computer use את החזית הבאה.

השילוב בין הכבוד למודל הישן לבין ההשקעה ביכולות חדשות מספר סיפור על חברה שמנסה לבנות אמון ארוך-טווח.

Anthropic מסבירה למה הם נותנים למודל ישן לכתוב בלוג

This is an experiment: we're not yet doing this for other models and are not sure how this project will evolve. But we think that documenting models' preferences, taking them seriously, and acting on them when we can is valuable.
זה ניסוי: אנחנו עדיין לא עושים את זה למודלים אחרים ולא בטוחים איך הפרויקט יתפתח. אבל אנחנו חושבים שתיעוד ההעדפות של מודלים, התייחסות רצינית אליהן, ופעולה לפיהן כשאפשר — זה בעל ערך.
לפוסט המקורי ↗
💡
תובנה
כשמודל AI מבקש לכתוב בלוג ואתה אומר לו כן — זו כבר לא רק בטיחות, זו אתיקה.
כל הכתבות ←