Claude Fable 5.1 הושק כעת בשוק, ו-Anthropic מציינת כי המודל החדש זול ב-25% לצ'אט רגיל וב-45% עבור סוג של לולאות סוכנים (agent loops) עם הנחיות חוזרות המניעות כלי אוטומציה רבים. הפחתת המחיר נובעת מגישה זולה יותר לנתונים במטמון (cached data) — מידע שהחברה כבר עיבדה ואחסנה.
למה לירידת המחיר יש חשיבות
מפתחים שמריצים מספר רב של קריאות למודל שפה רואים לעיתים קרובות את החשבון שלהם מתנפח, מכיוון שכל בקשה מחוייבת לפי תעריף הטוקנים של המודל, גם כאשר הבקשה חוזרת על תוכן שהספק כבר מחזיק במטמון שלו. על ידי הסתמכות על נתונים במטמון, Fable 5.1 מצמצם את ההוצאות על בקשות "סטנדרטיות" ומספק הנחה עמוקה יותר כאשר ה-system prompt וה-tool schema זהים ומשמשים לאורך איטרציות רבות. עבור צוותים שבנו צינורות עבודה של סוכנים (agent pipelines) — כמו סוקרי קוד אוטונומיים, בוטים למיון כרטיסי תמיכה (ticket-triage bots) או לולאות לחילוץ נתונים — החיסכון של 45% יכול להיות מכריע.
איך להחליט אם המעבר כדאי
- מדדו את שיעור הפגיעה במטמון (cache hit rate) שלכם – אם רוב הקריאות שלכם פוגעות בתוכן במטמון, העלות הנמוכה יותר לטוקן תתורגם ישירות לחשבון נמוך יותר.
- זהו את אופי עומס העבודה שלכם – לולאות סוכנים חוזרות השומרות על אותן הגדרות הנחיה (prompts) וכלי