Baseten
99.95%السياق1 مليون
أقصى إخراج1 مليون
زمن p50206 ms
الإنتاجية370.0 t/s
سعر الإدخال0.5 US$
سعر الإخراج1.2 US$
لا يحتفظ بالبياناتدون تدريبتخزين مؤقت
thinkingmachines/inkling-small
Inkling-Small هو نموذج أخف وزنًا بـ 12 مليار معلمة نشطة، تم تدريبه بوصفة مشابهة لـ Inkling، ويحقق أداءً قويًا بتكلفة وزمن استجابة أقل.
دولار أمريكي لكل مليون رمز، حسب بيانات المزوّد الحالية.
الوسيط p50 خلال الساعة الماضية بالمللي ثانية؛ الأقل أفضل.
نسبة الجاهزية المعلنة خلال آخر 24 ساعة، وليست ضماناً تعاقدياً.
قارن الأسعار والأداء والخصوصية لكل مزوّد متاح لهذا النموذج.
| المزوّد | أقصى سياق | أقصى إخراج | زمن p50 | الإنتاجية p50 | جاهزية 24 ساعة | إدخال / مليون رمز | إخراج / مليون رمز | الخصوصية |
|---|---|---|---|---|---|---|---|---|
Baseten | 1 مليون | 1 مليون | 206 ms | 370.0 t/s | 99.951% | 0.5 US$ | 1.2 US$ | |
Deepinfra | 1 مليون | 1 مليون | 278 ms | 230.0 t/s | 100.000% | 0.58 US$ | 1.44 US$ | |
Thinkingmachines | 64 ألف | 64 ألف | 1,642 ms | 309.5 t/s | 100.000% | 0.3 US$ | 1.2 US$ | |
Togetherai | 1 مليون | 1 مليون | 270 ms | 309.0 t/s | 100.000% | 0.5 US$ | 1.2 US$ |
الوسائط والقدرات المتاحة عبر مزوّدي التشغيل.
thinkingmachines/inkling-smallخيارات أخرى من نفس المطوّر أو الفئة.