تقول Cohere إن شكل الطلب يؤثر في خيارات استدلال التضمين وإعادة الترتيب
تقول Cohere إن الاختيار بين الاستدلال المشترك والمخصص لـEmbed وRerank يعتمد على حجم العمل في كل طلب ونمط الحركة والاستخدام وزمن الاستجابة. ولا يكفي عدد الطلبات في الدقيقة وحده؛ ففهرسة الكتالوج على دفعات تهتم بالإنتاجية، بينما يتطلب البحث التفاعلي استجابة سريعة.
فترة الحدث / البيانات:
نُشر: · آخر تحديث:
في حساب توضيحي لـCohere، تعالج دفعة من 100 نص، بنحو 200 رمز لكل نص، 20 ألف رمز؛ وفي إعداد محدد يعمل باستمرار، تبلغ نقطة التعادل المحسوبة للسعة المخصصة نحو 20 طلباً في الدقيقة. وتورد الشركة نحو أربعة طلبات في الدقيقة لدفعات الوثائق الأطول و29 طلباً لإعادة ترتيب 50 مرشحاً.
هذه ليست عتبات عامة. يفترض حساب Cohere استخدام وحدة NVIDIA A10 واحدة تحاسب بالساعة، من دون خصومات تفاوضية، واستمرار الحركة طوال اليوم. وتقول الشركة إن نقطة التعادل تتغير باختلاف ساعات التشغيل والتسعير والعتاد ومتطلبات زمن الاستجابة.
البيانات
تقول Cohere إن شكل الطلب يؤثر في خيارات استدلال التضمين وإعادة الترتيب
- · حدث
تقول Cohere إن شكل الطلب يؤثر في خيارات استدلال التضمين وإعادة الترتيب
تقول Cohere إن الاختيار بين الاستدلال المشترك والمخصص لـEmbed وRerank يعتمد على حجم العمل في كل طلب ونمط الحركة والاستخدام وزمن الاستجابة. ولا يكفي عدد الطلبات في الدقيقة وحده؛ ففهرسة الكتالوج على دفعات تهتم بالإنتاجية، بينما يتطلب البحث التفاعلي استجابة سريعة.
المنهجية
يلخص سجل الحدث هذا البيان المؤرخ في المصدر الأولي المحدد. ولا تُعرض ادعاءات المنتج أو الاختبار الواردة فيه على أنها نتائج تم التحقق منها بصورة مستقلة.
آخر تحديث:
الموضوعات والأماكن
اقتراحات الموضوعات
- علوم وتكنولوجيامقترح
- Preserved editorial category/topic; broad candidate onlycohere.com ↗