llama.cpp
स्थानीय और क्लाउड हार्डवेयर में भाषा और दृष्टि - भाषा मॉडल चलाएँ।
llama.cpp क्या है?
llama.cpp. स्थानीय और क्लाउड हार्डवेयर में भाषा और दृष्टि - भाषा मॉडल चलाएँ। सुविधाएँ: सी तथा सी++ इंफरेंस इंजिन; मॉडल सर्वर तथा कमांड- लाइन औजार. उपयोग के उदाहरण: स्थानीय मॉडल का उपयोग करें; उपलब्ध हार्डवेयर पर अनुमान प्रदर्शन की तुलना करें. दस्तावेज़, लाइसेंस, समर्थित मॉडल, हार्डवेयर की ज़रूरतें और अलग API या होस्टिंग लागत जाँचें। मौजूदा सिस्टम में जोड़ने से पहले छोटे, प्रतिनिधि प्रोजेक्ट पर परीक्षण करें।
स्रोत: उत्पाद की आधिकारिक वेबसाइट. समीक्षा की गई .
यह किन कामों में मदद करता है
- सी तथा सी++ इंफरेंस इंजिन
- मॉडल सर्वर तथा कमांड- लाइन औजार
कहाँ से शुरू करें
- स्थानीय मॉडल का उपयोग करें
- उपलब्ध हार्डवेयर पर अनुमान प्रदर्शन की तुलना करें
चुनने से पहले
दस्तावेज़, लाइसेंस, समर्थित मॉडल, हार्डवेयर की ज़रूरतें और अलग API या होस्टिंग लागत जाँचें। मौजूदा सिस्टम में जोड़ने से पहले छोटे, प्रतिनिधि प्रोजेक्ट पर परीक्षण करें।
यह प्रोफ़ाइल प्रदाता की प्रकाशित जानकारी पर आधारित है। हमने हर सुविधा का स्वतंत्र परीक्षण नहीं किया है।
मूल्य निर्धारण
Check provider. Source code is available. Check the project license and documentation; model APIs, compute, hosting, and commercial services may have separate costs.
llama.cpp पर जाएँ