KoboldCpp
Exécutez localement des modèles de langage grâce à une application d'inférence légère.
Qu’est-ce que KoboldCpp ?
KoboldCpp. Exécutez localement des modèles de langage grâce à une application d'inférence légère. Fonctionnalités: Exécution locale du modèle; Prise en charge de l'inférence hors ligne. Exemples d’utilisation: Expérimentation avec un modèle de langue téléchargé; Évaluer la génération de texte local. Consultez la documentation, la licence, les modèles pris en charge, les exigences matérielles et les éventuels frais distincts d’API ou d’hébergement. Testez sur un petit projet représentatif avant l’intégration dans un système existant.
Source : site officiel du produit. Vérifié .
Ce que cet outil permet de faire
- Exécution locale du modèle
- Prise en charge de l'inférence hors ligne
Par où commencer
- Expérimentation avec un modèle de langue téléchargé
- Évaluer la génération de texte local
Avant de choisir
Consultez la documentation, la licence, les modèles pris en charge, les exigences matérielles et les éventuels frais distincts d’API ou d’hébergement. Testez sur un petit projet représentatif avant l’intégration dans un système existant.
Cette fiche repose sur les informations publiées par le fournisseur. Nous n’avons pas testé chaque fonctionnalité indépendamment.
Tarification
Check provider. Source code is available. Check the project license and documentation; model APIs, compute, hosting, and commercial services may have separate costs.
Visiter KoboldCpp