KoboldCpp
Execute modelos de linguagem localmente através de uma aplicação de inferência leve.
O que é KoboldCpp?
KoboldCpp. Execute modelos de linguagem localmente através de uma aplicação de inferência leve. Funcionalidades: Execução de modelo local; Suporte a inferência off-line. Exemplos de utilização: Experimente com um modelo de idioma baixado; Avaliar a geração de texto local. Consulte a documentação, a licença, os modelos suportados, os requisitos de hardware e os eventuais custos adicionais de API ou alojamento. Teste num projeto pequeno e representativo antes de integrar num sistema existente.
Fonte: site oficial do produto. Verificado .
Como pode ajudar
- Execução de modelo local
- Suporte a inferência off-line
Por onde começar
- Experimente com um modelo de idioma baixado
- Avaliar a geração de texto local
Antes de escolher
Consulte a documentação, a licença, os modelos suportados, os requisitos de hardware e os eventuais custos adicionais de API ou alojamento. Teste num projeto pequeno e representativo antes de integrar num sistema existente.
Este perfil se baseia nas informações publicadas pelo fornecedor. Não testamos todos os recursos de forma independente.
Preços
Check provider. Source code is available. Check the project license and documentation; model APIs, compute, hosting, and commercial services may have separate costs.
Visitar KoboldCpp