LlamaChat

Editoria OpenNavoInclusão no Homebrew 15 de mai. de 2023 17:29

Permite configurar hiperparâmetros, threads de geração e carregamento na memória; importar diretamente arquivos .ggml antigos; e atualiza a visualização de chat e o fluxo de fontes, além de limpar resíduos de conversão.

Novidades

Configure o contexto e parâmetros como top-p e top-k.Escolha os threads usados para gerar texto.Defina se o modelo de cada fonte permanece na memória.

Atualizações

Importe arquivos .ggml antigos sem conversão.Chat ganha balões e animações atualizados e rolagem até o fim.Adicione fontes com ⌘N; o fluxo ganha botão Cancelar.

Correções

Evita deixar arquivos .ggml de conversão sem quantização.Na inicialização, limpa resíduos de versões anteriores.