LlamaChat

Editado por OpenNavoInclusión en Homebrew 15 may 2023 17:29

Permite configurar hiperparámetros, hilos de generación y carga en memoria; importar directamente archivos .ggml antiguos; y actualiza la vista de chat y el flujo de fuentes, además de limpiar restos de conversión.

Novedades

Configura el contexto y parámetros como top-p y top-k.Elige los hilos usados para generar texto.Controla si el modelo de cada fuente permanece en memoria.

Cambios

Importa archivos .ggml antiguos sin convertirlos.La vista de chat actualiza burbujas y animaciones y baja al final.Añade fuentes con ⌘N; el flujo incorpora un botón Cancelar.

Correcciones

Evita dejar archivos .ggml de conversión sin cuantizar.Al iniciar, limpia los restos de versiones anteriores.