Un modelo local se ejecuta en tu propia computadora, así que tu texto nunca sale de ella. Es la opción para el material que no puede ir a un proveedor en la nube.
Ollama
Instala e inicia Ollama en tu computadora y luego activa el proveedor Ollama en Configuración, en Modelos, en la app de escritorio. No hace falta clave. Haz clic en Agregar Modelo debajo de una lista y Grape muestra los modelos que descargaste: los modelos de chat en Modelos de Chat y los de embeddings en Modelos de Búsqueda. Si dice que no pudo conectarse con Ollama, es que Ollama no se está ejecutando.
LM Studio
Inicia el servidor local de LM Studio, activa el proveedor LM Studio y agrega los modelos que tengas cargados de la misma forma, desde Agregar Modelo. Grape se comunica con LM Studio en su dirección local estándar.
Solo en la computadora
Los proveedores locales son una función de escritorio, porque el modelo tiene que ejecutarse en un equipo con memoria suficiente para cargarlo. En el celular se usa Grape AI o un proveedor en la nube.
Qué esperar
Un modelo local es tan bueno como el hardware y el modelo que elegiste. Espera respuestas más lentas que con un proveedor en la nube y una calidad que varía según el modelo. Para resumir notas y conversar sobre ellas, los modelos locales medianos sirven de verdad, y ganar privacidad es justamente el punto.
Combinar local y en la nube
Los proveedores son interruptores, no un compromiso. Hay quien usa el chat en local y deja activado un modelo en la nube para la transcripción, algo que las configuraciones locales rara vez hacen bien.