
Движки моделей
Ollama
Общий локальный сервер моделей с каталогом тегов.
Что это и когда использовать
Ollama хранит и обслуживает модели в своём формате. В LAIKA выбирайте Ollama для модели с тегом из его каталога. HF-папка для Atlas/vLLM автоматически в Ollama не импортируется.
Новая установка комплекта закрепляет Ollama 0.40.1. Существующий совместимый сервер и его данные сохраняются, поэтому фактическая версия на ранее настроенном Spark может отличаться.
Выберите тег и запустите
laika modelsЕсли нужного тега нет, сначала загрузите его. Название ниже — пример:
laika download ollama qwen3.5:4blaika stoplaika start ollama qwen3.5:4b --context 32768Контекст должен укладываться в возможности модели и политику администратора.
laika logs --followПосле загрузки выйдите из журнала Ctrl+C и проверьте ответ:
laika checklaika piНастройки Ollama
LAIKA 1.24 поддерживает --context, --max-output-tokens
и объявленные моделью режимы --reasoning. Без контекста выбирается
максимум модели/политики. Модель должна уметь вызывать инструменты для агентной работы.
Флаги памяти/батча Atlas/vLLM, KV-формат, sampling-флаги LAIKA и Atlas-специфичные
параметры к Ollama не применяются. Нативные параметры Ollama задаются через его
API options или Modelfile; это отдельный способ настройки.
После работы выполните laika stop. Общий сервер и скачанные
модели сохраняются. Документация Ollama.
Источники в комплекте 1.24
FLAI_AGENTS/versions.jsonFLAI_AGENTS/INSTALL_AGENTS.pyFLAI_AGENTS/CLIENTS/ИНСТРУКЦИЯ.mdFLAI_AGENTS/LAB/service.py