Перейти к содержимому
Разделы документации

FLAI LAB 1.24
Срез от 24.10.2026

ДокументацияДвижки моделей

Движки моделей

Ollama

Общий локальный сервер моделей с каталогом тегов.

0.40.1 · новая установкаFLAI LAB 1.24Срез 24.10.2026

Что это и когда использовать

Ollama хранит и обслуживает модели в своём формате. В LAIKA выбирайте Ollama для модели с тегом из его каталога. HF-папка для Atlas/vLLM автоматически в Ollama не импортируется.

Новая установка комплекта закрепляет Ollama 0.40.1. Существующий совместимый сервер и его данные сохраняются, поэтому фактическая версия на ранее настроенном Spark может отличаться.

Выберите тег и запустите

Терминал · без sudo
laika models

Если нужного тега нет, сначала загрузите его. Название ниже — пример:

Терминал · без sudo
laika download ollama qwen3.5:4b
Терминал · без sudo
laika stop
Терминал · без sudo
laika start ollama qwen3.5:4b --context 32768

Контекст должен укладываться в возможности модели и политику администратора.

Терминал · без sudo
laika logs --follow

После загрузки выйдите из журнала Ctrl+C и проверьте ответ:

Терминал · без sudo
laika check
Терминал · без sudo
laika pi

Настройки Ollama

LAIKA 1.24 поддерживает --context, --max-output-tokens и объявленные моделью режимы --reasoning. Без контекста выбирается максимум модели/политики. Модель должна уметь вызывать инструменты для агентной работы.

Флаги памяти/батча Atlas/vLLM, KV-формат, sampling-флаги LAIKA и Atlas-специфичные параметры к Ollama не применяются. Нативные параметры Ollama задаются через его API options или Modelfile; это отдельный способ настройки.

После работы выполните laika stop. Общий сервер и скачанные модели сохраняются. Документация Ollama.

Источники в комплекте 1.24
  • FLAI_AGENTS/versions.json
  • FLAI_AGENTS/INSTALL_AGENTS.py
  • FLAI_AGENTS/CLIENTS/ИНСТРУКЦИЯ.md
  • FLAI_AGENTS/LAB/service.py