Перейти к содержанию

Открытые модели

Ollama подключает Claude Desktop к открытым моделям

2 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: ollama.com

26 августа Ollama добавила в своё приложение переключатель Claude. Он прописывает Ollama сторонним шлюзом в Claude Desktop. После этого приложение Anthropic работает с любой моделью из каталога Ollama: и с запущенной на вашей машине, и с размещённой в облаке Ollama. Порядок настройки и ответы на частые вопросы собраны в блоге Ollama.

Шагов всего три. Откройте Ollama, выберите Claude и включите переключатель, шлюз Ollama настроит сама. Пока он включён, в Claude Desktop можно выбрать любую модель Ollama. Облачные модели Ollama предлагает для крупных задач по коду и исследованиям, локальные работают прямо на компьютере. Свою локальную модель подключают на странице Settings, там её и настраивают. Если выключить Claude в Ollama, вернётся прежняя настройка Claude Desktop, и тем же тумблером вы переходите обратно на модели Anthropic.

Под капотом работает механизм, который Ollama выпустила ещё зимой. 16 января компания объявила, что версии 0.14.0 и новее понимают Anthropic Messages API, формат запросов, на котором общаются клиенты Anthropic. С тех пор Claude Code можно было перевести на локальные открытые модели вручную, через две переменные окружения: ANTHROPIC_BASE_URL=http://localhost:11434 и ANTHROPIC_AUTH_TOKEN=ollama. Токен в этой паре обязателен, но сервер его игнорирует.

Совместимость частичная, и её границы описаны в документации Ollama. Поддерживаются обычные сообщения, потоковая выдача, системные промпты, многоходовые диалоги, изображения, вызов инструментов с возвратом результатов и режим thinking, включая extended thinking. Не поддерживаются эндпоинт подсчёта токенов /v1/messages/count_tokens, параметр tool_choice, поле metadata с user_id и кэширование промптов через блоки cache_control. Число токенов при этом приблизительное: его считает токенизатор той модели, которая реально отвечает.

Через сервер Ollama, на котором выполнен вход, облачное имя вроде gemma4:cloud работает без отдельной загрузки модели. Если инструмент ждёт стандартных имён Anthropic, например claude-3-5-sonnet, документация предлагает скопировать под это имя уже скачанную модель командой ollama cp. Ключи API локальный сервер не проверяет.

Под Claude Code Ollama рекомендует две локальные модели, gpt-oss:20b и qwen3-coder, и две облачные, glm-4.7:cloud и minimax-m2.1:cloud. Минимальный контекст для такой работы называют по-разному: не меньше 64k токенов или не меньше 32K. Облачные модели Ollama всегда работают с максимальной длиной контекста.

О данных Ollama отвечает прямо: промпты и данные не уходят ни в Anthropic, ни в Ollama. Телеметрия по умолчанию выключена, а для всех своих моделей и сервисов Ollama заявляет строгую политику нулевого хранения данных (Zero Data Retention), и в облаке, и на локальной машине.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.