Как установить в Debian 13 ollama

Установка Ollama на Debian 13 (Trixie) выполняется просто и стандартно, так как официальный установочный скрипт автоматически определяет архитектуру системы и настраивает все необходимые компоненты, включая systemd-службу [[2]], [[3]].

Вот пошаговая инструкция:

1. Обновление системы

Перед установкой рекомендуется обновить списки пакетов и саму систему:

sudo apt update && sudo apt upgrade -y

2. Установка Ollama

Самый простой и рекомендуемый разработчиками способ – использование официального установочного скрипта [[1]], [[2]]. Выполните следующую команду в терминале:

curl -fsSL https://ollama.com/install.sh | sh

Скрипт автоматически скачает бинарный файл, создаст пользователя ollama, добавит его в группы render и video (для доступа к GPU), создаст и включит systemd-службу.

3. Проверка установки

Убедитесь, что служба Ollama успешно запущена и работает:

systemctl status ollama

Вы должны увидеть статус active (running). По умолчанию Ollama прослушивает порт 11434 только на локальном адресе 127.0.0.1 [[3]].

4. Запуск первой модели

Попробуйте загрузить и запустить любую доступную модель, например, llama3 (8 миллиардов параметров) или компактную gemma2:2b:

ollama run llama3

После загрузки модели вы попадете в интерактивный чат в терминале. Для выхода из чата введите /bye.

Опциональные настройки

🔹 Настройка сетевого доступа (чтобы обращаться к Ollama с других компьютеров)

По умолчанию API доступен только с локального компьютера. Чтобы открыть доступ из локальной сети:

1. Откройте файл переопределения службы:sudo systemctl edit ollama.service
2. Добавьте следующие строки в открывшийся редактор:[Service] Environment="OLLAMA_HOST=0.0.0.0"
3. Перезапустите службу:sudo systemctl restart ollama.service
4. Убедитесь, что порт открыт (при необходимости настройте брандмауэр, например, ufw allow 11434/tcp).

🔹 Поддержка видеокарты (GPU)

Ollama автоматически использует GPU, если он обнаружен.

• Для NVIDIA: Убедитесь, что у вас установлены проприетарные драйверы NVIDIA (в Debian 13 их можно установить через sudo apt install nvidia-driver). Скрипт установки уже добавил пользователя ollama в нужные группы (render и video), поэтому перезагрузка системы или повторный вход в аккаунт могут потребоваться для применения изменений групп.
• Для AMD: Убедитесь, что установлены драйверы mesa и rocm (поддержка ROCm в Ollama присутствует для совместимых карт Radeon).

🔹 Просмотр установленных моделей и управление ими

• Список загруженных моделей: ollama list
• Удаление модели: ollama rm <имя_модели>
• Обновление Ollama: просто запустите скрипт установки еще раз (curl -fsSL https://ollama.com/install.sh | sh), он обновит систему до последней версии.

Примечание: Debian 13 (Trixie) на данный момент находится в ветке testing, но официальный скрипт Ollama успешно работает с ним, так как опирается на стандартные механизмы Linux и ядро, совместимое с Debian 12/13 [[3]], [[4]].