ollama

Ответить
ya
^-^
Сообщения: 3448
Зарегистрирован: 16 дек 2021, 19:56

ollama

Сообщение ya »

## Установка Ollama на Debian

Вот пошаговые инструкции для установки Ollama на Debian:

### Загрузка и установка

Выполните эту команду в терминале с правами администратора:

```bash
curl -fsSL https://ollama.ai/install.sh | sh
```

Этот скрипт автоматически:
- Загрузит бинарный файл Ollama
- Установит его в `/usr/local/bin/ollama`
- Создаст системного пользователя `ollama`
- Установит systemd-сервис для автоматического запуска

### Запуск службы

После установки Ollama запустится автоматически как systemd-сервис:

```bash
sudo systemctl start ollama
sudo systemctl enable ollama
```

Проверьте статус:

```bash
sudo systemctl status ollama
```

---

## Использование Ollama

### Загрузка модели

```bash
ollama pull <название_модели>
```

Например:

```bash
ollama pull llama2
```

### Запуск модели

```bash
ollama run <название_модели>
```

---

## Проверка установки

Убедитесь, что Ollama работает:

```bash
curl http://localhost:11434/api/tags
```

Если установка успешна, вы получите JSON с информацией о доступных моделях.

---

## Дополнительные параметры

- **API доступен** на `http://localhost:11434`
- **Логи сервиса** можно просмотреть: `sudo journalctl -u ollama -f`
- **Конфиг** находится в `/etc/ollama/` (если необходимо кастомизировать)

Если во время установки возникают проблемы с GPU, убедитесь, что у вас установлены необходимые драйверы (NVIDIA CUDA для GPU ускорения).
Ответить