Запуск локальной модели

Ответить
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Запуск локальной модели

Сообщение ya »

Код: Выделить всё

interpreter --local
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Чтобы дать доступ к командной строке

# Переходим в домашнюю папку # Создаём окружение (один раз)

Код: Выделить всё

python -m venv interpreter_env
# Активируем его (это надо делать КАЖДЫЙ раз перед запуском)

Код: Выделить всё

source interpreter_env/bin/activate

Как понять, что вы внутри: в начале строки терминала появится (interpreter_env):

Код: Выделить всё

(interpreter_env) gt@ollama:~$
Если не установлен, то ставим Open Interpreter

Код: Выделить всё

pip install --upgrade pip
pip install open-interpreter
Затем запускаем локальную модель
Лучше всего это делать в screen
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Код: Выделить всё

sudo apt install -y make build-essential libssl-dev zlib1g-dev \
libbz2-dev libreadline-dev libsqlite3-dev wget curl llvm \
libncurses5-dev libncursesw5-dev xz-utils tk-dev libffi-dev \
liblzma-dev python3-openssl git pyenv
# Устанавливаем Python 3.11 (компилируется 5-10 минут)
pyenv install 3.11.10
pyenv global 3.11.10

# Проверяем
python --version # должно быть 3.11.10


`pyenv global 3.11.10` выбрал версию, но оболочка ещё не подключила **shims pyenv** к `PATH`. Поэтому `python` не находится, а `python3` всё ещё запускает системный Python 3.13.5. Добавьте инициализацию pyenv в Bash, затем перезапустите оболочку. <citation src="1"></citation>

Выполните:

```bash
cat >> ~/.bashrc <<'EOF'
export PYENV_ROOT="$HOME/.pyenv"
[[ -d $PYENV_ROOT/bin ]] && export PATH="$PYENV_ROOT/bin:$PATH"
eval "$(pyenv init - bash)"
EOF

source ~/.bashrc
pyenv rehash
```

Проверьте, что теперь выбрана нужная версия:

```bash
pyenv version
which python
python --version
```

Ожидается путь вроде `~/.pyenv/shims/python` и версия `Python 3.11.10`.

Если `python` всё ещё не находится, проверьте, что именно Bash читает ваш `.bashrc`, и перезапустите оболочку командой `exec "$SHELL"`. <citation src="1"></citation>

Когда версия заработает, создайте новое виртуальное окружение для Open Interpreter на Python 3.11:

```bash
python -m venv ~/interpreter311
source ~/interpreter311/bin/activate
python -m pip install -U pip
python -m pip install open-interpreter
interpreter --local
```

Важный момент: `pyenv global` не переключает Python внутри уже активированного `interpreter_env`. Новое окружение нужно создать отдельно с выбранным Python.
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Код: Выделить всё

(interpreter311) gt@deb13lxqt:~$ interpreter --local

Open Interpreter supports multiple local model providers.

[?] Select a provider:
 > Ollama
   Llamafile
   LM Studio
   Jan

[?] Select a model:
 > qwen3.8
   qwen3.5:4b
   ↓ Download llama3.1
   ↓ Download phi3
   ↓ Download mistral-nemo
   ↓ Download gemma2
   ↓ Download codestral
   Browse Models ↗

Loading qwen3.8...

Model loaded.


▌ Model set to qwen3.8                                                                                                                                                            

Open Interpreter will require approval before running code.

Use interpreter -y to bypass this.

Press CTRL-C to exit.

> 
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Пересоздать виртуальное окружение с нужной версией
Если вам нужно использовать Python 3.11.10 именно в этом проекте, пересоздайте виртуальное окружение:

Код: Выделить всё

deactivate
pyenv global 3.11.10
rm -rf interpreter_env  # удалить старое окружение
python -m venv interpreter_env  # создать новое на базе 3.11.10
source interpreter_env/bin/activate
python --version  # проверить версию
Локальная версия в директории проекта
Если вам нужна версия 3.11.10 только для этого проекта, используйте pyenv local:

Код: Выделить всё

deactivate
pyenv local 3.11.10
python --version  # должен показать Python 3.11.10
Это создаст файл .python-version в текущей директории. Версия будет использоваться автоматически при входе в эту папку.
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Переустановить open-interpreter с Python 3.11.10

Код: Выделить всё

pipx uninstall open-interpreter
pipx install open-interpreter --python /home/gt/.pyenv/versions/3.11.10/bin/python
Проверить:

Код: Выделить всё

interpreter --local -y
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

создать символические ссылки:

Код: Выделить всё

ln -s /home/gt/.pyenv/versions/3.11.10/bin/python /home/gt/.local/share/pipx/venvs/open-interpreter/bin/python

Код: Выделить всё

ln -s /home/gt/.pyenv/versions/3.11.10/bin/python /home/gt/.local/share/pipx/venvs/open-interpreter/bin/python3
Полностью пересоздайте окружение:

Код: Выделить всё

pipx uninstall open-interpreter
pipx install open-interpreter
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

загрузить более старую версию для питона 3.11

Код: Выделить всё

/home/gt/.local/share/pipx/venvs/open-interpreter/bin/python -m pip install setuptools==69.0.0
ya
^-^
Сообщения: 3556
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

**Хорошая новость:** `interpreter` успешно запустился! Ошибка `ModuleNotFoundError` исчезла.

**Странный код** — это проблема с кодированием цветов терминала, **не с самой программой**. Это ANSI escape sequences, которые терминал не правильно отображает.

Решение — отключите цвета:

```bash
interpreter --local -y --no-color
```

Или установите правильную локаль:

```bash
export LC_ALL=en_US.UTF-8
export LANG=en_US.UTF-8
interpreter --local -y
```

Или проверьте, какой терминал используется:

```bash
echo $TERM
```

Если там что-то вроде `linux` или `dumb`, измените на:

```bash
export TERM=xterm-256color
interpreter --local -y
```

**Суть:** проблема с `pkg_resources` **решена**, вам просто нужно настроить терминал правильно отображать цвета.
Ответить