Запуск локальной модели

Ответить
ya
^-^
Сообщения: 3526
Зарегистрирован: 16 дек 2021, 19:56

Запуск локальной модели

Сообщение ya »

Код: Выделить всё

interpreter --local
ya
^-^
Сообщения: 3526
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Чтобы дать доступ к командной строке

# Переходим в домашнюю папку # Создаём окружение (один раз)

Код: Выделить всё

python -m venv interpreter_env
# Активируем его (это надо делать КАЖДЫЙ раз перед запуском)

Код: Выделить всё

source interpreter_env/bin/activate

Как понять, что вы внутри: в начале строки терминала появится (interpreter_env):

Код: Выделить всё

(interpreter_env) gt@ollama:~$
Если не установлен, то ставим Open Interpreter

Код: Выделить всё

pip install --upgrade pip
pip install open-interpreter
Затем запускаем локальную модель
Лучше всего это делать в screen
ya
^-^
Сообщения: 3526
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Код: Выделить всё

sudo apt install -y make build-essential libssl-dev zlib1g-dev \
libbz2-dev libreadline-dev libsqlite3-dev wget curl llvm \
libncurses5-dev libncursesw5-dev xz-utils tk-dev libffi-dev \
liblzma-dev python3-openssl git pyenv
# Устанавливаем Python 3.11 (компилируется 5-10 минут)
pyenv install 3.11.10
pyenv global 3.11.10

# Проверяем
python --version # должно быть 3.11.10


`pyenv global 3.11.10` выбрал версию, но оболочка ещё не подключила **shims pyenv** к `PATH`. Поэтому `python` не находится, а `python3` всё ещё запускает системный Python 3.13.5. Добавьте инициализацию pyenv в Bash, затем перезапустите оболочку. <citation src="1"></citation>

Выполните:

```bash
cat >> ~/.bashrc <<'EOF'
export PYENV_ROOT="$HOME/.pyenv"
[[ -d $PYENV_ROOT/bin ]] && export PATH="$PYENV_ROOT/bin:$PATH"
eval "$(pyenv init - bash)"
EOF

source ~/.bashrc
pyenv rehash
```

Проверьте, что теперь выбрана нужная версия:

```bash
pyenv version
which python
python --version
```

Ожидается путь вроде `~/.pyenv/shims/python` и версия `Python 3.11.10`.

Если `python` всё ещё не находится, проверьте, что именно Bash читает ваш `.bashrc`, и перезапустите оболочку командой `exec "$SHELL"`. <citation src="1"></citation>

Когда версия заработает, создайте новое виртуальное окружение для Open Interpreter на Python 3.11:

```bash
python -m venv ~/interpreter311
source ~/interpreter311/bin/activate
python -m pip install -U pip
python -m pip install open-interpreter
interpreter --local
```

Важный момент: `pyenv global` не переключает Python внутри уже активированного `interpreter_env`. Новое окружение нужно создать отдельно с выбранным Python.
ya
^-^
Сообщения: 3526
Зарегистрирован: 16 дек 2021, 19:56

Re: Запуск локальной модели

Сообщение ya »

Код: Выделить всё

(interpreter311) gt@deb13lxqt:~$ interpreter --local

Open Interpreter supports multiple local model providers.

[?] Select a provider:
 > Ollama
   Llamafile
   LM Studio
   Jan

[?] Select a model:
 > qwen3.8
   qwen3.5:4b
   ↓ Download llama3.1
   ↓ Download phi3
   ↓ Download mistral-nemo
   ↓ Download gemma2
   ↓ Download codestral
   Browse Models ↗

Loading qwen3.8...

Model loaded.


▌ Model set to qwen3.8                                                                                                                                                            

Open Interpreter will require approval before running code.

Use interpreter -y to bypass this.

Press CTRL-C to exit.

> 
Ответить