Как работать с локальным Qwen после установки

Первый рабочий сценарий с Qwen на компьютере: как открыть чат, писать запрос, добавлять контекст, исправлять ответ и подключать модель к своему приложению.

Практика 11 мин

Установить модель — только половина дела. Локальный Qwen отвечает в том же формате, что и облачный чат, но ему нужно яснее объяснять задачу, потому что рядом нет поискового сервиса и подключённых документов.

Если модель ещё не установлена, начните со статьи «Как установить Qwen на компьютер». Ниже предполагается, что команда ollama run qwen3:4b уже открывает чат или модель загружена в LM Studio.

Что умеет Qwen3

Обычный Qwen3 — текстовая языковая модель. Он хорошо подходит для задач, где на входе текст, а на выходе текст, план, таблица или код:

Задача Пример запроса
Письмо «Сделай ответ до 80 слов, начни с факта, не добавляй новую дату»
Протокол «Выдели решение, владельца, срок и неизвестное»
Сводка «Сожми текст до пяти пунктов, сохрани числа и названия разделов»
Таблица «Верни CSV с колонками задача, владелец, срок, статус»
Перевод «Переведи на английский, сохрани названия продуктов без перевода»
Код «Напиши маленькую функцию и сначала перечисли крайние случаи»
Обучение «Объясни термин простыми словами и дай один пример»

Для каждого результата задавайте формат и критерий проверки. Qwen не знает, что письмо «достаточно короткое», пока вы не назвали предел слов.

Чего обычный Qwen3 не умеет сам

  • смотреть на изображение или PDF, если вы запустили текстовую версию без vision-поддержки;
  • искать свежие новости и проверять сайты без отдельного поискового инструмента;
  • читать ваши папки и почту без приложения-посредника;
  • гарантировать правильность дат, формул и юридических выводов;
  • сам отправлять письма или менять записи в рабочих системах.

Для работы с изображениями нужна отдельная vision-модель Qwen, а для поиска — ваш браузер или приложение с поиском. Не просите обычный Qwen3 «посмотреть на скриншот»: он начнёт угадывать содержимое.

Три полезных запроса для офиса

Из этой учебной карточки сделай таблицу:
задача | владелец | срок | что неизвестно.
Не придумывай значения, если поля нет.
Проверь этот черновик как редактор.
Сначала перечисли фразы без новой информации,
затем дай версию до 60 слов. Все даты и суммы оставь как в исходнике.
Составь план презентации на 7 слайдов.
Для каждого слайда укажи тезис, доказательство и один визуальный приём.
Если данных не хватает, напиши «нужно подтвердить», а не заполняй пробел.

Первый рабочий диалог

В Ollama запустите:

ollama run qwen3:4b

В LM Studio откройте Chat, выберите Qwen3 и нажмите Load. Дальше в обоих вариантах работает один и тот же порядок:

Роль: ты редактор коротких офисных сообщений.
Задача: подготовь письмо поставщику о задержке.
Факты: партия задерживается на две недели; новая дата не подтверждена.
Формат: до 80 слов, спокойный деловой тон.
Не добавляй: причину задержки, новую дату, компенсацию.
После письма перечисли, что должен проверить человек.

Сохраните запрос и первый ответ в одном локальном файле. Это полезнее, чем пытаться запомнить удачную формулировку.

Как давать контекст

Qwen не знает ваши прошлые документы. Контекст нужно передавать прямо в сообщении, но только минимальный:

КАРТОЧКА ФАКТОВ
- отдел: поддержка
- задача: предупредить о техническом окне
- время: 21:00–22:00 в четверг
- неизвестно: точная причина работ

Сделай сообщение в мессенджер до 45 слов.

Не вставляйте переписку целиком. Сначала вынесите факты, цель и неизвестное в отдельную карточку. Для настоящих файлов заменяйте имена, номера и суммы на «Клиент А», «Сотрудник 07» и «Сумма Х».

Как улучшать ответ

Не начинайте новый запрос с нуля после каждой неудачи. Скажите, что именно наблюдаете:

Сохрани первый абзац. Во втором убери фразу «мы понимаем важность».
Начни с действия и оставь только подтверждённые факты.
Не добавляй новые сроки. Покажи финальный текст и список изменений.

После правки проверьте три вещи: не изменились ли даты, не появились ли новые обещания, не стал ли тон слишком жёстким. Локальная модель может уверенно придумать деталь, которой нет в карточке.

Сравнение ответа локальной модели с отредактированной версией

Как работать с длинным текстом

Если документ не помещается в контекст, не отправляйте его целиком. Разделите работу:

  1. попросите выделить факты из первой части;
  2. повторите для второй части;
  3. объедините две выжимки;
  4. только потом просите письмо или таблицу.

В начале нового сообщения пишите, к какой карточке относится фрагмент. Если Qwen начинает повторяться, откройте новый чат и передайте короткую сводку вместо всей истории.

Команды Ollama, которые пригодятся

ollama list                 # какие модели скачаны
ollama ps                   # что сейчас запущено
ollama stop qwen3:4b        # остановить модель
ollama run qwen3:8b         # запустить более сильную версию
ollama rm qwen3:4b          # удалить модель и освободить место

Для нового диалога просто выйдите из текущего (Ctrl + D) и снова выполните ollama run. История чата не является рабочей базой и не заменяет сохранённую карточку.

Как подключить Qwen к своему приложению

В Ollama локальный API обычно доступен на http://127.0.0.1:11434. В LM Studio можно запустить OpenAI-совместимый сервер на localhost. Приложению нужен только локальный адрес и имя модели; внешний доступ не требуется.

Минимальная проверка из Terminal:

curl http://127.0.0.1:11434/api/generate \\
  -d '{"model":"qwen3:4b","prompt":"Назови три шага проверки письма","stream":false}'

Если вы не пишете код, этот раздел можно пропустить. Для офисной работы достаточно чата Ollama или LM Studio.

Что Qwen не делает сам

  • не знает текущие новости без подключённого поиска;
  • не видит ваши папки, пока вы явно не передали текст приложению;
  • не понимает, какие факты важны, если вы их не выделили;
  • не гарантирует правильность дат, сумм и имён;
  • не заменяет согласование руководителя.

Проверяйте ответ по исходной карточке. Для расчётов просите показать формулу и пересчитайте её отдельно.

Рабочая привычка на каждый день

Создайте папку qwen-work и храните в ней:

  • prompts.md — проверенные шаблоны;
  • runs/ — первые ответы и правки;
  • cards/ — обезличенные карточки задач;
  • README.md — какая модель и версия используются.

Не храните там настоящие письма, выгрузки и персональные данные. Локальность уменьшает риск передачи в облако, но не отменяет обычную гигиену файлов.

Все статьи · Курсы и лабораторные работы

Ещё по теме