Строить с ИИ
Личный помощник на своём компьютере
Поставить открытую модель на свой ноутбук, проверить маршрут данных и собрать помощника по вымышленным материалам «Маяка»
Главное преимущество локальной модели — возможность выполнить запрос на своём компьютере без передачи текста облачной модели. Но слово «локальная» само по себе ничего не доказывает: приложение может проверять обновления, искать модели, включать веб-поиск или открывать сервер для других устройств. Поэтому курс начинается с проверки конкретной конфигурации.
Второе преимущество — повторные запуски без оплаты каждого обращения после того, как программа и модель уже скачаны. Ограничения остаются: память компьютера, скорость, длина контекста, электричество и время проверки результата.
Курс практический. К концу первого дня у вас на компьютере работает модель, к концу второго — помощник, который знает ваши материалы и отвечает по ним. Программировать не придётся: программы для запуска моделей ставятся как обычные приложения. На пути через Ollama понадобятся несколько готовых команд в терминале — они приведены в статьях и в блоке 7 целиком, сочинять свои не нужно.
Локальные модели различаются по размеру, языку и качеству; маленькая модель часто уступает крупным облачным в сложном рассуждении. Свежие внешние сведения появляются только через отдельно включённый поиск или заранее обновлённые материалы. Курс учит выбирать маршрут по данным, задаче и возможности проверить ответ.
Курс 10 первой ступени — про проверку границ локального запуска: что он доказывает, а что нет. Здесь — личная сторона: ваш компьютер, ваши задачи, ваш помощник.
Программа
День 1. Поставить и понять 6 уроков
Первый день — про железо, установку, выбор модели и проверку маршрута данных в конкретном запуске.
- ▸ От чего зависит, поместится ли модель 35 мин открыт
-
Лабораторная 1. Установка и первый запуск 45 мин · лабораторная
-
Какая модель для какой задачи 35 мин
-
Проверьте маршрут данных в этом запуске 35 мин
-
Лабораторная 2. Три учебные задачи и сравнение моделей 60 мин · лабораторная
-
Для каких задач полезен локальный запуск 30 мин
День 2. Личный помощник 6 уроков
Во второй день сохраним повторяющиеся пожелания к ответам и проверим помощника на учебных материалах «Маяка».
-
Лабораторная 3. Помощник с постоянной инструкцией 45 мин · лабораторная
-
Своя база: как дать помощнику ваши материалы 35 мин
-
Лабораторная 4. Помощник, знающий ваши материалы 55 мин · лабораторная
-
Лабораторная 5. Ежедневный сценарий 45 мин · лабораторная
-
Поддержка и разговор с ИТ 30 мин
-
Итоговый практикум. Свой помощник целиком 90 мин · аттестация