Локальные модели

ИИ-модели, модели речи и вспомогательные модели, которые работают на вашем компьютере, как подобрать модель под ваше оборудование и как их скачивать и удалять.

TalkBar может выполнять всю работу на вашем компьютере: распознавание речи, определение голосов, перевод, поиск по документам, а со встроенным ИИ — ещё итоги и чат. Для каждой из этих задач нужна модель на диске. Посмотреть, скачать и удалить их можно в одном месте — в разделе Настройки → Локальный ИИ.

Где управлять локальными моделями

Откройте Настройки → Локальный ИИ. Вверху находится переключатель приватного режима ИИ, а ниже — три вкладки:

ВкладкаЧто в ней
Локальные ИИ-моделиНебольшие языковые модели для встроенного ИИ: итоги, чат, обработка, названия
Модели речиМодели распознавания речи для записи, улучшения и диктовки
Системные моделиВспомогательные модели, которые TalkBar скачивает автоматически, когда они нужны какой-либо функции

В установщик модели не входят. Каждая модель скачивается один раз, когда она понадобится вам или функции, и дальше работает без интернета. Модели скачиваются с Hugging Face, и TalkBar проверяет их перед использованием.

Локальные ИИ-модели

На этих моделях работает встроенный ИИ. В каждой строке указаны размер загрузки, оценки скорости и точности, функции, которые используют модель, и кнопки Скачать, Отмена или Удалить.

МодельРазмерОЗУЧто стоит знать
Qwen3 0.6B380 МБМалоКрошечная и быстрая. Используется по умолчанию для обработки диктовки.
Qwen3.5 2B1,2 ГБОколо 2 ГБКомпактная модель для итогов на менее мощных компьютерах
Qwen3.5 4B2,6 ГБОколо 3,5 ГБИспользуется по умолчанию для итогов и других функций
Qwen3.5 9B5,3 ГБОколо 7 ГБКачество выше, чем у 4B, если хватает видеопамяти; работает медленнее
Gemma 4 E4B5 ГБОколо 6 ГБGemma 4 с самым высоким качеством
Ministral 3 3B2 ГБОколо 4 ГБКомпактная многоязычная модель, хорошо справляется со структурированным выводом
LFM2.5 1.2B Thinking697 МБМалоБыстрая, только текст: для обработки, названий и хронологии, но не для итогов и чата
LFM2.5 2.6B1,6 ГБПодходит для компьютеров с видеокартой на 8 ГБ

Крупные модели обычно пишут лучше, но требуют больше памяти и работают медленнее. Скорость сильно зависит от вашего компьютера, поэтому выбирать лучше всего с помощью проверки.

Ссылки вверху вкладки ведут в разделы Управление моделями (вкладка «Модели» в разделе «ИИ-провайдеры») и Назначить ИИ-функциям (вкладка «ИИ-функции»), где вы выбираете, какую модель использует каждая функция. См. Провайдеры и модели.

Подобрать лучшую модель

Кнопка Подобрать лучшую модель открывает окно Подбор модели. Оно коротко проверяет каждую скачанную модель на этом компьютере, измеряет реальную скорость и качество и рекомендует лучшую модель по умолчанию. Проверка занимает около минуты на модель.

  • В окне показаны характеристики вашего компьютера, например Ваша система: 16 ГБ ОЗУ · ядер: 8.
  • Скачать для теста скачивает модель, которой у вас ещё нет.
  • Лучшая для вашей системы — рекомендуемая модель. Нажмите Сделать основной, чтобы использовать её для ИИ-функций.
  • Если оборудование изменилось после последней проверки, окно предложит запустить её снова.

Ускорение локального ИИ

ВариантЧто делает
Авто (GPU, если есть)Использует видеокарту, если она есть. Обычно так быстрее. Вариант по умолчанию.
Только CPUРаботает только на процессоре. Выберите этот вариант, если видеокарта вызывает проблемы или вы хотите оставить её память свободной.

Если запущена Ollama и она занимает видеопамять, встроенная модель может работать медленнее. Когда включён приватный режим ИИ, TalkBar может предупредить об этом и предложить выгрузить модель Ollama.

Модели речи

На вкладке Модели речи перечислены все модели распознавания речи с размером и тем, для чего они используются: Во время записи, Улучшение или Диктовка. Какая модель выполняет какую задачу, выбирается в разделе Настройки → Голос (см. Запись и распознавание речи).

МодельРазмер
Parakeet V3 (рекомендуется для распознавания во время записи)около 456 МБ
Orukeet INT8около 641 МБ
Whisper Smallоколо 465 МБ
Whisper Turboоколо 1,5 ГБ
GigaAM v3 (только русский)около 215 МБ
Canary 180M Flashоколо 146 МБ
Canary 1B v2около 692 МБ

Системные модели

Системные модели — это небольшие вспомогательные модели. TalkBar скачивает их автоматически, когда они нужны какой-либо функции; здесь их можно скачать повторно или удалить, чтобы освободить место.

МодельРазмерЧто делает
Silero VADоколо 2 МБОпределяет, что кто-то говорит, до распознавания речи
WeSpeaker: голосовые отпечаткиоколо 25 МБУзнаёт, кто говорит, при улучшении транскрипта
Sortformer: разделение голосовоколо 470 МБРазделяет голоса во время встреч
Sortformer: разделение голосов (большие встречи)около 470 МБНеобязательная. Разделяет до 8 голосов.
Nemotron 3: распознавание голосов (до 8)около 99 МБНеобязательная. Её предпочитает автоматическое определение голосов для сессий, где больше 4 участников.
Модели переводаоколо 400 МБ на языковую паруПеревод в реальном времени
BGE-M3около 417 МБСмысловой поиск по документам

Оборудование и место на диске

TalkBar работает и без видеокарты. Если видеокарта есть, встроенный ИИ может использовать её, чтобы работать быстрее (см. Ускорение локального ИИ).

Сколько памяти нужно, зависит от выбранной ИИ-модели; ориентируйтесь на столбец ОЗУ выше. Если не знаете, что выбрать, начните с Qwen3.5 4B (или с модели поменьше, если памяти на компьютере мало) и проверьте с помощью Подобрать лучшую модель, что работает хорошо.

Место на диске заканчивается быстро:

  • На вкладке Локальные ИИ-модели показано, сколько места занимают скачанные модели (… на диске).
  • При первой настройке TalkBar проверяет свободное место, прежде чем скачивать модели, нужные для первой сессии.
  • Модели хранятся в папке данных TalkBar, в подпапке voice/models. Откройте папку данных через Настройки → Данные и резервные копии.

Как скачивать и удалять модели

  • Скачать — скачивает модель. Пока идёт загрузка, можно продолжать работать, а кнопка Отмена её останавливает.
  • Скачать повторно — заменяет повреждённую или неполную копию.
  • Удалить — удаляет модель и сообщает, сколько места освободится. Если модель ещё используется какой-либо функцией, TalkBar предупредит, что для работы этой функции модель придётся скачать заново.

Любую удалённую модель можно в любой момент скачать снова.

На медленном компьютере локальному ИИ может понадобиться больше времени. Настройка Настройки → ИИ-провайдеры → Дополнительно → Время ожидания ИИ на этом компьютере даёт встроенным и локальным моделям Ollama больше времени до истечения ожидания запроса, а Очередь локальных ИИ-запросов определяет, сколько локальных запросов выполняется одновременно.

Связанные страницы