Локальный ИИ

«Настройки → Локальный ИИ»: включение приватного режима ИИ, загрузка и удаление моделей, которые работают на вашем компьютере.

На вкладке Настройки → Локальный ИИ вы управляете всеми ИИ-моделями, которые работают на вашем компьютере, и включаете или выключаете приватный режим ИИ. У вкладки три внутренние вкладки: Локальные ИИ-модели, Модели речи и Системные модели. Для чего подходит каждая модель, описано в разделе Локальные модели; как работает режим — в разделе Приватный режим ИИ.

Приватный режим ИИ

Вверху страницы находится переключатель Приватный режим ИИ.

НастройкаЧто делаетПо умолчанию
Приватный режим ИИОставляет весь ИИ на этом компьютере и отключает все подключённые внешние провайдеры. Функции используют назначения «Приватный ИИ» с вкладки Настройки → ИИ-провайдеры. Пока идёт сессия, изменить настройку нельзя.Выкл.

Переключатель появляется, только когда вы добавили облачного провайдера или провайдера командной строки. До этого вы видите надпись Приватный режим ИИ недоступен: TalkBar и так работает только на встроенных моделях, и ограничивать нечего.

Когда вы включаете режим, TalkBar предлагает скачать недостающие локальные модели. Если какой-то функции всё ещё назначена нелокальная модель, у переключателя появляется надпись Не полностью локально, а сообщение подсказывает, сколько функций нужно переназначить.

Если Ollama занимает память GPU, которая нужна встроенной модели, появляется предупреждение Ollama использует GPU с кнопкой Выгрузить Ollama.

Локальные ИИ-модели

На вкладке Локальные ИИ-модели (в поиске: Локальные ИИ-модели) перечислены встроенные языковые модели, которые полностью работают на этом устройстве. Когда они назначены соответствующим функциям, они готовят итоги, отвечают в чате, обрабатывают диктовку, придумывают названия и извлекают знания.

НастройкаЧто делаетПо умолчанию
Управление моделямиОткрывает вкладку Модели в разделе Настройки → ИИ-провайдеры.—
Назначить ИИ-функциямОткрывает вкладку ИИ-функции в разделе «Настройки → ИИ-провайдеры», где вы выбираете модель для каждой функции.—
Подобрать лучшую модельОткрывает Подбор модели. Он проверяет скачанные модели на этом компьютере (около минуты на модель) и советует самую быструю из тех, что прошли проверку качества. Сделать основным делает её моделью по умолчанию.—
Ускорение локального ИИАвто (GPU, если есть) использует видеокарту, когда это возможно. Только CPU не занимает память GPU.Авто (GPU, если есть)

Список моделей

В строке каждой модели показаны её размер, оценки скорости и точности, а также значки функций, которые её используют. После проверки здесь же появляются результаты подбора модели. Доступны модели Qwen3 0.6B, Qwen3.5 2B, Qwen3.5 4B, Qwen3.5 9B, Gemma 4 E4B, Ministral 3 3B, LFM2.5 1.2B Thinking и LFM2.5 2.6B.

ЭлементЧто делает
СкачатьСкачивает модель. На кнопке указан размер загрузки. Во время скачивания в строке видны ход загрузки и кнопка Отмена.
ПовторитьПоявляется, если загрузка не удалась. Запускает её снова.
Скачать повторноСкачивает свежую копию модели, которая у вас уже есть.
УдалитьУдаляет файл модели, чтобы освободить место на диске. Если модель использует какая-то функция, TalkBar называет эту функцию и предупреждает, что для её работы модель придётся скачать заново.

Под списком показано, сколько места занимают все скачанные модели.

Находить запущенную Ollama

НастройкаЧто делаетПо умолчанию
Находить запущенную OllamaПока включён приватный режим ИИ, предупреждает, когда Ollama занимает память GPU, чтобы встроенная модель могла работать на полной скорости. Выгружать Ollama или нет — всегда решаете вы.Вкл.

Модели речи

На вкладке Модели речи (в поиске: Модели речи) перечислены модели распознавания речи, которые используются для распознавания во время записи, улучшения транскрипта и диктовки. Эти модели работают на вашем компьютере.

Какую модель использует каждая функция, выбирается на вкладке Настройки → Голос. Здесь модели скачиваются и удаляются. В каждой строке видно, какая функция использует модель: Во время записи, Улучшение или Диктовка. Доступны модели Parakeet V3, Orukeet INT8, Whisper Small, Whisper Turbo, GigaAM v3, Canary 180M Flash и Canary 1B v2.

В каждой строке есть те же кнопки Скачать, Отмена, Скачать повторно и Удалить, что и у локальных ИИ-моделей.

Системные модели

На вкладке Системные модели (в поиске: Системные модели) перечислены вспомогательные модели, которые TalkBar скачивает автоматически, когда они нужны какой-либо функции. Их можно скачать повторно, скачать необязательные или удалить, чтобы освободить место.

МодельДля чего нужна
Silero VADОпределяет, когда кто-то говорит, и делит звук микрофона во время записи на фрагменты перед распознаванием.
WeSpeaker: голосовые отпечаткиОпределяет, кто говорит, когда транскрипт улучшается после сессии.
Sortformer: разделение голосовРазделяет голоса во время записи.
Sortformer: разделение голосов (большие встречи)Необязательная. Разделяет до 8 голосов во время записи — для сессий, где больше 4 участников.
Nemotron 3: распознавание голосов (до 8)Необязательная. Автоматическое определение голосов выбирает её, когда в сессии ожидается больше 4 голосов; модель Sortformer для больших встреч тоже справляется с 8 голосами.
Модели перевода (например, «Перевод с английского на русский»)Необязательные. Используются для перевода транскрипта, по одной модели на языковую пару. См. Перевод во время записи.
Смысловой поиск по документамИспользуется для поиска по документам по смыслу. См. Документы.
Если TalkBar управляет ваша организация, скачивание моделей или переключатель приватного режима ИИ могут быть заблокированы. Уведомление объясняет, что именно задал администратор.

См. также