# Локальный ИИ

«Настройки → Локальный ИИ»: включение приватного режима ИИ, загрузка и удаление моделей, которые работают на вашем компьютере.

Canonical URL: https://docs.talkbar.ru/settings/private-local-ai


На вкладке **Настройки → Локальный ИИ** вы управляете всеми ИИ-моделями, которые работают на вашем компьютере, и включаете или выключаете приватный режим ИИ. У вкладки три внутренние вкладки: **Локальные ИИ-модели**, **Модели речи** и **Системные модели**. Для чего подходит каждая модель, описано в разделе [Локальные модели](/ai/local-models); как работает режим — в разделе [Приватный режим ИИ](/ai/private-ai-mode).




## Приватный режим ИИ

Вверху страницы находится переключатель **Приватный режим ИИ**.

| Настройка | Что делает | По умолчанию |
| --- | --- | --- |
| **Приватный режим ИИ** | Оставляет весь ИИ на этом компьютере и отключает все подключённые внешние провайдеры. Функции используют назначения «Приватный ИИ» с вкладки [Настройки → ИИ-провайдеры](/settings/ai-providers#ии-функции). Пока идёт сессия, изменить настройку нельзя. | Выкл. |

Переключатель появляется, только когда вы добавили облачного провайдера или провайдера командной строки. До этого вы видите надпись **Приватный режим ИИ недоступен**: TalkBar и так работает только на встроенных моделях, и ограничивать нечего.

Когда вы включаете режим, TalkBar предлагает скачать недостающие локальные модели. Если какой-то функции всё ещё назначена нелокальная модель, у переключателя появляется надпись **Не полностью локально**, а сообщение подсказывает, сколько функций нужно переназначить.

Если Ollama занимает память GPU, которая нужна встроенной модели, появляется предупреждение **Ollama использует GPU** с кнопкой **Выгрузить Ollama**.

## Локальные ИИ-модели

На вкладке **Локальные ИИ-модели** (в поиске: **Локальные ИИ-модели**) перечислены встроенные языковые модели, которые полностью работают на этом устройстве. Когда они назначены соответствующим функциям, они готовят итоги, отвечают в чате, обрабатывают диктовку, придумывают названия и извлекают знания.

| Настройка | Что делает | По умолчанию |
| --- | --- | --- |
| **Управление моделями** | Открывает вкладку **Модели** в разделе [Настройки → ИИ-провайдеры](/settings/ai-providers#модели). | — |
| **Назначить ИИ-функциям** | Открывает вкладку **ИИ-функции** в разделе «Настройки → ИИ-провайдеры», где вы выбираете модель для каждой функции. | — |
| **Подобрать лучшую модель** | Открывает **Подбор модели**. Он проверяет скачанные модели на этом компьютере (около минуты на модель) и советует самую быструю из тех, что прошли проверку качества. **Сделать основным** делает её моделью по умолчанию. | — |
| **Ускорение локального ИИ** | **Авто (GPU, если есть)** использует видеокарту, когда это возможно. **Только CPU** не занимает память GPU. | **Авто (GPU, если есть)** |

### Список моделей

В строке каждой модели показаны её размер, оценки скорости и точности, а также значки функций, которые её используют. После проверки здесь же появляются результаты подбора модели. Доступны модели Qwen3 0.6B, Qwen3.5 2B, Qwen3.5 4B, Qwen3.5 9B, Gemma 4 E4B, Ministral 3 3B, LFM2.5 1.2B Thinking и LFM2.5 2.6B.

| Элемент | Что делает |
| --- | --- |
| **Скачать** | Скачивает модель. На кнопке указан размер загрузки. Во время скачивания в строке видны ход загрузки и кнопка **Отмена**. |
| **Повторить** | Появляется, если загрузка не удалась. Запускает её снова. |
| **Скачать повторно** | Скачивает свежую копию модели, которая у вас уже есть. |
| **Удалить** | Удаляет файл модели, чтобы освободить место на диске. Если модель использует какая-то функция, TalkBar называет эту функцию и предупреждает, что для её работы модель придётся скачать заново. |

Под списком показано, сколько места занимают все скачанные модели.

### Находить запущенную Ollama

| Настройка | Что делает | По умолчанию |
| --- | --- | --- |
| **Находить запущенную Ollama** | Пока включён приватный режим ИИ, предупреждает, когда Ollama занимает память GPU, чтобы встроенная модель могла работать на полной скорости. Выгружать Ollama или нет — всегда решаете вы. | Вкл. |

## Модели речи

На вкладке **Модели речи** (в поиске: **Модели речи**) перечислены модели распознавания речи, которые используются для распознавания во время записи, улучшения транскрипта и диктовки. Эти модели работают на вашем компьютере.

Какую модель использует каждая функция, выбирается на вкладке [Настройки → Голос](/settings/voice). Здесь модели скачиваются и удаляются. В каждой строке видно, какая функция использует модель: **Во время записи**, **Улучшение** или **Диктовка**. Доступны модели Parakeet V3, Orukeet INT8, Whisper Small, Whisper Turbo, GigaAM v3, Canary 180M Flash и Canary 1B v2.

В каждой строке есть те же кнопки **Скачать**, **Отмена**, **Скачать повторно** и **Удалить**, что и у локальных ИИ-моделей.

## Системные модели

На вкладке **Системные модели** (в поиске: **Системные модели**) перечислены вспомогательные модели, которые TalkBar скачивает автоматически, когда они нужны какой-либо функции. Их можно скачать повторно, скачать необязательные или удалить, чтобы освободить место.

| Модель | Для чего нужна |
| --- | --- |
| Silero VAD | Определяет, когда кто-то говорит, и делит звук микрофона во время записи на фрагменты перед распознаванием. |
| WeSpeaker: голосовые отпечатки | Определяет, кто говорит, когда транскрипт улучшается после сессии. |
| Sortformer: разделение голосов | Разделяет голоса во время записи. |
| Sortformer: разделение голосов (большие встречи) | Необязательная. Разделяет до 8 голосов во время записи — для сессий, где больше 4 участников. |
| Nemotron 3: распознавание голосов (до 8) | Необязательная. Автоматическое определение голосов выбирает её, когда в сессии ожидается больше 4 голосов; модель Sortformer для больших встреч тоже справляется с 8 голосами. |
| Модели перевода (например, «Перевод с английского на русский») | Необязательные. Используются для перевода транскрипта, по одной модели на языковую пару. См. [Перевод во время записи](/voice/live-translation). |
| Смысловой поиск по документам | Используется для поиска по документам по смыслу. См. [Документы](/knowledge/documents). |





Если TalkBar управляет ваша организация, скачивание моделей или переключатель приватного режима ИИ могут быть заблокированы. Уведомление объясняет, что именно задал администратор.


## См. также

- [ИИ-провайдеры](/settings/ai-providers)
- [Голос](/settings/voice)
- [Приватный режим ИИ](/ai/private-ai-mode)
- [Локальные модели](/ai/local-models)
- [Данные и резервные копии](/settings/data-and-backup)

