Локальный Whisper на Mac: что для него нужно, чего он стоит и как его запустить

Текст: · Опубликовано

Локальный Whisper означает, что речевая модель Whisper от OpenAI работает на вашем собственном Mac, поэтому звук превращается в текст на самом компьютере, а не на чьём-то сервере. На Mac стоит знать движок whisper.cpp, который считает чип Apple первоклассной платформой, а решение, которое действительно важно, это файл модели: большие модели слышат лучше, но занимают больше места на диске и больше памяти.

Здесь рассказано, как сочетаются части, чего стоит каждый размер модели по собственным данным whisper.cpp, какими командами запускать её самому и какое место занимает YapToText. YapToText, бесплатное приложение, которое я разрабатываю, запускает whisper.cpp со стандартным файлом Whisper Large v3 Turbo (Q5), так что оценивайте эту часть с учётом этого. Если вы просто хотите узнать, есть ли Whisper для Mac в виде приложения, ответ есть на странице о приложении Whisper для Mac.

Загрузить YapToText в Mac App StoreБесплатно. Без учётной записи и без закрытых функций, для macOS 14 или новее на Mac с чипом Apple. Исходный код на GitHub.

Это руководство на других языках: English, العربية, Čeština, Dansk, Deutsch, Ελληνικά, Español, Suomi, Français, עברית, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Norsk, Nederlands, Polski, Português, Română, Slovenčina, Svenska, ไทย, Türkçe, Українська, Tiếng Việt, 简体中文, 繁體中文

На этой странице: 12 разделов
  1. Шаги
  2. Три части локального Whisper
  3. Выберите модель по месту на диске и памяти
  4. Запустите Whisper сами с помощью whisper.cpp
    1. Шаг 1: получите код и модель
    2. Шаг 2: соберите проект и расшифруйте образец
    3. Шаг 3: сначала преобразуйте собственный звук
    4. Или воспользуйтесь пакетом OpenAI на Python
  5. Та же модель в YapToText без Терминала
  6. Если локальный Whisper медленный или вас неверно слышит
  7. Что локальный Whisper не меняет
  8. Коротко
  9. Руководства
  10. Другие руководства, на английском
  11. Источники
  12. Вопросы

Шаги

  1. Клонируйте репозиторий whisper.cpp с GitHub и откройте его папку в Терминале.
  2. Скачайте модель скриптом проекта download-ggml-model.sh, например large-v3-turbo-q5_0.
  3. Соберите проект с помощью CMake двумя командами cmake из его README.
  4. Преобразуйте запись в 16-битный файл WAV, например с помощью ffmpeg.
  5. Запустите whisper-cli с файлом модели и вашим файлом WAV и прочитайте расшифровку в Терминале.

Три части локального Whisper

У локального Whisper три части, и все три находятся на вашем Mac. Модель это файл, движок запускает его, а звуку не нужно покидать компьютер.

  • Модель. Whisper это модель распознавания речи от OpenAI, и OpenAI выпустила код и веса модели по лицензии MIT. Вы один раз скачиваете файл модели, и именно этот файл слушает.
  • Движок. whisper.cpp это простая реализация Whisper на C и C++, тоже по лицензии MIT. В его README чип Apple назван первоклассной платформой, оптимизированной через ARM NEON, Accelerate, Metal и Core ML, и сказано, что на чипе Apple вывод целиком выполняется на GPU через Metal. Собственный пакет OpenAI запускает Whisper из Python.
  • Ваш звук. На вход идёт запись или ваш микрофон, на выходе получается текст. Интернет нужен только для того, чтобы вообще скачать файл модели.

Этим он и отличается от облачного сервиса: для расшифровки ничего не загружается. Это также значит, что работу делает ваш Mac, поэтому выбранная модель определяет, сколько памяти и места на диске эта работа займёт.

Постер для App Store с надписью «Ничего не покидает ваш Mac» поверх страницы AI Models в YapToText, где обе модели отмечены как Included.
Рисунок 1. Модель и движок в одной строке YapToText: Whisper Large v3 Turbo (Q5) от OpenAI, запускаемый whisper.cpp, 574 МБ, с пометкой Included.

Выберите модель по месту на диске и памяти

whisper.cpp публикует, сколько каждая модель занимает на диске и в памяти, а OpenAI публикует число параметров каждой. Turbo это более быстрая версия large-v3 от OpenAI, и её 5-битный файл занимает примерно пятую часть места, которое нужно large.

Проверено 3 октября 2026 года в README и списке моделей whisper.cpp и в README Whisper от OpenAI.

МодельПараметры (OpenAI)Файл на диске (whisper.cpp)Память (whisper.cpp)
tiny39 млн75 MiBОколо 273 МБ
base74 млн142 MiBОколо 388 МБ
small244 млн466 MiBОколо 852 МБ
medium769 млн1,5 GiBОколо 2,1 ГБ
large (v1, v2 или v3)1550 млн2,9 GiBОколо 3,9 ГБ
large-v3, 5-битная (q5_0)Квантованная large-v31,1 GiBНе указано
large-v3-turbo809 млн1,5 GiBНе указано
large-v3-turbo, 5-битная (q5_0)Квантованная turbo547 MiBНе указано

MiB и GiB считаются шагами по 1024, поэтому файл turbo в 547 MiB из списка whisper.cpp это тот же файл, который YapToText показывает как 574 МБ. Вот как две честные страницы могут назвать один файл 547 и 574, и обе будут правы. Таблица памяти whisper.cpp охватывает пять исходных размеров и не даёт цифр для turbo и для квантованных файлов.

Страница AI Models в YapToText: Whisper Large v3 Turbo (Q5) и Phi-3.5 Mini Instruct отмечены как Included, ниже библиотека моделей.
Рисунок 2. YapToText показывает размеры в МБ, поэтому файл turbo, который whisper.cpp указывает как 547 MiB, здесь читается как 574 МБ, а другие модели Whisper перечислены ниже.

Ещё несколько замечаний из двух проектов:

  • Модели только для английского. tiny, base, small и medium есть и в виде файлов .en того же размера, которые слышат только английский. OpenAI сообщает, что для английского они, как правило, справляются лучше, особенно tiny.en и base.en, а у small.en и medium.en разница меньше.
  • Квантованные модели. Файлы, оканчивающиеся на q5_0, квантованы. whisper.cpp сообщает, что квантованным моделям нужно меньше памяти и места на диске и что, в зависимости от оборудования, они могут обрабатываться эффективнее.
  • Turbo. OpenAI называет её оптимизированной версией large-v3 с более быстрой расшифровкой и минимальным снижением точности и оценивает её скорость примерно в 8 раз выше, чем у large. Это соотношение измерено на A100, а не на Mac, и OpenAI сообщает, что turbo не обучена переводу.
  • Языки. OpenAI сообщает, что качество работы Whisper сильно зависит от языка.
  • Столбец памяти у OpenAI. В README OpenAI для её пакета на Python указана требуемая видеопамять: около 1 ГБ для tiny и base, около 6 ГБ для turbo и около 10 ГБ для large. Это не цифры whisper.cpp.

Для YapToText выбран 5-битный файл turbo, потому что на моих собственных диктовках он слышал почти точно то же, что полная модель, при трети памяти. Это диктовки одного человека, а не тест производительности, поэтому, прежде чем остановиться, попробуйте два размера на собственном голосе.

Запустите Whisper сами с помощью whisper.cpp

Чтобы запустить whisper.cpp самому, нужны Терминал и два инструмента, которые предполагают команды из его README: Git и CMake. Вот команды из README, в которых модель заменена на 5-битный файл turbo. В итоге вы получаете в Терминале расшифровку аудиофайла, а не слова, напечатанные в ваших приложениях.

Шаг 1: получите код и модель

Терминал: клонируйте whisper.cpp и скачайте 5-битную модель turbo.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Что происходит: проект оказывается в папке whisper.cpp, а скрипт скачивает ggml-large-v3-turbo-q5_0.bin с Hugging Face в её папку models. Подставьте base.en или small, чтобы скачать меньше.

Шаг 2: соберите проект и расшифруйте образец

Терминал: соберите whisper-cli, затем запустите его на образце записи, который идёт вместе с проектом.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

Что происходит: CMake собирает проект, а whisper-cli расшифровывает образец скачанной моделью и выводит текст в Терминале.

Шаг 3: сначала преобразуйте собственный звук

В README сказано, что whisper-cli пока работает только с 16-битными файлами WAV, и приведена команда ffmpeg для преобразования всего остального. ffmpeg устанавливается отдельно.

Терминал: превратите MP3 в формат WAV, который читает whisper-cli.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

Что происходит: ffmpeg записывает output.wav как моно-звук 16 кГц, 16 бит, который вы затем передаёте whisper-cli после -f.

Или воспользуйтесь пакетом OpenAI на Python

Терминал: установите собственный пакет OpenAI, если вам удобнее работать на Python.

pip install -U openai-whisper

Что происходит: pip устанавливает команду whisper. В README OpenAI сказано, что код, как ожидается, работает с Python от 3.8 до 3.11, ему нужен ffmpeg, а модель по умолчанию это turbo.

Для живой речи в whisper.cpp есть whisper-stream, который берёт пробу с вашего микрофона каждые полсекунды и расшифровывает непрерывно. Ему нужен SDL2, а README называет его наивным примером. Доставить слова в Почту, Slack или ваш редактор это та часть, которую добавляет приложение.

Та же модель в YapToText без Терминала

YapToText запускает тот же движок и тот же файл без окна Терминала: копия whisper.cpp встроена в приложение с Metal и Accelerate, а ggml-large-v3-turbo-q5_0.bin лежит внутри загрузки из App Store. Его SHA-256 совпадает с файлом на Hugging Face, так что это стандартная модель, а не настроенная или переобученная. Я разрабатываю приложение, потому что мне трудно печатать руками, и мне нужно, чтобы Whisper печатал в каждом приложении, а не выводил текст в окно Терминала. Это тот файл, который скачивает скрипт. Меняется всё, что вокруг него.

Постер для App Store с надписью «Yap it. Bam. It's typed.» поверх главного окна YapToText и трёх вариантов плавающей панели.
Рисунок 3. Тот же файл Whisper без Терминала: слова складываются на плавающей панели, пока вы говорите, и попадают туда, где стоит курсор, в любом приложении на переднем плане.

Вот что приложение добавляет вокруг модели:

  • Память, которую оно возвращает. На странице Energy параметр Keep models in memory решает, как долго модель остаётся загруженной после диктовки: по умолчанию 2 минуты после использования, а варианты идут от Only while dictating до Until quit. Более ранняя выгрузка экономит энергию и память, а следующая диктовка после выгрузки занимает на несколько секунд больше.
  • Место для macOS. Когда macOS не хватает памяти, YapToText сразу выгружает загруженные модели и ждёт пять минут, прежде чем снова их прогреть.
  • Более лёгкая модель от батареи. Параметр Switch models with the power source, по умолчанию выключенный, даёт модели диктовки и модели обработки текста по отдельному выбору для работы от сети и от батареи.
  • Ваш собственный файл. В разделе Your own models на странице AI Models кнопка Add Model принимает любой whisper.cpp GGML .bin, так что работает и модель, скачанная скриптом. Приложение читает файл, чтобы понять, что это, и отклоняет всё остальное.
  • Цифры вашего Mac. Карточка This Mac на странице Energy показывает ваш чип и память, а именно эту цифру нужно сравнивать с таблицей выше.

В Dictation Model Library на странице AI Models есть ещё десять моделей Whisper, от Tiny до Large v3, у каждой с размером, который показывает приложение. Они перечислены в руководстве по моделям ИИ, а параметры памяти объясняет руководство по энергии. Загрузка из App Store занимает около 2.9 ГБ, потому что обе модели приложения лежат внутри. Версия из Homebrew занимает около 12 МБ, и перед первой диктовкой нужно скачать речевую модель.

Если локальный Whisper медленный или вас неверно слышит

Начните с дешёвых исправлений, прежде чем скачивать модель побольше. Исправьте микрофон и слова, прежде чем менять модель.

  1. Переждите первый запуск. Модель должна загрузиться, прежде чем расшифровывать. В YapToText первая диктовка после запуска занимает некоторое время. Если вы собрали whisper.cpp с Core ML, в его README сказано, что первый запуск на устройстве медленный, пока служба Neural Engine компилирует модель.
  2. Задайте язык, на котором вы говорите. Список Language на странице AI Models в YapToText начинается с системного языка вашего Mac, а язык, который Whisper использовать не может, переходит в автоопределение. Все 29 перечислены на странице о языках.
  3. Исправьте микрофон. Микрофоны Bluetooth дают качество телефонного разговора, поэтому собственный микрофон Mac слышит лучше. В YapToText выберите его в списке Input на панели в строке меню.
  4. Научите его своим словам. Страница Dictionaries в YapToText подготавливает Whisper к вашим именам и терминам, а не только исправляет то, что он печатает. Как это делается, показано в руководстве по словарям.
  5. Для английского возьмите модель только для английского. Если памяти мало и вы говорите только по-английски, OpenAI сообщает, что версии .en, как правило, справляются лучше, особенно в tiny и base.
  6. Измените размер модели. Возьмите побольше, если она плохо слышит и память позволяет, или поменьше, если она медленная. В YapToText оценки звёздами на странице AI Models показывают этот компромисс, а каждая диктовка в History показывает собственное время от остановки до текста.
Запись на странице History в YapToText с открытыми подробностями обработки: исходная расшифровка, очищенная расшифровка, режим, доставка, приложение и время.
Рисунок 4. У каждой диктовки в History свои замеры времени: сколько вы говорили и время от остановки до текста, разделённое на расшифровку, обработку ИИ и доставку.

Что локальный Whisper не меняет

Запуск Whisper локально переносит работу на ваш Mac, и больше ничего. Локальность меняет то, куда идёт ваш голос, а не то, насколько хорошо он слышен.

  • Ошибки. Насколько хорошо модель слышит, решает она сама, где бы она ни работала, поэтому имя, которое она слышит неверно, требует записи в словаре или лучшего микрофона, а не другого места запуска.
  • Перевод. OpenAI сообщает, что turbo не обучена переводу, а YapToText всегда просит Whisper только расшифровывать и никогда не переводить.
  • Одна загрузка. Локальная модель всё равно должна один раз прийти. Скрипт whisper.cpp берёт её с Hugging Face, в версии YapToText из App Store она уже внутри, а версия из Homebrew берёт её со страницы AI Models.
  • Mac с Intel. whisper.cpp называет поддерживаемыми Mac с Intel и с Arm. YapToText требует чип Apple и macOS 14 или новее, а для Mac с Intel ничего не заявляется.
  • Цифры точности. Процентов точности ни для одной модели я не публикую. Ориентиром служат звёзды и ваша собственная история History.

Чтобы убедиться, что настройка действительно локальная, на странице об офлайн-диктовке есть проверка за одну минуту: выключите Wi-Fi и продиктуйте фразу.

Коротко

  • Локальный Whisper. Это файл модели и движок на вашем Mac, ничего не загружается.
  • Модель. 5-битный файл turbo, 547 MiB в списке whisper.cpp, это тот, который поставляется с YapToText.
  • Своими силами. Клонируйте whisper.cpp, скачайте модель, соберите проект с помощью CMake и запустите whisper-cli на 16-битном файле WAV.
  • Или обойдитесь без Терминала. YapToText запускает тот же файл и печатает в любом приложении, бесплатно.

Выбирайте модель сначала по памяти вашего Mac, а потом по собственному голосу. Если что-то здесь не совпадает с тем, что вы видите, создайте issue на GitHub. Я читаю каждое.

Загрузить YapToText в Mac App StoreБесплатно. Без учётной записи и без закрытых функций, для macOS 14 или новее на Mac с чипом Apple. Исходный код на GitHub.

Кто пишет. Ryleigh Newman разрабатывает программы, с трудом печатает на клавиатуре и каждый день диктует в YapToText, приложении, которому посвящён этот сайт. Эта страница переведена с английского. Интерфейс приложения и остальные страницы сайта на английском. Подробнее о проекте, на английском.

Руководства

Другие руководства, на английском

Источники

Вопросы

Как запустить Whisper локально на Mac?

С помощью whisper.cpp: клонируйте репозиторий, скачайте модель его скриптом download-ggml-model.sh, соберите проект с помощью CMake и запустите whisper-cli на 16-битном файле WAV. Либо установите приложение, в которое он встроен, например YapToText, который запускает Whisper Large v3 Turbo без всякой настройки.

Сколько памяти нужно Whisper?

Это зависит от модели. whisper.cpp указывает около 273 МБ для tiny, 852 МБ для small, 2,1 ГБ для medium и 3,9 ГБ для large и сообщает, что квантованным моделям нужно меньше. Для turbo он цифры памяти не даёт.

Какая локальная модель Whisper лучшая?

Начинать стоит с Large v3 Turbo, и её 5-битный файл как раз поставляется с YapToText: 547 MiB в списке whisper.cpp. Если памяти мало, small или base используют гораздо меньше, а OpenAI сообщает, что версии только для английского, как правило, лучше справляются с английским на самых маленьких размерах.

Какого размера модель Whisper Large v3 Turbo?

1,5 GiB в списке моделей whisper.cpp или 547 MiB в виде 5-битного файла q5_0, что составляет 574 МБ в десятичных единицах. OpenAI указывает для turbo 809 миллионов параметров.

Нужен ли локальному Whisper интернет?

Только чтобы один раз скачать модель. После этого whisper.cpp и YapToText расшифровывают без подключения, а версия YapToText из App Store поставляется с моделью внутри и обходится даже без этой загрузки.

Можно ли использовать модель whisper.cpp в YapToText?

Да. В разделе Your own models на странице AI Models кнопка Add Model принимает любой файл whisper.cpp GGML .bin, и приложение определяет по самому файлу, что это.