Локальний Whisper на Mac: що потрібно, чого це коштує і як його запустити

Текст: · Опубліковано

Локальний Whisper означає запуск моделі мовлення Whisper від OpenAI на вашому власному Mac, тож аудіо стає текстом на самій машині, а не на якомусь сервері. На Mac варто знати рушій whisper.cpp, який вважає процесори Apple повноправним пріоритетом, а головне рішення це файл моделі: більші моделі чують краще, але потребують більше місця на диску й пам’яті.

Тут описано, як ці частини поєднуються, чого коштує кожен розмір моделі за власними цифрами whisper.cpp, команди для самостійного запуску і місце YapToText. Я розробляю YapToText, безкоштовну програму, що запускає whisper.cpp зі стандартним файлом Whisper Large v3 Turbo (Q5), тож зважайте на це, читаючи ту частину. Якщо потрібно лише знати, чи є програма Whisper для Mac, відповідь дає сторінка про програму Whisper для Mac.

Завантажити YapToText у Mac App StoreБезкоштовно. Без облікового запису й без заблокованих функцій, для macOS 14 або новішої на Mac із процесором Apple. Вихідний код на GitHub.

Цей посібник іншими мовами: English, العربية, Čeština, Dansk, Deutsch, Ελληνικά, Español, Suomi, Français, עברית, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Norsk, Nederlands, Polski, Português, Română, Русский, Slovenčina, Svenska, ไทย, Türkçe, Tiếng Việt, 简体中文, 繁體中文

На цій сторінці: 12 розділів
  1. Кроки
  2. Три частини локального Whisper
  3. Виберіть модель за місцем на диску й пам’яттю
  4. Запустіть Whisper самі через whisper.cpp
    1. Крок 1: Отримайте код і модель
    2. Крок 2: Зберіть його й розшифруйте зразок
    3. Крок 3: Спершу перетворіть власне аудіо
    4. Або скористайтеся пакетом Python від OpenAI
  5. Та сама модель у YapToText без Terminal
  6. Якщо локальний Whisper повільний або чує вас неправильно
  7. Що локальний Whisper не змінює
  8. Коротко
  9. Посібники
  10. Інші посібники, англійською
  11. Джерела
  12. Запитання

Кроки

  1. Клонуйте репозиторій whisper.cpp з GitHub і відкрийте його теку в <span lang="en">Terminal</span>.
  2. Завантажте модель скриптом проєкту download-ggml-model.sh, наприклад large-v3-turbo-q5_0.
  3. Зберіть проєкт за допомогою CMake, використавши дві команди cmake з його README.
  4. Перетворіть запис на 16-бітний файл WAV, наприклад за допомогою ffmpeg.
  5. Запустіть whisper-cli із файлом моделі й файлом WAV та прочитайте стенограму в <span lang="en">Terminal</span>.

Три частини локального Whisper

Локальний Whisper складається з трьох частин, і всі три лежать на вашому Mac. Модель це файл, рушій його запускає, а ваше аудіо ніколи не мусить залишати машину.

  • Модель. Whisper це модель розпізнавання мовлення від OpenAI, і OpenAI випустила її код та ваги моделі за ліцензією MIT. Ви завантажуєте файл моделі один раз, і цей файл слухає.
  • Рушій. whisper.cpp це проста реалізація Whisper на C і C++, також за ліцензією MIT. Його README називає процесори Apple першокласним пріоритетом, оптимізованим через ARM NEON, Accelerate, Metal і Core ML, і каже, що на процесорах Apple інференс повністю виконується на GPU через Metal. Власний пакет OpenAI натомість запускає Whisper із Python.
  • Ваше аудіо. Запис або ваш мікрофон надходить усередину, а текст виходить. Інтернет потрібен лише для того, щоб спершу завантажити файл моделі.

Саме це відрізняє його від хмарної служби: для розшифровки нічого не вивантажується. Це також означає, що роботу виконує ваш Mac, тож вибрана модель визначає, скільки пам’яті й місця на диску ця робота потребує.

Плакат для App Store із написом Nothing leaves your Mac поверх сторінки AI Models програми YapToText, де обидві моделі позначено як Included.
Рисунок 1. Модель і рушій в одному рядку в YapToText: Whisper Large v3 Turbo (Q5) від OpenAI, який запускає whisper.cpp, 574 МБ, позначено як Included.

Виберіть модель за місцем на диску й пам’яттю

whisper.cpp публікує, скільки кожна модель займає на диску й у пам’яті, а OpenAI публікує, скільки в кожної параметрів. Turbo це швидша версія large-v3 від OpenAI, а її 5-бітний файл займає на диску приблизно п’яту частину від large.

Перевірено 3 жовтня 2026 року в README whisper.cpp, у його списку моделей і в README Whisper від OpenAI.

МодельПараметри (OpenAI)Файл на диску (whisper.cpp)Пам’ять (whisper.cpp)
tiny39 M75 МіББлизько 273 МБ
base74 M142 МіББлизько 388 МБ
small244 M466 МіББлизько 852 МБ
medium769 M1,5 ГіББлизько 2,1 ГБ
large (v1, v2 або v3)1550 M2,9 ГіББлизько 3,9 ГБ
large-v3, 5-бітна (q5_0)Квантована large-v31,1 ГіБНе вказано
large-v3-turbo809 M1,5 ГіБНе вказано
large-v3-turbo, 5-бітна (q5_0)Квантована turbo547 МіБНе вказано

МіБ і ГіБ лічать кроками по 1024, тож файл turbo на 547 МіБ зі списку whisper.cpp це той самий файл, який YapToText показує як 574 МБ. Саме так дві чесні сторінки можуть назвати один файл 547 і 574, і обидві мають рацію. Таблиця пам’яті whisper.cpp охоплює п’ять початкових розмірів і не дає цифри для turbo чи для квантованих файлів.

Сторінка AI Models у YapToText: Whisper Large v3 Turbo (Q5) і Phi-3.5 Mini Instruct позначено як Included, нижче бібліотека моделей.
Рисунок 2. YapToText показує розміри в МБ, тому файл turbo, який whisper.cpp називає 547 МіБ, тут читається як 574 МБ, а нижче перелічено інші моделі Whisper.

Ще кілька приміток із двох проєктів:

  • Моделі лише для англійської. tiny, base, small і medium випускаються також як файли .en того самого розміру, що чують лише англійську. OpenAI каже, що вони зазвичай працюють краще для англійської, особливо tiny.en і base.en, а для small.en і medium.en різниця зменшується.
  • Квантовані моделі. Файли із закінченням q5_0 квантовані. whisper.cpp каже, що квантовані моделі потребують менше пам’яті й місця на диску і, залежно від обладнання, можуть оброблятися ефективніше.
  • Turbo. OpenAI називає її оптимізованою версією large-v3 зі швидшою розшифровкою й мінімальним погіршенням точності та оцінює її приблизно у 8 разів швидшою за large. Це співвідношення виміряно на A100, а не на Mac, і OpenAI каже, що turbo не навчено перекладати.
  • Мови. OpenAI каже, що якість роботи Whisper дуже різниться залежно від мови.
  • Стовпець пам’яті від OpenAI. README OpenAI натомість перелічує потрібну VRAM для свого пакета Python: близько 1 ГБ для tiny і base, близько 6 ГБ для turbo і близько 10 ГБ для large. Це не цифри whisper.cpp.

Для YapToText вибрано 5-бітний файл turbo, бо на моїх власних диктуваннях він чув майже так само, як повна модель, з третиною пам’яті. Це диктування однієї людини, а не тест продуктивності, тож спробуйте два розміри на власному голосі, перш ніж зупинитися.

Запустіть Whisper самі через whisper.cpp

Щоб запустити whisper.cpp самостійно, потрібні Terminal і два інструменти, які передбачають команди з його README, Git і CMake. Це власні команди з README, у яких модель замінено на 5-бітний файл turbo. Ви отримуєте стенограму аудіофайлу в Terminal, а не слова, надруковані у ваших програмах.

Крок 1: Отримайте код і модель

Terminal: Клонуйте whisper.cpp і завантажте 5-бітну модель turbo.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Що відбувається: Проєкт потрапляє в теку whisper.cpp, а скрипт завантажує ggml-large-v3-turbo-q5_0.bin з Hugging Face у свою теку models. Для меншого завантаження підставте base.en або small.

Крок 2: Зберіть його й розшифруйте зразок

Terminal: Зберіть whisper-cli, потім запустіть його на зразку запису, що йде з проєктом.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

Що відбувається: CMake збирає проєкт, а whisper-cli розшифровує зразок за завантаженою вами моделлю й виводить текст у Terminal.

Крок 3: Спершу перетворіть власне аудіо

README каже, що whisper-cli наразі працює лише з 16-бітними файлами WAV, і наводить команду ffmpeg для перетворення всього іншого. ffmpeg встановлюється окремо.

Terminal: Перетворіть MP3 на формат WAV, який читає whisper-cli.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

Що відбувається: ffmpeg записує output.wav як 16 кГц, моно, 16-бітне аудіо, яке ви потім передаєте whisper-cli після -f.

Або скористайтеся пакетом Python від OpenAI

Terminal: Встановіть власний пакет OpenAI, якщо вам зручніше працювати в Python.

pip install -U openai-whisper

Що відбувається: pip встановлює команду whisper. README OpenAI каже, що код має працювати з Python від 3.8 до 3.11, потрібен ffmpeg, а типова модель це turbo.

Для живого мовлення whisper.cpp містить whisper-stream, який кожні півсекунди бере зразок із вашого мікрофона й розшифровує безперервно. Потрібен SDL2, а README називає його наївним прикладом. Доставити слова в Пошту, Slack чи ваш редактор це та частина, яку додає програма.

Та сама модель у YapToText без Terminal

YapToText запускає той самий рушій і той самий файл без вікна Terminal: копія whisper.cpp, вбудована в програму з Metal і Accelerate, і ggml-large-v3-turbo-q5_0.bin всередині завантаження з App Store. Його SHA-256 збігається з файлом на Hugging Face, тож це стандартна модель, а не спеціально налаштована чи перенавчена. Я розробляю програму, бо мені важко друкувати руками, і мені потрібен Whisper, що друкує в кожній програмі, а не виводить текст у вікно Terminal. Це той самий файл, який завантажує скрипт. Змінюється все навколо нього.

Плакат для App Store із написом Yap it. Bam. It's typed. поверх головного вікна YapToText і трьох варіантів плаваючої панелі.
Рисунок 3. Той самий файл Whisper без Terminal: слова складаються на плаваючій панелі, поки ви говорите, і опиняються біля курсора в тій програмі, що попереду.

Ось що програма додає навколо моделі:

  • Пам’ять, яку вона повертає. На сторінці Energy параметр Keep models in memory визначає, як довго модель лишається завантаженою після диктування: типово 2 хвилини після використання, з варіантами від Only while dictating до Until quit. Раніше вивантаження заощаджує енергію й пам’ять, а наступне диктування після вивантаження займає кілька зайвих секунд.
  • Місце для macOS. Коли macOS бракує пам’яті, YapToText одразу скидає завантажені моделі й чекає п’ять хвилин, перш ніж знову їх прогріти.
  • Легша модель від батареї. Параметр Switch models with the power source, типово вимкнений, дає моделі диктування й моделі впорядкування по окремому вибору для живлення від мережі й від батареї.
  • Ваш власний файл. У розділі Your own models на сторінці AI Models кнопка Add Model приймає будь-який GGML .bin для whisper.cpp, тож модель, завантажена скриптом, теж підійде. Програма читає файл, щоб зрозуміти, що це, і відхиляє все інше.
  • Цифри вашого Mac. Картка This Mac на сторінці Energy показує ваш чип і пам’ять, а саме це число слід порівнювати з таблицею вище.

Dictation Model Library на сторінці AI Models містить ще десять моделей Whisper, від Tiny до Large v3, кожна з розміром, який показує програма. Їх перелічує посібник AI Models, а налаштування пам’яті пояснює посібник Energy. Завантаження з App Store займає близько 2,9 ГБ, бо обидві моделі програми всередині. Версія з Homebrew займає близько 12 МБ і потребує завантаження моделі розпізнавання мовлення перед першим диктуванням.

Якщо локальний Whisper повільний або чує вас неправильно

Почніть із дешевих виправлень, перш ніж завантажувати більшу модель. Виправте мікрофон і слова, перш ніж міняти модель.

  1. Перечекайте перший запуск. Модель має завантажитися, перш ніж розшифровувати. У YapToText перше диктування після запуску займає мить. Якщо ви зібрали whisper.cpp із Core ML, його README каже, що перший запуск на пристрої повільний, поки служба Neural Engine компілює модель.
  2. Встановіть мову, якою ви говорите. Вибір Language на сторінці AI Models у YapToText починається із системної мови вашого Mac, а мова, яку Whisper не може використати, повертається до автовизначення. Сторінка про мови перелічує всі 29.
  3. Виправте мікрофон. Мікрофони Bluetooth мають якість телефонної розмови, тож власний мікрофон Mac чує краще. У YapToText виберіть його у виборі Input на панелі в рядку меню.
  4. Навчіть його своїх слів. Сторінка Dictionaries у YapToText підказує Whisper ваші імена й терміни, а не лише виправляє те, що він друкує. Як це зробити, показує посібник зі словників.
  5. Для англійської використайте модель лише для англійської. Якщо пам’яті мало й ви говорите лише англійською, OpenAI каже, що версії .en зазвичай працюють краще, найбільше на tiny і base.
  6. Змініть розмір моделі. Беріть більшу, якщо вона чує неправильно й пам’ять дозволяє, або меншу, якщо вона повільна. У YapToText оцінки зірками на сторінці AI Models показують компроміс, а кожне диктування в History показує власний час від зупинки до тексту.
Запис на сторінці History програми YapToText із відкритими подробицями обробки: необроблена розшифровка, очищена розшифровка, режим, спосіб доставки, цільова програма й час.
Рисунок 4. Кожне диктування в History має власні часові показники: скільки ви говорили, а також час від зупинки до тексту, розбитий на розшифровку, впорядкування за допомогою ШІ та доставку.

Що локальний Whisper не змінює

Запуск Whisper локально переносить роботу на ваш Mac, і це все, що він переносить. Локальність змінює, куди йде ваш голос, а не те, наскільки добре його чують.

  • Помилки. Модель визначає, наскільки добре вона чує, де б вона не працювала, тож ім’я, яке вона чує неправильно, потребує запису в словнику або кращого мікрофона, а не іншого місця роботи.
  • Переклад. OpenAI каже, що turbo не навчено перекладати, а YapToText лише просить Whisper розшифровувати, ніколи не перекладати.
  • Одне завантаження. Локальна модель усе одно має один раз надійти. Скрипт whisper.cpp бере її з Hugging Face, версія YapToText з App Store має її всередині, а версія з Homebrew бере її зі сторінки AI Models.
  • Mac з Intel. whisper.cpp зазначає, що підтримує Mac з Intel і Arm. YapToText потребує процесора Apple та macOS 14 або новішої, а для Mac з Intel нічого не стверджується.
  • Цифри точності. Я не публікую відсотків точності для жодної моделі. Орієнтиром служать зірки та ваша власна History.

Щоб довести, що налаштування справді локальне, на сторінці про офлайн-диктування є перевірка за хвилину: вимкніть Wi-Fi і надиктуйте.

Коротко

  • Локальний Whisper. Це файл моделі й рушій на вашому Mac, і нічого не вивантажується.
  • Модель. 5-бітний файл turbo, 547 МіБ у списку whisper.cpp, це той, який постачає YapToText.
  • Зробіть самі. Клонуйте whisper.cpp, завантажте модель, зберіть за допомогою CMake й запустіть whisper-cli на 16-бітному файлі WAV.
  • Або обминіть Terminal. YapToText запускає той самий файл і друкує в будь-якій програмі, безкоштовно.

Вибирайте модель за пам’яттю вашого Mac, а потім за власним голосом. Якщо щось тут не збігається з тим, що ви бачите, створіть issue на GitHub. Я читаю кожне.

Завантажити YapToText у Mac App StoreБезкоштовно. Без облікового запису й без заблокованих функцій, для macOS 14 або новішої на Mac із процесором Apple. Вихідний код на GitHub.

Хто пише. Ryleigh Newman розробляє програми, насилу друкує на клавіатурі та щодня диктує в YapToText, програмі, якій присвячено цей сайт. Цю сторінку перекладено з англійської. Інтерфейс програми та решта сторінок сайту англійською. Докладніше про проєкт, англійською.

Посібники

Інші посібники, англійською

Джерела

Запитання

Як запустити Whisper локально на Mac?

Скористайтеся whisper.cpp: клонуйте репозиторій, завантажте модель його скриптом download-ggml-model.sh, зберіть за допомогою CMake й запустіть whisper-cli на 16-бітному файлі WAV. Або встановіть програму, що має його всередині, наприклад YapToText, який запускає Whisper Large v3 Turbo без налаштування.

Скільки пам’яті потребує Whisper?

Це залежить від моделі. whisper.cpp називає близько 273 МБ для tiny, 852 МБ для small, 2,1 ГБ для medium і 3,9 ГБ для large та каже, що квантовані моделі потребують менше. Для turbo він не дає цифри пам’яті.

Яка найкраща локальна модель Whisper?

Починати варто з Large v3 Turbo, а її 5-бітний файл це той, який постачає YapToText: 547 МіБ у списку whisper.cpp. Якщо пам’яті мало, small або base потребують набагато менше, а OpenAI каже, що версії лише для англійської зазвичай працюють краще для англійської на найменших розмірах.

Який розмір має модель Whisper Large v3 Turbo?

1,5 ГіБ у списку моделей whisper.cpp або 547 МіБ як 5-бітний файл q5_0, що становить 574 МБ у десяткових одиницях. OpenAI називає для turbo 809 мільйонів параметрів.

Чи потрібен локальному Whisper інтернет?

Лише щоб один раз завантажити модель. Після цього whisper.cpp і YapToText розшифровують без з’єднання, а версія YapToText з App Store постачається з моделлю всередині, тож пропускає навіть це завантаження.

Чи можна використати модель whisper.cpp у YapToText?

Так. У розділі Your own models на сторінці AI Models кнопка Add Model приймає будь-який файл GGML .bin для whisper.cpp, а програма визначає, що це, за самим файлом.