Lokalny Whisper na Macu: czego wymaga, ile kosztuje i jak go uruchomić

Tekst: · Opublikowano

Lokalny Whisper oznacza uruchomienie modelu mowy Whisper od OpenAI na własnym Macu, więc dźwięk zamienia się w tekst na tej maszynie, a nie na serwerze gdzieś w sieci. Na Macu silnik, który warto znać, to whisper.cpp, który uznaje układ Apple za pierwszorzędną platformę, a decyzja, która ma znaczenie, dotyczy pliku modelu: większe modele słyszą lepiej, ale zajmują więcej miejsca na dysku i w pamięci.

Opisuję, jak te elementy do siebie pasują, ile kosztuje każdy rozmiar modelu według własnych liczb whisper.cpp, polecenia do samodzielnego uruchomienia i miejsce YapToText. Tworzę YapToText, bezpłatną aplikację, która uruchamia whisper.cpp ze standardowym plikiem Whisper Large v3 Turbo (Q5), więc czytaj tę część z tą wiedzą. Jeśli chcesz tylko wiedzieć, czy jest aplikacja Whisper na Maca, odpowiada na to strona o aplikacji Whisper na Maca.

Pobierz YapToText z Mac App StoreDo pobrania za darmo. Bez konta i bez blokad, dla macOS 14 lub nowszego na Macu z układem Apple. Kod źródłowy na GitHubie.

Ten poradnik w innych językach: English, العربية, Čeština, Dansk, Deutsch, Ελληνικά, Español, Suomi, Français, עברית, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Norsk, Nederlands, Português, Română, Русский, Slovenčina, Svenska, ไทย, Türkçe, Українська, Tiếng Việt, 简体中文, 繁體中文

Na tej stronie: 12 sekcji
  1. Kroki
  2. Poznaj trzy elementy lokalnego Whispera
  3. Wybierz model według miejsca na dysku i pamięci
  4. Uruchom Whispera samodzielnie przez whisper.cpp
    1. Krok 1: Weź kod i model
    2. Krok 2: Zbuduj go i przetranskrybuj próbkę
    3. Krok 3: Najpierw przekonwertuj własne audio
    4. Albo użyj pakietu Pythona od OpenAI
  5. Użyj tego samego modelu w YapToText, bez Terminala
  6. Gdy lokalny Whisper jest wolny albo źle słyszy
  7. Czego lokalny Whisper nie zmienia
  8. W skrócie
  9. Poradniki
  10. Więcej poradników, po angielsku
  11. Źródła
  12. Pytania

Kroki

  1. Sklonuj repozytorium whisper.cpp z GitHuba i otwórz jego folder w Terminalu.
  2. Pobierz model skryptem download-ggml-model.sh z projektu, na przykład large-v3-turbo-q5_0.
  3. Zbuduj projekt przez CMake, używając dwóch poleceń cmake z jego README.
  4. Przekonwertuj nagranie na plik WAV 16-bitowy, na przykład przez ffmpeg.
  5. Uruchom whisper-cli z plikiem modelu i plikiem WAV i przeczytaj transkrypcję w Terminalu.

Poznaj trzy elementy lokalnego Whispera

Lokalny Whisper ma trzy elementy i wszystkie trzy leżą na Twoim Macu. Model to plik, silnik go uruchamia, a Twój dźwięk nigdy nie musi opuszczać maszyny.

  • Model. Whisper to model rozpoznawania mowy od OpenAI, a OpenAI udostępniło jego kod i wagi modelu na licencji MIT. Plik modelu pobierasz raz i ten plik robi całe słuchanie.
  • Silnik. whisper.cpp to prosta implementacja Whispera w C i C++, także na licencji MIT. Jego README nazywa układ Apple pierwszorzędną platformą, zoptymalizowaną przez ARM NEON, Accelerate, Metal i Core ML, i mówi, że na układzie Apple wnioskowanie działa w całości na GPU przez Metal. Własny pakiet OpenAI uruchamia Whispera z Pythona.
  • Twój dźwięk. Nagranie albo mikrofon wchodzi, a tekst wychodzi. Internet jest potrzebny tylko do pobrania pliku modelu na początku.

To odróżnia go od usługi w chmurze: nic nie jest wysyłane do transkrypcji. Oznacza to też, że pracuje Twój Mac, więc wybrany model decyduje, ile pamięci i miejsca na dysku ta praca zajmuje.

Plakat z App Store z nagłówkiem Nothing leaves your Mac nad stroną AI Models w YapToText, na której oba modele są oznaczone jako Included.
Rysunek 1. Model i silnik w jednym wierszu w YapToText: Whisper Large v3 Turbo (Q5), od OpenAI, uruchamiany przez whisper.cpp, 574 MB i oznaczony jako Included.

Wybierz model według miejsca na dysku i pamięci

whisper.cpp podaje, ile każdy model zajmuje na dysku i w pamięci, a OpenAI podaje, ile parametrów ma każdy z nich. Turbo to szybsza wersja large-v3 od OpenAI, a jego plik 5-bitowy zajmuje około jednej piątej miejsca na dysku, które zajmuje large.

Sprawdzone 3 października 2026 w README i na liście modeli whisper.cpp oraz w README Whisper od OpenAI.

ModelParametry (OpenAI)Plik na dysku (whisper.cpp)Pamięć (whisper.cpp)
tiny39 M75 MiBOkoło 273 MB
base74 M142 MiBOkoło 388 MB
small244 M466 MiBOkoło 852 MB
medium769 M1.5 GiBOkoło 2.1 GB
large (v1, v2 lub v3)1550 M2.9 GiBOkoło 3.9 GB
large-v3, 5-bitowy (q5_0)Skwantyzowany large-v31.1 GiBNie podano
large-v3-turbo809 M1.5 GiBNie podano
large-v3-turbo, 5-bitowy (q5_0)Skwantyzowany turbo547 MiBNie podano

MiB i GiB liczą się w krokach po 1024, więc plik turbo 547 MiB z listy whisper.cpp to ten sam plik, który YapToText pokazuje jako 574 MB. Tak dwie rzetelne strony mogą podać jeden plik jako 547 i 574 i obie mają rację. Tabela pamięci whisper.cpp obejmuje pięć oryginalnych rozmiarów i nie podaje liczby dla turbo ani dla plików skwantyzowanych.

Strona AI Models w YapToText: Whisper Large v3 Turbo (Q5) i Phi-3.5 Mini Instruct oznaczone jako Included, poniżej biblioteka modeli.
Rysunek 2. YapToText pokazuje rozmiary w MB, dlatego plik turbo, który whisper.cpp podaje jako 547 MiB, czyta się tu jako 574 MB, a pozostałe modele Whisper są wymienione poniżej.

Jeszcze kilka uwag z obu projektów:

  • Modele tylko angielskie. tiny, base, small i medium występują też jako pliki .en tej samej wielkości, które słyszą tylko angielski. OpenAI mówi, że zwykle radzą sobie lepiej z angielskim, zwłaszcza tiny.en i base.en, a różnica maleje przy small.en i medium.en.
  • Modele skwantyzowane. Pliki kończące się na q5_0 są skwantyzowane. whisper.cpp mówi, że modele skwantyzowane potrzebują mniej pamięci i miejsca na dysku i, zależnie od sprzętu, mogą być przetwarzane wydajniej.
  • Turbo. OpenAI nazywa je zoptymalizowaną wersją large-v3 z szybszą transkrypcją i minimalnym spadkiem dokładności i ocenia je na około 8 razy szybsze niż large. Ten stosunek zmierzono na A100, a nie na Macu, i OpenAI mówi, że turbo nie jest trenowany do tłumaczenia.
  • Języki. OpenAI mówi, że wydajność Whispera bardzo różni się w zależności od języka.
  • Kolumna pamięci OpenAI. README OpenAI podaje wymagane VRAM dla jego pakietu w Pythonie: około 1 GB dla tiny i base, około 6 GB dla turbo i około 10 GB dla large. To nie są liczby whisper.cpp.

Do YapToText wybrano 5-bitowy plik turbo, bo na moich własnych dyktowaniach słyszał prawie dokładnie to samo co pełny model, przy jednej trzeciej pamięci. To dyktowania jednej osoby, a nie test porównawczy, więc wypróbuj dwa rozmiary na własnym głosie, zanim się zdecydujesz.

Uruchom Whispera samodzielnie przez whisper.cpp

Samodzielne uruchomienie whisper.cpp wymaga Terminala i dwóch narzędzi, które zakładają polecenia z jego README: Git i CMake. To są polecenia z README, z modelem zamienionym na 5-bitowy plik turbo. Dostajesz transkrypcję pliku audio w Terminalu, a nie słowa wpisywane w Twoich aplikacjach.

Krok 1: Weź kod i model

Terminal: Sklonuj whisper.cpp i pobierz 5-bitowy model turbo.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Co się dzieje: Projekt ląduje w folderze whisper.cpp, a skrypt pobiera ggml-large-v3-turbo-q5_0.bin z Hugging Face do swojego folderu models. Wpisz base.en albo small zamiast tego, aby pobrać mniej.

Krok 2: Zbuduj go i przetranskrybuj próbkę

Terminal: Zbuduj whisper-cli, a potem uruchom go na próbnym nagraniu dołączonym do projektu.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

Co się dzieje: CMake buduje projekt, a whisper-cli transkrybuje próbkę pobranym modelem i drukuje tekst w Terminalu.

Krok 3: Najpierw przekonwertuj własne audio

README mówi, że whisper-cli działa obecnie tylko z plikami WAV 16-bitowymi, i podaje polecenie ffmpeg do konwersji wszystkiego innego. ffmpeg to osobna instalacja.

Terminal: Zamień MP3 na format WAV, który czyta whisper-cli.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

Co się dzieje: ffmpeg zapisuje output.wav jako audio 16 kHz, mono, 16-bitowe, które przekazujesz whisper-cli po -f.

Albo użyj pakietu Pythona od OpenAI

Terminal: Zainstaluj własny pakiet OpenAI, jeśli wolisz pracować w Pythonie.

pip install -U openai-whisper

Co się dzieje: pip instaluje polecenie whisper. README OpenAI mówi, że kod ma działać z Pythonem od 3.8 do 3.11, wymaga ffmpeg, a jego model domyślny to turbo.

Do mowy na żywo whisper.cpp zawiera whisper-stream, który próbkuje Twój mikrofon co pół sekundy i transkrybuje w sposób ciągły. Wymaga SDL2, a README nazywa go naiwnym przykładem. Wpisywanie słów do Poczty, Slacka albo edytora to część, którą dodaje aplikacja.

Użyj tego samego modelu w YapToText, bez Terminala

YapToText uruchamia ten sam silnik i ten sam plik bez okna Terminala: kopia whisper.cpp wbudowana w aplikację z Metal i Accelerate oraz ggml-large-v3-turbo-q5_0.bin w pobraniu z App Store. Jego SHA-256 zgadza się z plikiem na Hugging Face, więc to standardowy model, a nie dostrojony lub wytrenowany od nowa. Aplikacja powstała, bo pisanie na klawiaturze sprawia mi trudność, a chodziło o to, żeby Whisper wpisywał tekst w każdej aplikacji, zamiast drukować w oknie Terminala. To jest plik, który pobiera skrypt. Zmienia się wszystko dookoła niego.

Plakat z App Store z nagłówkiem Yap it. Bam. It's typed. nad oknem Home w YapToText i trzema układami pływającego panelu.
Rysunek 3. Ten sam plik Whisper bez Terminala: słowa układają się w pływającym panelu, gdy mówisz, i lądują w miejscu kursora w aplikacji na wierzchu.

Oto, co aplikacja dodaje wokół modelu:

  • Pamięć, którą oddaje. Na stronie Energy ustawienie Keep models in memory decyduje, jak długo model zostaje załadowany po dyktowaniu: domyślnie 2 minutes after use, z wyborem od Only while dictating do Until quit. Wcześniejsze zwolnienie oszczędza energię i pamięć, a następne dyktowanie po zwolnieniu trwa kilka sekund dłużej.
  • Miejsce dla macOS. Gdy macOS brakuje pamięci, YapToText od razu porzuca załadowane modele i czeka pięć minut, zanim ogrzeje je ponownie.
  • Lżejszy model na baterii. Switch models with the power source, domyślnie wyłączone, daje modelowi dyktowania i modelowi porządkowania po jednym wyborze przy zasilaniu z sieci i na baterii.
  • Twój własny plik. W sekcji Your own models na stronie AI Models przycisk Add Model przyjmuje dowolny plik GGML .bin z whisper.cpp, więc model pobrany skryptem też działa. Aplikacja czyta plik, aby rozpoznać, czym jest, i odrzuca wszystko inne.
  • Liczby Twojego Maca. Karta This Mac na stronie Energy pokazuje Twój układ i pamięć, czyli liczbę do porównania z tabelą powyżej.

Dictation Model Library na stronie AI Models ma dziesięć kolejnych modeli Whisper, od Tiny do Large v3, każdy z rozmiarem pokazanym w aplikacji. Poradnik o modelach AI je wymienia, a poradnik o energii wyjaśnia ustawienia pamięci. Pobranie z App Store ma około 2,9 GB, bo oba modele aplikacji są w środku. Wersja z Homebrew ma około 12 MB i przed pierwszym dyktowaniem wymaga pobrania modelu mowy.

Gdy lokalny Whisper jest wolny albo źle słyszy

Zacznij od tanich poprawek, zanim pobierzesz większy model. Popraw mikrofon i słowa, zanim zmienisz model.

  1. Przeczekaj pierwsze uruchomienie. Model musi się załadować, zanim zacznie transkrybować. W YapToText pierwsze dyktowanie po uruchomieniu trwa chwilę. Jeśli zbudowano whisper.cpp z Core ML, jego README mówi, że pierwsze uruchomienie na urządzeniu jest wolne, bo usługa Neural Engine kompiluje model.
  2. Ustaw język, w którym mówisz. Wybór Language na stronie AI Models w YapToText zaczyna od języka systemowego Twojego Maca, a język, którego Whisper nie umie użyć, wraca do automatycznego wykrywania. Strona o językach wymienia wszystkie 29.
  3. Popraw mikrofon. Mikrofony Bluetooth mają jakość telefoniczną, więc własny mikrofon Maca słyszy lepiej. W YapToText wybierz go w wyborze Input w panelu paska menu.
  4. Naucz go swoich słów. Strona Dictionaries w YapToText przygotowuje Whispera na Twoje imiona i terminy, a nie tylko poprawia to, co wpisuje. Poradnik o słownikach pokazuje jak.
  5. Dla angielskiego użyj modelu tylko angielskiego. Jeśli pamięci jest mało, a mówisz tylko po angielsku, OpenAI mówi, że wersje .en zwykle radzą sobie lepiej, najbardziej przy tiny i base.
  6. Zmień rozmiar modelu. Idź w większy, jeśli źle słyszy, a pamięć na to pozwala, albo w mniejszy, jeśli jest wolno. W YapToText gwiazdki na stronie AI Models pokazują ten kompromis, a każde dyktowanie w History pokazuje własny czas od zatrzymania do tekstu.
Wpis w History w YapToText z otwartymi szczegółami przetwarzania: surowa transkrypcja, oczyszczona transkrypcja, tryb, sposób wstawienia, aplikacja docelowa i czasy.
Rysunek 4. Każde dyktowanie w History ma własne czasy: jak długo trwała wypowiedź, oraz czas od zatrzymania do tekstu podzielony na transkrypcję, porządkowanie przez AI i wstawienie.

Czego lokalny Whisper nie zmienia

Uruchomienie Whispera lokalnie przenosi pracę na Twojego Maca i tylko to przenosi. Lokalność zmienia to, dokąd trafia Twój głos, a nie to, jak dobrze jest słyszany.

  • Błędy. Model decyduje o tym, jak dobrze słyszy, gdziekolwiek działa, więc imię, które źle słyszy, wymaga wpisu w słowniku albo lepszego mikrofonu, a nie innego miejsca.
  • Tłumaczenie. OpenAI mówi, że turbo nie jest trenowany do tłumaczenia, a YapToText zawsze prosi Whispera tylko o transkrypcję, nigdy o tłumaczenie.
  • Jedno pobranie. Model lokalny nadal musi raz dotrzeć. Skrypt whisper.cpp pobiera go z Hugging Face, wersja YapToText z App Store ma go w środku, a wersja z Homebrew pobiera go ze strony AI Models.
  • Maki z procesorem Intel. whisper.cpp wymienia Maki z Intelem i z Arm jako obsługiwane. YapToText wymaga układu Apple i macOS 14 lub nowszego, a dla Maców z procesorem Intel nic nie obiecuję.
  • Liczby dokładności. Nie podaję procentów dokładności dla żadnego modelu. Przewodnikiem są gwiazdki i Twoje własne History.

Aby udowodnić, że ustawienie naprawdę jest lokalne, strona o dyktowaniu offline ma test na minutę: wyłącz Wi-Fi i podyktuj.

W skrócie

  • Lokalny Whisper. To plik modelu i silnik na Twoim Macu, bez wysyłania czegokolwiek.
  • Model. Plik turbo 5-bitowy, 547 MiB na liście whisper.cpp, to ten, który dołącza YapToText.
  • Zrób to sam. Sklonuj whisper.cpp, pobierz model, zbuduj CMake i uruchom whisper-cli na pliku WAV 16-bitowym.
  • Albo pomiń Terminal. YapToText uruchamia ten sam plik i wpisuje tekst w dowolnej aplikacji, za darmo.

Wybierz model według pamięci swojego Maca, a potem według własnego głosu. Jeśli coś tutaj nie zgadza się z tym, co widzisz, zgłoś problem na GitHubie (po angielsku). Czytam każde zgłoszenie.

Pobierz YapToText z Mac App StoreDo pobrania za darmo. Bez konta i bez blokad, dla macOS 14 lub nowszego na Macu z układem Apple. Kod źródłowy na GitHubie.

Kto to pisze. Ryleigh Newman tworzy oprogramowanie, ma trudności z pisaniem na klawiaturze i codziennie dyktuje w YapToText, aplikacji opisanej na tej stronie. Ta strona jest tłumaczeniem z angielskiego. Interfejs aplikacji i reszta witryny są po angielsku. Więcej o projekcie, po angielsku.

Poradniki

Więcej poradników, po angielsku

Źródła

Pytania

Jak uruchomić Whispera lokalnie na Macu?

Użyj whisper.cpp: sklonuj repozytorium, pobierz model skryptem download-ggml-model.sh, zbuduj go CMake i uruchom whisper-cli na pliku WAV 16-bitowym. Albo zainstaluj aplikację, która go zawiera, taką jak YapToText, który uruchamia Whisper Large v3 Turbo bez konfiguracji.

Ile pamięci potrzebuje Whisper?

To zależy od modelu. whisper.cpp podaje około 273 MB dla tiny, 852 MB dla small, 2.1 GB dla medium i 3.9 GB dla large oraz mówi, że modele skwantyzowane potrzebują mniej. Dla turbo nie podaje liczby.

Jaki jest najlepszy lokalny model Whisper?

Warto zacząć od Large v3 Turbo, a jego plik 5-bitowy dołącza YapToText: 547 MiB na liście whisper.cpp. Jeśli pamięci jest mało, small lub base zużywają dużo mniej, a OpenAI mówi, że wersje tylko angielskie zwykle radzą sobie lepiej z angielskim przy najmniejszych rozmiarach.

Jak duży jest model Whisper Large v3 Turbo?

1.5 GiB na liście modeli whisper.cpp albo 547 MiB jako plik 5-bitowy q5_0, czyli 574 MB liczone w jednostkach dziesiętnych. OpenAI podaje dla turbo 809 milionów parametrów.

Czy lokalny Whisper potrzebuje internetu?

Tylko do jednorazowego pobrania modelu. Potem whisper.cpp i YapToText transkrybują bez połączenia, a wersja YapToText z App Store ma model w środku, więc pomija nawet to pobranie.

Czy mogę użyć modelu whisper.cpp w YapToText?

Tak. W sekcji Your own models na stronie AI Models przycisk Add Model przyjmuje dowolny plik GGML .bin z whisper.cpp, a aplikacja rozpoznaje po samym pliku, czym jest.