Lokální Whisper na Macu: co potřebuje, kolik stojí a jak ho spustit

Text: · Zveřejněno

Lokální Whisper znamená spouštět řečový model Whisper od OpenAI na vlastním Macu, takže se váš zvuk mění v text v počítači a ne na nějakém serveru. Na Macu je třeba znát engine whisper.cpp, který bere čip Apple jako prvotřídního občana, a důležité rozhodnutí se týká souboru modelu: větší modely slyší lépe a berou víc místa na disku a v paměti.

Popisuji, jak do sebe díly zapadají, kolik stojí každá velikost modelu podle údajů samotného whisper.cpp, příkazy, kterými si ho spustíte sami, a kam zapadá YapToText. YapToText vyvíjím, je to bezplatná aplikace, která spouští whisper.cpp se standardním souborem Whisper Large v3 Turbo (Q5), takže tu část posuzujte s tím na paměti. Pokud chcete jen vědět, zda existuje aplikace Whisper pro Mac, odpovídá stránka o aplikaci Whisper pro Mac.

Stáhnout YapToText v Mac App StoruKe stažení zdarma. Bez účtu a bez zamčených funkcí, pro macOS 14 nebo novější na Macu s čipem Apple. Zdrojový kód na GitHubu.

Tento návod v dalších jazycích: English, العربية, Dansk, Deutsch, Ελληνικά, Español, Suomi, Français, עברית, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Norsk, Nederlands, Polski, Português, Română, Русский, Slovenčina, Svenska, ไทย, Türkçe, Українська, Tiếng Việt, 简体中文, 繁體中文

Na této stránce: 12 oddílů
  1. Kroky
  2. Poznejte tři součásti lokálního Whisperu
  3. Vyberte model podle místa na disku a paměti
  4. Spusťte Whisper sami pomocí whisper.cpp
    1. Krok 1: Získejte kód a model
    2. Krok 2: Sestavte ho a přepište ukázku
    3. Krok 3: Nejdřív převeďte vlastní zvuk
    4. Nebo použijte balíček OpenAI pro Python
  5. Použijte stejný model v YapToText bez Terminálu
  6. Když je lokální Whisper pomalý nebo vás špatně slyší
  7. Co lokální Whisper nemění
  8. Stručně
  9. Návody
  10. Další návody, anglicky
  11. Zdroje
  12. Otázky

Kroky

  1. Naklonujte repozitář whisper.cpp z GitHubu a otevřete jeho složku v Terminálu.
  2. Stáhněte model skriptem projektu download-ggml-model.sh, například large-v3-turbo-q5_0.
  3. Sestavte projekt pomocí CMake, dvěma příkazy cmake z jeho README.
  4. Převeďte nahrávku na 16bitový soubor WAV, například pomocí ffmpeg.
  5. Spusťte whisper-cli se souborem modelu a souborem WAV a přečtěte si přepis v Terminálu.

Poznejte tři součásti lokálního Whisperu

Lokální Whisper má tři součásti a všechny jsou na vašem Macu. Model je soubor, engine ho spouští a váš zvuk nikdy nemusí opustit počítač.

  • Model. Whisper je model rozpoznávání řeči od OpenAI a OpenAI zveřejnilo jeho kód i váhy modelu pod licencí MIT. Soubor modelu si stáhnete jednou a tento soubor poslouchá.
  • Engine. whisper.cpp je prostá implementace Whisperu v C a C++, také pod licencí MIT. Jeho README nazývá čip Apple prvotřídním občanem, optimalizovaným přes ARM NEON, Accelerate, Metal a Core ML, a říká, že na čipu Apple běží inference úplně na GPU přes Metal. Vlastní balíček OpenAI naproti tomu spouští Whisper z Pythonu.
  • Váš zvuk. Dovnitř jde nahrávka nebo váš mikrofon a ven vychází text. Internet je potřeba jen ke stažení souboru modelu na začátku.

To je to, co ho odlišuje od cloudové služby: nic se nenahrává, aby se to přepsalo. Znamená to také, že práci dělá váš Mac, takže model, který zvolíte, určuje, kolik paměti a místa na disku ta práce zabere.

Plakát pro App Store s nadpisem Nothing leaves your Mac nad stránkou AI Models v YapToText, kde jsou oba modely označené jako Included.
Obrázek 1. Model a engine na jednom řádku v YapToText: Whisper Large v3 Turbo (Q5) od OpenAI, spouštěný whisper.cpp, 574 MB a označený Included.

Vyberte model podle místa na disku a paměti

whisper.cpp zveřejňuje, kolik každý model zabere na disku a v paměti, a OpenAI zveřejňuje, kolik má každý parametrů. Turbo je rychlejší verze large-v3 od OpenAI a jeho 5bitový soubor zabere asi pětinu místa na disku, které zabírá large.

Zkontrolováno 3. října 2026 v README a seznamu modelů whisper.cpp a v README Whisperu od OpenAI.

ModelParametry (OpenAI)Soubor na disku (whisper.cpp)Paměť (whisper.cpp)
tiny39 M75 MiBAsi 273 MB
base74 M142 MiBAsi 388 MB
small244 M466 MiBAsi 852 MB
medium769 M1,5 GiBAsi 2,1 GB
large (v1, v2 nebo v3)1550 M2,9 GiBAsi 3,9 GB
large-v3, 5bitový (q5_0)Kvantizovaný large-v31,1 GiBNeuvedeno
large-v3-turbo809 M1,5 GiBNeuvedeno
large-v3-turbo, 5bitový (q5_0)Kvantizované turbo547 MiBNeuvedeno

MiB a GiB se počítají po 1 024, takže soubor turbo o velikosti 547 MiB v seznamu whisper.cpp je stejný soubor, který YapToText ukazuje jako 574 MB. Tak mohou dvě poctivé stránky uvádět jeden soubor jako 547 a 574 a obě mít pravdu. Tabulka paměti whisper.cpp pokrývá pět původních velikostí a pro turbo ani pro kvantizované soubory údaj neuvádí.

Stránka AI Models v YapToText: Whisper Large v3 Turbo (Q5) a Phi-3.5 Mini Instruct označené jako Included, pod nimi knihovna modelů.
Obrázek 2. YapToText ukazuje velikosti v MB, a proto soubor turbo, který whisper.cpp uvádí jako 547 MiB, tady vychází jako 574 MB, s dalšími modely Whisper uvedenými pod ním.

Ještě pár poznámek z obou projektů:

  • Modely jen pro angličtinu. tiny, base, small a medium existují i jako soubory .en stejné velikosti, které slyší jen angličtinu. OpenAI říká, že pro angličtinu bývají lepší, zejména tiny.en a base.en, a že rozdíl se u small.en a medium.en zmenšuje.
  • Kvantizované modely. Soubory končící na q5_0 jsou kvantizované. whisper.cpp říká, že kvantizované modely potřebují méně paměti a místa na disku a podle hardwaru se dají zpracovat efektivněji.
  • Turbo. OpenAI ho nazývá optimalizovanou verzí large-v3 s rychlejším přepisem a minimálním zhoršením přesnosti a hodnotí ho jako asi 8krát rychlejší než large. Tento poměr byl změřen na A100, ne na Macu, a OpenAI říká, že turbo není natrénované na překlad.
  • Jazyky. OpenAI říká, že výkon Whisperu se podle jazyka velmi liší.
  • Sloupec paměti od OpenAI. README OpenAI uvádí místo toho požadovanou VRAM pro svůj balíček v Pythonu: asi 1 GB pro tiny a base, asi 6 GB pro turbo a asi 10 GB pro large. To nejsou čísla whisper.cpp.

Pro YapToText volím 5bitový soubor turbo, protože na mých vlastních diktováních slyšel téměř přesně to, co úplný model, při třetinové paměti. Jsou to diktování jednoho člověka, ne srovnávací test, takže než se rozhodnete, vyzkoušejte dvě velikosti na svém vlastním hlase.

Spusťte Whisper sami pomocí whisper.cpp

Spuštění whisper.cpp na vlastní pěst vyžaduje Terminál a dva nástroje, které předpokládají příkazy z jeho README, Git a CMake. Jsou to příkazy z README, jen s modelem vyměněným za 5bitový soubor turbo. Dostanete přepis zvukového souboru v Terminálu, ne slova napsaná do vašich aplikací.

Krok 1: Získejte kód a model

Terminál: Naklonujte whisper.cpp a stáhněte 5bitový model turbo.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Co se stane: Projekt skončí ve složce whisper.cpp a skript stáhne ggml-large-v3-turbo-q5_0.bin z Hugging Face do její složky models. Pro menší stahování zaměňte model za base.en nebo small.

Krok 2: Sestavte ho a přepište ukázku

Terminál: Sestavte whisper-cli a spusťte ho na ukázkové nahrávce, která je součástí projektu.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

Co se stane: CMake projekt sestaví a whisper-cli přepíše ukázku stáhnutým modelem a vypíše text do Terminálu.

Krok 3: Nejdřív převeďte vlastní zvuk

README říká, že whisper-cli v současnosti běží jen se 16bitovými soubory WAV, a uvádí příkaz ffmpeg pro převod čehokoli jiného. ffmpeg je samostatná instalace.

Terminál: Změňte MP3 na formát WAV, který whisper-cli čte.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

Co se stane: ffmpeg zapíše output.wav jako 16kHz mono 16bitový zvuk, který potom předáte whisper-cli za -f.

Nebo použijte balíček OpenAI pro Python

Terminál: Nainstalujte vlastní balíček OpenAI, pokud raději pracujete v Pythonu.

pip install -U openai-whisper

Co se stane: pip nainstaluje příkaz whisper. README OpenAI říká, že kód by měl fungovat s Pythonem 3.8 až 3.11, vyžaduje ffmpeg a jeho výchozí model je turbo.

Pro živou řeč obsahuje whisper.cpp nástroj whisper-stream, který snímá váš mikrofon každou půlsekundu a přepisuje průběžně. Vyžaduje SDL2 a README ho nazývá naivním příkladem. Dostat slova do Mailu, Slacku nebo vašeho editoru je část, kterou přidává aplikace.

Použijte stejný model v YapToText bez Terminálu

YapToText spouští stejný engine a stejný soubor bez okna Terminálu: kopie whisper.cpp zabudovaná v aplikaci s Metal a Accelerate a ggml-large-v3-turbo-q5_0.bin uvnitř stažení z App Storu. Jeho SHA-256 se shoduje se souborem na Hugging Face, takže je to standardní model, ne nijak vyladěný ani přetrénovaný. Aplikaci vyvíjím proto, že mi psaní rukama dělá potíže, a záleží mi na tom, aby Whisper psal do každé aplikace místo výpisu do okna Terminálu. Je to soubor, který stáhne skript. Mění se všechno kolem něj.

Plakát pro App Store s nadpisem Yap it. Bam. It's typed. nad oknem Home v YapToText a třemi rozvrženími plovoucího panelu.
Obrázek 3. Stejný soubor Whisper bez Terminálu: slova se skládají v plovoucím panelu, jak mluvíte, a dopadnou ke kurzoru v aplikaci, která je vpředu.

Tohle aplikace kolem modelu přidává:

  • Paměť, kterou vrací. Na stránce Energy určuje Keep models in memory, jak dlouho zůstane model po diktování načtený: ve výchozím nastavení 2 minutes after use, s volbami od Only while dictating po Until quit. Dřívější uvolnění šetří energii a paměť a další diktování po uvolnění trvá o pár sekund déle.
  • Místo pro macOS. Když macOS dochází paměť, YapToText okamžitě zahodí své načtené modely a pět minut čeká, než je znovu zahřeje.
  • Lehčí model na baterii. Volba Switch models with the power source, ve výchozím nastavení vypnutá, dává modelu diktování i modelu pro úpravu textu zvlášť volbu pro napájení z elektřiny a pro baterii.
  • Váš vlastní soubor. V části Your own models na stránce AI Models přijme Add Model jakýkoli soubor GGML .bin pro whisper.cpp, takže funguje i model, který jste stáhli skriptem. Aplikace soubor přečte, aby poznala, co to je, a cokoli jiného odmítne.
  • Čísla vašeho Macu. Karta This Mac na stránce Energy ukazuje váš čip a paměť, což je číslo, které porovnáte s tabulkou výše.

Dictation Model Library na stránce AI Models má deset dalších modelů Whisper, od Tiny po Large v3, každý s velikostí, kterou aplikace ukazuje. Průvodce modely AI je vypisuje a průvodce energií vysvětluje nastavení paměti. Stažení z App Storu má asi 2,9 GB, protože oba modely aplikace jsou uvnitř. Verze z Homebrew má asi 12 MB a před prvním diktováním potřebuje stažení modelu rozpoznávání řeči.

Když je lokální Whisper pomalý nebo vás špatně slyší

Začněte levnými opravami, než stáhnete větší model. Nejdřív opravte mikrofon a slova, potom měňte model.

  1. Vyčkejte první spuštění. Model se musí načíst, než může přepisovat. V YapToText první diktování po spuštění chvíli trvá. Pokud jste whisper.cpp sestavili s Core ML, jeho README říká, že první spuštění na zařízení je pomalé, zatímco služba Neural Engine model kompiluje.
  2. Nastavte jazyk, kterým mluvíte. Výběr Language na stránce AI Models v YapToText začíná na systémovém jazyce vašeho Macu a jazyk, který Whisper použít nemůže, se vrátí k automatickému rozpoznání. Stránka o jazycích uvádí všech 29.
  3. Opravte mikrofon. Mikrofony Bluetooth mají kvalitu telefonu, takže vestavěný mikrofon Macu slyší lépe. V YapToText ho vyberte ve výběru Input v panelu v řádku nabídek.
  4. Naučte ho svá slova. Stránka Dictionaries v YapToText připraví Whisper na vaše jména a termíny, nejen opravuje, co napíše. Ukazuje to průvodce slovníky.
  5. Pro angličtinu použijte model jen pro angličtinu. Pokud je paměti málo a mluvíte jen anglicky, OpenAI říká, že verze .en bývají lepší, nejvíc u tiny a base.
  6. Změňte velikost modelu. Jděte na větší, pokud špatně slyší a paměť to dovolí, nebo na menší, pokud je pomalý. V YapToText ukazují kompromis hvězdičky na stránce AI Models a každé diktování v History ukazuje vlastní čas od zastavení po text.
Záznam v History aplikace YapToText s otevřenými podrobnostmi zpracování: původní přepis, upravený přepis, režim, doručení, cílová aplikace a časy.
Obrázek 4. Každé diktování v History nese vlastní časy: jak dlouho jste mluvili a čas od zastavení po text rozdělený na přepis, úpravu pomocí AI a doručení.

Co lokální Whisper nemění

Spouštění Whisperu lokálně přesune práci na váš Mac a nic víc. Lokální mění, kam jde váš hlas, ne to, jak dobře je slyšet.

  • Chyby. Jak dobře model slyší, určuje model, ať běží kdekoli, takže jméno, které slyší špatně, potřebuje položku ve slovníku nebo lepší mikrofon, ne jiné místo.
  • Překlad. OpenAI říká, že turbo není natrénované na překlad, a YapToText po Whisperu vždy chce jen přepis, nikdy překlad.
  • Jedno stažení. Lokální model se musí jednou dostat k vám. Skript whisper.cpp ho stáhne z Hugging Face, ve verzi YapToText z App Storu je uvnitř a verze z Homebrew ho stáhne ze stránky AI Models.
  • Macy s procesorem Intel. whisper.cpp uvádí jako podporované Macy s Intelem i s Arm. YapToText potřebuje čip Apple a macOS 14 nebo novější a pro Macy s procesorem Intel se nic netvrdí.
  • Čísla přesnosti. Procenta přesnosti nezveřejňuji pro žádný model. Průvodcem jsou hvězdičky a vaše vlastní History.

Aby se dalo dokázat, že nastavení je opravdu lokální, má stránka o offline diktování minutový test: vypněte Wi-Fi a diktujte.

Stručně

  • Lokální Whisper. Je to soubor modelu a engine na vašem Macu, bez nahrávání na internet.
  • Model. 5bitový soubor turbo, v seznamu whisper.cpp 547 MiB, je ten, který YapToText dodává.
  • Udělejte to sami. Naklonujte whisper.cpp, stáhněte model, sestavte pomocí CMake a spusťte whisper-cli na 16bitovém souboru WAV.
  • Nebo se vyhněte Terminálu. YapToText spouští stejný soubor a píše do jakékoli aplikace, zdarma.

Vyberte model podle paměti svého Macu a potom podle vlastního hlasu. Pokud tu něco neodpovídá tomu, co vidíte, založte issue na GitHubu. Čtu všechna.

Stáhnout YapToText v Mac App StoruKe stažení zdarma. Bez účtu a bez zamčených funkcí, pro macOS 14 nebo novější na Macu s čipem Apple. Zdrojový kód na GitHubu.

Kdo píše. Ryleigh Newman vyvíjí software, psaní na klávesnici zvládá jen s obtížemi a každý den diktuje v YapToText, aplikaci, o které je tento web. Tato stránka je přeložená z angličtiny. Rozhraní aplikace a zbytek webu jsou v angličtině. Více o projektu, anglicky.

Další návody, anglicky

Zdroje

Otázky

Jak spustit Whisper lokálně na Macu?

Použijte whisper.cpp: naklonujte repozitář, stáhněte model jeho skriptem download-ggml-model.sh, sestavte ho pomocí CMake a spusťte whisper-cli na 16bitovém souboru WAV. Nebo nainstalujte aplikaci, která ho obsahuje, například YapToText, který spouští Whisper Large v3 Turbo bez nastavování.

Kolik paměti Whisper potřebuje?

Záleží na modelu. whisper.cpp uvádí asi 273 MB pro tiny, 852 MB pro small, 2,1 GB pro medium a 3,9 GB pro large a říká, že kvantizované modely potřebují méně. Pro turbo žádný údaj o paměti neuvádí.

Který lokální model Whisper je nejlepší?

Začít doporučuji u modelu Large v3 Turbo a jeho 5bitový soubor je ten, který YapToText dodává: 547 MiB v seznamu whisper.cpp. Pokud je paměti málo, small nebo base používají mnohem méně a OpenAI říká, že verze jen pro angličtinu bývají v nejmenších velikostech pro angličtinu lepší.

Jak velký je model Whisper Large v3 Turbo?

1,5 GiB v seznamu modelů whisper.cpp, nebo 547 MiB jako 5bitový soubor q5_0, což je 574 MB v desítkových jednotkách. OpenAI uvádí turbo s 809 miliony parametrů.

Potřebuje lokální Whisper internet?

Jen ke stažení modelu jednou. Potom whisper.cpp i YapToText přepisují bez připojení a verze YapToText z App Storu má model uvnitř, takže přeskočí i toto stažení.

Dá se model whisper.cpp použít v YapToText?

Ano. V části Your own models na stránce AI Models přijme Add Model jakýkoli soubor GGML .bin pro whisper.cpp a aplikace pozná, co to je, ze samotného souboru.