Lokal Whisper på en Mac: hva den trenger, hva den koster og hvordan du kjører den

Av · Publisert

Lokal Whisper betyr å kjøre OpenAIs talemodell Whisper på din egen Mac, så lyden din blir til tekst på maskinen i stedet for på en server et sted. På en Mac er motoren å kjenne whisper.cpp, som behandler Apple-chip som førsteklasses, og valget som betyr noe, er modellfilen: større modeller hører bedre og tar mer diskplass og minne.

Jeg går gjennom hvordan delene henger sammen, hva hver modellstørrelse koster ifølge whisper.cpps egne tall, kommandoene for å kjøre den selv, og hvor YapToText passer inn. Jeg utvikler YapToText, en gratis app som kjører whisper.cpp med den vanlige filen Whisper Large v3 Turbo (Q5), så vei den delen med det i tankene. Hvis du bare vil vite om det finnes en Whisper-app for Mac, svarer siden om Whisper-appen for Mac på det.

Last ned YapToText i Mac App StoreGratis å laste ned. Ingen konto og ingen låste funksjoner, for macOS 14 eller nyere på en Mac med Apple-chip. Kildekode på GitHub.

Denne veiledningen på andre språk: English, العربية, Čeština, Dansk, Deutsch, Ελληνικά, Español, Suomi, Français, עברית, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Nederlands, Polski, Português, Română, Русский, Slovenčina, Svenska, ไทย, Türkçe, Українська, Tiếng Việt, 简体中文, 繁體中文

På denne siden: 12 deler
  1. Trinn
  2. Kjenn de tre delene i lokal Whisper
  3. Velg en modell etter diskplass og minne
  4. Kjør Whisper selv med whisper.cpp
    1. Trinn 1: Hent koden og en modell
    2. Trinn 2: Bygg den og transkriber eksemplet
    3. Trinn 3: Konverter din egen lyd først
    4. Eller bruk OpenAIs Python-pakke
  5. Bruk den samme modellen i YapToText uten Terminal
  6. Hvis lokal Whisper er treg eller hører feil
  7. Det lokal Whisper ikke endrer
  8. Kortversjonen
  9. Veiledninger
  10. Flere veiledninger, på engelsk
  11. Kilder
  12. Spørsmål

Trinn

  1. Klon repositoriet til whisper.cpp fra GitHub og åpne mappen i Terminal.
  2. Last ned en modell med skriptet download-ggml-model.sh fra prosjektet, for eksempel large-v3-turbo-q5_0.
  3. Bygg prosjektet med CMake, med de to cmake-kommandoene fra README-filen.
  4. Konverter opptaket ditt til en 16-bits WAV-fil, for eksempel med ffmpeg.
  5. Kjør whisper-cli med modellfilen og WAV-filen din, og les avskriften i Terminal.

Kjenn de tre delene i lokal Whisper

Lokal Whisper har tre deler, og alle tre ligger på Macen din. Modellen er en fil, motoren kjører den, og lyden din trenger aldri å forlate maskinen.

  • Modellen. Whisper er OpenAIs modell for talegjenkjenning, og OpenAI ga ut koden og modellvektene under MIT-lisensen. Du laster ned en modellfil én gang, og den filen gjør lyttingen.
  • Motoren. whisper.cpp er en enkel implementering av Whisper i C og C++, også under MIT-lisensen. README-filen kaller Apple-chip førsteklasses, optimalisert gjennom ARM NEON, Accelerate, Metal og Core ML, og sier at på Apple-chip kjører inferensen helt på GPU-en gjennom Metal. OpenAIs egen pakke kjører Whisper fra Python i stedet.
  • Lyden din. Et opptak eller mikrofonen din går inn, og tekst kommer ut. Internett trengs bare for å laste ned modellfilen i første omgang.

Det er det som skiller det fra en skytjeneste: ingenting lastes opp for å bli transkribert. Det betyr også at Macen din gjør jobben, så modellen du velger, avgjør hvor mye minne og diskplass jobben tar.

Plakat for App Store med overskriften Nothing leaves your Mac over siden AI Models i YapToText, der begge modellene er merket Included.
Figur 1. Modellen og motoren på én linje i YapToText: Whisper Large v3 Turbo (Q5), fra OpenAI, kjørt av whisper.cpp, 574 MB og merket Included.

Velg en modell etter diskplass og minne

whisper.cpp publiserer hva hver modell tar på disk og i minnet, og OpenAI publiserer hvor mange parametere hver av dem har. Turbo er OpenAIs raskere versjon av large-v3, og 5-bitsfilen tar omtrent en femtedel av diskplassen til large.

Sjekket 3. oktober 2026 i README-filen og modelllisten til whisper.cpp og i OpenAIs README for Whisper.

ModellParametere (OpenAI)Fil på disk (whisper.cpp)Minne (whisper.cpp)
tiny39 M75 MiBOmtrent 273 MB
base74 M142 MiBOmtrent 388 MB
small244 M466 MiBOmtrent 852 MB
medium769 M1,5 GiBOmtrent 2,1 GB
large (v1, v2 eller v3)1550 M2,9 GiBOmtrent 3,9 GB
large-v3, 5-bit (q5_0)Kvantisert large-v31,1 GiBIkke oppgitt
large-v3-turbo809 M1,5 GiBIkke oppgitt
large-v3-turbo, 5-bit (q5_0)Kvantisert turbo547 MiBIkke oppgitt

MiB og GiB teller i trinn på 1 024, så turbofilen på 547 MiB i listen til whisper.cpp er den samme filen som YapToText viser som 574 MB. Slik kan to ærlige sider oppgi én fil som 547 og 574 og begge ha rett. Minnetabellen til whisper.cpp dekker de fem opprinnelige størrelsene og oppgir ikke noe tall for turbo eller for de kvantiserte filene.

Siden AI Models i YapToText: Whisper Large v3 Turbo (Q5) og Phi-3.5 Mini Instruct merket Included, modellbiblioteket nedenfor.
Figur 2. YapToText viser størrelser i MB, og derfor står turbofilen som whisper.cpp lister som 547 MiB oppført som 574 MB her, med de andre Whisper-modellene listet under.

Noen flere notater fra de to prosjektene:

  • Modeller bare for engelsk. tiny, base, small og medium finnes også som .en-filer av samme størrelse som bare hører engelsk. OpenAI sier at de pleier å gjøre det bedre for engelsk, særlig tiny.en og base.en, og at forskjellen blir mindre for small.en og medium.en.
  • Kvantiserte modeller. Filer som ender på q5_0 er kvantisert. whisper.cpp sier at kvantiserte modeller trenger mindre minne og diskplass og, avhengig av maskinvaren, kan behandles mer effektivt.
  • Turbo. OpenAI kaller den en optimalisert versjon av large-v3 med raskere transkripsjon og minimalt tap av nøyaktighet, og oppgir at den går omtrent 8 ganger så fort som large. Det forholdet ble målt på en A100, ikke på en Mac, og OpenAI sier at turbo ikke er trent for oversettelse.
  • Språk. OpenAI sier at ytelsen til Whisper varierer mye avhengig av språket.
  • OpenAIs minnekolonne. OpenAIs README oppgir i stedet nødvendig VRAM for Python-pakken: omtrent 1 GB for tiny og base, omtrent 6 GB for turbo og omtrent 10 GB for large. Det er ikke tall fra whisper.cpp.

Jeg valgte 5-bitsfilen for turbo til YapToText fordi den, på mine egne dikteringer, hørte nesten nøyaktig det den fulle modellen hørte, med en tredjedel av minnet. Det er én persons dikteringer og ikke en ytelsestest, så prøv to størrelser på din egen stemme før du bestemmer deg.

Kjør Whisper selv med whisper.cpp

Å kjøre whisper.cpp selv krever Terminal og de to verktøyene kommandoene i README-filen forutsetter, Git og CMake. Dette er kommandoene fra README-filen, med modellen byttet ut med 5-bitsfilen for turbo. Det du får, er en avskrift av en lydfil i Terminal, ikke ord som skrives inn i appene dine.

Trinn 1: Hent koden og en modell

Terminal: Klon whisper.cpp og last ned 5-bitsmodellen for turbo.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Dette skjer: Prosjektet havner i en mappe som heter whisper.cpp, og skriptet laster ned ggml-large-v3-turbo-q5_0.bin fra Hugging Face til mappen models. Bytt inn base.en eller small for en mindre nedlasting.

Trinn 2: Bygg den og transkriber eksemplet

Terminal: Bygg whisper-cli, og kjør den så på eksempelopptaket som følger med prosjektet.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

Dette skjer: CMake bygger prosjektet, og whisper-cli transkriberer eksemplet med modellen du lastet ned og skriver ut teksten i Terminal.

Trinn 3: Konverter din egen lyd først

README-filen sier at whisper-cli foreløpig bare kjører med 16-bits WAV-filer, og den gir en ffmpeg-kommando for å konvertere alt annet. ffmpeg er en egen installasjon.

Terminal: Gjør en MP3 om til WAV-formatet whisper-cli leser.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

Dette skjer: ffmpeg skriver output.wav som 16 kHz, mono, 16-bits lyd, som du så gir til whisper-cli etter -f.

Eller bruk OpenAIs Python-pakke

Terminal: Installer OpenAIs egen pakke, hvis du heller vil jobbe i Python.

pip install -U openai-whisper

Dette skjer: pip installerer kommandoen whisper. OpenAIs README sier at koden forventes å virke med Python 3.8 til 3.11, at den trenger ffmpeg, og at standardmodellen er turbo.

For direkte tale har whisper.cpp med whisper-stream, som tar prøver av mikrofonen din hvert halve sekund og transkriberer kontinuerlig. Den trenger SDL2, og README-filen kaller den et naivt eksempel. Å få ordene inn i Mail, Slack eller redigeringsprogrammet ditt er delen en app legger til.

Bruk den samme modellen i YapToText uten Terminal

YapToText kjører den samme motoren og den samme filen uten Terminal-vindu: en kopi av whisper.cpp bygget inn i appen med Metal og Accelerate, og ggml-large-v3-turbo-q5_0.bin inne i nedlastingen fra App Store. SHA-256 stemmer med filen på Hugging Face, så det er den vanlige modellen og ikke en egenjustert eller på nytt trent. Jeg lagde appen fordi hendene mine gjør det vanskelig å skrive, og jeg ville ha Whisper som skriver inn i alle apper i stedet for å skrive ut i et Terminal-vindu. Det er filen skriptet laster ned. Det som endrer seg, er alt rundt den.

Plakat for App Store med overskriften Yap it. Bam. It's typed. over startvinduet i YapToText og de tre oppsettene for det flytende panelet.
Figur 3. Den samme Whisper-filen uten Terminal: ordene tar form i det flytende panelet mens du snakker og havner der markøren står, i appen som er i forgrunnen.

Dette legger appen til rundt modellen:

  • Minne den gir tilbake. På siden Energy avgjør Keep models in memory hvor lenge en modell blir liggende lastet etter en diktering: 2 minutter etter bruk som standard, med valg fra Only while dictating til Until quit. Å avlaste raskere sparer strøm og minne, og den neste dikteringen etter en avlasting tar noen ekstra sekunder.
  • Plass til macOS. Når macOS går tom for minne, slipper YapToText de lastede modellene med en gang og venter fem minutter før den varmer dem opp igjen.
  • En lettere modell på batteri. Valget Switch models with the power source, av som standard, gir dikteringsmodellen og oppryddingsmodellen hver et valg for tilkoblet strøm og et for batteri.
  • Din egen fil. Under Your own models på siden AI Models tar Add Model en hvilken som helst GGML-.bin-fil fra whisper.cpp, så en modell du lastet ned med skriptet, virker også. Appen leser filen for å se hva den er, og avviser alt annet.
  • Tallene til Macen din. Kortet This Mac på siden Energy viser chipen og minnet ditt, som er tallet du holder opp mot tabellen ovenfor.

Dictation Model Library på siden AI Models har ti flere Whisper-modeller, fra Tiny til Large v3, hver med størrelsen appen viser. Veiledningen til AI-modeller lister dem, og veiledningen til strøm forklarer minneinnstillingene. Nedlastingen fra App Store er på omtrent 2,9 GB fordi begge modellene i appen ligger inni den. Homebrew-versjonen er på omtrent 12 MB og trenger en nedlasting av en talemodell før den første dikteringen.

Hvis lokal Whisper er treg eller hører feil

Begynn med de billige rettelsene før du laster ned en større modell. Rett mikrofonen og ordene før du endrer modellen.

  1. Vent ut den første kjøringen. En modell må lastes før den kan transkribere. I YapToText tar den første dikteringen etter oppstart et øyeblikk. Hvis du bygde whisper.cpp med Core ML, sier README-filen at den første kjøringen på en enhet går tregt mens Neural Engine-tjenesten kompilerer modellen.
  2. Still inn språket du snakker. Valget Language på siden AI Models i YapToText starter på systemspråket til Macen din, og et språk Whisper ikke kan bruke, faller tilbake til automatisk gjenkjenning. Språksiden lister alle 29.
  3. Rett mikrofonen. Bluetooth-mikrofoner har telefonkvalitet, så Macens egen mikrofon hører bedre. I YapToText velger du den i valget Input i panelet i menylinjen.
  4. Lær den ordene dine. Siden Dictionaries i YapToText forbereder Whisper med navnene og begrepene dine, og retter ikke bare det den skriver. Veiledningen til ordbøker viser hvordan.
  5. Bruk en modell bare for engelsk til engelsk. Hvis minnet er knapt og du bare snakker engelsk, sier OpenAI at .en-versjonene pleier å gjøre det bedre, mest ved tiny og base.
  6. Endre modellstørrelsen. Gå større hvis den hører feil og minnet tillater det, eller mindre hvis den er treg. I YapToText viser stjernerangeringene på siden AI Models avveiningen, og hver diktering i History viser sin egen tid fra stopp til tekst.
En oppføring i History i YapToText med pipeline-detaljer åpne: rå transkripsjon, opprenset transkripsjon, modus, levering, målapp og tidsmålinger.
Figur 4. Hver diktering i History har sine egne tidsmålinger: hvor lenge du snakket, og tiden fra stopp til tekst delt i transkripsjon, AI-opprydding og levering.

Det lokal Whisper ikke endrer

Å kjøre Whisper lokalt flytter arbeidet over på Macen din, og det er alt det flytter. Lokalt endrer hvor stemmen din går, ikke hvor godt den blir hørt.

  • Feil. Modellen avgjør hvor godt den hører, uansett hvor den kjører, så et navn den hører feil, trenger en oppføring i ordboken eller en bedre mikrofon og ikke et annet sted.
  • Oversettelse. OpenAI sier at turbo ikke er trent for oversettelse, og YapToText ber bare Whisper om å transkribere, aldri om å oversette.
  • Én nedlasting. En lokal modell må fortsatt komme dit én gang. Skriptet til whisper.cpp henter den fra Hugging Face, App Store-versjonen av YapToText har den inni, og Homebrew-versjonen henter den fra siden AI Models.
  • Intel-Mac-er. whisper.cpp lister Mac-er med Intel og Arm som støttet. YapToText trenger Apple-chip og macOS 14 eller nyere, og det påstås ingenting om Intel-Mac-er.
  • Nøyaktighetstall. Jeg publiserer ingen nøyaktighetsprosenter for noen modell. Stjernene og din egen History er veiviseren.

For å bevise at et oppsett virkelig er lokalt har siden om offline diktering en test på ett minutt: slå av Wi-Fi og dikter.

Kortversjonen

  • Lokal Whisper. Det er en modellfil og en motor på Macen din, uten at noe lastes opp.
  • Modellen. 5-bitsfilen for turbo, 547 MiB i listen til whisper.cpp, er den YapToText leveres med.
  • Gjør det selv. Klon whisper.cpp, last ned en modell, bygg med CMake og kjør whisper-cli på en 16-bits WAV-fil.
  • Eller hopp over Terminal. YapToText kjører den samme filen og skriver inn i hvilken som helst app, gratis.

Velg modellen etter minnet i Macen din, og så etter din egen stemme. Hvis noe her ikke stemmer med det du ser, opprett et issue på GitHub. Alle blir lest.

Last ned YapToText i Mac App StoreGratis å laste ned. Ingen konto og ingen låste funksjoner, for macOS 14 eller nyere på en Mac med Apple-chip. Kildekode på GitHub.

Hvem som skriver. Ryleigh Newman utvikler programvare, har vansker med å skrive på tastatur og dikterer hver dag med YapToText, appen dette nettstedet handler om. Siden er oversatt fra engelsk. Appens grensesnitt og resten av nettstedet er på engelsk. Mer om prosjektet, på engelsk.

Veiledninger

Flere veiledninger, på engelsk

Kilder

Spørsmål

Hvordan kjører jeg Whisper lokalt på en Mac?

Bruk whisper.cpp: klon repositoriet, last ned en modell med skriptet download-ggml-model.sh, bygg den med CMake og kjør whisper-cli på en 16-bits WAV-fil. Eller installer en app som har den innebygd, for eksempel YapToText, som kjører Whisper Large v3 Turbo uten oppsett.

Hvor mye minne trenger Whisper?

Det avhenger av modellen. whisper.cpp oppgir omtrent 273 MB for tiny, 852 MB for small, 2,1 GB for medium og 3,9 GB for large, og sier at kvantiserte modeller trenger mindre. Den oppgir ikke noe minnetall for turbo.

Hva er den beste lokale Whisper-modellen?

Large v3 Turbo er der jeg ville begynt, og 5-bitsfilen for den er den YapToText leveres med: 547 MiB i listen til whisper.cpp. Hvis minnet er knapt, bruker small eller base mye mindre, og OpenAI sier at versjonene bare for engelsk pleier å gjøre det bedre for engelsk ved de minste størrelsene.

Hvor stor er modellen Whisper Large v3 Turbo?

1,5 GiB i modelllisten til whisper.cpp, eller 547 MiB som 5-bitsfilen q5_0, som er 574 MB regnet i desimale enheter. OpenAI oppgir turbo til 809 millioner parametere.

Trenger lokal Whisper internett?

Bare for å laste ned modellen én gang. Etter det transkriberer whisper.cpp og YapToText uten forbindelse, og App Store-versjonen av YapToText leveres med modellen inni, så den slipper selv den nedlastingen.

Kan jeg bruke en modell fra whisper.cpp i YapToText?

Ja. Under Your own models på siden AI Models tar Add Model en hvilken som helst GGML-.bin-fil fra whisper.cpp, og appen ser hva den er ut fra selve filen.