Whisper lokal am Mac: was es braucht, was es kostet und wie du es ausführst

Von · Veröffentlicht am

Lokales Whisper heißt, OpenAIs Spracherkennungsmodell Whisper auf deinem eigenen Mac laufen zu lassen, damit dein Audio auf dem Gerät zu Text wird und nicht auf einem Server irgendwo. Auf einem Mac ist whisper.cpp die Engine, die du kennen solltest, weil sie Apple Chips als erstklassig behandelt, und die Entscheidung, die zählt, ist die Modelldatei: Größere Modelle hören besser und brauchen mehr Speicherplatz und Arbeitsspeicher.

Ich behandle, wie die Teile zusammenpassen, was jede Modellgröße nach den eigenen Angaben von whisper.cpp kostet, die Befehle, mit denen du es selbst ausführst, und wo YapToText hineinpasst. Ich habe YapToText gebaut, eine kostenlose App, die whisper.cpp mit der Standarddatei Whisper Large v3 Turbo (Q5) ausführt, nimm diesen Teil also mit dieser Einschränkung. Wenn du nur wissen willst, ob es eine Whisper-App für den Mac gibt, beantwortet das die Seite zur Whisper-App für den Mac.

YapToText im Mac App Store ladenKostenlos laden. Kein Konto, nichts gesperrt, für macOS 14 oder neuer auf einem Mac mit Apple Chip. Quellcode auf GitHub.

Diese Anleitung in anderen Sprachen: English, العربية, Čeština, Dansk, Ελληνικά, Español, Suomi, Français, עברית, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Norsk, Nederlands, Polski, Português, Română, Русский, Slovenčina, Svenska, ไทย, Türkçe, Українська, Tiếng Việt, 简体中文, 繁體中文

Auf dieser Seite: 12 Abschnitte
  1. Schritte
  2. Die drei Teile von lokalem Whisper kennen
  3. Ein Modell nach Speicherplatz und Arbeitsspeicher wählen
  4. Whisper selbst mit whisper.cpp ausführen
    1. Schritt 1: Den Code und ein Modell holen
    2. Schritt 2: Bauen und das Beispiel transkribieren
    3. Schritt 3: Zuerst dein eigenes Audio umwandeln
    4. Oder OpenAIs Python-Paket nutzen
  5. Dasselbe Modell in YapToText ohne Terminal nutzen
  6. Wenn lokales Whisper langsam ist oder dich falsch versteht
  7. Was lokales Whisper nicht ändert
  8. Kurz gesagt
  9. Anleitungen
  10. Weitere Anleitungen, auf Englisch
  11. Quellen
  12. Fragen

Schritte

  1. Klone das Repository whisper.cpp von GitHub und öffne seinen Ordner in Terminal.
  2. Lade mit dem Skript download-ggml-model.sh des Projekts ein Modell herunter, etwa large-v3-turbo-q5_0.
  3. Baue das Projekt mit CMake, mit den zwei cmake-Befehlen aus der README.
  4. Wandle deine Aufnahme in eine 16-Bit-WAV-Datei um, zum Beispiel mit ffmpeg.
  5. Führe whisper-cli mit deiner Modelldatei und deiner WAV-Datei aus und lies das Transkript in Terminal.

Die drei Teile von lokalem Whisper kennen

Lokales Whisper hat drei Teile, und alle drei liegen auf deinem Mac. Das Modell ist eine Datei, die Engine führt sie aus, und dein Audio muss die Maschine nie verlassen.

  • Das Modell. Whisper ist OpenAIs Spracherkennungsmodell, und OpenAI hat seinen Code und die Modellgewichte unter der MIT-Lizenz veröffentlicht. Du lädst eine Modelldatei einmal herunter, und diese Datei übernimmt das Zuhören.
  • Die Engine. whisper.cpp ist eine schlichte Umsetzung von Whisper in C und C++, ebenfalls unter der MIT-Lizenz. Ihre README nennt Apple Chips erstklassig, optimiert über ARM NEON, Accelerate, Metal und Core ML, und sagt, dass die Inferenz auf Apple Chips vollständig über Metal auf der GPU läuft. OpenAIs eigenes Paket führt Whisper dagegen aus Python aus.
  • Dein Audio. Eine Aufnahme oder dein Mikrofon geht hinein, und Text kommt heraus. Das Internet brauchst du nur, um die Modelldatei überhaupt erst herunterzuladen.

Das unterscheidet es von einem Cloud-Dienst: Zum Transkribieren wird nichts hochgeladen. Es heißt auch, dass dein Mac die Arbeit macht, das Modell, das du wählst, entscheidet also, wie viel Arbeitsspeicher und Speicherplatz diese Arbeit braucht.

App-Store-Poster mit der Überschrift Nothing leaves your Mac über der Seite AI Models von YapToText, auf der beide Modelle als Included markiert sind.
Abbildung 1. Das Modell und die Engine in einer Zeile in YapToText: Whisper Large v3 Turbo (Q5) von OpenAI, ausgeführt von whisper.cpp, 574 MB und als Included markiert.

Ein Modell nach Speicherplatz und Arbeitsspeicher wählen

whisper.cpp veröffentlicht, was jedes Modell auf der Festplatte und im Arbeitsspeicher braucht, und OpenAI veröffentlicht, wie viele Parameter jedes hat. Turbo ist OpenAIs schnellere Version von large-v3, und seine 5-Bit-Datei braucht etwa ein Fünftel des Speicherplatzes von large.

Geprüft am 3. Oktober 2026 in der README und der Modellliste von whisper.cpp und in OpenAIs Whisper-README.

ModellParameter (OpenAI)Datei auf der Festplatte (whisper.cpp)Arbeitsspeicher (whisper.cpp)
tiny39 M75 MiBEtwa 273 MB
base74 M142 MiBEtwa 388 MB
small244 M466 MiBEtwa 852 MB
medium769 M1,5 GiBEtwa 2,1 GB
large (v1, v2 oder v3)1550 M2,9 GiBEtwa 3,9 GB
large-v3, 5 Bit (q5_0)Quantisiertes large-v31,1 GiBNicht aufgeführt
large-v3-turbo809 M1,5 GiBNicht aufgeführt
large-v3-turbo, 5 Bit (q5_0)Quantisiertes Turbo547 MiBNicht aufgeführt

MiB und GiB zählen in Schritten von 1024, die Turbo-Datei mit 547 MiB in der Liste von whisper.cpp ist also dieselbe Datei, die YapToText mit 574 MB anzeigt. So können zwei ehrliche Seiten dieselbe Datei als 547 und als 574 aufführen, und beide haben recht. Die Speichertabelle von whisper.cpp deckt die fünf ursprünglichen Größen ab und nennt keine Zahl für Turbo oder für die quantisierten Dateien.

Die Seite AI Models in YapToText: Whisper Large v3 Turbo (Q5) und Phi-3.5 Mini Instruct sind als Included markiert, darunter die Modellbibliothek.
Abbildung 2. YapToText zeigt Größen in MB, deshalb steht die Turbo-Datei, die whisper.cpp mit 547 MiB aufführt, hier als 574 MB, mit den anderen Whisper-Modellen darunter.

Noch ein paar Hinweise aus den beiden Projekten:

  • Nur englische Modelle. tiny, base, small und medium gibt es auch als .en-Dateien gleicher Größe, die nur Englisch hören. OpenAI sagt, dass sie für Englisch tendenziell besser abschneiden, besonders tiny.en und base.en, und dass der Unterschied bei small.en und medium.en kleiner wird.
  • Quantisierte Modelle. Dateien, die auf q5_0 enden, sind quantisiert. whisper.cpp sagt, dass quantisierte Modelle weniger Arbeitsspeicher und Speicherplatz brauchen und sich je nach Hardware effizienter verarbeiten lassen.
  • Turbo. OpenAI nennt es eine optimierte Version von large-v3 mit schnellerer Transkription und minimal geringerer Genauigkeit und gibt etwa die 8-fache Geschwindigkeit von large an. Dieses Verhältnis wurde auf einer A100 gemessen, nicht auf einem Mac, und OpenAI sagt, dass Turbo nicht für Übersetzung trainiert ist.
  • Sprachen. OpenAI sagt, dass die Leistung von Whisper je nach Sprache stark schwankt.
  • OpenAIs Spalte zum Speicher. OpenAIs README listet stattdessen den nötigen VRAM für sein Python-Paket auf: etwa 1 GB für tiny und base, etwa 6 GB für Turbo und etwa 10 GB für large. Das sind keine Zahlen von whisper.cpp.

Ich habe die 5-Bit-Turbo-Datei für YapToText gewählt, weil sie bei meinen eigenen Diktaten fast genau das hörte, was das volle Modell hörte, mit einem Drittel des Arbeitsspeichers. Das sind die Diktate einer einzelnen Person und kein Benchmark, probiere also zwei Größen mit deiner eigenen Stimme aus, bevor du dich entscheidest.

Whisper selbst mit whisper.cpp ausführen

whisper.cpp selbst auszuführen braucht Terminal und die zwei Werkzeuge, die die Befehle seiner README voraussetzen, Git und CMake. Das sind die eigenen Befehle der README, mit der 5-Bit-Turbo-Datei als Modell. Was du bekommst, ist das Transkript einer Audiodatei in Terminal und keine Wörter, die in deine Apps getippt werden.

Schritt 1: Den Code und ein Modell holen

Terminal: whisper.cpp klonen und das 5-Bit-Turbo-Modell herunterladen.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Was passiert: Das Projekt landet in einem Ordner whisper.cpp, und das Skript lädt ggml-large-v3-turbo-q5_0.bin von Hugging Face in seinen Ordner models. Setze base.en oder small ein, wenn du einen kleineren Download willst.

Schritt 2: Bauen und das Beispiel transkribieren

Terminal: whisper-cli bauen und dann auf der Beispielaufnahme ausführen, die zum Projekt gehört.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

Was passiert: CMake baut das Projekt, und whisper-cli transkribiert das Beispiel mit dem Modell, das du heruntergeladen hast, und gibt den Text in Terminal aus.

Schritt 3: Zuerst dein eigenes Audio umwandeln

Die README sagt, dass whisper-cli derzeit nur mit 16-Bit-WAV-Dateien läuft, und gibt einen ffmpeg-Befehl an, um alles andere umzuwandeln. ffmpeg ist eine eigene Installation.

Terminal: Eine MP3 in das WAV-Format umwandeln, das whisper-cli liest.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

Was passiert: ffmpeg schreibt output.wav als Audio mit 16 kHz, mono, 16 Bit, das du whisper-cli dann nach -f übergibst.

Oder OpenAIs Python-Paket nutzen

Terminal: OpenAIs eigenes Paket installieren, wenn du lieber in Python arbeitest.

pip install -U openai-whisper

Was passiert: pip installiert den Befehl whisper. OpenAIs README sagt, dass der Code voraussichtlich mit Python 3.8 bis 3.11 funktioniert, ffmpeg braucht und turbo als Standardmodell hat.

Für Live-Sprache enthält whisper.cpp whisper-stream, das dein Mikrofon alle halbe Sekunde abtastet und fortlaufend transkribiert. Es braucht SDL2, und die README nennt es ein naives Beispiel. Die Wörter in Mail, Slack oder deinen Editor zu bringen ist der Teil, den eine App hinzufügt.

Dasselbe Modell in YapToText ohne Terminal nutzen

YapToText führt dieselbe Engine und dieselbe Datei ohne Terminal-Fenster aus: eine in die App eingebaute Kopie von whisper.cpp mit Metal und Accelerate und ggml-large-v3-turbo-q5_0.bin im Download aus dem App Store. Seine SHA-256 stimmt mit der Datei auf Hugging Face überein, es ist also das Standardmodell und kein eigens abgestimmtes oder neu trainiertes. Ich habe die App gebaut, weil mir das Tippen schwerfällt und ich Whisper in jede App tippen lassen wollte, statt in ein Terminal-Fenster zu drucken. Es ist die Datei, die das Skript herunterlädt. Was sich ändert, ist alles drumherum.

App-Store-Poster mit der Überschrift Yap it. Bam. It's typed. über dem Startfenster von YapToText und den drei Layouts des schwebenden Fensters.
Abbildung 3. Dieselbe Whisper-Datei ohne Terminal: Die Wörter entstehen im schwebenden Fenster, während du sprichst, und landen an deinem Cursor in der App, die vorn ist.

Das fügt die App rund um das Modell hinzu:

  • Arbeitsspeicher, den sie zurückgibt. Auf der Seite Energy bestimmt Keep models in memory, wie lange ein Modell nach einem Diktat geladen bleibt: standardmäßig 2 minutes after use, mit Auswahlmöglichkeiten von Only while dictating bis Until quit. Früheres Entladen spart Energie und Arbeitsspeicher, und das nächste Diktat nach dem Entladen braucht ein paar Sekunden mehr.
  • Platz für macOS. Wird dem Arbeitsspeicher von macOS knapp, wirft YapToText seine geladenen Modelle sofort ab und wartet fünf Minuten, bevor es sie wieder aufwärmt.
  • Ein leichteres Modell im Akkubetrieb. Switch models with the power source, standardmäßig aus, gibt dem Diktiermodell und dem Bereinigungsmodell je eine Wahl für Netzbetrieb und Akkubetrieb.
  • Deine eigene Datei. Unter Your own models auf der Seite AI Models nimmt Add Model jede GGML-.bin-Datei von whisper.cpp, ein Modell, das du mit dem Skript heruntergeladen hast, funktioniert also auch. Die App liest die Datei, um zu erkennen, was sie ist, und lehnt alles andere ab.
  • Die Zahlen deines Macs. Die Karte This Mac auf der Seite Energy zeigt deinen Chip und deinen Arbeitsspeicher, die Zahl, die du an die Tabelle oben halten kannst.

Die Dictation Model Library auf der Seite AI Models hat zehn weitere Whisper-Modelle, von Tiny bis Large v3, jedes mit der Größe, die die App zeigt. Der Leitfaden zu den AI Models listet sie auf, und der Leitfaden zur Energie erklärt die Speichereinstellungen. Der Download aus dem App Store ist etwa 2,9 GB groß, weil beide Modelle der App darin stecken. Die Homebrew-Version ist etwa 12 MB groß und braucht vor dem ersten Diktat den Download eines Sprachmodells.

Wenn lokales Whisper langsam ist oder dich falsch versteht

Fang mit den günstigen Lösungen an, bevor du ein größeres Modell herunterlädst. Behebe das Mikrofon und die Wörter, bevor du das Modell wechselst.

  1. Warte den ersten Lauf ab. Ein Modell muss geladen werden, bevor es transkribieren kann. In YapToText braucht das erste Diktat nach dem Start einen Moment. Hast du whisper.cpp mit Core ML gebaut, sagt seine README, dass der erste Lauf auf einem Gerät langsam ist, während der Dienst der Neural Engine das Modell kompiliert.
  2. Stelle die Sprache ein, die du sprichst. Die Auswahl Language auf der Seite AI Models von YapToText beginnt mit der Systemsprache deines Macs, und eine Sprache, die Whisper nicht nutzen kann, fällt auf die automatische Erkennung zurück. Die Seite zu den Sprachen listet alle 29 auf.
  3. Behebe das Mikrofon. Bluetooth-Mikrofone haben Telefonqualität, das eigene Mikrofon des Macs hört also besser. Wähle es in YapToText in der Auswahl Input im Fenster der Menüleiste.
  4. Bringe ihm deine Wörter bei. Die Seite Dictionaries von YapToText stimmt Whisper auf deine Namen und Begriffe ein und korrigiert nicht nur, was es tippt. Der Leitfaden zu den Wörterbüchern zeigt, wie.
  5. Nimm für Englisch ein rein englisches Modell. Ist der Arbeitsspeicher knapp und du sprichst nur Englisch, schneiden laut OpenAI die .en-Versionen tendenziell besser ab, am meisten bei tiny und base.
  6. Ändere die Modellgröße. Geh größer, wenn es falsch hört und dein Arbeitsspeicher es zulässt, oder kleiner, wenn es langsam ist. In YapToText zeigen die Sternebewertungen auf der Seite AI Models den Tausch, und jedes Diktat im Verlauf zeigt seine eigene Zeit vom Stopp bis zum Text.
Ein Eintrag auf der Seite History von YapToText mit geöffneten Pipeline-Details: Rohtranskript, bereinigtes Transkript, Modus, Zustellung, Ziel-App und Zeiten.
Abbildung 4. Jedes Diktat in History trägt seine eigenen Zeiten: wie lange du gesprochen hast und die Zeit vom Stopp bis zum Text, aufgeteilt in Transkription, KI-Bereinigung und Zustellung.

Was lokales Whisper nicht ändert

Whisper lokal auszuführen verlegt die Arbeit auf deinen Mac, und das ist alles, was es verlegt. Lokal ändert, wohin deine Stimme geht, nicht wie gut sie gehört wird.

  • Fehler. Das Modell entscheidet, wie gut es hört, egal wo es läuft. Ein Name, den es falsch hört, braucht also einen Wörterbucheintrag oder ein besseres Mikrofon und keinen anderen Ort.
  • Übersetzung. OpenAI sagt, dass Turbo nicht für Übersetzung trainiert ist, und YapToText bittet Whisper immer nur zu transkribieren, nie zu übersetzen.
  • Ein Download. Ein lokales Modell muss trotzdem einmal ankommen. Das Skript von whisper.cpp holt es von Hugging Face, die App-Store-Version von YapToText hat es eingebaut, und die Homebrew-Version holt es von der Seite AI Models.
  • Intel-Macs. whisper.cpp führt Intel- und Arm-Macs als unterstützt auf. YapToText braucht einen Apple Chip und macOS 14 oder neuer, und für Intel-Macs wird nichts behauptet.
  • Genauigkeitszahlen. Ich veröffentliche für kein Modell Genauigkeitsprozente. Die Sterne und dein eigener Verlauf sind der Maßstab.

Um zu beweisen, dass eine Einrichtung wirklich lokal ist, hat die Seite zum Offline-Diktieren einen Test von einer Minute: WLAN ausschalten und diktieren.

Kurz gesagt

  • Lokales Whisper. Es ist eine Modelldatei und eine Engine auf deinem Mac, ohne dass etwas hochgeladen wird.
  • Das Modell. Die 5-Bit-Turbo-Datei, in der Liste von whisper.cpp mit 547 MiB aufgeführt, ist die, die YapToText mitbringt.
  • Selbst machen. whisper.cpp klonen, ein Modell herunterladen, mit CMake bauen und whisper-cli auf einer 16-Bit-WAV-Datei ausführen.
  • Oder ohne Terminal. YapToText führt dieselbe Datei aus und tippt in jede App, kostenlos.

Wähle das Modell zuerst nach dem Arbeitsspeicher deines Macs, dann nach deiner eigenen Stimme. Wenn etwas hier nicht zu dem passt, was du siehst, eröffne ein Issue auf GitHub. Jedes wird gelesen.

YapToText im Mac App Store ladenKostenlos laden. Kein Konto, nichts gesperrt, für macOS 14 oder neuer auf einem Mac mit Apple Chip. Quellcode auf GitHub.

Wer hier schreibt. Ryleigh Newman entwickelt Software, kann nur schwer tippen und diktiert jeden Tag mit YapToText, der App, die diese Website beschreibt. Diese Seite ist aus dem Englischen übersetzt. Die Oberfläche der App und der Rest der Website sind auf Englisch. Mehr über das Projekt, auf Englisch.

Anleitungen

Weitere Anleitungen, auf Englisch

Quellen

Fragen

Wie führe ich Whisper lokal auf einem Mac aus?

Nutze whisper.cpp: Klone das Repository, lade mit dem Skript download-ggml-model.sh ein Modell herunter, baue es mit CMake und führe whisper-cli auf einer 16-Bit-WAV-Datei aus. Oder installiere eine App, die es mitbringt, etwa YapToText, das Whisper Large v3 Turbo ohne Einrichtung ausführt.

Wie viel Arbeitsspeicher braucht Whisper?

Das hängt vom Modell ab. whisper.cpp führt etwa 273 MB für tiny, 852 MB für small, 2,1 GB für medium und 3,9 GB für large auf und sagt, dass quantisierte Modelle weniger brauchen. Für Turbo nennt es keine Zahl.

Was ist das beste lokale Whisper-Modell?

Large v3 Turbo ist, wo ich anfangen würde, und seine 5-Bit-Datei ist die, die YapToText mitbringt: 547 MiB in der Liste von whisper.cpp. Ist der Arbeitsspeicher knapp, brauchen small oder base weit weniger, und laut OpenAI schneiden die rein englischen Versionen bei den kleinsten Größen für Englisch tendenziell besser ab.

Wie groß ist das Modell Whisper Large v3 Turbo?

1,5 GiB in der Modellliste von whisper.cpp oder 547 MiB als 5-Bit-Datei q5_0, das sind 574 MB in Dezimaleinheiten. OpenAI führt Turbo mit 809 Millionen Parametern auf.

Braucht lokales Whisper das Internet?

Nur, um das Modell einmal herunterzuladen. Danach transkribieren whisper.cpp und YapToText ohne Verbindung, und die App-Store-Version von YapToText bringt das Modell mit, spart sich also sogar diesen Download.

Kann ich ein Modell von whisper.cpp in YapToText nutzen?

Ja. Unter Your own models auf der Seite AI Models nimmt Add Model jede GGML-.bin-Datei von whisper.cpp, und die App erkennt aus der Datei selbst, was sie ist.