Whisper מקומי ב-Mac: מה הוא דורש, כמה הוא עולה ואיך מריצים אותו

מאת · פורסם

Whisper מקומי פירושו הרצת מודל הדיבור Whisper של OpenAI ב-Mac שלכם, כך שהשמע הופך למלל במחשב עצמו ולא בשרת איפשהו. ב-Mac המנוע שכדאי להכיר הוא whisper.cpp, שרואה בשבב Apple גורם מדרגה ראשונה, וההחלטה שחשובה היא קובץ המודל: מודלים גדולים יותר שומעים טוב יותר ותופסים יותר מקום בדיסק ובזיכרון.

הדף מסביר איך החלקים משתלבים, כמה עולה כל גודל מודל לפי המספרים של whisper.cpp עצמו, מה הפקודות להרצה בעצמכם ואיפה YapToText משתלבת. בניתי את YapToText, אפליקציה חינמית שמריצה את whisper.cpp עם קובץ Whisper Large v3 Turbo (Q5) הסטנדרטי, ולכן כדאי לשקול את החלק הזה מתוך ידיעה זו. אם אתם רק רוצים לדעת אם יש אפליקציית Whisper ל-Mac, העמוד על אפליקציית Whisper ל-Mac עונה על כך.

הורדת YapToText מה-Mac App Storeההורדה בחינם. בלי חשבון ובלי מאפיינים נעולים, ל-macOS 14 ומעלה ב-Mac עם שבב Apple. קוד המקור ב-GitHub.

המדריך הזה בשפות נוספות: English, العربية, Čeština, Dansk, Deutsch, Ελληνικά, Español, Suomi, Français, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Norsk, Nederlands, Polski, Português, Română, Русский, Slovenčina, Svenska, ไทย, Türkçe, Українська, Tiếng Việt, 简体中文, 繁體中文

בעמוד הזה: 12 חלקים
  1. שלבים
  2. מכירים את שלושת החלקים של Whisper מקומי
  3. בוחרים מודל לפי מקום בדיסק וזיכרון
  4. מריצים Whisper בעצמכם עם whisper.cpp
    1. שלב 1: מורידים את הקוד ומודל
    2. שלב 2: בונים ומתמללים את הדוגמה
    3. שלב 3: ממירים קודם את השמע שלכם
    4. או משתמשים בחבילת Python של OpenAI
  5. משתמשים באותו מודל ב-YapToText בלי Terminal
  6. אם Whisper מקומי איטי או שומע לא נכון
  7. מה Whisper מקומי לא משנה
  8. הגרסה הקצרה
  9. מדריכים
  10. מדריכים נוספים, באנגלית
  11. מקורות
  12. שאלות

שלבים

  1. משכפלים את המאגר של whisper.cpp מ-GitHub ופותחים את התיקייה שלו ב-Terminal.
  2. מורידים מודל עם הסקריפט download-ggml-model.sh של הפרויקט, כמו large-v3-turbo-q5_0.
  3. בונים את הפרויקט עם CMake, בעזרת שתי פקודות cmake מה-README שלו.
  4. ממירים את ההקלטה לקובץ WAV של 16 סיביות, למשל עם ffmpeg.
  5. מריצים את whisper-cli עם קובץ המודל וקובץ ה-WAV, וקוראים את התמלול ב-Terminal.

מכירים את שלושת החלקים של Whisper מקומי

ל-Whisper מקומי יש שלושה חלקים, ושלושתם נמצאים ב-Mac שלכם. המודל הוא קובץ, המנוע מריץ אותו, והשמע שלכם אף פעם לא צריך לצאת מהמחשב.

  • המודל. Whisper הוא מודל זיהוי הדיבור של OpenAI, ו-OpenAI פרסמה את הקוד ואת משקלי המודל ברישיון MIT. מורידים קובץ מודל פעם אחת, והקובץ הזה עושה את ההאזנה.
  • המנוע. whisper.cpp הוא מימוש פשוט של Whisper ב-C וב-C++, גם הוא ברישיון MIT. ה-README שלו קורא לשבב Apple גורם מדרגה ראשונה, מותאם דרך ARM NEON, Accelerate, Metal ו-Core ML, ואומר שבשבב Apple ההרצה מתבצעת כולה על ה-GPU דרך Metal. החבילה של OpenAI עצמה מריצה את Whisper מתוך Python במקום זאת.
  • השמע שלכם. הקלטה או המיקרופון נכנסים, ומלל יוצא. האינטרנט נדרש רק כדי להוריד את קובץ המודל מלכתחילה.

זה מה שמבדיל אותו משירות ענן: שום דבר לא מועלה כדי להיות מתומלל. זה גם אומר שה-Mac שלכם עושה את העבודה, ולכן המודל שבוחרים קובע כמה זיכרון ומקום בדיסק העבודה הזו דורשת.

פוסטר App Store עם הכותרת Nothing leaves your Mac, מעל עמוד AI Models של YapToText ובו שני המודלים מסומנים Included.
איור 1. המודל והמנוע בשורה אחת ב-YapToText: Whisper Large v3 Turbo (Q5), מבית OpenAI, מורץ בידי whisper.cpp, 574 MB ומסומן Included.

בוחרים מודל לפי מקום בדיסק וזיכרון

whisper.cpp מפרסם כמה כל מודל תופס בדיסק ובזיכרון, ו-OpenAI מפרסמת כמה פרמטרים יש לכל אחד. Turbo היא הגרסה המהירה של OpenAI ל-large-v3, והקובץ שלה ב-5 סיביות תופס כחמישית ממקום הדיסק של large.

נבדק ב-3 באוקטובר 2026 ב-README וברשימת המודלים של whisper.cpp וב-README של Whisper מאת OpenAI.

מודלפרמטרים (OpenAI)קובץ בדיסק (whisper.cpp)זיכרון (whisper.cpp)
tiny39 M75 MiBכ-273 MB
base74 M142 MiBכ-388 MB
small244 M466 MiBכ-852 MB
medium769 M1.5 GiBכ-2.1 GB
large (v1, v2 או v3)1550 M2.9 GiBכ-3.9 GB
large-v3, 5 סיביות (q5_0)large-v3 מכווץ1.1 GiBלא מופיע
large-v3-turbo809 M1.5 GiBלא מופיע
large-v3-turbo, 5 סיביות (q5_0)turbo מכווץ547 MiBלא מופיע

MiB ו-GiB נספרים בקפיצות של 1,024, ולכן קובץ ה-turbo בגודל 547 MiB ברשימה של whisper.cpp הוא אותו קובץ ש-YapToText מציגה כ-574 MB. כך שני דפים ישרים יכולים לרשום קובץ אחד כ-547 וכ-574 ושניהם צודקים. טבלת הזיכרון של whisper.cpp מכסה את חמשת הגדלים המקוריים ולא נותנת מספר ל-turbo או לקבצים המכווצים.

עמוד AI Models ב-YapToText: Whisper Large v3 Turbo (Q5) ו-Phi-3.5 Mini Instruct מסומנים Included, וספריית המודלים מתחתיהם.
איור 2. YapToText מציגה גדלים ב-MB, ולכן קובץ ה-turbo ש-whisper.cpp מציג כ-547 MiB מופיע כאן כ-574 MB, ומודלי Whisper האחרים ברשימה מתחתיו.

עוד כמה הערות משני הפרויקטים:

  • מודלים לאנגלית בלבד. tiny, base, small ו-medium מגיעים גם כקובצי .en באותו גודל ששומעים אנגלית בלבד. OpenAI אומרת שהם נוטים להיות טובים יותר לאנגלית, במיוחד tiny.en ו-base.en, ושההבדל מצטמצם ב-small.en וב-medium.en.
  • מודלים מכווצים. קבצים שמסתיימים ב-q5_0 מכווצים. whisper.cpp אומר שמודלים מכווצים צריכים פחות זיכרון ומקום בדיסק, ובהתאם לחומרה אפשר לעבד אותם ביעילות רבה יותר.
  • Turbo. OpenAI קוראת לו גרסה מותאמת של large-v3 עם תמלול מהיר יותר ופגיעה מזערית בדיוק, ומדרגת אותו בערך פי 8 מהמהירות של large. היחס הזה נמדד על A100 ולא על Mac, ו-OpenAI אומרת ש-turbo לא אומן לתרגום.
  • שפות. OpenAI אומרת שהביצועים של Whisper משתנים מאוד בהתאם לשפה.
  • עמודת הזיכרון של OpenAI. ב-README של OpenAI מופיע במקום זאת ה-VRAM הנדרש לחבילת ה-Python שלה: כ-1 GB ל-tiny ול-base, כ-6 GB ל-turbo וכ-10 GB ל-large. אלה לא המספרים של whisper.cpp.

בחרתי בקובץ ה-turbo ב-5 סיביות בשביל YapToText כי בהכתבות שלי הוא שמע כמעט בדיוק את מה שהמודל המלא שמע, עם שלישית מהזיכרון. אלה ההכתבות של אדם אחד ולא מבחן ביצועים, ולכן כדאי לנסות שני גדלים על הקול שלכם לפני שמחליטים.

מריצים Whisper בעצמכם עם whisper.cpp

הרצת whisper.cpp בעצמכם דורשת Terminal ושני כלים שהפקודות ב-README שלו מניחות, Git ו-CMake. אלה הפקודות של ה-README עצמו, כשהמודל הוחלף בקובץ ה-turbo ב-5 סיביות. מה שמקבלים הוא תמלול של קובץ שמע ב-Terminal, לא מילים שמוקלדות באפליקציות שלכם.

שלב 1: מורידים את הקוד ומודל

Terminal: משכפלים את whisper.cpp ומורידים את מודל ה-turbo ב-5 סיביות.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

מה קורה: הפרויקט נוחת בתיקייה whisper.cpp, והסקריפט מוריד את ggml-large-v3-turbo-q5_0.bin מ-Hugging Face אל תיקיית models שלו. מחליפים ב-base.en או ב-small להורדה קטנה יותר.

שלב 2: בונים ומתמללים את הדוגמה

Terminal: בונים את whisper-cli ואז מריצים אותו על הקלטת הדוגמה שמגיעה עם הפרויקט.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

מה קורה: CMake בונה את הפרויקט, ו-whisper-cli מתמלל את הדוגמה עם המודל שהורדתם ומדפיס את המלל ב-Terminal.

שלב 3: ממירים קודם את השמע שלכם

ה-README אומר ש-whisper-cli פועל כרגע רק עם קובצי WAV של 16 סיביות, ונותן פקודת ffmpeg להמרת כל דבר אחר. ffmpeg הוא התקנה נפרדת.

Terminal: הופכים MP3 לפורמט WAV ש-whisper-cli קורא.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

מה קורה: ffmpeg כותב את output.wav כשמע של 16 kHz, מונו, 16 סיביות, ואותו מוסרים ל-whisper-cli אחרי f.

או משתמשים בחבילת Python של OpenAI

Terminal: מתקינים את החבילה של OpenAI עצמה, אם מעדיפים לעבוד ב-Python.

pip install -U openai-whisper

מה קורה: pip מתקין את הפקודה whisper. ה-README של OpenAI אומר שהקוד אמור לעבוד עם Python 3.8 עד 3.11, שהוא דורש ffmpeg, ושמודל ברירת המחדל שלו הוא turbo.

לדיבור חי, whisper.cpp כולל את whisper-stream, שדוגם את המיקרופון כל חצי שנייה ומתמלל ברציפות. הוא דורש SDL2, וה-README קורא לו דוגמה נאיבית. להכניס את המילים ל-Mail, ל-Slack או לעורך שלכם זה החלק שאפליקציה מוסיפה.

משתמשים באותו מודל ב-YapToText בלי Terminal

YapToText מריצה את אותו מנוע ואת אותו קובץ בלי חלון Terminal: עותק של whisper.cpp שבנוי לתוך האפליקציה עם Metal ו-Accelerate, והקובץ ggml-large-v3-turbo-q5_0.bin בתוך ההורדה מה-App Store. ה-SHA-256 שלו תואם את הקובץ ב-Hugging Face, ולכן זה המודל הסטנדרטי ולא מודל שכוונן אישית או אומן מחדש. בניתי את האפליקציה כי הידיים שלי מקשות על ההקלדה, ורציתי ש-Whisper יקליד בכל אפליקציה במקום להדפיס לחלון Terminal. זה הקובץ שהסקריפט מוריד. מה שמשתנה הוא כל מה שסביבו.

פוסטר App Store עם הכותרת Yap it. Bam. It's typed. מעל החלון Home של YapToText ושלוש תצורות הלוח הצף.
איור 3. אותו קובץ Whisper בלי Terminal: המילים נוצרות בלוח הצף בזמן שמדברים ונוחתות בסמן בכל אפליקציה שבחזית.

הנה מה שהאפליקציה מוסיפה סביב המודל:

  • זיכרון שהיא מחזירה. בעמוד Energy, Keep models in memory קובע כמה זמן מודל נשאר טעון אחרי הכתבה: 2 דקות אחרי השימוש כברירת מחדל, עם אפשרויות מ-Only while dictating עד Until quit. פריקה מוקדמת יותר חוסכת אנרגיה וזיכרון, וההכתבה הבאה אחרי פריקה לוקחת כמה שניות נוספות.
  • מקום ל-macOS. כש-macOS נגמר לה הזיכרון, YapToText פורקת מיד את המודלים הטעונים שלה וממתינה חמש דקות לפני שהיא מחממת אותם שוב.
  • מודל קל יותר על סוללה. Switch models with the power source, שכבוי כברירת מחדל, נותן למודל ההכתבה ולמודל הליטוש בחירה אחת כשהמחשב מחובר לחשמל ובחירה אחת כשהוא על סוללה.
  • הקובץ שלכם. תחת Your own models בעמוד AI Models, Add Model לוקח כל קובץ .bin של whisper.cpp בפורמט GGML, כך שגם מודל שהורדתם עם הסקריפט עובד. האפליקציה קוראת את הקובץ כדי לדעת מה הוא ודוחה כל דבר אחר.
  • המספרים של ה-Mac שלכם. הכרטיס This Mac בעמוד Energy מציג את השבב והזיכרון שלכם, וזה המספר שמעמידים מול הטבלה שלמעלה.

ב-Dictation Model Library בעמוד AI Models יש עוד עשרה מודלי Whisper, מ-Tiny עד Large v3, כל אחד עם הגודל שהאפליקציה מציגה. המדריך למודלים מפרט אותם, והמדריך לאנרגיה מסביר את הגדרות הזיכרון. ההורדה מה-App Store שוקלת כ-2.9 GB כי שני המודלים של האפליקציה כלולים בה. גרסת Homebrew שוקלת כ-12 MB ודורשת הורדת מודל דיבור לפני ההכתבה הראשונה.

אם Whisper מקומי איטי או שומע לא נכון

מתחילים בתיקונים הזולים לפני שמורידים מודל גדול יותר. מתקנים את המיקרופון ואת המילים לפני שמחליפים את המודל.

  1. ממתינים להרצה הראשונה. מודל צריך להיטען לפני שהוא יכול לתמלל. ב-YapToText ההכתבה הראשונה אחרי ההפעלה לוקחת רגע. אם בניתם את whisper.cpp עם Core ML, ה-README שלו אומר שההרצה הראשונה במכשיר איטית בזמן ששירות ה-Neural Engine מהדר את המודל.
  2. מגדירים את השפה שאתם מדברים. הבורר Language של YapToText בעמוד AI Models מתחיל בשפת המערכת של ה-Mac, ושפה ש-Whisper לא יכול להשתמש בה חוזרת לזיהוי אוטומטי. עמוד השפות מפרט את כל 29.
  3. מתקנים את המיקרופון. מיקרופוני Bluetooth הם באיכות של טלפון, ולכן המיקרופון של ה-Mac עצמו שומע טוב יותר. ב-YapToText בוחרים בו בבורר Input בלוח שורת התפריטים.
  4. מלמדים אותה את המילים שלכם. העמוד Dictionaries של YapToText מכין את Whisper עם השמות והמונחים שלכם, ולא רק מתקן את מה שהוא מקליד. המדריך למילונים מראה איך.
  5. משתמשים במודל לאנגלית בלבד לאנגלית. אם הזיכרון דל ואתם מדברים רק אנגלית, OpenAI אומרת שגרסאות .en נוטות להיות טובות יותר, יותר מכול ב-tiny וב-base.
  6. משנים את גודל המודל. עוברים לגדול יותר אם הוא שומע לא נכון והזיכרון מאפשר, או לקטן יותר אם הוא איטי. ב-YapToText דירוג הכוכבים בעמוד AI Models מראה את הפשרה, וכל הכתבה ב-History מציגה את זמן העצירה עד הטקסט שלה.
רשומה ב-History של YapToText עם פרטי התהליך פתוחים: תמלול גולמי, תמלול מלוטש, מצב, אופן מסירה, אפליקציית היעד וזמנים.
איור 4. כל הכתבה ב-History נושאת את הזמנים שלה: כמה זמן דיברתם, וזמן העצירה עד הטקסט מחולק לתמלול, ליטוש בבינה מלאכותית ולמסירה.

מה Whisper מקומי לא משנה

הרצת Whisper מקומית מעבירה את העבודה אל ה-Mac שלכם, וזה כל מה שהיא מעבירה. מקומי משנה לאן הקול שלכם הולך, לא כמה טוב הוא נשמע.

  • טעויות. המודל קובע כמה טוב הוא שומע, בכל מקום שבו הוא רץ, ולכן שם שהוא שומע לא נכון צריך רשומה במילון או מיקרופון טוב יותר, לא מיקום אחר.
  • תרגום. OpenAI אומרת ש-turbo לא אומן לתרגום, ו-YapToText מבקשת מ-Whisper תמיד רק לתמלל, אף פעם לא לתרגם.
  • הורדה אחת. מודל מקומי עדיין צריך להגיע פעם אחת. הסקריפט של whisper.cpp מביא אותו מ-Hugging Face, בגרסת ה-App Store של YapToText הוא כלול, וגרסת Homebrew מביאה אותו מהעמוד AI Models.
  • מחשבי Intel. whisper.cpp מונה מחשבי Mac עם Intel ועם Arm כנתמכים. YapToText דורשת שבב Apple ו-macOS 14 ואילך, ולא נטען דבר על מחשבי Intel.
  • מספרי דיוק. אין כאן אחוזי דיוק לאף מודל. הכוכבים וה-History שלכם הם המדריך.

כדי להוכיח שהגדרה היא באמת מקומית, בעמוד על הכתבה לא מקוונת יש בדיקה של דקה: מכבים את ה-Wi-Fi ומכתיבים.

הגרסה הקצרה

  • Whisper מקומי. זה קובץ מודל ומנוע ב-Mac שלכם, בלי להעלות דבר.
  • המודל. קובץ ה-turbo ב-5 סיביות, 547 MiB ברשימה של whisper.cpp, הוא זה ש-YapToText כוללת.
  • עושים בעצמכם. משכפלים את whisper.cpp, מורידים מודל, בונים עם CMake ומריצים את whisper-cli על קובץ WAV של 16 סיביות.
  • או מדלגים על Terminal. YapToText מריצה את אותו קובץ ומקלידה בכל אפליקציה, בחינם.

בוחרים את המודל לפי הזיכרון של ה-Mac שלכם, ואחר כך לפי הקול שלכם. אם משהו כאן אינו תואם את מה שמופיע אצלכם, פתחו issue ב-GitHub. כל פנייה נקראת.

הורדת YapToText מה-Mac App Storeההורדה בחינם. בלי חשבון ובלי מאפיינים נעולים, ל-macOS 14 ומעלה ב-Mac עם שבב Apple. קוד המקור ב-GitHub.

מי כותב כאן. שמי Ryleigh Newman. פיתוח תוכנה הוא העיסוק שלי, קשה לי להקליד, ובכל יום ההכתבה שלי נעשית ב-YapToText, האפליקציה שהאתר הזה מתאר. העמוד הזה תורגם מאנגלית. הממשק של האפליקציה ושאר עמודי האתר הם באנגלית. עוד על הפרויקט, באנגלית.

מדריכים

מדריכים נוספים, באנגלית

מקורות

שאלות

איך מריצים Whisper מקומית ב-Mac?

משתמשים ב-whisper.cpp: משכפלים את המאגר, מורידים מודל עם הסקריפט download-ggml-model.sh, בונים עם CMake ומריצים את whisper-cli על קובץ WAV של 16 סיביות. או מתקינים אפליקציה שכוללת אותו, כמו YapToText, שמריצה את Whisper Large v3 Turbo בלי הגדרה.

כמה זיכרון Whisper צריך?

זה תלוי במודל. whisper.cpp מציין כ-273 MB ל-tiny, 852 MB ל-small, 2.1 GB ל-medium ו-3.9 GB ל-large, ואומר שמודלים מכווצים צריכים פחות. הוא לא נותן מספר זיכרון ל-turbo.

מהו מודל Whisper המקומי הטוב ביותר?

כדאי להתחיל ב-Large v3 Turbo, והקובץ שלו ב-5 סיביות הוא זה ש-YapToText כוללת: 547 MiB ברשימה של whisper.cpp. אם הזיכרון דל, small או base משתמשים בהרבה פחות, ו-OpenAI אומרת שהגרסאות לאנגלית בלבד נוטות להיות טובות יותר לאנגלית בגדלים הקטנים ביותר.

מה גודל המודל Whisper Large v3 Turbo?

1.5 GiB ברשימת המודלים של whisper.cpp, או 547 MiB כקובץ q5_0 ב-5 סיביות, שהם 574 MB בספירה עשרונית. OpenAI מציינת ל-turbo 809 מיליון פרמטרים.

האם Whisper מקומי צריך אינטרנט?

רק כדי להוריד את המודל פעם אחת. אחר כך whisper.cpp ו-YapToText מתמללים בלי חיבור, וגרסת ה-App Store של YapToText כוללת את המודל, ולכן אפילו ההורדה הזו מיותרת.

אפשר להשתמש במודל של whisper.cpp ב-YapToText?

כן. תחת Your own models בעמוד AI Models, Add Model לוקח כל קובץ .bin של whisper.cpp בפורמט GGML, והאפליקציה מזהה מה הוא לפי הקובץ עצמו.