Mac पर लोकल Whisper: उसे क्या चाहिए, उसमें क्या लगता है, और उसे कैसे चलाएँ

लोकल Whisper का मतलब है OpenAI के Whisper स्पीच मॉडल को अपने ही Mac पर चलाना, ताकि आपका ऑडियो कहीं के सर्वर पर नहीं बल्कि मशीन पर ही टेक्स्ट बने। Mac पर जानने लायक़ इंजन whisper.cpp है, जो Apple चिप को पहले दर्जे की चीज़ मानता है, और जो फ़ैसला मायने रखता है वह मॉडल की फ़ाइल है: बड़े मॉडल बेहतर सुनते हैं और ज़्यादा डिस्क जगह और मेमोरी लेते हैं।

यह पृष्ठ बताता है कि टुकड़े कैसे जुड़ते हैं, whisper.cpp के अपने आँकड़ों के अनुसार हर मॉडल आकार की क्या लागत है, उसे ख़ुद चलाने के कमांड क्या हैं, और YapToText कहाँ बैठता है। YapToText मेरा बनाया हुआ मुफ़्त ऐप है, जो whisper.cpp को स्टॉक Whisper Large v3 Turbo (Q5) फ़ाइल के साथ चलाता है, इसलिए उस हिस्से को इस बात को ध्यान में रखकर परखें। यदि आप केवल यह जानना चाहते हैं कि Mac के लिए कोई Whisper ऐप है या नहीं, तो Whisper Mac ऐप का पृष्ठ इसका जवाब देता है।

Mac App Store से YapToText डाउनलोड करेंडाउनलोड मुफ़्त है। कोई खाता नहीं चाहिए और कोई फ़ीचर लॉक नहीं है। Apple चिप वाले Mac और macOS 14 या उसके बाद के संस्करण के लिए। सोर्स कोड GitHub पर।

इस पृष्ठ पर: 12 भाग
  1. चरण
  2. लोकल Whisper के तीन टुकड़े जानें
  3. डिस्क जगह और मेमोरी से मॉडल चुनें
  4. whisper.cpp से Whisper को ख़ुद चलाएँ
    1. चरण 1: कोड और एक मॉडल लें
    2. चरण 2: उसे बनाएँ और सैंपल ट्रांसक्राइब करें
    3. चरण 3: पहले अपना ऑडियो बदलें
    4. या OpenAI का Python पैकेज इस्तेमाल करें
  5. Terminal के बिना YapToText में वही मॉडल इस्तेमाल करें
  6. यदि लोकल Whisper धीमा है या आपको ग़लत सुनता है
  7. लोकल Whisper क्या नहीं बदलता
  8. संक्षेप में
  9. गाइड
  10. अन्य गाइड, अंग्रेज़ी में
  11. स्रोत
  12. प्रश्न

चरण

  1. GitHub से whisper.cpp रिपॉज़िटरी क्लोन करें और उसका फ़ोल्डर Terminal में खोलें।
  2. प्रोजेक्ट की download-ggml-model.sh स्क्रिप्ट से कोई मॉडल डाउनलोड करें, जैसे large-v3-turbo-q5_0।
  3. उसकी README के दो cmake कमांड से प्रोजेक्ट बनाएँ।
  4. अपनी रिकॉर्डिंग को 16-बिट WAV फ़ाइल में बदलें, उदाहरण के लिए ffmpeg से।
  5. अपनी मॉडल फ़ाइल और WAV फ़ाइल के साथ whisper-cli चलाएँ, और Terminal में ट्रांसक्रिप्ट पढ़ें।

लोकल Whisper के तीन टुकड़े जानें

लोकल Whisper के तीन टुकड़े हैं, और तीनों आपके Mac पर हैं। मॉडल एक फ़ाइल है, इंजन उसे चलाता है, और आपके ऑडियो को मशीन से बाहर जाने की कभी ज़रूरत नहीं पड़ती।

  • मॉडल। Whisper OpenAI का स्पीच रिकग्निशन मॉडल है, और OpenAI ने उसका कोड और मॉडल के वेट MIT लाइसेंस के तहत जारी किए। आप मॉडल की फ़ाइल एक बार डाउनलोड करते हैं, और वही फ़ाइल सुनने का काम करती है।
  • इंजन। whisper.cpp, Whisper का सादा C और C++ कार्यान्वयन है, वह भी MIT लाइसेंस के तहत। उसकी README Apple चिप को पहले दर्जे की चीज़ कहती है, जो ARM NEON, Accelerate, Metal और Core ML के ज़रिए अनुकूलित है, और कहती है कि Apple चिप पर इनफ़रेंस पूरी तरह GPU पर Metal से चलता है। OpenAI का अपना पैकेज Whisper को इसके बजाय Python से चलाता है।
  • आपका ऑडियो। एक रिकॉर्डिंग या आपका माइक्रोफ़ोन अंदर जाता है, और टेक्स्ट बाहर आता है। इंटरनेट की ज़रूरत केवल शुरू में मॉडल की फ़ाइल डाउनलोड करने के लिए है।

यही उसे क्लाउड सेवा से अलग करता है: ट्रांसक्राइब होने के लिए कुछ भी अपलोड नहीं होता। इसका यह भी मतलब है कि काम आपका Mac करता है, इसलिए आप जो मॉडल चुनते हैं वही तय करता है कि उस काम में कितनी मेमोरी और डिस्क जगह लगेगी।

App Store का पोस्टर, जिसके शीर्षक में Nothing leaves your Mac लिखा है। उसके नीचे YapToText का AI Models पृष्ठ है, जिसमें दोनों मॉडल Included के रूप में दिखते हैं।
चित्र 1. YapToText में मॉडल और इंजन एक ही पंक्ति में: Whisper Large v3 Turbo (Q5), OpenAI का, whisper.cpp से चलता हुआ, 574 MB और Included के निशान के साथ।

डिस्क जगह और मेमोरी से मॉडल चुनें

whisper.cpp बताता है कि हर मॉडल डिस्क पर और मेमोरी में कितना लेता है, और OpenAI बताता है कि हर एक में कितने पैरामीटर हैं। Turbo, large-v3 का OpenAI का तेज़ संस्करण है, और उसकी 5-बिट फ़ाइल large की डिस्क जगह का लगभग पाँचवाँ हिस्सा लेती है।

3 अक्टूबर 2026 को whisper.cpp की README और मॉडल सूची में और OpenAI की Whisper README में जाँचा गया।

मॉडलपैरामीटर (OpenAI)डिस्क पर फ़ाइल (whisper.cpp)मेमोरी (whisper.cpp)
tiny39 M75 MiBलगभग 273 MB
base74 M142 MiBलगभग 388 MB
small244 M466 MiBलगभग 852 MB
medium769 M1.5 GiBलगभग 2.1 GB
large (v1, v2 या v3)1550 M2.9 GiBलगभग 3.9 GB
large-v3, 5-बिट (q5_0)क्वांटाइज़्ड large-v31.1 GiBसूचीबद्ध नहीं
large-v3-turbo809 M1.5 GiBसूचीबद्ध नहीं
large-v3-turbo, 5-बिट (q5_0)क्वांटाइज़्ड turbo547 MiBसूचीबद्ध नहीं

MiB और GiB 1,024 के चरणों में गिनते हैं, इसलिए whisper.cpp की सूची की 547 MiB वाली turbo फ़ाइल वही फ़ाइल है जिसे YapToText 574 MB दिखाता है। इसी तरह दो ईमानदार पृष्ठ एक ही फ़ाइल को 547 और 574 लिख सकते हैं और दोनों सही हो सकते हैं। whisper.cpp की मेमोरी तालिका पाँच मूल आकारों को कवर करती है और turbo या क्वांटाइज़्ड फ़ाइलों के लिए कोई आँकड़ा नहीं देती।

YapToText में AI Models पृष्ठ: Whisper Large v3 Turbo (Q5) और Phi-3.5 Mini Instruct पर Included का निशान, नीचे मॉडल लाइब्रेरी।
चित्र 2. YapToText आकार MB में दिखाता है, इसीलिए whisper.cpp जिस turbo फ़ाइल को 547 MiB सूचीबद्ध करता है वह यहाँ 574 MB पढ़ी जाती है, और नीचे दूसरे Whisper मॉडल सूचीबद्ध हैं।

दोनों प्रोजेक्ट की कुछ और बातें:

  • केवल अंग्रेज़ी वाले मॉडल। tiny, base, small और medium उसी आकार की .en फ़ाइलों में भी आते हैं जो केवल अंग्रेज़ी सुनती हैं। OpenAI कहता है कि वे अंग्रेज़ी के लिए बेहतर चलती हैं, ख़ासकर tiny.en और base.en, और small.en तथा medium.en में फ़र्क़ घट जाता है।
  • क्वांटाइज़्ड मॉडल। q5_0 पर ख़त्म होने वाली फ़ाइलें क्वांटाइज़्ड हैं। whisper.cpp कहता है कि क्वांटाइज़्ड मॉडल को कम मेमोरी और डिस्क जगह चाहिए, और हार्डवेयर के आधार पर उन्हें ज़्यादा कुशलता से प्रोसेस किया जा सकता है।
  • Turbo। OpenAI उसे large-v3 का अनुकूलित संस्करण कहता है, जिसमें ट्रांसक्रिप्शन तेज़ है और सटीकता में नगण्य गिरावट है, और उसे large की रफ़्तार का लगभग 8 गुना आँकता है। वह अनुपात A100 पर मापा गया था, Mac पर नहीं, और OpenAI कहता है कि turbo अनुवाद के लिए प्रशिक्षित नहीं है।
  • भाषाएँ। OpenAI कहता है कि Whisper का प्रदर्शन भाषा के आधार पर बहुत अलग-अलग होता है।
  • OpenAI का मेमोरी कॉलम। OpenAI की README इसके बजाय अपने Python पैकेज के लिए ज़रूरी VRAM गिनाती है: tiny और base के लिए लगभग 1 GB, turbo के लिए लगभग 6 GB और large के लिए लगभग 10 GB। ये whisper.cpp के आँकड़े नहीं हैं।

YapToText के लिए 5-बिट turbo फ़ाइल मैंने इसलिए चुनी क्योंकि मेरे अपने डिक्टेशन पर उसने लगभग वही सुना जो पूरे मॉडल ने सुना, एक तिहाई मेमोरी में। यह एक व्यक्ति के डिक्टेशन हैं, कोई बेंचमार्क नहीं, इसलिए तय करने से पहले अपनी आवाज़ पर दो आकार आज़माएँ।

whisper.cpp से Whisper को ख़ुद चलाएँ

whisper.cpp को ख़ुद चलाने के लिए Terminal चाहिए, और वे दो टूल जिन्हें उसकी README के कमांड मानकर चलते हैं, Git और CMake। ये README के अपने कमांड हैं, जिनमें मॉडल की जगह 5-बिट turbo फ़ाइल रखी गई है। जो मिलता है वह Terminal में एक ऑडियो फ़ाइल का ट्रांसक्रिप्ट है, आपके ऐप में टाइप होते शब्द नहीं।

चरण 1: कोड और एक मॉडल लें

Terminal: whisper.cpp को क्लोन करें और 5-बिट turbo मॉडल डाउनलोड करें।

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

क्या होता है: प्रोजेक्ट whisper.cpp फ़ोल्डर में आ जाता है, और स्क्रिप्ट ggml-large-v3-turbo-q5_0.bin को Hugging Face से उसके models फ़ोल्डर में डाउनलोड करती है। छोटे डाउनलोड के लिए base.en या small रख दें।

चरण 2: उसे बनाएँ और सैंपल ट्रांसक्राइब करें

Terminal: whisper-cli बनाएँ, फिर उसे प्रोजेक्ट के साथ आई सैंपल रिकॉर्डिंग पर चलाएँ।

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

क्या होता है: CMake प्रोजेक्ट बनाता है, और whisper-cli आपके डाउनलोड किए मॉडल से सैंपल को ट्रांसक्राइब करके टेक्स्ट Terminal में छापता है।

चरण 3: पहले अपना ऑडियो बदलें

README कहती है कि whisper-cli अभी केवल 16-बिट WAV फ़ाइलों के साथ चलता है, और बाक़ी सब कुछ बदलने के लिए एक ffmpeg कमांड देती है। ffmpeg एक अलग इंस्टॉल है।

Terminal: MP3 को उस WAV फ़ॉर्मैट में बदलें जिसे whisper-cli पढ़ता है।

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

क्या होता है: ffmpeg output.wav को 16 kHz, मोनो, 16-बिट ऑडियो के रूप में लिखता है, जिसे आप -f के बाद whisper-cli को देते हैं।

या OpenAI का Python पैकेज इस्तेमाल करें

Terminal: यदि आप Python में काम करना चाहते हैं, तो OpenAI का अपना पैकेज इंस्टॉल करें।

pip install -U openai-whisper

क्या होता है: pip whisper कमांड इंस्टॉल करता है। OpenAI की README कहती है कि कोड से Python 3.8 से 3.11 के साथ चलने की उम्मीद है, उसे ffmpeg चाहिए, और उसका डिफ़ॉल्ट मॉडल turbo है।

लाइव बोली के लिए whisper.cpp में whisper-stream है, जो हर आधे सेकंड में आपके माइक्रोफ़ोन का नमूना लेता है और लगातार ट्रांसक्राइब करता है। उसे SDL2 चाहिए, और README उसे एक सरल उदाहरण कहती है। शब्दों को Mail, Slack या आपके एडिटर में पहुँचाना वह हिस्सा है जो एक ऐप जोड़ता है।

Terminal के बिना YapToText में वही मॉडल इस्तेमाल करें

YapToText वही इंजन और वही फ़ाइल चलाता है, बिना Terminal विंडो के: ऐप में बनी whisper.cpp की एक प्रति, Metal और Accelerate के साथ, और App Store के डाउनलोड के अंदर ggml-large-v3-turbo-q5_0.bin। उसका SHA-256 Hugging Face की फ़ाइल से मेल खाता है, इसलिए वह स्टॉक मॉडल है, कोई अपनी तरह से ट्यून किया या दोबारा प्रशिक्षित किया हुआ नहीं। ऐप मैंने इसलिए बनाया क्योंकि हाथों से टाइप करना मेरे लिए कठिन है, और मुझे चाहिए था कि Whisper हर ऐप में टाइप करे, Terminal विंडो में छपे नहीं। यह वही फ़ाइल है जो स्क्रिप्ट डाउनलोड करती है। जो बदलता है वह उसके आसपास की हर चीज़ है।

App Store का पोस्टर, जिसके शीर्षक में Yap it. Bam. It's typed. लिखा है, YapToText की Home विंडो और तैरते पैनल के तीन लेआउट के ऊपर।
चित्र 3. बिना Terminal के वही Whisper फ़ाइल: आपके बोलते समय शब्द तैरते पैनल में बनते हैं और सामने वाले किसी भी ऐप में आपके कर्सर पर पहुँचते हैं।

मॉडल के आसपास ऐप यह जोड़ता है:

  • मेमोरी जो वह वापस देता है। Energy पृष्ठ पर Keep models in memory तय करता है कि डिक्टेशन के बाद मॉडल कितनी देर लोड रहे: डिफ़ॉल्ट रूप से इस्तेमाल के 2 मिनट बाद तक, और विकल्प Only while dictating से लेकर Until quit तक हैं। जल्दी अनलोड करने से ऊर्जा और मेमोरी बचती है, और अनलोड के बाद का अगला डिक्टेशन कुछ सेकंड ज़्यादा लेता है।
  • macOS के लिए जगह। जब macOS की मेमोरी कम पड़ती है, YapToText तुरंत अपने लोड किए मॉडल हटा देता है और उन्हें फिर गरम करने से पहले पाँच मिनट प्रतीक्षा करता है।
  • बैटरी पर हल्का मॉडल। Switch models with the power source, जो डिफ़ॉल्ट रूप से बंद है, डिक्टेशन मॉडल और सँवारने वाले मॉडल, दोनों को प्लग लगे होने और बैटरी पर होने का अलग-अलग चुनाव देता है।
  • आपकी अपनी फ़ाइल। AI Models पृष्ठ पर Your own models के अंतर्गत Add Model कोई भी whisper.cpp GGML .bin फ़ाइल लेता है, इसलिए स्क्रिप्ट से डाउनलोड किया मॉडल भी चलता है। ऐप फ़ाइल को पढ़कर पहचानता है कि वह क्या है और बाक़ी सब नकार देता है।
  • आपके Mac के आँकड़े। Energy पृष्ठ का This Mac कार्ड आपकी चिप और मेमोरी दिखाता है, जो वह संख्या है जिसे ऊपर की तालिका से मिलाना है।

AI Models पृष्ठ की Dictation Model Library में Tiny से Large v3 तक दस और Whisper मॉडल हैं, हर एक के साथ वह आकार जो ऐप दिखाता है। AI मॉडल गाइड उन्हें सूचीबद्ध करती है, और ऊर्जा गाइड मेमोरी की सेटिंग्ज़ समझाती है। App Store का डाउनलोड लगभग 2.9 GB का है क्योंकि ऐप के दोनों मॉडल उसके अंदर हैं। Homebrew वाला बिल्ड लगभग 12 MB का है और पहले डिक्टेशन से पहले उसे स्पीच मॉडल डाउनलोड चाहिए।

यदि लोकल Whisper धीमा है या आपको ग़लत सुनता है

बड़ा मॉडल डाउनलोड करने से पहले सस्ते उपाय आज़माएँ। मॉडल बदलने से पहले माइक्रोफ़ोन और शब्द ठीक करें।

  1. पहली बार चलने की प्रतीक्षा करें। मॉडल को ट्रांसक्राइब करने से पहले लोड होना पड़ता है। YapToText में लॉन्च के बाद का पहला डिक्टेशन थोड़ी देर लेता है। यदि आपने whisper.cpp को Core ML के साथ बनाया है, तो उसकी README कहती है कि किसी डिवाइस पर पहली बार चलना धीमा होता है क्योंकि Neural Engine सेवा मॉडल को कंपाइल करती है।
  2. वह भाषा सेट करें जो आप बोलते हैं। YapToText के AI Models पृष्ठ का Language चुनाव आपके Mac की सिस्टम भाषा से शुरू होता है, और जो भाषा Whisper इस्तेमाल नहीं कर सकता वह अपने आप पहचान पर लौट जाती है। भाषाओं का पृष्ठ सभी 29 की सूची देता है।
  3. माइक्रोफ़ोन ठीक करें। Bluetooth माइक्रोफ़ोन फ़ोन की गुणवत्ता के होते हैं, इसलिए Mac का अपना माइक्रोफ़ोन बेहतर सुनता है। YapToText में उसे मेन्यू बार पैनल के Input चुनाव में चुनें।
  4. उसे अपने शब्द सिखाएँ। YapToText का Dictionaries पृष्ठ केवल जो टाइप होता है उसे ठीक नहीं करता, Whisper को आपके नामों और शब्दों से तैयार भी करता है। डिक्शनरी गाइड दिखाती है कैसे।
  5. अंग्रेज़ी के लिए केवल अंग्रेज़ी वाला मॉडल इस्तेमाल करें। यदि मेमोरी कम है और आप केवल अंग्रेज़ी बोलते हैं, तो OpenAI कहता है कि .en संस्करण बेहतर चलते हैं, सबसे ज़्यादा tiny और base पर।
  6. मॉडल का आकार बदलें। यदि वह ग़लत सुनता है और आपकी मेमोरी अनुमति देती है तो बड़ा लें, या धीमा है तो छोटा। YapToText में AI Models पृष्ठ पर सितारों की रेटिंग यह लेन-देन दिखाती है, और History का हर डिक्टेशन अपना रुकने से टेक्स्ट आने तक का समय दिखाता है।
YapToText की History की एक प्रविष्टि, जिसमें पाइपलाइन का ब्योरा खुला है: कच्चा ट्रांसक्रिप्ट, सँवारा हुआ ट्रांसक्रिप्ट, मोड, डिलीवरी, लक्ष्य ऐप और समय।
चित्र 4. History का हर डिक्टेशन अपना समय लिए रहता है: आप कितनी देर बोले, और रुकने से टेक्स्ट आने तक का समय ट्रांसक्रिप्शन, AI सँवारने और डिलीवरी में बँटा हुआ।

लोकल Whisper क्या नहीं बदलता

Whisper को स्थानीय रूप से चलाने से काम आपके Mac पर आ जाता है, और बस वही आता है। लोकल यह बदलता है कि आपकी आवाज़ कहाँ जाती है, यह नहीं कि वह कितनी अच्छी सुनी जाती है।

  • ग़लतियाँ। मॉडल तय करता है कि वह कितना अच्छा सुनता है, चाहे वह कहीं भी चले, इसलिए जिस नाम को वह ग़लत सुनता है उसके लिए डिक्शनरी की प्रविष्टि या बेहतर माइक्रोफ़ोन चाहिए, कोई दूसरी जगह नहीं।
  • अनुवाद। OpenAI कहता है कि turbo अनुवाद के लिए प्रशिक्षित नहीं है, और YapToText Whisper से केवल ट्रांसक्राइब करने को कहता है, कभी अनुवाद करने को नहीं।
  • एक डाउनलोड। स्थानीय मॉडल को भी एक बार पहुँचना पड़ता है। whisper.cpp की स्क्रिप्ट उसे Hugging Face से लाती है, YapToText के App Store बिल्ड में वह अंदर है, और Homebrew वाला बिल्ड उसे AI Models पृष्ठ से लाता है।
  • Intel Mac। whisper.cpp Intel और Arm Mac को समर्थित बताता है। YapToText को Apple चिप और macOS 14 या उसके बाद का संस्करण चाहिए, और Intel Mac के लिए कोई दावा नहीं किया गया है।
  • सटीकता के आँकड़े। किसी भी मॉडल के लिए सटीकता के प्रतिशत प्रकाशित नहीं किए जाते। सितारे और आपका अपना History मार्गदर्शक हैं।

यह साबित करने के लिए कि सेटअप सचमुच स्थानीय है, ऑफ़लाइन डिक्टेशन के पृष्ठ पर एक मिनट का टेस्ट है: Wi-Fi बंद करें और डिक्टेट करें।

संक्षेप में

  • लोकल Whisper। यह आपके Mac पर एक मॉडल फ़ाइल और एक इंजन है, कुछ भी अपलोड हुए बिना।
  • मॉडल। 5-बिट turbo फ़ाइल, whisper.cpp की सूची में 547 MiB की, वही है जो YapToText के साथ आती है।
  • ख़ुद करें। whisper.cpp क्लोन करें, मॉडल डाउनलोड करें, CMake से बनाएँ, और 16-बिट WAV फ़ाइल पर whisper-cli चलाएँ।
  • या Terminal छोड़ दें। YapToText वही फ़ाइल चलाता है और किसी भी ऐप में टाइप करता है, मुफ़्त।

मॉडल अपने Mac की मेमोरी के हिसाब से चुनें, फिर अपनी आवाज़ के हिसाब से। यदि यहाँ कुछ भी आपके देखे से मेल न खाए, तो GitHub पर issue खोलें। हर issue पढ़ा जाता है।

Mac App Store से YapToText डाउनलोड करेंडाउनलोड मुफ़्त है। कोई खाता नहीं चाहिए और कोई फ़ीचर लॉक नहीं है। Apple चिप वाले Mac और macOS 14 या उसके बाद के संस्करण के लिए। सोर्स कोड GitHub पर।

लेखक के बारे में। Ryleigh Newman का काम सॉफ़्टवेयर बनाना है। हाथ से टाइप करना उनके लिए कठिन है, और रोज़ का लेखन YapToText में डिक्टेशन से होता है, जो इस साइट का विषय है। यह पृष्ठ अंग्रेज़ी से अनूदित है। ऐप का इंटरफ़ेस और साइट के बाक़ी पृष्ठ अंग्रेज़ी में हैं। प्रोजेक्ट के बारे में और जानकारी, अंग्रेज़ी में।

गाइड

अन्य गाइड, अंग्रेज़ी में

स्रोत

प्रश्न

Mac पर Whisper को स्थानीय रूप से कैसे चलाएँ?

whisper.cpp इस्तेमाल करें: रिपॉज़िटरी क्लोन करें, उसकी download-ggml-model.sh स्क्रिप्ट से मॉडल डाउनलोड करें, CMake से बनाएँ, और 16-बिट WAV फ़ाइल पर whisper-cli चलाएँ। या उसे साथ लेकर आने वाला कोई ऐप इंस्टॉल करें, जैसे YapToText, जो बिना सेटअप के Whisper Large v3 Turbo चलाता है।

Whisper को कितनी मेमोरी चाहिए?

यह मॉडल पर निर्भर है। whisper.cpp tiny के लिए लगभग 273 MB, small के लिए 852 MB, medium के लिए 2.1 GB और large के लिए 3.9 GB गिनाता है, और कहता है कि क्वांटाइज़्ड मॉडल को कम चाहिए। turbo के लिए वह कोई मेमोरी आँकड़ा नहीं देता।

सबसे अच्छा स्थानीय Whisper मॉडल कौन सा है?

शुरुआत Large v3 Turbo से करना ठीक है, और उसकी 5-बिट फ़ाइल वही है जो YapToText के साथ आती है: whisper.cpp की सूची में 547 MiB। यदि मेमोरी कम है, तो small या base बहुत कम इस्तेमाल करते हैं, और OpenAI कहता है कि सबसे छोटे आकारों पर केवल अंग्रेज़ी वाले संस्करण अंग्रेज़ी के लिए बेहतर चलते हैं।

Whisper Large v3 Turbo मॉडल कितना बड़ा है?

whisper.cpp की मॉडल सूची में 1.5 GiB, या 5-बिट q5_0 फ़ाइल के रूप में 547 MiB, जो दशमलव इकाइयों में गिनने पर 574 MB है। OpenAI turbo को 809 मिलियन पैरामीटर का बताता है।

क्या लोकल Whisper को इंटरनेट चाहिए?

केवल मॉडल को एक बार डाउनलोड करने के लिए। उसके बाद whisper.cpp और YapToText बिना कनेक्शन के ट्रांसक्राइब करते हैं, और YapToText के App Store बिल्ड में मॉडल अंदर आता है, इसलिए वह यह डाउनलोड भी छोड़ देता है।

क्या YapToText में whisper.cpp का मॉडल इस्तेमाल किया जा सकता है?

हाँ। AI Models पृष्ठ पर Your own models के अंतर्गत Add Model कोई भी whisper.cpp GGML .bin फ़ाइल लेता है, और ऐप फ़ाइल से ही पहचानता है कि वह क्या है।