Τοπικό Whisper στο Mac: τι χρειάζεται, τι κοστίζει και πώς το τρέχετε

Κείμενο: · Δημοσιεύτηκε

Τοπικό Whisper σημαίνει ότι τρέχετε το μοντέλο ομιλίας Whisper της OpenAI στο δικό σας Mac, ώστε ο ήχος σας να γίνεται κείμενο στο μηχάνημα και όχι σε κάποιον διακομιστή κάπου αλλού. Σε Mac, η μηχανή που πρέπει να ξέρετε είναι το whisper.cpp, που αντιμετωπίζει το Apple silicon ως πρώτης τάξης πλατφόρμα, και η απόφαση που μετράει είναι το αρχείο του μοντέλου: τα μεγαλύτερα μοντέλα ακούν καλύτερα και παίρνουν περισσότερο χώρο στον δίσκο και στη μνήμη.

Καλύπτω πώς ταιριάζουν τα κομμάτια, τι κοστίζει κάθε μέγεθος μοντέλου με τα στοιχεία του ίδιου του whisper.cpp, τις εντολές για να το τρέξετε μόνοι σας και πού χωράει το YapToText. Έφτιαξα το YapToText, μια δωρεάν εφαρμογή που τρέχει το whisper.cpp με το στάνταρ αρχείο Whisper Large v3 Turbo (Q5), οπότε ζυγίστε εκείνο το κομμάτι έχοντας το υπόψη. Αν θέλετε απλώς να μάθετε αν υπάρχει εφαρμογή Whisper για Mac, η σελίδα για την εφαρμογή Whisper στο Mac το απαντά.

Λήψη του YapToText από το Mac App StoreΔωρεάν λήψη. Χωρίς λογαριασμό και χωρίς κλειδωμένες λειτουργίες, για macOS 14 ή μεταγενέστερο σε Mac με επεξεργαστή Apple. Πηγαίος κώδικας στο GitHub.

Αυτός ο οδηγός σε άλλες γλώσσες: English, العربية, Čeština, Dansk, Deutsch, Español, Suomi, Français, עברית, हिन्दी, Magyar, Bahasa Indonesia, Italiano, 日本語, 한국어, Norsk, Nederlands, Polski, Português, Română, Русский, Slovenčina, Svenska, ไทย, Türkçe, Українська, Tiếng Việt, 简体中文, 繁體中文

Σε αυτή τη σελίδα: 12 ενότητες
  1. Βήματα
  2. Γνωρίστε τα τρία κομμάτια του τοπικού Whisper
  3. Διαλέξτε μοντέλο με βάση τον χώρο στον δίσκο και τη μνήμη
  4. Τρέξτε το Whisper μόνοι σας με το whisper.cpp
    1. Βήμα 1: Πάρτε τον κώδικα και ένα μοντέλο
    2. Βήμα 2: Χτίστε το και μεταγράψτε το δείγμα
    3. Βήμα 3: Μετατρέψτε πρώτα τον δικό σας ήχο
    4. Ή χρησιμοποιήστε το πακέτο Python της OpenAI
  5. Χρησιμοποιήστε το ίδιο μοντέλο στο YapToText χωρίς Terminal
  6. Αν το τοπικό Whisper είναι αργό ή σας ακούει λάθος
  7. Τι δεν αλλάζει το τοπικό Whisper
  8. Η σύντομη εκδοχή
  9. Οδηγοί
  10. Περισσότεροι οδηγοί, στα αγγλικά
  11. Πηγές
  12. Ερωτήσεις

Βήματα

  1. Κλωνοποιήστε το αποθετήριο whisper.cpp από το GitHub και ανοίξτε τον φάκελό του στο Terminal.
  2. Κατεβάστε ένα μοντέλο με το σενάριο download-ggml-model.sh του έργου, όπως το large-v3-turbo-q5_0.
  3. Χτίστε το έργο με το CMake, χρησιμοποιώντας τις δύο εντολές cmake από το README του.
  4. Μετατρέψτε την εγγραφή σας σε αρχείο WAV 16 bit, για παράδειγμα με το ffmpeg.
  5. Εκτελέστε το whisper-cli με το αρχείο του μοντέλου σας και το αρχείο WAV σας, και διαβάστε τη μεταγραφή στο Terminal.

Γνωρίστε τα τρία κομμάτια του τοπικού Whisper

Το τοπικό Whisper έχει τρία κομμάτια, και τα τρία βρίσκονται στο Mac σας. Το μοντέλο είναι ένα αρχείο, η μηχανή το εκτελεί και ο ήχος σας δεν χρειάζεται ποτέ να φύγει από το μηχάνημα.

  • Το μοντέλο. Το Whisper είναι το μοντέλο αναγνώρισης ομιλίας της OpenAI, και η OpenAI κυκλοφόρησε τον κώδικα και τα βάρη του μοντέλου με την άδεια MIT. Κατεβάζετε ένα αρχείο μοντέλου μία φορά και αυτό το αρχείο κάνει την ακρόαση.
  • Η μηχανή. Το whisper.cpp είναι μια απλή υλοποίηση του Whisper σε C και C++, επίσης με την άδεια MIT. Το README του αποκαλεί το Apple silicon πλατφόρμα πρώτης τάξης, βελτιστοποιημένη μέσω ARM NEON, Accelerate, Metal και Core ML, και λέει ότι στο Apple silicon η εκτέλεση γίνεται πλήρως στη GPU μέσω Metal. Το δικό της πακέτο της OpenAI τρέχει το Whisper από Python.
  • Ο ήχος σας. Μια εγγραφή ή το μικρόφωνό σας μπαίνει και κείμενο βγαίνει. Το Διαδίκτυο χρειάζεται μόνο για τη λήψη του αρχείου του μοντέλου εξαρχής.

Αυτό το ξεχωρίζει από μια υπηρεσία cloud: τίποτα δεν ανεβαίνει για να μεταγραφεί. Σημαίνει επίσης ότι τη δουλειά την κάνει το Mac σας, οπότε το μοντέλο που διαλέγετε καθορίζει πόση μνήμη και πόσο χώρο στον δίσκο παίρνει αυτή η δουλειά.

Αφίσα του App Store με τίτλο Nothing leaves your Mac, πάνω από τη σελίδα AI Models του YapToText, με και τα δύο μοντέλα να φέρουν την ένδειξη Included.
Εικόνα 1. Το μοντέλο και η μηχανή σε μία γραμμή στο YapToText: Whisper Large v3 Turbo (Q5), από την OpenAI, που εκτελείται από το whisper.cpp, 574 MB και με την ένδειξη Included.

Διαλέξτε μοντέλο με βάση τον χώρο στον δίσκο και τη μνήμη

Το whisper.cpp δημοσιεύει τι παίρνει κάθε μοντέλο στον δίσκο και στη μνήμη, και η OpenAI δημοσιεύει πόσες παραμέτρους έχει το καθένα. Το Turbo είναι η ταχύτερη έκδοση του large-v3 της OpenAI, και το αρχείο του των 5 bit παίρνει περίπου το ένα πέμπτο του χώρου του large στον δίσκο.

Έλεγχος στις 3 Οκτωβρίου 2026, στο README και στη λίστα μοντέλων του whisper.cpp και στο README του Whisper της OpenAI.

ΜοντέλοΠαράμετροι (OpenAI)Αρχείο στον δίσκο (whisper.cpp)Μνήμη (whisper.cpp)
tiny39 M75 MiBΠερίπου 273 MB
base74 M142 MiBΠερίπου 388 MB
small244 M466 MiBΠερίπου 852 MB
medium769 M1.5 GiBΠερίπου 2.1 GB
large (v1, v2 ή v3)1550 M2.9 GiBΠερίπου 3.9 GB
large-v3, 5 bit (q5_0)Κβαντισμένο large-v31.1 GiBΔεν αναφέρεται
large-v3-turbo809 M1.5 GiBΔεν αναφέρεται
large-v3-turbo, 5 bit (q5_0)Κβαντισμένο turbo547 MiBΔεν αναφέρεται

Τα MiB και GiB μετρούν σε βήματα του 1.024, οπότε το αρχείο turbo των 547 MiB στη λίστα του whisper.cpp είναι το ίδιο αρχείο που το YapToText δείχνει ως 574 MB. Έτσι δύο έντιμες σελίδες μπορούν να αναφέρουν το ίδιο αρχείο ως 547 και 574 και να έχουν και οι δύο δίκιο. Ο πίνακας μνήμης του whisper.cpp καλύπτει τα πέντε αρχικά μεγέθη και δεν δίνει αριθμό για το turbo ή για τα κβαντισμένα αρχεία.

Η σελίδα AI Models στο YapToText: τα Whisper Large v3 Turbo (Q5) και Phi-3.5 Mini Instruct με την ένδειξη Included, και η βιβλιοθήκη μοντέλων από κάτω.
Εικόνα 2. Το YapToText δείχνει μεγέθη σε MB, γι' αυτό το αρχείο turbo που το whisper.cpp αναφέρει ως 547 MiB εμφανίζεται εδώ ως 574 MB, με τα άλλα μοντέλα Whisper να παρατίθενται από κάτω.

Μερικές ακόμη σημειώσεις από τα δύο έργα:

  • Μοντέλα μόνο για αγγλικά. Τα tiny, base, small και medium διατίθενται και ως αρχεία .en ίδιου μεγέθους που ακούν μόνο αγγλικά. Η OpenAI λέει ότι τείνουν να τα πηγαίνουν καλύτερα στα αγγλικά, ειδικά τα tiny.en και base.en, και ότι η διαφορά μικραίνει για τα small.en και medium.en.
  • Κβαντισμένα μοντέλα. Τα αρχεία που τελειώνουν σε q5_0 είναι κβαντισμένα. Το whisper.cpp λέει ότι τα κβαντισμένα μοντέλα χρειάζονται λιγότερη μνήμη και χώρο στον δίσκο και, ανάλογα με το υλικό, μπορούν να επεξεργάζονται αποδοτικότερα.
  • Turbo. Η OpenAI το αποκαλεί βελτιστοποιημένη έκδοση του large-v3 με ταχύτερη μεταγραφή και ελάχιστη υποβάθμιση της ακρίβειας, και το βαθμολογεί με περίπου 8 φορές την ταχύτητα του large. Αυτή η αναλογία μετρήθηκε σε A100 και όχι σε Mac, και η OpenAI λέει ότι το turbo δεν είναι εκπαιδευμένο για μετάφραση.
  • Γλώσσες. Η OpenAI λέει ότι η απόδοση του Whisper διαφέρει πολύ ανάλογα με τη γλώσσα.
  • Η στήλη μνήμης της OpenAI. Το README της OpenAI αναφέρει τη VRAM που απαιτείται για το πακέτο Python της: περίπου 1 GB για τα tiny και base, περίπου 6 GB για το turbo και περίπου 10 GB για το large. Αυτοί δεν είναι αριθμοί του whisper.cpp.

Διάλεξα το αρχείο turbo των 5 bit για το YapToText επειδή, στις δικές μου υπαγορεύσεις, άκουσε σχεδόν ακριβώς ό,τι άκουσε το πλήρες μοντέλο, με το ένα τρίτο της μνήμης. Αυτές είναι οι υπαγορεύσεις ενός ανθρώπου και όχι μια δοκιμή αναφοράς, οπότε δοκιμάστε δύο μεγέθη στη δική σας φωνή πριν αποφασίσετε.

Τρέξτε το Whisper μόνοι σας με το whisper.cpp

Για να τρέξετε μόνοι σας το whisper.cpp χρειάζεστε το Terminal και τα δύο εργαλεία που προϋποθέτουν οι εντολές του README του, το Git και το CMake. Αυτές είναι οι εντολές του ίδιου του README, με το μοντέλο αλλαγμένο στο αρχείο turbo των 5 bit. Αυτό που παίρνετε είναι μια μεταγραφή ενός αρχείου ήχου στο Terminal και όχι λέξεις που γράφονται στις εφαρμογές σας.

Βήμα 1: Πάρτε τον κώδικα και ένα μοντέλο

Terminal: Κλωνοποιήστε το whisper.cpp και κατεβάστε το μοντέλο turbo των 5 bit.

git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp
sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Τι συμβαίνει: Το έργο καταλήγει σε έναν φάκελο whisper.cpp, και το σενάριο κατεβάζει το ggml-large-v3-turbo-q5_0.bin από το Hugging Face στον φάκελο models του. Βάλτε base.en ή small για μικρότερη λήψη.

Βήμα 2: Χτίστε το και μεταγράψτε το δείγμα

Terminal: Χτίστε το whisper-cli και εκτελέστε το στη δειγματική εγγραφή που συνοδεύει το έργο.

cmake -B build
cmake --build build -j --config Release
./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -f samples/jfk.wav

Τι συμβαίνει: Το CMake χτίζει το έργο, και το whisper-cli μεταγράφει το δείγμα με το μοντέλο που κατεβάσατε και εκτυπώνει το κείμενο στο Terminal.

Βήμα 3: Μετατρέψτε πρώτα τον δικό σας ήχο

Το README λέει ότι το whisper-cli τρέχει προς το παρόν μόνο με αρχεία WAV 16 bit, και δίνει μια εντολή ffmpeg για τη μετατροπή οτιδήποτε άλλου. Το ffmpeg είναι ξεχωριστή εγκατάσταση.

Terminal: Μετατρέψτε ένα MP3 στη μορφή WAV που διαβάζει το whisper-cli.

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

Τι συμβαίνει: Το ffmpeg γράφει το output.wav ως ήχο 16 kHz, μονοφωνικό, 16 bit, που έπειτα δίνετε στο whisper-cli μετά το -f.

Ή χρησιμοποιήστε το πακέτο Python της OpenAI

Terminal: Εγκαταστήστε το πακέτο της ίδιας της OpenAI, αν προτιμάτε να δουλεύετε σε Python.

pip install -U openai-whisper

Τι συμβαίνει: Το pip εγκαθιστά την εντολή whisper. Το README της OpenAI λέει ότι ο κώδικας αναμένεται να λειτουργεί με Python 3.8 έως 3.11, χρειάζεται ffmpeg και το προεπιλεγμένο μοντέλο του είναι το turbo.

Για ζωντανή ομιλία, το whisper.cpp περιλαμβάνει το whisper-stream, που παίρνει δείγμα από το μικρόφωνό σας κάθε μισό δευτερόλεπτο και μεταγράφει συνεχώς. Χρειάζεται SDL2, και το README το αποκαλεί απλοϊκό παράδειγμα. Το να φτάσουν οι λέξεις στο Mail, στο Slack ή στον επεξεργαστή σας είναι το κομμάτι που προσθέτει μια εφαρμογή.

Χρησιμοποιήστε το ίδιο μοντέλο στο YapToText χωρίς Terminal

Το YapToText τρέχει την ίδια μηχανή και το ίδιο αρχείο χωρίς παράθυρο Terminal: ένα αντίγραφο του whisper.cpp ενσωματωμένο στην εφαρμογή με Metal και Accelerate, και το ggml-large-v3-turbo-q5_0.bin μέσα στη λήψη από το App Store. Το SHA-256 του ταιριάζει με το αρχείο στο Hugging Face, οπότε είναι το στάνταρ μοντέλο και όχι κάποιο προσαρμοσμένο ή επανεκπαιδευμένο. Έφτιαξα την εφαρμογή επειδή τα χέρια μου κάνουν δύσκολη την πληκτρολόγηση, και ήθελα το Whisper να γράφει σε κάθε εφαρμογή αντί να εκτυπώνει σε ένα παράθυρο Terminal. Είναι το αρχείο που κατεβάζει το σενάριο. Αλλάζουν όλα γύρω του.

Αφίσα του App Store με τίτλο Yap it. Bam. It's typed. πάνω από το παράθυρο Home του YapToText και τις τρεις διατάξεις του αιωρούμενου πάνελ.
Εικόνα 3. Το ίδιο αρχείο Whisper χωρίς Terminal: οι λέξεις σχηματίζονται στο αιωρούμενο πάνελ καθώς μιλάτε και καταλήγουν στον δρομέα σας σε όποια εφαρμογή βρίσκεται μπροστά.

Να τι προσθέτει η εφαρμογή γύρω από το μοντέλο:

  • Μνήμη που επιστρέφει. Στη σελίδα Energy, το Keep models in memory καθορίζει πόση ώρα μένει φορτωμένο ένα μοντέλο μετά από μια υπαγόρευση: από προεπιλογή 2 λεπτά μετά τη χρήση, με επιλογές από Only while dictating έως Until quit. Η νωρίτερη εκφόρτωση εξοικονομεί ενέργεια και μνήμη, και η επόμενη υπαγόρευση μετά από μια εκφόρτωση παίρνει λίγα δευτερόλεπτα παραπάνω.
  • Χώρος για το macOS. Όταν το macOS μένει από μνήμη, το YapToText αφήνει αμέσως τα φορτωμένα μοντέλα του και περιμένει πέντε λεπτά πριν τα ζεστάνει ξανά.
  • Ελαφρύτερο μοντέλο με μπαταρία. Το Switch models with the power source, απενεργοποιημένο από προεπιλογή, δίνει στο μοντέλο υπαγόρευσης και στο μοντέλο τακτοποίησης από μία επιλογή για σύνδεση στο ρεύμα και για μπαταρία.
  • Το δικό σας αρχείο. Κάτω από το Your own models στη σελίδα AI Models, το Add Model δέχεται οποιοδήποτε whisper.cpp GGML .bin, οπότε λειτουργεί και ένα μοντέλο που κατεβάσατε με το σενάριο. Η εφαρμογή διαβάζει το αρχείο για να καταλάβει τι είναι και απορρίπτει οτιδήποτε άλλο.
  • Οι αριθμοί του Mac σας. Η κάρτα This Mac στη σελίδα Energy δείχνει το chip και τη μνήμη σας, που είναι ο αριθμός προς σύγκριση με τον παραπάνω πίνακα.

Το Dictation Model Library στη σελίδα AI Models έχει δέκα ακόμη μοντέλα Whisper, από το Tiny έως το Large v3, το καθένα με το μέγεθος που δείχνει η εφαρμογή. Ο οδηγός μοντέλων ΤΝ τα απαριθμεί και ο οδηγός ενέργειας εξηγεί τις ρυθμίσεις μνήμης. Η λήψη από το App Store είναι περίπου 2,9 GB επειδή και τα δύο μοντέλα της εφαρμογής περιλαμβάνονται μέσα της. Η έκδοση Homebrew είναι περίπου 12 MB και χρειάζεται λήψη μοντέλου ομιλίας πριν από την πρώτη υπαγόρευση.

Αν το τοπικό Whisper είναι αργό ή σας ακούει λάθος

Ξεκινήστε από τις φθηνές λύσεις πριν κατεβάσετε μεγαλύτερο μοντέλο. Διορθώστε πρώτα το μικρόφωνο και τις λέξεις και μετά αλλάξτε μοντέλο.

  1. Περιμένετε την πρώτη εκτέλεση. Ένα μοντέλο πρέπει να φορτώσει πριν μεταγράψει. Στο YapToText η πρώτη υπαγόρευση μετά την εκκίνηση παίρνει λίγο χρόνο. Αν χτίσατε το whisper.cpp με Core ML, το README του λέει ότι η πρώτη εκτέλεση σε μια συσκευή είναι αργή όσο η υπηρεσία Neural Engine μεταγλωττίζει το μοντέλο.
  2. Ορίστε τη γλώσσα που μιλάτε. Η επιλογή Language του YapToText στη σελίδα AI Models ξεκινά με τη γλώσσα συστήματος του Mac σας, και μια γλώσσα που το Whisper δεν μπορεί να χρησιμοποιήσει πέφτει σε αυτόματη ανίχνευση. Η σελίδα γλωσσών απαριθμεί και τις 29.
  3. Διορθώστε το μικρόφωνο. Τα μικρόφωνα Bluetooth έχουν ποιότητα τηλεφώνου, οπότε το ίδιο το μικρόφωνο του Mac ακούει καλύτερα. Στο YapToText, επιλέξτε το στο Input του πάνελ της γραμμής μενού.
  4. Διδάξτε του τις λέξεις σας. Η σελίδα Dictionaries του YapToText προετοιμάζει το Whisper με τα ονόματα και τους όρους σας, και δεν διορθώνει απλώς όσα γράφει. Ο οδηγός λεξικών δείχνει πώς.
  5. Χρησιμοποιήστε μοντέλο μόνο για αγγλικά στα αγγλικά. Αν η μνήμη είναι στενή και μιλάτε μόνο αγγλικά, η OpenAI λέει ότι οι εκδόσεις .en τείνουν να τα πηγαίνουν καλύτερα, περισσότερο στα tiny και base.
  6. Αλλάξτε το μέγεθος του μοντέλου. Πηγαίνετε σε μεγαλύτερο αν ακούει λάθος και η μνήμη σας το επιτρέπει, ή σε μικρότερο αν είναι αργό. Στο YapToText, οι βαθμολογίες με αστέρια στη σελίδα AI Models δείχνουν το αντάλλαγμα, και κάθε υπαγόρευση στο History δείχνει τον δικό της χρόνο από τη διακοπή μέχρι το κείμενο.
Εγγραφή του History στο YapToText με ανοιχτές τις λεπτομέρειες της διαδικασίας: ακατέργαστη μεταγραφή, τακτοποιημένη μεταγραφή, λειτουργία, παράδοση, εφαρμογή προορισμού και χρόνοι.
Εικόνα 4. Κάθε υπαγόρευση στο History έχει τους δικούς της χρόνους: πόση ώρα μιλήσατε και ο χρόνος από τη διακοπή μέχρι το κείμενο, χωρισμένος σε μεταγραφή, τακτοποίηση με ΤΝ και παράδοση.

Τι δεν αλλάζει το τοπικό Whisper

Η τοπική εκτέλεση του Whisper μεταφέρει τη δουλειά στο Mac σας, και μόνο αυτό μεταφέρει. Το τοπικό αλλάζει πού πηγαίνει η φωνή σας, όχι πόσο καλά ακούγεται.

  • Λάθη. Το μοντέλο καθορίζει πόσο καλά ακούει, όπου κι αν τρέχει, οπότε ένα όνομα που ακούει λάθος χρειάζεται εγγραφή στο λεξικό ή καλύτερο μικρόφωνο και όχι άλλη τοποθεσία.
  • Μετάφραση. Η OpenAI λέει ότι το turbo δεν είναι εκπαιδευμένο για μετάφραση, και το YapToText ζητά από το Whisper μόνο να μεταγράψει, ποτέ να μεταφράσει.
  • Μία λήψη. Ένα τοπικό μοντέλο πρέπει πάντως να φτάσει μία φορά. Το σενάριο του whisper.cpp το φέρνει από το Hugging Face, η έκδοση του App Store του YapToText το έχει μέσα της, και η έκδοση Homebrew το φέρνει από τη σελίδα AI Models.
  • Mac με Intel. Το whisper.cpp αναφέρει ως υποστηριζόμενα τα Mac με Intel και με Arm. Το YapToText χρειάζεται Apple silicon και macOS 14 ή μεταγενέστερο, και δεν υπόσχομαι τίποτα για Mac με Intel.
  • Αριθμοί ακρίβειας. Δεν δημοσιεύω ποσοστά ακρίβειας για κανένα μοντέλο. Οδηγός είναι τα αστέρια και το δικό σας History.

Για να αποδείξετε ότι μια ρύθμιση είναι πράγματι τοπική, η σελίδα για την υπαγόρευση χωρίς σύνδεση έχει ένα τεστ ενός λεπτού: κλείστε το Wi-Fi και υπαγορεύστε.

Η σύντομη εκδοχή

  • Τοπικό Whisper. Είναι ένα αρχείο μοντέλου και μια μηχανή στο Mac σας, χωρίς να ανεβαίνει τίποτα.
  • Το μοντέλο. Το αρχείο turbo των 5 bit, 547 MiB στη λίστα του whisper.cpp, είναι αυτό που περιλαμβάνει το YapToText.
  • Κάντε το μόνοι σας. Κλωνοποιήστε το whisper.cpp, κατεβάστε ένα μοντέλο, χτίστε με CMake και εκτελέστε το whisper-cli σε αρχείο WAV 16 bit.
  • Ή παραλείψτε το Terminal. Το YapToText τρέχει το ίδιο αρχείο και γράφει σε κάθε εφαρμογή, δωρεάν.

Διαλέξτε το μοντέλο με βάση τη μνήμη του Mac σας και μετά τη δική σας φωνή. Αν κάτι εδώ δεν ταιριάζει με αυτό που βλέπετε, ανοίξτε ένα issue στο GitHub. Διαβάζω κάθε ένα.

Λήψη του YapToText από το Mac App StoreΔωρεάν λήψη. Χωρίς λογαριασμό και χωρίς κλειδωμένες λειτουργίες, για macOS 14 ή μεταγενέστερο σε Mac με επεξεργαστή Apple. Πηγαίος κώδικας στο GitHub.

Ποιος γράφει. Το όνομα είναι Ryleigh Newman. Αναπτύσσω λογισμικό, δυσκολεύομαι να πληκτρολογώ και υπαγορεύω κάθε μέρα με το YapToText, την εφαρμογή που περιγράφει αυτός ο ιστότοπος. Η σελίδα αυτή είναι μετάφραση από τα αγγλικά. Το περιβάλλον της εφαρμογής και ο υπόλοιπος ιστότοπος είναι στα αγγλικά. Περισσότερα για το έργο, στα αγγλικά.

Οδηγοί

Περισσότεροι οδηγοί, στα αγγλικά

Πηγές

Ερωτήσεις

Πώς τρέχω το Whisper τοπικά σε Mac;

Χρησιμοποιήστε το whisper.cpp: κλωνοποιήστε το αποθετήριο, κατεβάστε ένα μοντέλο με το σενάριο download-ggml-model.sh, χτίστε το με CMake και εκτελέστε το whisper-cli σε αρχείο WAV 16 bit. Ή εγκαταστήστε μια εφαρμογή που το περιλαμβάνει, όπως το YapToText, που τρέχει το Whisper Large v3 Turbo χωρίς ρύθμιση.

Πόση μνήμη χρειάζεται το Whisper;

Εξαρτάται από το μοντέλο. Το whisper.cpp αναφέρει περίπου 273 MB για το tiny, 852 MB για το small, 2.1 GB για το medium και 3.9 GB για το large, και λέει ότι τα κβαντισμένα μοντέλα χρειάζονται λιγότερη. Δεν δίνει αριθμό μνήμης για το turbo.

Ποιο είναι το καλύτερο τοπικό μοντέλο Whisper;

Το Large v3 Turbo είναι το σημείο που θα ξεκινούσα, και το αρχείο του των 5 bit είναι αυτό που περιλαμβάνει το YapToText: 547 MiB στη λίστα του whisper.cpp. Αν η μνήμη είναι στενή, το small ή το base χρησιμοποιούν πολύ λιγότερη, και η OpenAI λέει ότι οι εκδόσεις μόνο για αγγλικά τείνουν να τα πηγαίνουν καλύτερα στα αγγλικά στα μικρότερα μεγέθη.

Πόσο μεγάλο είναι το μοντέλο Whisper Large v3 Turbo;

1.5 GiB στη λίστα μοντέλων του whisper.cpp, ή 547 MiB ως αρχείο q5_0 των 5 bit, που είναι 574 MB με δεκαδικές μονάδες. Η OpenAI αναφέρει το turbo με 809 εκατομμύρια παραμέτρους.

Χρειάζεται Διαδίκτυο το τοπικό Whisper;

Μόνο για να κατεβάσετε το μοντέλο μία φορά. Μετά, το whisper.cpp και το YapToText μεταγράφουν χωρίς σύνδεση, και η έκδοση του App Store του YapToText περιλαμβάνει το μοντέλο μέσα της, οπότε παραλείπει ακόμη και αυτή τη λήψη.

Μπορώ να χρησιμοποιήσω ένα μοντέλο whisper.cpp στο YapToText;

Ναι. Κάτω από το Your own models στη σελίδα AI Models, το Add Model δέχεται οποιοδήποτε αρχείο whisper.cpp GGML .bin, και η εφαρμογή καταλαβαίνει τι είναι από το ίδιο το αρχείο.