Transformers documentation
Open WebUI
Commencer
Classes de base
Modèles
Préprocesseurs
Inférence
API Pipeline
Générer l'API
Optimisation
Discuter avec des modèles
Mise en production
Entraînement
Commencer
Personnalisation
Performance
Entraînement distribué
Matériel
Quantification
Intégrations à l'écosystème
Ressources
API
Open WebUI
Open WebUI fournit une interface auto-hébergée pour les modèles hors ligne. Activez CORS pour servir des modèles locaux (désactivé par défaut pour des raisons de sécurité).
transformers serve --enable-cors
Pour utiliser le serveur pour la transcription de la parole, accédez à Paramètres > Audio.
- Définissez Speech-to-Text Engine sur OpenAI.
- Définissez l’URL sur http://localhost:8000/v1.
- Saisissez un modèle de transcription dans SST Model (openai/whisper-large-v3). Trouvez d'autres modèles sur le Hub.
Lancez une conversation et parlez. Le modèle transcrit votre audio dans le champ de saisie.
Update on GitHub