因为有单机私有化部署业务需要,所以要选一款单机能hold、性能不差的模型,先看:
OpenAI Whisper:全球知名的多语言通用模型,基于海量音频数据训练,准确率高且支持多国语言与翻译
openAI Whisper 有不同大小的语音识别模型,真实场景到底用哪一个呢?我们来测试下:
| 模型 | 效果 | 速度 | 显存消耗 | 模型大小 |
|---|---|---|---|---|
| turbo | 🌟🌟🌟🌟🌟 | 🌟🌟🌟🌟🌟 | ~6G | 1.6G |
| Medium | 🌟🌟🌟🌟🌟 | 🌟🌟 | ~5G | 1.5G |
| Small | 🌟🌟🌟🌟🌟 | 🌟🌟🌟 | ~2G | 462M |
| tiny | 🌟🌟 | 🌟🌟🌟🌟🌟 | ~1G | 73M |
| Base | 🌟🌟🌟🌟 | 🌟🌟🌟🌟🌟 | ~1G | 139M |
openAi Whisper 实际模型加载过程耗时占大部分,所以最好做成服务