Faster-Whisper 本地部署指南5 分钟跑起 4 倍速离线语音识别【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisperfaster-whisper 是一个语音识别本地部署方案它用 CTranslate2 推理引擎重新实现了 OpenAI Whisper 模型识别精度与原版一致速度最快提升到 4 倍显存和内存占用约省一半还支持 8 位量化把模型权重压缩到更低精度来省资源。先说几个常见困境云语音 API 按调用量计费批量处理时成本会快速上涨。会议录音、医疗资料这类敏感内容传到第三方服务器总让人不放心。网络不稳定或需要断网环境工作时云端服务直接不可用。而原版的 openai/whisper 在 CPU 上转写 13 分钟音频要近 7 分钟等不起。faster-whisper 针对的就是这四件事全部在本地跑速度更快占的资源更少。它是怎么快的核心换掉了推理引擎。原项目用 PyTorch 做前向计算faster-whisper 改用 CTranslate2——一个专为 Transformer 模型优化的推理框架算子实现更紧凑CPU 和 GPU 都能加速。在此之上提供 int8 量化把 32 位浮点权重压缩到 8 位整数参数体积缩小约 4 倍内存需求随之减半代价是几乎可以忽略的精度损失。另外它通过 PyAV 自带 FFmpeg 解码库读音频不用额外装 FFmpeg。仓库的 benchmark/ 目录下放了官方对比脚本可以复测这些数据。一条命令安装怎么确认装好了pip install faster-whisper需要 Python 3.9 及以上。装完跑一句确认python -c import faster_whisper; print(faster_whisper.__version__)能打印出版本号如 1.2.1就说明导入正常。模型不用手动下载第一次运行WhisperModel(large-v3)时会自动拉取并缓存之后离线也能加载。第一次转写最小示例from faster_whisper import WhisperModel model WhisperModel(base, devicecpu, compute_typeint8) segments, info model.transcribe(audio.mp3, beam_size5) print(f语言: {info.language}, 置信度: {info.language_probability:.2f}) for seg in segments: print(f[{seg.start:.2f}s - {seg.end:.2f}s] {seg.text})预期输出类似这样语言: en, 置信度: 0.98 [0.00s - 4.20s] And so my fellow Americans, fear nothing. [4.20s - 7.80s] We have much work to do.两个新手最容易忽略的点segments是生成器你不写循环遍历它转写就根本不会开始info.language只在首次加载时基于开头 30 秒音频检测一次明确知道语言的话直接传languageen更稳。按硬件选配置官方 benchmark 用的是 13 分钟音频NVIDIA RTX 3070 Ti 或 i7-12700K8 线程可作量级参考设备档位模型device / compute_typebeam_size13 分钟音频耗时高端 GPU8GB 显存以上large-v3 / turbocuda / float165约 1 分钟批量推理可到 17 秒中端 GPU4–8GB 显存large-v3cuda / int8_float165约 1 分钟显存 2926MB普通笔记本纯 CPUsmall 或 basecpu / int85约 1 分 42 秒small三条选型原则显存紧张就把compute_type从 float16 降到 int8_float16速度接近、显存少近一半CPU 上 int8 是默认选择比 fp32 快约一半且省内存beam_size默认就是 5追求更高准确度提到 10但耗时同步上升。三个进阶开关VAD 静音过滤vad_filterTrue批量推理时默认开启。转写前先跑一遍 Silero 语音活动检测只转有人声的部分。长音频、会议录音、中间大段静音的录音建议常开省时间也能少出幻觉文本可用vad_parametersdict(min_silence_duration_ms500)调静音判定阈值。词级时间戳word_timestampsTrue。每个词都带起止时间做逐字高亮字幕、歌词对齐、关键词定位时用得上不用的话别开有额外计算开销。批量推理换BatchedInferencePipeline并传batch_size16。把多个 30 秒片段塞进同一次 GPU 计算官方实测 GPU 上 13 分钟音频从 1 分 03 秒降到 17 秒代价是显存更高单文件、低配设备没意义。另外hotwords参数可以给专有名词加权重医学、金融术语识别不好时可以试试。更多参数看 WhisperModel.transcribe 源码。四个高频坑一行解决现象显存溢出 OOM。原因模型精度占的显存超出显存。解决compute_typeint8_float16仍溢出就换 medium。现象报找不到 cuBLAS / cuDNN 库。原因GPU 运行依赖 NVIDIA 的 cuBLAS 和 cuDNN 9CUDA 12 版而最新 ctranslate2 只支持 CUDA 12。解决按 CUDA 版本降级CUDA 11 用pip install --force-reinstall ctranslate23.24.0CUDA 12 cuDNN 8 用 4.4.0。现象输出明显不相关的话或一直重复同一段俗称幻觉。原因静音段没有真实语音模型在编。解决vad_filterTrue加language参数显式指定语言。现象调用transcribe()后像卡住一直没结果。原因segments是生成器不迭代不执行。解决segments list(segments)强制跑完。典型用途就两类批量视频字幕生成、本地会议录音转文字加上上面的配置就够开工了。想动手的话把仓库 clone 下来跑一遍 tests/ 里的用例最快git clone https://gitcode.com/GitHub_Trending/fa/faster-whisper包名以 PyPI 上的 faster-whisper 为准遇到问题直接提 issue。【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisper创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考