faster-whisper通过CTranslate2 转换的快速whisper推理服务
摘要：
faster-whisper 通过CTranslate2 对于openai/whisper的tranformer 模型进行了转换，可以提示推理速度，同时还可以进行不同精度的配置 官方目前的测试是有4倍左右的提升，同时可以更好的支持使用cpu 进行推理，同时faster-whisper 可以兼容dis 阅读全文
posted @ 2024-08-22 07:47 荣锋亮 阅读(106) 评论(0) 推荐(0) 编辑
