1、GPT-SoVITS:
压缩包解压至理想位置,打开“0一键启动脚本”文件夹依次启动0、1、3、4 bat文件,即可测试;
更改服务启动IP:在“Inference\src”内打开“tts_backend.py”文件174行 app.run( host='192.168.1.100', port=tts_port)更改host值,本机电脑使用填写127.0.0.1
2、FunASR:
2.1下载Docker
打开网址:https://docs.docker.com/desktop/install/windows-install
点击Docker Desktop for Windows,下载完成后安装一路默认即可
2.2打开cmd拉取项目:docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.9
2.3创建模型文件夹:mkdir -p .\funasr-runtime-resources\models
2.4运行容器:docker run -p 10096:10095 -it --privileged=true -v %cd%/funasr-runtime-resources/models:/workspace/models registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.9
2.5容器运行后可在DockerDesktop内操作,点击容器名称进入操作界面,点击Exec进入命令行界面;
2.6启动websocket服务:
进入虚拟目录:cd FunASR/runtime
启动:bash run_server_2pass.sh
//修改文件内容 vi 文件名+后缀,输入i可以进行更改,按一下esc 退出修改,输入q 退出,输入:wq 保存退出,输入:wq! 保存修改强制退出
服务启动时会自动绑定局域网IP及127.0.0.1本机IP;
2.8测试:打开index.html文件,在asr服务器地址栏内填写”ws://127.0.0.1:10096”点击连接,连接成功即可开始测试;
3、NLP,拷贝压缩包解压至D盘根目录,点击一键启动.bat即可启动;
更改服务IP:打开configs文件夹内的sercer_config.py文件,在第12行“DEFAULT_BIND_HOST = "0.0.0.0" if sys.platform != "win32" else "192.168.1.100"”,else后边填写127.0.0.1或局域网IP;
更改模型:在models文件夹下分别有LLM、Embedding、Reranker文件夹,在文件夹内分别放入对应类型模型后在configs/model_config.py内更改相关配置即可;主要位置:10行,EMBEDDING_MODEL = "m3e-base" 16行,RERANKER_MODEL = "bce-reranker-base_v1" 30行,LLM_MODELS = ["Qwen1.5-0.5B"]
139行,MODEL_PATH = 内部配置相关模型名称及路径,注意不要重复;

 

posted on 2024-04-07 15:51  陌洛  阅读(135)  评论(0编辑  收藏  举报