2024年6月29日
python BGE 模型转换为onnx给java调用
摘要： 最近在做RAG，因为涉及embedding计算，用到了BAAI BGE小模型，但是模型是给python调用的，需要转换为onnx格式给java使用。所以有了下面的探索： python代码： import torch from transformers import AutoTokenizer, Au 阅读全文
posted @ 2024-06-29 11:39 bonelee 阅读(413) 评论(1) 推荐(0) 编辑