大模型评测方法
大模型通用化能力评测
- 公开评测集
- 个性化测试集
基于业务
- 指定任务
- 分类,计算准确率、精确率(被预测为正确的中有多少实际是正确的,场景:避免误报,比如医生诊疗)、召回率(应该是正确中有多少被召回了,场景:避免漏报,比如信用卡欺诈)、F1。
- 文本翻译或总结使用常见指标,BLEU、ROUGE。
- 大模型自己评估
- 标准:回答是否偏题、内容丰富度是否够丰富、逻辑是否正确、语意是否通顺、如果是书信问题格式是否正确、表达是否有冗余或者重复、是否遵循多轮的逻辑、回答的知识点是否有遗漏等等。
给模型打分
- 标准:回答是否偏题、内容丰富度是否够丰富、逻辑是否正确、语意是否通顺、如果是书信问题格式是否正确、表达是否有冗余或者重复、是否遵循多轮的逻辑、回答的知识点是否有遗漏等等。
- 用户反馈
- 专家评估
广告文案
- 一致性(品牌调性、幻觉):GSB(good same bad)。
- 社区风格
- 多样性:BLEU越低越好。
https://developer.baidu.com/article/details/3321542
https://help.aliyun.com/zh/pai/use-cases/best-practices-for-llm-evaluation
https://developer.baidu.com/article/details/3321542
https://www.woshipm.com/share/6077830.html
https://www.53ai.com/news/zhinengyingxiao/2024090207186.html
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 如何使用 Uni-app 实现视频聊天(源码,支持安卓、iOS)
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
2020-10-18 JVM总结