自然语言处理NLP
GPT:
生成式预训练模型,根据上文生成下一个字,单词接龙。
训练过程:问答范例。
跟搜索引擎不同,能学习材料中的通用规律,并泛化所学到的规律,面对没有遇到过的情况也能做出回答。ChatGPT3出现了理解力是因为训练的参数和学习材料很大,叫大语言模型,人类技术大更新的导火索。
回答的不对是因为学习到的规律刚好符合他的模型,泛化的结果。
OpenAI | 学习材料 | 参数 |
---|---|---|
GPT-1 | 5GB | 1.17亿 |
GPT-2 | 40GB | 15亿 |
GPT-3 | 45TB | 1750亿 |
ChatGPT本地化:
https://zhuanlan.zhihu.com/p/617208490
在线使用:
应用:
语言模型就像《天龙八部》中的王语嫣,精通武学却不会武功,需要与会武功的人配合才能发挥其才能。
我们随便就能列出很多能跟大语言模型相结合的场景:
-
跟「搜索引擎」结合:帮助用户精准寻找和筛选信息,比如,微软的 new bing。
-
跟「笔记工具」结合,辅助阅读和写作,比如Chat Doc
-
跟「客服系统」结合,7x24小时随便问,没有任何情绪。
-
工具集合(https://ai-toolbox.codefuture.top/)、(https://www.cluebenchmarks.com/clueai.html