2024年4月25日
使用Groq的API实现可以持续会话。.md
摘要： 使用Groq的API实现可以持续会话。文章先说结论： AI没有我之前想的那么聪明。 再说结果： 好处：可以实现比较完美的上下文持续会话。 坏处：吃tokens.仍然需要联网和科学。 后面准备部署到本地的模型，70B的模型才20-40g左右。两张P40或者M40就搞定了。 在准备买板子，争取可以六张卡 阅读全文
posted @ 2024-04-25 14:50 天空-青岛 阅读(207) 评论(0) 推荐(0) 编辑