合集-开源项目

摘要:现在,国内外几乎每个SaaS服务商都找到办法把大型语言模型(LLM)集成到自己的产品里。印证了那句话“每款SaaS都值得用AI重做一遍”我们暂且不讨论是否值得用AI重做,但是增加AI的功能,确实能让产品有更多的卖点。 通过整合各个软件应用中的数据和工作流程,组织能够实现应用集成,从而给基础设施的产品 阅读全文
posted @ 2024-10-15 18:00 骑鱼猫 阅读(49) 评论(0) 推荐(0) 编辑
摘要:API门户:API经济持续发展的增长引擎在如今这个数字化迅速发展的时代,API门户正扮演着不可或缺的角色,成为推动API经济持续增长的重要引擎。随着API数量的急剧增加,企业能够更加方便地实现内部和外部系统之间的调用。以往企业需要从零开始开发每一个API,现在,API 门户为企业提供了一个集中化开放共享平台,企业组织或者个人开发者可以在这 阅读全文
posted @ 2024-10-23 17:44 骑鱼猫 阅读(37) 评论(0) 推荐(0) 编辑
摘要:AI网关对企业的意义及如何构建 AI 网关随着大模型的发展,越来越多企业将生成性AI应用投入生产和业务当中,因而企业组织的系统应用也将面临前所未有的多重挑战,包括:如何遵循AI安全政策、如何理解用户行为,以及确保应用的可靠性和性能。AI网关旨在帮助企业应对AI调用的挑战及更多问题。AI网关充当组织内AI的中心访问点,通过单一接口无缝集成多个 阅读全文
posted @ 2024-10-23 17:48 骑鱼猫 阅读(41) 评论(0) 推荐(0) 编辑
摘要:7种大模型风险及API 管理应对策略概况:大模型(LLM)的发展带来的技术红利,以及企业业务逐渐向AI转型,LLM 常见的安全漏洞、网络攻击手段变化已经成为企业要迫切关注的问题,本文来探讨一下,如何通过 API 管理策略有效防范LLM的风险。 近年来,随着大型语言模型技术的迅猛发展,各行各业对AI 应用或者业务与AI的结合的热情不断高 阅读全文
posted @ 2024-10-25 16:22 骑鱼猫 阅读(228) 评论(0) 推荐(0) 编辑
摘要:生产环境中AI调用的优化:AI网关高价值应用实践随着越来越多的组织将生成式AI引入生产环境,他们面临的挑战已经超出了初步实施的范畴。如果管理不当,扩展性限制、安全漏洞和性能瓶颈可能会阻碍AI应用的推广。实际问题如用户数据的安全性、固定容量限制、成本管理和延迟优化等,需要创新的解决方案。 本文我们深入探讨了一些独特的应用场景和策略,如:语义缓存、提 阅读全文
posted @ 2024-11-15 19:36 骑鱼猫 阅读(72) 评论(0) 推荐(0) 编辑
摘要:北京时间12月12日上午,OpenAI证实其聊天机器人ChatGPT正经历全球范围的宕机,ChatGPT、Sora及API受到影响。OpenAI 更新事故报告称,已查明宕机原因,正努力以最快速度恢复正常服务,并对宕机表示歉意。 此次 OpenAI 故障持续了 4小时10分钟,毕竟 ChatGPT 每 阅读全文
posted @ 2024-12-13 10:38 骑鱼猫 阅读(41) 评论(0) 推荐(0) 编辑
摘要:随着多种商业、开源的 LLM(大型语言模型)流行,越来越多的企业将人工智能整合到工作流中去,而这也对大模型的调用提出了新的要求。无论是在产品设计、后端开发还是数据分析方面的需求,LLM 和 GenAI (生成式人工智能)的应用都已成为企业保持竞争力的关键。 AI 技术的快速发展也带来了在同一项目中使 阅读全文
posted @ 2024-12-18 13:59 骑鱼猫 阅读(89) 评论(0) 推荐(0) 编辑
摘要:APIPark 新增 AI 大模型负载均衡,APIKey 资源池以及 AI Token 消耗统计等重磅功能!开发者们好!APIPark V1.4 功能更新给大家带来「负载均衡」、「APIKey 资源池」以及「Token 消耗统计」等重要功能,看看是否能帮助到大家更好地使用 AI 大模型~ V1.4 版本说明新功能 [❤️新增] 新增支持 AI 模型负载均衡:同时接入多款大模型,当原定的 AI 服务商无法访 阅读全文
posted @ 2025-02-12 15:52 骑鱼猫 阅读(9) 评论(0) 推荐(0) 编辑
摘要:一键部署DeepSeek到本地/云端,就是那么简单!今天依旧是 Deepseek 火爆的一天。Deepseek 的热度持续不减,全球人民都关注使用,连我朋友他那快70岁的老母亲也让他帮忙注册下载来学煲汤,甚是夸张....然而,每次问多一个问题后,就会出现“服务器繁忙,请稍后再试”的提示,真是感到很无奈。 毕竟,Deepseek 面对全球海量用户的涌入 阅读全文
posted @ 2025-02-21 15:56 骑鱼猫 阅读(7) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示