12 2024 档案

摘要:​引子 在多模态人工智能领域,边缘计算解决方案正变得越来越重要。之前关注这一块的内容比较少,感觉大模型这一块,最终还是要和之前AI模型一样的,云端+边端,两条腿走路,OK,那就让我们开始吧。 一、模型介绍 这一领域最新的突破之一是OmniVision-968M,这是一个紧凑且高效的视觉-语言模型,有 阅读全文
posted @ 2024-12-30 09:36 要养家的程序猿 阅读(58) 评论(0) 推荐(0) 编辑
摘要:引子 对于大模型中脚手架式的工具,之前博客一直没有涉及。最近翻了一翻相关内容,找到了Dify这个工具。OK,那就让我们开始吧。 一、框架介绍 Dify 是一个用于构建 AI 应用程序的开源平台。Dify融合了后端即服务(Backend as Service)和LLMOps理念。它支持多种大型语言模型 阅读全文
posted @ 2024-12-23 09:23 要养家的程序猿 阅读(361) 评论(0) 推荐(0) 编辑
摘要:引子 写了很多篇开源大模型的环境部署与推理搭建,截止到目前,开源大模型已经发展较为完善。个人觉得,产品和项目维度来看更多的是如果去落地实现,也就是大模型的最后一公里的应用开发。最近看到Xinference一个开源很火的推理框架。OK,那就让我们开始吧。 一、框架介绍 Xinference:一款性能强 阅读全文
posted @ 2024-12-16 10:55 要养家的程序猿 阅读(140) 评论(0) 推荐(0) 编辑
摘要:​引子 因为工作需要,大数据应用中的Clickhouse数据库在执行效率上很棒,OK,让我们开始吧。 一、ClickHouse介绍 ClickHouse是俄罗斯的Yandex于2016年开源的列式存储数据库(DBMS),使用C++语言编写,主要用于在线分析处理查询(OLAP),能够使用SQL查询实时 阅读全文
posted @ 2024-12-09 10:54 要养家的程序猿 阅读(81) 评论(0) 推荐(0) 编辑
摘要:引子 因为工作需要,接触下大数据,那么接下来一些学习笔记会陆续记录着,OK,让我们开始吧。 一、Hadoop介绍 Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布 阅读全文
posted @ 2024-12-02 10:50 要养家的程序猿 阅读(17) 评论(0) 推荐(0) 编辑