刷新
本地部署DeepSeek

博主头像 没想到新年最热闹的地方之一会是互联网,刷爆朋友圈的除了新年祝福还有DeepSeek。揣着一颗好奇心试了试,竟有一种发现新大路的感觉。估计是围观的人太多,在线的版本有时候会出现连不上的情况,好奇心驱使之下想尝试本地部署。 方案 本地化方案非常简单:Ollama + DeepSeek-R1 + Ench ...

自定义Ollama安装路径

本地电脑部署DeepSeek教程:https://www.cnblogs.com/LaiYun/p/18695293 由于Ollama的exe安装软件双击安装的时候默认是在C盘,以及后续的模型数据下载也在C盘,导致会占用C盘空间,所以这里单独写了一个自定义安装Ollama安装目录的教程。 Ollam ...

记录在本地电脑部署自己的DeepSeek 大模型AI

大家新年好呀,年初二给各位拜年啦,祝各位新年身体健康,工作顺利,万事如意,开心快乐每一天! 前言: 这几天看到很多DeepSeek的热点新闻(火的不行呀),去了解下这个AI,然后自己试了下本地部署,发现挺简单的,所以记录一下,这里示例的是最简单的方式,没有使用到Docker容器,也不需要魔法上网,计 ...

DeepSeek简介

博主头像 一、DeepSeek是什么? DeepSeek是由中国顶尖AI团队深度求索(DeepSeek Inc.)自主研发的通用大语言模型体系,其研发始于2023年,致力于突破认知智能的边界。作为国内首个全面对标GPT-4技术架构的AI大模型,DeepSeek系列涵盖从7B到超千亿参数的完整模型矩阵,在数学推 ...

Cursor使用谷歌Gemini API

博主头像 Cursor本身是收费产品,在Cursor试用期过后,调用Cursor模型速率会下降,需要排队等待,现在谷歌Gemini API是暂时不收费的,上下文也足够长,本文配置Cursor使用Gemini API并进行编程体验。 配置使用Gemini API 在Cursor的设置,模型,找到Google A ...

性能飞跃!TensorRT-YOLO 6.0 全面升级解析与实战指南

博主头像 立即体验:GitHub仓库 | 使用示例 | 快速开始 一、核心升级亮点速览 多Context共享引擎:高效推理,最大化硬件资源利用率 TensorRT-YOLO 6.0 引入了创新的多Context共享引擎机制,允许多个线程共享同一个Engine进行推理,最大化硬件资源利用率,同时显著降低内 ...

2024年度Graph+AI开源探索思考

博主头像 2024年蚂蚁图计算团队在「Graph+AI」开源技术方向的实践过程和思考,和大家聊一聊这个技术方向带给了我们什么,面向2025年还有哪些有意思的事情可以继续探索。 ...

什么是Conda和Anaconda?

博主头像 什么是Conda? conda可以理解为一个工具,也是一个可执行命令,其核心功能是包管理与环境管理。包管理与pip的使用类似,环境管理则允许用户方便地安装不同版本的python并可以快速切换。 什么是Anaconda? Anaconda Anaconda是conda的一个发行版,里面预装好了cond ...

新春“码”启 | 0 基础开发微信小游戏,Cocos 游戏引擎 + AI 辅助编程(第2天)

博主头像 本文是“新春“码”启 | 从零开始开发微信小游戏”第2天的学习历程,包括如何设计一个适合小朋友玩的游戏创意和使用Cocos Creator进行初步开发的过程。虽然在游戏创意上遇到了一些挑战,但通过不断尝试和学习Cocos的基础操作,逐渐找到了方向。同时,我们还探讨了TypeScript的基础知识,为... ...

某教育网站疑似删库。。。没备份。。。数据全没了。。。Sealos 带你一分钟满血复活

博主头像 2025 年 1 月 15 日,微信群里有人爆料,某教育网站疑似删库,导致网站无法访问。具体的问题是数据库被格式化了,而且也没有备份,连数据库表结构都没有,不仅业务瘫痪,也无法拉起新的应用,实在是有点尴尬 不禁让人怀疑这个世界到底是不是个草台班子,怎么什么事情都能发生。 目前访问该网站,会看到 ...

混元API的加密机制与原生集成实战

博主头像 今天,我们将重点讨论在对接混元大模型时需要特别关注的几个要点。首先,最为关键的一点是,混元大模型的加密方式相比于其他大模型更为复杂和严密。在对接过程中,我们通常避免使用混元官方提供的SDK进行集成,主要是因为官方SDK的应用场景存在一定的限制。若能实现原生对接,将能够提供更加灵活和高效的接入方式,同 ...

感谢有你,共赴未来:2024年微信公众号创作总结 · 老牛同学

博主头像 在春节来临之际,微信公众号给我推送了年度总结,实在是有心了。 2024年5月我开始学习大模型,同时开通了“老牛同学”微信公众号,想不到短短的几个月,竟然积累了这么多的收获! 就像总结里面提到的:‘创作是孤独的坚持’。是你们的支持给予了我无尽的动力。每一次阅读、每一个点赞、每一条评论,都让我感受到背后 ...

如何构建大模型代理 LLM Agent?

博主头像 什么是LLM Agent 大模型代理? LLM Agent是一个程序,其执行逻辑由底层模型控制。与少样本提示(few-shot prompting)或固定工作流等方法相比,LLM Agent的特别之处在于它能够定义并适应执行用户查询所需的步骤。借助一组工具(如代码执行或网络搜索)的支持,代理可以决定 ...

从数据到模型,足球预测方法解析

博主头像 在足球赛事范畴内,比赛结局始终蕴含着诸多不确定性,而这恰恰构成了足球独特的魅力要素。对于广大球迷而言,尝试预测足球比赛的最终结果,向来是一项极具吸引力与挑战性的活动。 近年来,伴随数据科学以及机器学习技术的迅猛发展,足球预测领域发生了深刻变革。这些先进技术为深入探究比赛背后潜在规律提供了契机。 本文 ...

深入解析 Spring AI 系列:分析 Spring AI 可观测性

博主头像 今天我们将讨论之前略过的可观测性部分的代码。在这里,我想简单说明一下,当时这部分代码属于必须编写的固定模板,因此在最初的讨论中我们直接跳过了它。虽然这部分代码乍看之下可能显得比较复杂,但实际上它的核心功能只是链路追踪的实现而已。既然如此,接下来我们就不再赘述,直接来看一下这部分关键代码,如图所示: ...

深入解析 Spring AI 系列:解析函数调用

博主头像 我们之前讨论并实践过通过常规的函数调用来实现 AI Agent 的设计和实现。但是,有一个关键点我之前并没有详细讲解。今天我们就来讨论一下,如何让大模型只决定是否调用某个函数,但是Spring AI 不会在内部处理函数调用,而是将其代理到客户端。然后,客户端负责处理函数调用,将其分派到相应的函数并返 ...

<123···42>