ITJAMESKING - 博客园

2024年7月23日

摘要：简单概念对应情况具体版本支持核心的设计dispatch pytorch Adapter 逻辑架构图阅读全文

posted @ 2024-07-23 17:41 ITJAMESKING 阅读(1) 评论(0) 推荐(0) 编辑

摘要：面向训练场景的有Ascend 910系列和Ascend 310系列 AI CORE是昇腾AI处理器的计算核心，采用华为自研究的达芬奇架构。具有矩阵计算单元，向量计算单元，标量计算单元，累加器 CANN逻辑架构介绍。是华为针对AI推出的异构计算架构。服务层计算编译层阅读全文

posted @ 2024-07-23 17:09 ITJAMESKING 阅读(8) 评论(0) 推荐(0) 编辑

华为ai系统基础概念

摘要：现在大模型训练主要用BF16 构建多卡训练系统主要考虑：算力，网络，存储。阅读全文

posted @ 2024-07-23 16:36 ITJAMESKING 阅读(1) 评论(0) 推荐(0) 编辑

华为大模型的处理方案

摘要： 1.大模型对运维的要求也是相对严格特别是光模块对环境的要求相对严格。 2.大模型训练的影响因素分布式训练切法：Tensor模型并行：pipeline并行，数据并行。和称PTD并行。all to all专家并行（华为优化方案分层分级）补充QKV 以及LayerNorm深入理解NLP中LayerNo 阅读全文

posted @ 2024-07-23 16:28 ITJAMESKING 阅读(5) 评论(0) 推荐(0) 编辑

2024年7月22日

华为昇腾开发学习-入门

摘要：人工智能的发展路径：从感知识别转向内容生成人工智能进入大模型时代，使用门槛降低发展趋势模型，模型参数量增大，数据规模增大。算力和数据成核心。阅读全文

posted @ 2024-07-22 17:31 ITJAMESKING 阅读(6) 评论(0) 推荐(0) 编辑

配置tensorflow2.9经验

摘要：在conda 在虚拟环境中安装好python和tensorflow后，到pycharm中安装其他库不容易出错。在2.x版本以上tensorflow集成了keras不用再引入不然会报错。 ModuleNotFoundError: No module named 'scipy' conda insta 阅读全文

posted @ 2024-07-22 15:31 ITJAMESKING 阅读(1) 评论(0) 推荐(0) 编辑

2024年7月18日

amd配置在Windows中使用的dockers

摘要：在Windows中DOCKER的使用有两种方式，一种是hyper-v一种是wsl，第一个是虚拟机，第二个是Windows中的Linux子系统，第二个相对第一个的运行速度快。为了运行更快选择第二种。第一步首先在打开启用或关闭Windows功能对适用于Linux的windows子系统进行打勾第阅读全文

posted @ 2024-07-18 17:00 ITJAMESKING 阅读(15) 评论(0) 推荐(0) 编辑

2024年7月17日

部署tensorflow2.9.0踩坑总结+总结与明日计划安排

摘要：环境配置：python3.9.19 numpy 2.0.0 pandas 2.2.2 tensorflow 2.9.0问题报错AttributeError: module 'numpy' has no attribute '__version__'numpy与python不兼容pandas 2.2. 阅读全文

posted @ 2024-07-17 20:04 ITJAMESKING 阅读(10) 评论(0) 推荐(0) 编辑

2024年7月10日

实习第一天

摘要： 1.熟悉eis系统的基本使用：首先要接上网线，然后才能打开网址。打开网址选择使用ie浏览器（win10的edg中可以切换为ie的内核）。在ie系统中有一个个人自助，其中的密码与eis系统不同。 2.svn的使用，安装torsvn 然后在本地文件夹中svn检出，填写url然后登入，登入后可以使用sv 阅读全文

posted @ 2024-07-10 23:31 ITJAMESKING 阅读(3) 评论(0) 推荐(0) 编辑

2024年6月28日

加分申请

摘要：参加招聘会+3分 cff软件测试比赛成绩调整申诉后入围国赛计算机省级大赛人工智能挑战赛二等奖计算机设计大赛信息可视化二等奖阅读全文

posted @ 2024-06-28 11:46 ITJAMESKING 阅读(34) 评论(0) 推荐(0) 编辑

guoziheng

公告