摘要:
第一部分介绍了GPT模型的基本结构,下面对于GPT的基本工作流程进行介绍: 基本机制 GPT-2 可以处理最长 1024 个单词的序列。每个单词都会和它的前续路径一起经过所有的解码器模块。 运行一个训练好的 GPT-2 模型,最简单的方法就是让它自己随机工作(生成无条件样本)。我们也可以给它一些限制 阅读全文
摘要:
最近在做深度学习时,一边用cmd跑模型训练一边做别的事情,有的时候切到cmd发现程序突然停住了,随便按一个按键程序又会继续运行,在查了一些资料后找到了原因。 因为cmd默认开启了“快速编辑模式”。当“快速编辑模式”开启时,当你的鼠标不小心在界面上点击,就会自动进入编辑模式(可以看到界面上会出现一个表 阅读全文
摘要:
近期GPT-3的热度在NLP领域很高,因此对于这个模型有了尝试的想法,目前GPT-3的模型和资源还不太多,因此先用GPT-2尝试一下训练模型和文本生成。 在实践之前,对于GPT模型的基本原理做了一定的了解,下面进行一些简单的介绍。 GPT模型是OPEN-AI构建的自然语言处理模型,其在文本生成上往往 阅读全文
摘要:
近期在研究GPT-2模型时遇到一个问题,在github上下载了一个GPT-2的中文模型,在尝试时发现缺少torch库,于是回头去下载该库,结果出现以下错误 本来以为是缺少tools库导致的问题,因此去重新下载了tools库,发现问题没有解决,后来到pytorch官网上去找对应版本直接下载,问题得到解 阅读全文
摘要:
继续整理完操作符内容 关键词 Verilog语言事先定义的一些确认符,都是小写字母定义,在使用关键词时要注意,另外注意定义变量时不要与关键词重复。 常见的关键词有:initial always begin end..... 赋值语句 verilog中的常见赋值方式有2种分别是非阻塞赋值和阻塞赋值。 阅读全文
摘要:
变量和操作符是操作语句的重要组成。 网络数据类型wire ,tri 两者语法功能相同 Wire用于单个门驱动或连续赋值语句驱动 Tri多驱动器驱动 当没有定义逻辑强度,多驱动源会出现冲突,输出为X 寄存器类型reg Reg的初始值为x,表示定义的信号将被用在always内 在作为操作数时reg被认为 阅读全文
摘要:
前面的学习笔记是在看程序时遇到什么问题就记下来然后去查资料整理的,后续的学习笔记会更加系统的整理verilog相关的内容。 Verilog作为硬件电路语言,将电路抽象为程序,用代码去控制电路的运行。我们可以使用verilog语言去实现各种各样的功能。当需要去完成一个复杂的工程时,我们需要将工程分解为 阅读全文
摘要:
modelsim作为轻量级fpga仿真软件,可以让开发者在不需要连接硬件的情况下进行仿真,非常方便。下面是我在学习使用modelsim的一些记录。 在安装好modelsim之后,首先进入主界面。 在开始写程序之前,我们首先要建立一个自己的库,在file菜单栏找到new这里将库命名为work1。 在建 阅读全文
摘要:
因为参与的新项目需要用fpga,所以自己学了一下verilog语言。整理一些比较基础的内容。 verilog程序最重要的结构就是模块module,它在形式上与c语言的函数很像,但是由于verilog是面向硬件的语言,因此在设计思想上与c语言是有一定的差别的。 一个verilog模块通常必须有的变量: 阅读全文
摘要:
QT是目前非常常用的GUI设计工具,其面向对象的编程属性使得对于界面的调节和控件的响应事件编辑非常方便。 pyqt5是基于python环境的一套函数库,可以将QT的ui文件转换成py文件,方便与python语言的算法统一管理 下面是生成py格式的ui文件的简单流程 首先利用QTDesigner生成一 阅读全文