怎么评论一段php语言文本单词one-hot编码的健壮性

神经网络是建立在数学的基础上进行计算的,因此对数字更敏感,不管是什么样的特征数据都需要以向量的形式喂入神经网络,无论是图片、文本、音频、视频都是一样。

one-hot编码,也就是独热编码,是一种常用的编码手段。在多分类识别的时候,喂入神经网络的标签就是独热码,比如手写数字识别一共有10个分类,某张图片标签是6,则独热码为:0 0 0 0 0 0 1 0 0 0

 

下面演示将一个单词进行ont-hot编码:

复制代码
#字母表
word_id = {'a': 0, 'b': 1, 'c': 2, 'd': 3, 'e': 4, 'f': 5, 'g': 6, 'h': 7, 'i': 8, 'j': 9,'k': 10, 'l': 11, 'm': 12, 'n': 13, 'o': 14,'p': 15, 'q': 16, 'r': 17, 's': 18, 't': 19,'u': 20, 'v': 21, 'w': 22, 'x': 23, 'y': 24, 'z': 25}

#进行编码的单词
word = 'china'

#ont-hot编码
arr = np.zeros((len(word),len(word_id)))
for k,w in enumerate(word):
    arr[k][word_id[w]] = 1

print(arr)
复制代码

打印结果:

[[0. 0. 1. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0.]
[0. 0. 0. 0. 0. 0. 0. 1. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0.]
[0. 0. 0. 0. 0. 0. 0. 0. 1. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0.]
[0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 1. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0.]
[1. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0.]]

 

文本->单词->向量

文本编码则与单词编码不同,单词编码以26个字母为映射字典,文本编码需要以单词为单位进行字典映射,因为单词是有语义的,在实际场景中往往捕捉的是文本所表达的意思,而不是文本本身的字母组成。

复制代码
#要编码的文本
text = 'I am Chinese, I love China'
total_num = len(text.replace(',',' ').split())

#映射字典
word_id = {}
sentences = text.split(',')
for line in sentences:
    for word in line.split():
        if word not in word_id:
            word_id[word] = len(word_id)

print(word_id)

#ont-hot编码
arr = np.zeros((len(sentences),total_num,len(word_id)))
for k,v in enumerate(sentences):
    for kk,vv in enumerate(v.split()):
        arr[k][kk][word_id[vv]] = 1

print(arr)
复制代码

打印结果:

{'I': 0, 'am': 1, 'Chinese': 2, 'love': 3, 'China': 4}
[[[1. 0. 0. 0. 0.]
[0. 1. 0. 0. 0.]
[0. 0. 1. 0. 0.]
[0. 0. 0. 0. 0.]
[0. 0. 0. 0. 0.]
[0. 0. 0. 0. 0.]]

[[1. 0. 0. 0. 0.]
[0. 0. 0. 1. 0.]
[0. 0. 0. 0. 1.]
[0. 0. 0. 0. 0.]
[0. 0. 0. 0. 0.]
[0. 0. 0. 0. 0.]]]

 

2. 模块

  • 系统内部所有需要等待的异步响应都要有超时处理。

  • 关联组件的行为不一致要做异常处理:比如:APP模块认为通信已经断开,故不会再次请求通信MID模块去执行通信,而通信MID模块等待APP模块来触发下一次通信。

  • 模块内部暂态都要设置最长停留时间,以及超过这个时间后做什么样的处理。

  • 模块的错误处理至少要考虑以下几种类型错误:

    1. 输入了范围外的值

    2. 在规定时间内,处理没有结束或者没有应答

    3. 与期待的时序不一致

    4. 期待的数据不完整:

  • 由错误转化为异常的判定标准:

    • 不以单次Error做判定,而是执行一定次数(3次)的Retry处理。

    • 测试时间以大于一定时间为目标 。

  • 通信关联的功能模块在设计时需要考虑:

    • 用户异常切断时怎么处理

    • 通信正常切断时怎么处理

    • 通信正常终了时怎么处理

    • 设备异常切断时怎么处理"

  • 做状态迁移表的设计时,如果状态迁移表的事件有外部设备异常切断的通知。要明确各状态下收到该通知时处理的妥当性,并且明确这些设计。

  • 需要考虑起动处理时各模块消息的同步问题。例如,优先级高的A模块启动后,发送消息给后B模块,考虑如果此时B模块未启动的处理情况。

  • 对于Backup的数据,需要考虑Backup各种状态下启动之后处理:

    1 没有读取到Backup数据
    2 Backup数据为初始值
    3 Backup数据达到最大边界值
    4 Backup数据超过最大边界值或者异常。
  • 备份的数据要有默认值。

  • 备份的数据要进行完整性校验。

  • 设计模块时,尽量保证此模块可以有机制来恢复。

  • 模块出现异常时,有一套机制可以检测出来。

3. 函数

  • 输入范围之外的值需要做处理。

  • 函数设计时需要明确设计目标函数所调用函数的所有返回值。对正常值以外的返回值进行分析,分析不同的返回值是否需要做不同的异常处理。并且明确这些异常设计。

  • Loop循环,一定要设定跳出循环的条件或者是范围的判定。

  • 进行数据的格式转换的处理,需要明确:1 数据转换前后的格式2 转换规则3 是否有数据在转换时需要特殊处理,比如边界值。

2. 实现

  • 不允许使用C语言中非安全的经典函数,如下:

    • strcpy/wcscpy/stpcpy/ wcpcpy

    • scanf/ sscanf /vscanf /fwscanf /swscanf/ wscanf

    • gets/ puts

    • strcat /wcscat

    • wcrtomb /wctob

    • sprintf/ vsprintf /vfprintf

    • asprintf/ vasprintf

    • strncpy /wcsncpy

    • strtok/ wcstok

  • 代码满足静态检查规范(cert C,misra C)。

  • 函数的入参要进行范围判断。

  • 不允许使用函数的递归。

  • 优先使用RAII技术来管理资源(使用C++语言),比如锁,文件句柄等。

  • 优先使用引用来代替裸指针(使用C++语言)。

  • 优先使用智能指针代替裸指针(使用C++语言)。

  • 尽量避免强制类型转换。

3.测试

1. 测试用例

测试用例至少覆盖以下几种情况:

  • 基本功能:典型时序(所有的错误;异步超时需要重点关注)。

  • 性能:性能相关时序。

  • 边界值:外部输入所有的边界值。

  • 异常值:接口中数据范围异常;时序重复混乱;备份数据损坏;服务器来的数据破坏;总线上数据异常等 。

  • 恶意操作:ACC ON,OFF频繁操作;外部线恶意插拔;外部没有得到结果就再次请求;外部连续两个相反的请求;外部连续两个不同的请求等。

  • 内部状态:内存使用量大时;CPU占有率大时;各种电源状态下 。

  • 外部状态:总线负载大时;Linux下2038问题;MQTT/HTTP同时进行;正常功能和debug功能同时进行。OTA/diag/factory reset处于执行中时。

2. 测试工具

  • 测试用例要能支持回归测试。

  • 搭建自动化测试环境。

posted @ 2021-01-04 14:42  沉闷的小周周  阅读(89)  评论(0编辑  收藏  举报