第一届生物神经智能—神经网络与图神经网络研讨会(1)
神经符号系统-基本原理与案例分析
一、神经符号系统概述
符号主义和连接主义的基本维度:
注:分布表示即embedding
神经符号系统的研究现状:
研究路线图:
典型问题:
二、神经符号系统的新框架
一种新的神经符号系统框架(SRL-NS)
- 正则化方法:
核心问题:如何量化模型预测对知识的拟合程度? - 关系模型:一阶逻辑语言(FOL)
- 统计关系模型:一阶逻辑+图模型
三、神经符号系统的案例分析
案例分析:
案例1:视觉关系推理
问题定义:
模型定义(符号推理模块):
模型定义(BPGR):
神经变分优化:
推理解释:
案例2:电信网络智能运维
知识表示:
模型定义:
应用效果:
案例3:复杂系统智能建模
动力学模型的自适应学习:
基于神经符号系统的方程学习
ood问题:
genelization
adaption
面向大图学习的高效神经网络模型
一、研究背景:
二、相关解决方法:
1.基于采样的:
2.基于解耦的:
论文:
论文:
三、难点与挑战:
四、提出的解决方法:
整体框架:
论文
参考论文:
五、总结与展望:
时间序列数据的预测及应用
一、时间序列预测概述
时序预测:
一般情形:
应用场景:
主要挑战:
模型分类:
经典ARIMA模型:
模型分类整理:
RNN:
CNN:
MLP:
混合:
评价指标:
uploading-image-593014.png
二、时序预测前沿技术
近年来的时间序列预测相关技术
uploading-image-693778.png
RNN:
seq2seq:
RNN+时序预测:
Attention+时序预测:
GeoMAN模型:
Transformer模型:
Adversarial Sparse Transformer模型:
Transformer+时序预测:
Informer模型:长序列时间预测
扩张卷积神经网络(Dilated CNN)
时序卷积神经网络(Temporal Convoluticnal Network,TCN)
N-BEATS: FC Is All You Need
图神经网络(Graph Neural Network, GNN)
Transformer & Graph Neural Networks:
Boosting-- DSANet模型
BHT-ARIMA模型:短小时序预测
强化学习+时序预测
时间序列数据增强方法
数据库领域的时序预测
广告推荐领域的时序预测
交通出行领域的时序预测
气象领域的时序预测
电网的短期负荷预测
面向经济金融的时序预测
三、研究团队相关工作
DASFAA2016/CSoNet2018/TKDE2021
DEXA2018/TKDE2022
CIKM2017
CIKM2018
NeurlPS2019
ICSOC2016/TKDD2021
ICDM2017/TKDE2020
ICDM2018
KDD2019
ICDM2019/TKDE2021
ICWS2020
计算机学报2021
TKDD2019
ICSOC2020
ICSOC2021
DASFAA2022
SIGIR2022
总结:
基于图深度学习的行为数据分析
一、行为表示学习及其应用
数据特点:
实验设置:
深度画像(可解释性)
动态
二、群组行为发现及其应用
但监管场景下检测所有群组不必要
有线索的群组发现
基于结构定义的群组发现
半监督群组发现
群组行为发现应用:
市场操纵行为
新金融模式下的欺诈团伙发现
总结: