第一届生物神经智能—神经网络与图神经网络研讨会(1)

神经符号系统-基本原理与案例分析

一、神经符号系统概述

符号主义和连接主义的基本维度:

注:分布表示即embedding



神经符号系统的研究现状:

研究路线图:

典型问题:

二、神经符号系统的新框架

一种新的神经符号系统框架(SRL-NS)

  1. 正则化方法:



    核心问题:如何量化模型预测对知识的拟合程度?
  2. 关系模型:一阶逻辑语言(FOL)
  3. 统计关系模型:一阶逻辑+图模型

三、神经符号系统的案例分析

案例分析:

案例1:视觉关系推理


问题定义:

模型定义(符号推理模块):



模型定义(BPGR):


神经变分优化:

推理解释:

案例2:电信网络智能运维

知识表示:

模型定义:

应用效果:

案例3:复杂系统智能建模
动力学模型的自适应学习:

基于神经符号系统的方程学习

ood问题:
genelization
adaption

面向大图学习的高效神经网络模型

一、研究背景:



二、相关解决方法:


1.基于采样的:




2.基于解耦的:



论文:


论文:

三、难点与挑战:


四、提出的解决方法:

整体框架:

论文



参考论文:





五、总结与展望:

时间序列数据的预测及应用

一、时间序列预测概述

时序预测:

一般情形:

应用场景:

主要挑战:

模型分类:



经典ARIMA模型:

模型分类整理:
RNN:

CNN:

MLP:

混合:

评价指标:

uploading-image-593014.png

二、时序预测前沿技术

近年来的时间序列预测相关技术
uploading-image-693778.png

RNN:

seq2seq:

RNN+时序预测:


Attention+时序预测:

GeoMAN模型:

Transformer模型:

Adversarial Sparse Transformer模型:

Transformer+时序预测:

Informer模型:长序列时间预测

扩张卷积神经网络(Dilated CNN)

时序卷积神经网络(Temporal Convoluticnal Network,TCN)

N-BEATS: FC Is All You Need

图神经网络(Graph Neural Network, GNN)


Transformer & Graph Neural Networks:

Boosting-- DSANet模型

BHT-ARIMA模型:短小时序预测


强化学习+时序预测

时间序列数据增强方法

数据库领域的时序预测

广告推荐领域的时序预测

交通出行领域的时序预测

气象领域的时序预测

电网的短期负荷预测

面向经济金融的时序预测


三、研究团队相关工作

DASFAA2016/CSoNet2018/TKDE2021

DEXA2018/TKDE2022

CIKM2017

CIKM2018

NeurlPS2019

ICSOC2016/TKDD2021

ICDM2017/TKDE2020

ICDM2018

KDD2019

ICDM2019/TKDE2021

ICWS2020

计算机学报2021

TKDD2019

ICSOC2020

ICSOC2021

DASFAA2022

SIGIR2022


总结:

基于图深度学习的行为数据分析

一、行为表示学习及其应用





数据特点:






实验设置:

深度画像(可解释性)
动态





二、群组行为发现及其应用


但监管场景下检测所有群组不必要

有线索的群组发现

基于结构定义的群组发现
半监督群组发现




群组行为发现应用:
市场操纵行为

新金融模式下的欺诈团伙发现


总结:

参考资料:
CAAI2022 | 5月14-15日天津大学第一届生物神经智能—神经网络与图神经网络研讨会

posted @ 2022-05-14 09:40  YTT77  阅读(148)  评论(0编辑  收藏  举报