存在的问题、建议及其他需要说明的情况
发布时间:2021-02-09   浏览次数:747

在科研攻关上,还有许多非常有意义也有挑战的问题需要进一步研究,包括下面的几点:

1)关于基于动态知识理解的事件发现,我们将知识信息建模成一个固定的邻接矩阵,这个矩阵在模型训练过程中是保持不变的。实际上,如果能考虑不同类型的知识关系(反映在节点与节点之间连接的边上)和关系权重的自适应更新,模型将具有更强的泛化性能。在未来,我们将引入自适应图神经网络,并利用注意力机制动态地、自适应地更新图结构中的邻接矩阵,以期获得更好的效果。

2)联合采样与回归的目标跟踪方法虽然具有良好的实验效果,本方法尚存在一些值得继续探索的方向。在特征表示方面,由于不同卷积层的特征可以建模目标不同层级的信息,因此我们可以引入层级化的卷积特征来捕捉目标物体的语义和空间精细化信息。另外,为了进一步提高本算法的跟踪速度,可以引入神经网络量化及压缩的技巧,减少网络参数量和计算复杂度。

3)无监督域适应的对抗图卷积网络虽然具有良好的实验效果,本方法尚存在一些问题有待解决。在样本实例图的构建方面,由于批次训练本身的限制,使得样本实例图的构建规模受限,结构信息不能够同时对所有样本的特征进行更新。因此,我们可以引入基于记忆单元的技术,来保留不同批次训练的结构信息,使得不同样本的特征更鲁棒。此外,三种对齐机制的是独立设计并实现不同的功能,但在特征学习方面存在耦合作用,可以设计更加简单的结构方式来融合三种对齐机制的思想。

4)基于多模态对抗网络的信息融合方法的设计可以一定程度上解决多模态域适应问题,当仍存在一些问题亟待解决。在多模态语义特征的表示学习方面,可以引入最新的多模态匹配的注意力机制,学习更鲁棒的特征表示。对于减少域差异方面,可以增加伪标签训练的方式,进一步减少源域和目标域特征分布的差异。

5)知识驱动的多模态第一视角行为识别虽然具有良好的实验效果,本方法尚存在一些值得继续探索的方向。我们当前利用的外部知识包括实体的语义知识和实体间的关系知识,在未来,我们将对用户行为动态演化的信息进行挖掘,通过学习一个通用的行为动态演化关系图来建模用户不同时刻的行为变化特征。另外,为了进一步提高本算法的识别速度,可以引入神经网络量化及压缩的技巧,减少网络参数量和计算复杂度。

6)部分数据比较敏感,难以直接共享用来训练机器学习模型,课题组拟引入联邦学习技术并和数据提供方签署数据安全使用协议,为跨域数据的联合训练提供数据支撑。

7)在经费执行方面,因付款流程未走完、劳务费次月发放及疫情原因致原计划会议未能召开等原因,导致项目预算执行率较低,具体说明详见决算说明书。