新算法实现人工智能多模态信息“去伪存真”
记者5月18日从西安电子科技大学获悉，由该校计算机科学与技术学院教授赵伟领衔的智能媒体计算机团队，通过数据可信重建以及弱监督深度学习框架，破解了数据质量低及标注数据稀缺难题，进一步揭示了神经网络的决策机制，有效提升了现有可信人工智能方法的鲁棒性、可解释性和安全性。相关论文《可信冲突多模态学习算法》日前获国际人工智能领域顶级学术会议AAAI 2024杰出论文奖。
人工智能已经日益深入人们生活。在医疗、自动驾驶等复杂场景中，人工智能对决策任务的误判可能造成重大损失。传统可信人工智能多关注单模态数据，无法满足实际场景中多模态数据分析决策需求，单模态数据有限的信息量导致单模态智能可信度存在瓶颈。
为此，团队打破单模态数据思路，提出冲突多模态学习算法，并通过数据可信重建以及弱监督深度学习框架算法，实现了证据层面的冲突多模态数据可信融合。这能在提升人工智能决策性能的同时，可靠地度量决策置信度。此外，团队从理论上证明，该方法能够量化冲突模态带来的负面影响。这有利于解决当前研究面临的数据质量低、决策不可信等难题，为后续研究提供了重要的理论基础和技术支撑。
团队成员徐偲副教授解释，这种算法在给出置信度的同时，还会给出多模态数据的冲突度，实现了多模态信息的“去伪存真”。若置信度不高且冲突度较高时，人工智能的决策便明显不太可信。
（记者史俊斌）
分享让更多人看到
- 评论
- 关注