5月22日上午9点,应宽带无线移动通信研究所信息物理系统与工业软件实验室霍炎教授邀请,乔治亚州立大学(GSU)的Donghyun(David)Kim教授在线上做了主题为“Trustworthiness of AI”的学术报告,此次报告由高青鹤老师主持,40余名师生在线参加。
首先,Kim教授简述了人工智能(AI)的发展历程,给出了人工智能,机器学习(ML),深度学习(DL)三者的关系图,指出当前AI面临的一个最大的问题是使用者未能了解AI的决策过程——“If we can’t explain the AI model’s decision-making process, it’s bound to be limited to use.” 之后,Kim教授从AI的安全威胁和安全对抗措施两个方面讲述了关于人工智能安全方面的相关研究,引起了在场师生的共鸣。随后,Kim教授分享了他在可解释AI(eXplainable AI,XAI)方向上的最新研究,旨在建立可以为AI的学习过程以及结果提供解释同时可视化AI模型的决策过程,提供用户友好界面,提升AI的安全性——“Through XAI, we can understand the essence of AI and maximize its effectiveness.” 最后,Kim教授分享了关于AI 公平性的介绍,并与在场师生讨论了如何定义AI公平性这一指标。