2月23日晚，我校网络空间安全学院执行院长俞能海教授受邀作客中央广播电视总台科教频道黄金档“创新进行时”直播栏目，与主持人和广大观众共同探讨生成式AI的应用前景与潜在风险。中央广播电视总台科教频道“创新进行时”栏目聚焦国家创新驱动发展、展示创新成果、弘扬创新精神，反映当代中国科技强国的奋斗历程。

本期节目从生成式AI给影视创作带来的影响出发，以“数字人钱学森”的视频拉开序幕，该视频由中国科学技术大学信息处理中心、北京灵境赛博科技有限公司、合肥高维数据技术有限公司和北京航天愿景科技有限公司共同制作，也得到了钱老后人钱永刚教授的鼎力支持，以合成现实技术“复活”了钱老形象，再现了钱老声情并茂的激励话语，引起了广大网友的共鸣和热烈讨论，在线观众达到600万人，广大观众对“数字人钱学森”的视频给出了高度评价。

节目重点讨论了当前的AI大模型对各行各业的深远影响，当谈到在教育行业如何利用AI因材施教、培养符合AI时代的创新人才时，俞能海教授着重介绍了中国科大“潜心立德树人、执着攻关创新”的一些具体举措，强调扎实的数理基础和宽松的校园创新氛围对创新型人才培养的重要作用，特别以中国科大少年班等科技英才班为例，介绍了如何培养当代大学生的创新思维。

节目的另一大主题是生成式AI的安全问题，这也是我校网络空间安全学院在中央网信办和教育部“一流网络安全学院建设示范项目”建设过程中重点关注的研究方向。作为人工智能与安全领域交叉学科的专家，俞能海教授担任了中国图象图形学学会副理事长和CSIG数字媒体取证与安全专委会主任，他从两个典型的生成式AI恶意使用场景谈论了潜在风险问题。第一个场景是AI for Science大模型的恶意使用带来的风险，可能会导致恶意使用者用科学大模型合成危险化学品或有毒物质，为了应对这样的风险，他领导的研究团队提出了SciGuard“科学卫士”的代理模型，在大模型使用过程中监督并规避上述风险。第二个场景是人脸深度伪造的潜在危害，可能对公共安全、个人隐私、财产安全等方面产生重大影响，为此，他的研究团队也提出了多种深度伪造防御的应对措施，并在全球最具影响力的深伪检测挑战赛中击败英伟达、麻省理工等知名校企，取得了全球第二国内第一的成绩，入选了2014年以来中国人工智能安全领域8项代表性成果。俞能海教授也针对普通观众日常的防AI电信诈骗，给出了有效的应对技巧。

（网络空间安全学院）