10月24日下午，华东师范大学滴水湖国际软件学院（软件工程学院）举办了“可信软件与系统”学术研讨会。本次研讨会由图灵奖获得者领衔，同时邀请了来自上海交通大学、南京大学、西安电子科技大学的多位青年专家学者，围绕人工智能系统风险评估、自动驾驶安全技术新路径、多模态传感器数据质量保证等多个前沿议题同学院师生展开了深入的讨论与交流。

研讨会现场

图灵奖获得者Joseph Sifakis教授带来了题为《AI系统风险评估》（Risk Assessment of AI Systems）的主旨报告。Sifakis教授强调了传统系统工程技术在AI系统应用中的局限性，并提出了针对AI系统的新型风险评估框架和方法，为AI系统的可信度保障提供了新思路。Joseph Sifakis教授是2007年图灵奖获得者，欧洲科学院院士、美国科学院院士、中国科学院外籍院士，于2019年受聘成为华东师范大学国（境）外荣誉教授，与学院保持着长期深入的合作关系，当前共同致力于人工智能时代下可信软件与系统领域的发展。

Joseph Sifakis

研讨会上，上海交通大学的李鑫博士分享了基于大语言模型的安全自动驾驶的新路径，面对当前数据驱动的自动驾驶系统面临诸多挑战，尤其是泛化能力和可靠性问题，介绍了与上海人工智能实验室联合开发的自动驾驶框架Dilu。上海交通大学的符鸿飞副教授分享了团队关于概率程序静态分析的最新进展，为处理复杂概率模型提供了有力工具。南京大学的冯洋博士聚焦于基于多模态传感器数据的自动驾驶系统质量保证，分析了自动驾驶系统软件测试技术的难点，并分享了团队在自动化生成多模态测试数据（如雷达点云数据和相机图像数据）方面的最新进展。西安电子科技大学的王文胜博士介绍了团队在无限词上自动机的确定化问题最新理论成果，为验证和合成非终止系统提供了新视角。

学院的张民教授代表可信人工智能技术团队分享了在形式化方法与机器学习方面的最新进展，特别是基于抽象技术实现经过认证的、安全的深度神经网络控制系统的新方法。学院全职教授Jeff Sanders以“Logics for Trust”为题，分享了基于新型模态逻辑的智能体意识和信任度形式化表征方法，探讨了逻辑学在可信系统设计与分析中的应用。来自兄弟学院——计算机科学与技术学院的张敏博士介绍了团队在因果推理与可信学习在复杂环境中的应用等前沿成果，揭示了因果推理在提升机器学习模型解释性、稳定性和泛化能力方面的重要作用。

本次“可信软件与系统”研讨会不仅展示了当前在人工智能时代下可信软件与系统领域的最新研究成果和技术进展，也促进了国内外学者之间的交流与合作。未来，滴水湖国际软件学院（软件工程学院）将继续秉持开放合作的理念，搭建更多高质量的学术交流平台，面向国家和产业一线需求继续探索新型产教融合建设，促进学术成果的原始创新和落地转化，助力国家数字化经济发展。