9月3日下午，2022世界人工智能大会“可信人工智能技术及产业化”论坛在上海世博中心举行。

       会上，中科院院士、软件工程学院创院院长何积丰做《可信人工智能的展望》主旨报告。他深入浅出地讲述了可信技术在人工智能领域的研究现状、问题和发展趋势，以及对人工智能产业的技术保障和路径规划。

       何积丰表示，可信人工智能，主要包含三个要素——人、信息、物理。而所谓的安全，也包括数据安全、技术安全和系统安全。判断是否可信的先决条件之一，是设立关于可信的度量标准，比如要求数据本身真实可信。数据可信之外是技术可信和系统可信。当人工智能程序或产品发生错误时，对错误或会发生的结果具备可解释性。在其特性或参数发生摄动时，相关系统和技术依旧具备品质指标保持不变的性能，即鲁棒性等。

       在何院士看来，智慧城市和智慧制造已经成为了推动可信人工智能落地最主要的两大应用场景。智慧城市也就是社会治理的智能化，大数据分析已经在发挥巨大作用。智慧制造方面也在逐步推进。“从长远来看，我们希望人工智能不是一个简单的工具箱，而是与人类在同一个闭环内相互互动，帮助我们做决策的。”何积丰认为，人工智能的发展轨迹可能不是一个线性的变化，而是会迎来指数性的增长机会，“未来或许会有一个爆发性的拐点出现。”他建议从核心要素、基础研究、共性技术和创新示范的四个领域推广形式化方法，提高用户体验，促进可信及易用人工智能技术发展。

       学院副研究员史建琦做《AI赋能楼宇智能化控制》的主题报告。他在报告中分析了当前国内外相关问题的产品解决方案，论述了行业发展趋势。针对智能楼宇管理在新能源与低碳背景下、控制系统难于落地与高成本的问题，展示了新一代软件一体的模型化智能控制系统。

       学院教授张新宇主持以“行业智能化应用及发展趋势”为主题的圆桌对话，并与来自行业龙头企业的技术大咖展开讨论。专家们一致认为，全球高度关注人工智能治理工作，发展安全可信人工智能已成为产业界共识。专用智能向通用智能发展、智能感知向智能认知方向迈进将是未来发展的新趋势。

       本次论坛由世界人工智能大会组委会办公室指导，何积丰院士号召发起，由中电科数字科技（集团）有限公司、国家可信嵌入式软件工程技术研究中心、上海华科智谷人工智能研究院申报主办。国家可信嵌入式软件工程技术研究中心依托中国电子科技集团公司第三十二研究所和华东师范大学共同组建，是国内第一个以可信计算和嵌入式基础软件为关键技术的国家级工程技术研究中心，以可信计算技术为基础，围绕国家科技发展战略与产业振兴规划的需求，形成可信嵌入式软件行业规范和嵌入式基础软件产品体系。

媒体报道：

文汇报：或迎爆发性拐点！并非简单工具箱，未来的可信AI能帮我们做决策

新华财经： 业内专家：人工智能更大发展驱动力来自于实际需求和应用场景