中新网安徽新闻9月28日电 客服答非所问，自动驾驶系统莫名“发呆”……如今，AI正逐渐融入我们的生活，但让人觉得“不可靠”的现象也时有发生。这背后，人工智能领域的数据和算法的安全性及鲁棒性（指系统在面对不确定性、干扰或变化时，能够保持稳定和有效运行的能力）值得关注。

　　9月20日，2025年世界制造业大会在安徽合肥开幕。当天举行的数据要素综合试验区创新成果暨新模式场景对接会上，科大国创软件股份有限公司（以下简称“科大国创”）展示的“基于形式化验证的AI智能体安全漏洞自动挖掘平台”项目，正致力于解决上述问题。

　　中科国创高可信软件有限公司总经理张振海说：“当前AI技术应用非常火热，但对其本身是否安全、是否可靠的关注仍显不足。我们正是抓住了这一机遇。”

　　他进一步解释：“我们创新运用形式化验证方法，将AI大模型的鲁棒性、安全性等属性，用形式化语言进行严格定义。通俗地说，这就像为AI大模型或智能体做一次‘全身体检’，通过数学方法逐步推演，精准定位可能存在的漏洞或缺陷。”

　　谈及此项技术的必要性，张振海表示：“AI大模型及智能体从训练、部署到迭代，完全依赖数据与算法驱动。若数据或算法不可靠，系统就可能出错，甚至遭受恶意攻击。”科大国创的做法是，依托自主研发的国创高可信系列产品（包括程序分析与程序验证工具），将高可信软件技术融入AI大模型及智能体的安全检测中，从而识别潜在漏洞、构造反例并提出改进建议，实现防患于未然。

　　“该项目填补了国内人工智能智能体漏洞检测产品的空白。”关于平台的应用现状，张振海介绍：“目前，已在中国移动运营商、航空航天等行业应用，效果不错，实现了市场化的推广。”

　　张振海还透露，下一步，公司计划将平台移植到GPU超算平台上，以应对更大模型、更复杂算法的需求，还将不断提升整体算力，拓展更广泛的产业应用。

　　此外，在本次世界制造业大会上，科大国创还集中展示了其“AI+行业应用”的战略布局，包括智能云BMS、BEMS及液冷储能系统等新能源领域创新产品，并推出了融合汽车智能驾驶技术的助行机器人，以助力行动不便群体实现中短途出行。可信数据空间、量子科技等前沿技术也同步亮相，展现出企业在软件与硬件、技术与场景融合方面的全链条赋能能力。（完）

责任编辑：朱孔阳