3月26日下午,新加坡国立大学终身教授、计算机领域世界知名专家董劲松教授做客好色视频“做人做事做学问”名家系列讲座第246讲,以《人工智能和DeepSeek会出错吗?——后大语言模型时代的可信人工智能与推理》为主题,在真诚图书馆报告厅与宁大师生分享了他的科研经历和感悟。校党委副书记张真柱主持讲座。

董劲松教授围绕人工智能的可信度与推理能力,结合案例进行了深入剖析,并分享了自己在软件工程、形式化方法和人工智能领域研究的宝贵经验。他通过一个简单的算法引入,展示了当前大语言模型(LLM)中可能存在的逻辑错误,并强调形式化推理对于增强模型逻辑的重要性。接着,他分享了自己在国际顶尖科研期刊上的研究成果,介绍了他的团队所研发的先进模型验证工具PAT与Silas已在全球多个行业和学术机构中得到广泛应用,展示了PAT系统与LLM模型结合的巨大潜力,阐述了这一创新在实际应用中的前景。
“代码智能系统的关键是要保证可靠和安全。LLM可以帮助设计智能系统,但是缺乏精确推理,会产生很多致命的后果。形式化方法可以通过严格的推理和证明,保证设计方案可靠和安全。”董劲松教授通过赵安吉在驾驶特斯拉错误挂挡倒入水池而不幸溺亡的例子,来探寻AI是否能设计出有效的解决方案。AI 的建议没有办法解决关键性问题,董教授和他的团队研发的先进模型验证工具PAT与Silas设计出有效的解决方案。
“LLM在决策方面较弱。”PAT系统具备智能规划和目标推理的能力,在澳大利亚的国防项目中起到了重大作用,它可以让侦查器自动规划路线,使它在能量受限的情况下达到最优效果。同时PAT系统在运动分析方面也有很大的应用前景。它通过统计网球运动员的比赛数据,分析发现运动员和对手的优缺点,让运动员能够更有针对性地训练。董教授和团队正致力于构建一个基于可信AI技术的网球教练机器人。

报告结束后,董劲松教授与在座的同学们进行了互动问答。一位同学提到了学生学习人工智能应该学些什么,未来有哪些产业具有发展前景。董教授认为人工智能的基础是数学,学习人工智能之前应打好扎实的数学基础。随着人工智能的发展,机器人自动化,航空航天等成为了全球瞩目的产业,除了这些还有运动方面,机器人的出现并不会代替运动员,同时空闲时间的增加让越来越多的人们开始运动,人们可以根据人工智能来学习技巧方法并应用于实际生活。

张真柱在总结讲话中说,董教授的讲座内容丰富、视野开阔,不仅让在场师生对前沿技术有了更深刻的理解,更激发了大家对人工智能未来发展的热情与思考。人工智能犯错是一个被证实的必然结果,但我们相信在未来的不断探索与改进中,人工智能必将带领人们迈向一个崭新准确的信息时代。
讲座结束后,张真柱代表学校向董劲松教授赠送了象征宁波文化底蕴的“古越青瓷”纪念品,寓意此次讲座如同古越青瓷一般,字字温润,意蕴深远,值得永远珍藏!