“从弱人工智能到通用人工智能的转变，涉及ICT（information and communications technology，信息与通讯技术）和AI的融合。这带来了新的问题，我们需要科学的系统工程基础，自主系统工程还需要一段时间。”11月3日，上海，图灵奖得主约瑟夫·斯发基斯在世界顶尖科学家工程科技创新与发展论坛上作了《人工智能遇上系统工程——自治系统（AI meets Systems Engineering – Autonomous Systems）》主题演讲。
（2007年图灵奖获得者约瑟夫·斯发基斯11月3日在世界顶尖科学家工程科技创新与发展论坛上演讲）
约瑟夫·斯发基斯是2007年图灵奖获得者、国际嵌入式系统研究中心Verimag实验室名誉研究主任，曾作为欧洲“卓越网络”（Network of Excellence）嵌入式系统设计研究联盟的技术协调人，致力于将科研成果向工业合作伙伴转让。
斯发基斯多年来一直在观察ICT和人工智能之间的融合，他认为这种融合越来越快速，ICT和人工智能也共同带来了自治系统，这是从弱人工智能到通用人工智能的一大进展。
如何理解自治系统的重要性？斯发基斯表示，“今天我们已经实现了弱人工智能，但是我们还没有原则和技术来进行系统整合，所以自治系统必不可少。我们会逐步通过自主系统取代人类操作，从而实现进一步自动化的需求。在这方面我们已经看到了很多运用，包括自动驾驶汽车、数学网格、智能制造、智能农场等等。”
对于如何实现自治系统，斯发基斯认为要将人工智能集成到关键应用程序中。但现在这还没有完全实现，因为人工智能还没有自我解释的能力，比如解释神经网络是如何在如此之多的技术中学习的。
当下，仅仅通过简单的整合，也并不能实现可以将各种不可信任的人工智能组件进行整合的自治系统，因为还存在以下三个问题：第一是自治化和自主性之间的差距，第二是如何在传统方法中集成人工智能技术形成混合设计，第三是如何开发新的系统。所以斯发基斯认为，需要为自治系统建立新的科学工程基础。
自治系统和自主系统的区别
就第一点而言，斯发基斯以汽车举例解释自治系统和自主系统之间的区别。
自治系统是一个和环境对话的反应系统，比如其通过接收传感器的信息，实现姿势感知。通常这个感知用神经网络来进行，然后对每一帧信息进行分析，从而检测汽车周围可能存在的障碍物，保护汽车行驶的安全。同时还会进行运动学属性的计算，这个属性需要使用反射函数来构建模型。
这个模型也可以用来完成目标管理和规划。目标管理就是根据环境模型的状态来处理目标选择，比如在一段时间内，汽车的驾驶可能有很多互相冲突的目标，其中有一些短期目标，比如让汽车保持在道路上行驶避免碰撞，也有长期目标，如让汽车抵达目的地。对于这些目标就需要决策模型，决策模型在有效的前提下会开始规划，规划功能产生命令。这就是自治系统所做出的反应行为，而自主代理系统也是有主动行为的。
斯发基斯展示了其团队所建立的知识库，这个知识库具有自我学习的功能，可以监控系统中的各种信息，并且定时更新知识库中的信息。“这些知识积累非常重要，因为其可以带来预测性，从而加强能力建设和决策应对，特别是加强确定性。比如假设在汽车前有一条轨道，那么就可以在知识库中进行最大加速度计算，得出最大速度后就可以做出最好的预测，自主代理功能也可以帮助决策。”
“这是我们想要实现的愿景。”斯发基斯说，然而因为环境是动态变化的，由人类物理过程所引起的各种动态事件无法预测，如目标失败或撞击决策要处理各种不同的目标，也包括感知的复杂性、局限性等原因，今天还没有完全实现。
有些自动驾驶平台的模拟是不够的
我们当下处于什么位置？“一方面我们可以更多地使用可靠的传统系统工程来构建系统，另一方面有些大公司开发了端到端人工智能解决方案，这些方案一般用来研发自动驾驶汽车。他们训练了庞大的神经网络用于接收影像帧形成指令，这些解决方案商业上可行，但是我不建议你靠它们来开车。”斯发基斯说。
另外一个没有从根本上解决的问题是，如何在机电系统中部署这样的平台。“目前没有适用于这种平台的理论，那么我们现在应该努力去开发一个混合设计流程，集各家之所长，在同一个架构中集成数据库组件、模型组件。”
除此之外，斯发基斯提出，自主系统的验证是一个非常重要的问题。“我们不能为自主系统建立一个全球模型。通过模拟和测试是不够的，有些自动驾驶平台声称是足够安全的，因为他们模拟了数亿英里的自动驾驶里程，但我认为这样的模拟是不够的。因此他们的证明并不全面，没有解释在模拟中的英里与真实英里之间存在的问题。”
斯发基斯总结道，追求自主的愿景涉及到系统工程方面的挑战。“填补自动和自主之间的差距，这是一个非常重要的问题。最初我们认为过渡将是渐进性的，而过往的经历已经告诉我们这是不可能的。”他说，“从弱人工智能到通用人工智能的转变涉及到ICT和AI的融合，这带来了新的问题，我们需要科学的系统工程基础，自主系统工程还需要一段时间。”