更新时间:2024-07-17 11:55
通用人工智能(Artificial General Intelligence),是指具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务的通用人工智能体,具备自主的感知、认知、决策、学习、执行和社会协作等能力,且符合人类情感、伦理与道德观念。
通用人工智能的研究目标是寻求统一的理论框架来解释各种智能现象。
所谓AI Completeness,指的是:(1)完备的认知架构(Complete CognitiveArchitecture),即任意一个AI任务都可映射到该架构中解决,并能分析任务的复杂度;(2)完备的测试环境(Dynamic Environment with Physical and Social Interactions, DEPSI),即可提供任意复杂的物理与社会场景,将人类可能遇到的任务均可在平台上复现。
实现通用人工智能需要满足三个关键要求。(1)完成无限任务,包括在复杂动态的物理和社会环境中没有预先定义的任务;(2)自主定义任务,像人类一样自主产生并完成任务;(3)由价值驱动,智能体要像人一样由价值V驱动能力U。当前的人工智能研究还大多集中在数据驱动的统计建模与学习,亟需增进因果推理能力,这是链接智能体的内在价值和外部行动,构成价值-因果-行为链条的关键所在;并开放具身能力,这是智能体能够进入现实世界与人和环境交互,执行并完成任务的基础。而当前的ChatGPT大语言模型还不具备以上这些特征的任何一个。
关键问题1:认知架构——心智模型是通讯、学习、伦理道德形成的基础。认知架构是通用人工智能的表示框架,也是构建心与理U-V双系统价值驱动的根本。它构建了一套完整的认知体系,包括心智模型、通讯学习等理论。这是通用智能体与人类通讯、交流、信任、合作的基础。只有建立了完备的认知架构,通用智能体才能实现与人类的四个对齐(Alignment):共同的态势感知(Shared situation)、共同的演化模型(Shared predictive model)、共同的行动规范(Social norm)、共同的价值观(Shared value)。认知架构的重点在于实现“小数据、大任务”范式。决定人工智能系统的三个关键要素是架构、任务和数据,不同的选择导致不同的系统和路径。只有“小数据、大任务”范式才能摆脱掉“大数据、小任务”对数据的强烈依赖,以及模型不可解释、缺乏价值驱动等弊端,从而实现具有感知、认知、推理、学习、执行等能力的自主智能。
关键问题2:自我意识 指个体对自己的各种身心状态的认识、体验和愿望。在心理学中,测量自我意识的经典范式是镜子实验(Mirror test)。戈登盖洛普试图通过判断动物是否能够辨别出它在镜中的像是它自己而判断其自我认知能力。如何判断智能体是否涌现出了自我意识、如何应对智能体的自我意识,是未来通用人工智能发展的一个不可回避的问题。
关键问题3:价值函数 智能体的价值体系不是一成不变的,需要随着外部环境的变化而自动学习和调整。智能体的价值函数可以通过观察人类的行为、与人交互,学会并理解人类的“价值”,做到“察言观色”,时刻明确个人当前的价值需求,进而调整行为决策,自主产生并完成任务。
关键问题4:价值驱动 人类行为本质上受价值驱动。智能体可以通过观察人类的行为,学会和理解人类的“价值”,做到“察言观色”,时刻明确个人当前的价值需求,进而调整行为决策,自主产生并完成任务,才能实现通用智能。价值函数(Value)是U-V双系统中V系统的表征。驱动通用智能体的内在价值函数的集合构成了价值体系,包含了个体基本生理与安全需求、社会需求、好奇心与自我潜能实现,以及群体利益等多个层级。机器的价值必须跟人类的基本价值观对齐。只有建立了“良知”之心,通用智能体才能被人类广泛接纳。
关键问题5:具身智能 具身智能是智能体使用身体完成物理任务的现象,其核心之一是“知行合一”。中国哲学家早已认识到“知行合一”的理念,即人对世界的“知”建立在“行”的基础上,这也是通用智能体能否真正进入物理场景和人类社会的关键所在。其核心之二在于“身体力行”。只有将智能体放置于真实的物理世界和人类社会中,让它们躬“身”体验环境物体、符合物理因果,才能切实了解并习得真实世界中事物之间的物理关系和不同智能体之间的社会关系。
关键问题6:社会智能 社会智能是人类在适应更为复杂的社会情境中所展现的社会认知能力。从进化的角度看,社会智能的发展对于人类的适应至关重要。社会智能具有密不可分的三方面:社会感知、心智理论和社会交互。研究社会智能有助于研究者设计出具有人类特征的交互智能体,使其做到“察言观色、眼里有活、主动帮助”。今年3月,北京通用人工智能研究院认知计算与常识推理实验室联合北京大学人工智能研究院在CAAI Artificial Intelligence Research期刊上发表综述论文”Artificial Social Intelligence: A Comparative and Holistic View“,呼吁学界对人工社会智能领域进行关注。
关键问题7:可解释性 可解释人工智能指的是智能体以一种可解释、可理解、人机互动的方式,与人工智能系统的使用者、受影响者、决策者、开发者等,达成清晰有效的交流沟通,有效地“解释”自身行为和决策,以取得人类信任,同时满足各类应用场景对智能体决策机制的监管要求。解释是一个多轮次沟通的过程,其目的在于取得对方的理解、建立信任、达成合作、提高协作的效率。智能体只有有效地“解释”自己,才能取得用户的“信任”,从而产生高效的人机协作。
北京通用人工智能研究院于去年发表了“实时双向人机价值对齐 Bidirectional human-robot value alignment”研究,论文同时被Science官网和Science Robotics官网头条刊登。这篇论文提出了一个可解释的人工智能系统,阐述了一种机器实时理解人类价值观的计算框架,并展示了机器人如何与人类用户通过实时沟通完成一系列复杂人机协作任务的过程。
关键问题8:人机互信 信任是人类在社会协作中的一种心理状态,一般分成两个层次:一是对其能力U的信任,即个人对周围的每个人、在某个条件下、是否合适做某件事,都有不同程度的信任;二是对其价值V的信任,包含了态度与感情。信任的本质是人类愿意暴露自己的“脆弱性”。这是人类在没有更好选择的情况下做出的决定。从理论上讲,其风险底线需要通过经济学范畴的合同来规范。人类与智能体也要“签合同”来实现人机互信。这需要智能体由内在价值函数驱动,通过价值对齐与认知架构形成通用智能体与人交流合作的基础,通过具身智能和社会智能实现机器与环境和人交互,通过可解释性的沟通和价值对齐形成人机信任关系,由此才能实现人机共生。
通智测试从智能体探索和认知世界规律的各自感知、认知、运动、交互、社会、学习等能力,以及对自我、他人和群体的价值理解学习这两个角度入手,搭建了具体可行的测试平台架构。测试全面考虑了通用人工智能的关键特征,填补了通用人工智能评测的空白,突破了传统图灵测试的方法局限,在人工智能领域具有创新价值:不但有助于指导研究者为通用人工智能构建综合的设计架构与完善的评估体系,而且能为人工智能安全治理问题提供积极的解决方案。
在通智测试评估体系下,管理者可针对不同水平的智能体制定差异化监管准入机制,对通用人工智能规范化发展具有参考意义。此外,通智测试评级机制还可以为通用人工智能的科研路径提供明晰可靠的路线图,协助相关领域研究者找准科研道路上的前进方向。目前,通智测试已由北京通用人工智能研究院和北京大学的科研人员研究完成。
人工智能发展历经多次繁荣与衰落的周期轮回。1956-1974年的第一个黄金时代见证了机器定理证明和逻辑推理的突破。而在1974-1980年,因过于强调通用求解方法,忽略了知识表征,导致了第一次寒冬。随后,1980-1987年迎来了发展的第二个繁荣期,知识库和知识工程是主要的研究对象。而在1987-1993年,由于“符号落地”和“常识获取”的发展制约,人工智能遭遇第二次寒冬。1990年代至今,人工智能开始进入平稳发展期,分化成几个子领域,包含计算机视觉、自然语言处理、认知与推理、机器学习、机器人学、多智能体领域等。每个领域均出现过突破性的成果,但是每个独立的成果局限在自己的子领域中,人工智能距离达到人类通用且泛化的智能水平仍然相差甚远。
人工智能的发展起伏跌宕,其哲学思想也经历几次转变。第一时期(1960-1990)西方哲学思想引领了人工智能的发展。以苏格拉底、柏拉图、亚里士多德为代表的辩论与逻辑,发展成为严密的命题逻辑、谓词逻辑、事件逻辑等体系,为人工智能的逻辑、表达与推理等方面提供了理论框架。第二时期(1990-2020) 概率建模、学习与随机计算占据主导地位。核心代表人物包括乌尔夫·格林纳德(Ulf Grenander)、朱迪亚·珀尔(Judea Pearl)、莱斯利·瓦利安特(Leslie Valiant)、杰弗里·辛顿(Geoffrey Hinton)等。研究思想与儒家的方法论“格物致知”一脉相承,本质是从数据到模型的知识发现过程,与当今人工智能领域的大数据方法思路相似。然而,大数据催生的人工智能系统缺乏内驱的价值体系,缺乏主观的能动性,这种内驱的价值体系被中国哲学称之为“心”,包括“心即是理”, “心外无物”等概念。2020年之后,人工智能的发展由“理”(数理模型)向“心”(价值函数)过度,智能体由“心”驱动,实现从大数据到大任务、从感知到认知的飞跃,这是迈向通用人工智能的必经之路。
对未来若干年内人工智能的发展有如下研判:
研判1:人工智能核心领域将高度融合、走向统一,实现从弱人工智能向通用人工智能转变
经过近30年的分治,人工智能的六个核心领域(计算机视觉、自然语言处理、机器学习、认知与推理、机器人学和多智能体)呈现出对内融合、对外交叉的发展态势。人工智能领域的发展将寻求统一的人工智能架构,以实现人工智能从感知到认知的转变,从解决单一任务为主的“专项人工智能”向解决大量任务、自主定义任务的通用人工智能转变。
研判2:人工智能的发展将从基于“大数据、小任务”范式的专用人工智能向基于“小数据、大任务”范式的通用人工智能时代迈进
近年来,深度学习取得了很大进展,然而深度学习的研究本质上是基于“以大数据驱动小任务”的范式,其依靠的是通过大量数据训练的分类器解决单一的任务,只能做特定的、人类事先定义好的任务;每项任务都需要大量的数据与标注;模型不可解释、知识表达不能交流;大数据获取与计算的成本昂贵,缺乏自主驱动的价值体系和认知架构,其局限性日益明显。
任务塑造了智能,人的各种感知和行为,时时刻刻都是被任务驱动的,要实现通用人工智能,需要“小数据、大任务”范式,要用大量任务、而不是大量数据来塑造智能系统和模型。在“以小数据驱动大任务”的新范式下,只有少量数据的单一人工智能系统便可以发展出“常识”,并且用“常识”来解决各种任务。以计算机视觉举例,其视觉常识背后的5个核心分别是功能性(functionality)、物理(physics)、意图(intent)、因果(causality)和效用(utility),它们称为视觉的“暗物质”。为了更好地完成任务,通用智能体必须具备类人常识的智能“暗物质”,这是迈向认知智能与类人常识的范式转换,也是实现通用人工智能的必经之路。
2020后,通用人工智能的发展将重塑人类文明。1919年源自北大的 “新文化运动”,其本质是西方文明与东方文明的冲突和融合。在这个过程中,中华文明被认为是落后的、弱势的。百年之后的2020年同样是一场剧变:随着智能时代来临,通用智能体的出现,人类文明与人工智能将有新的冲突与融合,出现人、机混合的文明。前沿的人工智能科学家现在开始意识到:人的智能不是唯一的、人只是一种更高级的通用智能体,但不是终结,人已不再特殊。人类将迈入人机共生的智能时代。
大语言模型是一种基于深度学习技术的大型预训练神经网络模型,深度学习指的深度神经网络模型,是人工智能的分支“机器学习”下面的一种算法模型。
虽然大型语言模型已经取得了一些惊人的进展,但大型语言模型还不符合通用人工智能的要求。①大型语言模型在处理任务方面的能力有限,它们只能处理文本领域的任务,无法与物理和社会环境进行互动。这意味着像 ChatGPTChatGPT 已经在不同的文本数据语料库上进行了大规模训练,包括隐含人类价值观的文本,但它并不具备理解人类价值或与人类价值保持一致的能力,即缺乏所谓的道德指南针。
加州大学伯克利分校教授Stuart Russell表示,关于ChatGPT,更多数据和更多算力不能带来真正的智能。要构建真正智能的系统,应当更加关注数理逻辑和知识推理,因为只有将系统建立在我们了解的方法之上,才能确保 AI不会失控,扩大规模不是答案,更多数据和更多算力不能解决问题,这种想法过于乐观,在智力上也不有趣。
大模型方向错了,智力无法接近人类。图灵奖得主Yann LeCun表示:语言只承载了所有人类知识的一小部分;大部分人类具有的知识都是非语言的,因此,大语言模型是无法接近人类水平智能的。深刻的非语言理解是语言有意义的必要条件,正是因为人类对世界有深刻的理解,所以我们可以很快理解别人在说什么。这种更广泛、对上下文敏感的学习和知识是一种更基础、更古老的知识,它是生物感知能力出现的基础,让生存和繁荣成为可能。这也是人工智能研究者在寻找人工智能中的常识时关注的更重要的任务。大语言模型没有稳定的身体可以感知,它们的知识更多是以单词开始和结束,这种常识总是肤浅的。人类处理各种大语言模型的丰富经验清楚地表明,仅从言语中可以获得的东西是如此之少。仅通过语言是无法让AI系统深刻理解世界,这是错误的方向。
2022年9月17日,2022全国人工智能院长论坛在北京大学举行,现场发布了《通用人工智能人才培养方案》白皮书。白皮书由北京大学和北京通用人工智能研究院共同编写,旨在提出一套培养兼具学术品位、科学精神和人文素养的本硕博贯通式通用人工智能人才培养体系,其核心目标是为了培养面向世界前沿科技的人工智能复合型顶尖人才,即“通识、通智、通用”。
人才培养以“通识”为基底,强调人工智能与人文、艺术、法律等社会科学的深度融合,旨在塑造学生的学术品味,使其以科学家精神为桨,人文素养为帆,敢于肩负国家和人民的重托,在学术道路上航行。
人才培养以“通智”为核心,强调人工智能核心知识的融会贯通,包含计算机视觉、自然语言处理、机器学习、认知与推理、机器人学、多智能体等专业课程,帮助学生理解和掌握人工智能专业的基础理论和方法,并构建人工智能学科内的知识图谱和领域全局观。
人才培养以“通用”为支撑,强调与产业端的融合发展,赋能千行百业,促进各行各业的智能化转型,为我国数字经济的高质量发展与向智能社会转型升级提供强力支撑。
依托于北京大学元培学院建设的通用人工智能实验班,一方面会立足于人工智能的学科内涵,即对内融合,依托北京大学智能学院开展工作,学生以人工智能的具体子领域为研究方向,旨在突破前沿基础理论;另一方面会立足于人工智能的学科外延,即对外交叉,依托北京大学人工智能研究院开展工作,学生选择人工智能的交叉学科进行研究,旨在产生创新的跨学科交叉探索成果。
2023年8月28日,工业和信息化部印发通知,组织开展2023年未来产业创新任务揭榜挂帅工作。揭榜任务内容为面向元宇宙、人形机器人、脑机接口、通用人工智能4个重点方向,聚焦核心基础、重点产品、公共支撑、示范应用等创新任务,发掘培育一批掌握关键核心技术、具备较强创新能力的优势单位,突破一批标志性技术产品,加速新技术、新产品落地应用。
2023年4月28日,中共中央政治局召开会议,分析研究当前经济形势和经济工作。会议提出要重视通用人工智能发展,营造创新生态,重视防范风险。
通用人工智能是未来10-20年国际科技竞争的战略制高点,其影响力相当于信息技术领域的“原子弹”。我国应将发展通用人工智能提升到当代“两弹一星”的高度,并由中央统筹部署,凝聚人才、科研、产业与资本的优势力量,规范发展路径,尽快出台我国通用人工智能发展路线图。要建立测试标准,规划底层的认知架构、核心算法、操作系统、编程语言、体系结构与芯片,形成“学研产用”创新链条。