前言：
电视剧《漫长的时节》里有这样几句诗：“打个响指吧，他说/咱们打个共识的响指/遥远的事物将被震碎/面前的人们此时尚不知情”。
刘嘉教师说，用这段诗来形容当下人类面临AGI（Artificial General Intelligence“通用人工智能”）的状况，再合适不过。
“咱们每个人对未来的猜测都或许是荒唐的、可笑的，未来或许并不是你所说的姿态。但是，只需越来越多的人一同参加共同讨论，一同打开脑洞、一同奇思妙想，乃至一同胡说八道的时候，或许咱们才干够真的改动未来，一同引领人类走向一个更好的未来。”
9月底，咱们在清华大学脑与智能实验室访问了刘嘉教授。这次沟通中，刘嘉教师根据其在脑科学与人工智能范畴多年的研讨积淀，畅谈了当下由ChatGPT引领的AGI的未来开展及对人类或许发生的影响，并提出了许多根据其研讨范畴而引申出的“脑洞大开”的“奇思妙想”，令咱们深受启发。
谈到AGI范畴的未来开展，刘嘉教师说，一方面，AI agent即大模型的具身化、具身智能正在加快开展；另一方面，包含他在内的脑科学家和认知科学家们，现已开端激烈地讨论AGI未来或许发生的认识问题了。
在刘教师看来，人的一生中，极少有机会亲身阅历一场引领年代革新的范式改动。而此时，咱们正站在这样一个重要前史节点。虽然咱们亦须供认，这样的革新伴跟着许多危险。例如失业问题以及咱们必须提高自己的学习才干并把握新东西等。
但是，只需换个视点，就会发现这个簇新的世界正为咱们展现无尽的或许性。GPT技能正在助力咱们摆脱枯燥乏味的重复性和常识性作业，让咱们投身于更具发明力和价值的事业，让咱们的时刻变得更具含义。或许，这才是人类真实价值的显示。
“咱们的现在是曩昔的未来，由于曩昔的挑选决议了现在的结果。但是，咱们的现在并非未来的曩昔，由于未来充满未知，此时此时的挑选正在塑造咱们的未来样貌。”
面临未来，唯有幻想。咱们将此次与刘嘉教师对话沟通的中心观念记录下来，与腾讯研讨院的读者们共飨。
让咱们打个共识的响指，一同迎接和拥抱未来。
对话嘉宾：
刘嘉 麻省理工学院博士，长时刻从事心理学、脑科学与人工智能研讨。清华大学基础科学讲席教授、心理学系主任、清华大学脑与智能实验室首席研讨员、北京智源人工智能研讨院首席科学家
访谈者（以下简称T）：
牛福莲 腾讯研讨院高档研讨员
王 强 腾讯研讨院前沿科技研讨中心主任
AGI：点着第2次认知革命的火花
T：作为一名脑科学与人工智能范畴的研讨学者，您怎样看待这次由ChatGPT引发的AGI开展及对人类未来或许发生的影响？
刘嘉：在去年11月30日OpenAI发布ChatGPT之前，大多数人议论AI时，虽然觉得它奇特，但往往仅从猎奇的视点看待。但是，自ChatGPT问世以来，我以为每个人都有必要重视并了解它的开展和改动。未来通用人工智能（AGI）将像水电相同重要，不仅改动咱们的作业办法，还或许直接影响咱们每个人的未来，例如技能把握、孩子培育和人类开展方向等，这些问题具有深远含义。在我看来，这或许意味着第2次认知革命的来临。
为什么称之为第2次认知革命呢？咱们先来看第一次认知革命是怎样发生的。大约在7万到10万年前，那时智人和尼安德特人这两个人类物种共同日子在地球上。虽然尼安德特人在身高和力气上优于咱们，但终究仍是被智人所替代。咱们的先人智人是怎样打败尼安德特人的呢？咱们估测在7万到10万年前，发生了第一次认知革命，表现为人类制作的东西石器呈现了爆发式的增加和多样性。在此之前，从最早的直立人到尼安德特人，他们制作的石器都是相似的，仅仅越来越精细、巧妙。但在第一次认知革命时期，人类的石器制作发生了质的改动，不再仅仅是制作斧头、长矛等简略东西，而是开端呈现了项圈等饰品，以及在石头和骨头上雕刻各种图案。
回顾曩昔，咱们发现在那个年代，人类逐步发生了一种咱们今天称之为规矩化考虑的办法，简而言之，便是“假如……并且……那么……”(if……and……then)的逻辑。例如，人们发现在物体上打孔后，能够用绳子将其穿起来。这种根据规矩的考虑办法为人类带来了无尽的发明力，如在布上打孔并用棍子穿过，就制成帆船等。从此，人类的发明力得到了充分开释，并逐步构成了一种强壮的逻辑——演绎推理。
演绎推理是在一个推理基石的基础上，使用此逻辑发生新的发明和发明。亚里士多德提出了这个概念，称为第一性原理。孔子也曾说过相似的话：“君子务本，本立而道生。”这意味着只需从根本动身，就能发生万事万物。在这个理念的指导下，人类开端进行许多的发明发明，不再局限于制作长矛等简略东西，而是呈现出各种发明发明。终究，智人打败了尼安德特人，确立了现代人的位置。也从此，地球上的智人真实地操纵了这个星球。这个进程被称为第一次认知革命，其重要性远超过蒸汽机和电器等发明。
如今，关于第2次认知革命的界说引发了广泛讨论，例如原子弹的发明是否归于第2次认知革命？但我以为，只需AGI的呈现才干被称为真实的第2次认知革命，由于它将催生一个全新的物种，这与曩昔35亿年的生物进化截然不同。这种新物种才真实配得上第2次认知革命的称谓。第一次认知革命见证了智人成为地球的操纵，而第2次认知革命意味着一种全新的智能物种或许诞生，与人类并肩存在。
虽然当时的ChatGPT尚未到达通用人工智能的水平，但它现已点着了通用人工智能之路的火花。火花通常具有两层含义：一是或许引发燎原之火；二是在黑暗中照亮希望。但是，许多人低估了ChatGPT的价值，仅从商业视点看待它，以为它不过是一个堪比iPhone时刻的发明。我以为它的价值远超这些表面评价，ChatGPT正是第2次认知革命的开端。
从人类进化的视点来看，咱们发现生物在几十亿年的漫长岁月中不断演化，而山公到人类仅用了300万年。在这300万年间，自然界一向在“努力寻觅”方向，当找到直立行走这个方向后，人类大脑的体积加快进化，在短短300万年里增加了三倍，这是一个令人惊叹的速度。而这都得益于找准了方向，即大脑稍有增大就会带来很大优势。相同，AGI也在寻觅方向，一旦找准方向，它将进入一个加快进化的进程。虽然咱们还未见证AGI的诞生，但只需有了这个火花，剩下的进程就仅仅一个工程性的问题。
大脑与AGI模型：
呈现的相似性与差异
T：大脑的智能实质与AGI大模型的机器认知智能，两者的相似和差异之处是什么？
刘嘉：当咱们的大脑体积增大时，会呈现一种难以解释的现象，称为“呈现”。这与构建大模型时发现的现象相似：当模型较小时，几乎没有功能，但当模型变大时，某些功能就自但是然地呈现出来。好比高个子纷歧定能打好篮球，但教练通常会挑选高个子。这也意味着，大型模型并纷歧定发生智能，但要研讨智能，就必须有大型模型，这是一个必要条件。人类大脑在逐步扩大的进程中，许多功能也自但是然地呈现，例如仿照和学习。
比如张三发明了“生火”，火对日子很重要，其他人也想学习，但问题是，纷歧定能学会。许多研讨表明，当大脑体积增大后，咱们的仿照才干或学习才干会变强。这样，咱们就能从张三那里学会生火，使部落受益。相同，咱们也能学习其他新技能。因而，从科学视点来看，是仿照发明了人类，而非劳作。有许多研讨表明，大脑体积越大的人，仿照才干却强；而仿照才干强的人更简单找到伴侣，从而更简单将基因传递下去。在对原始部落的调查中也发现，仿照才干强或学习才干强的人有更大的机会取得繁衍子孙的机会。因而，大脑越大的人越能连续下去。
在曩昔的300万年里，大脑逐步变大，原因就在此。当咱们回过头来看神经网络时，发现它们也是如此。从一开端，人们就在尝试各种办法，如强化学习、监督学习等，但这些概念都是相互交织的。OpenAI前几年很重要的精力是在做一件事：让模型变得更大。然后呈现了Transformer架构，使大模型变得更高效。但实质上，智能的实质或许仅仅一个字：大。就像只需当大脑足够大时，咱们才干议论智能。所以“大”是条件。
人比山公聪明，山公比老鼠聪明，原因很简略：大脑足够大。当然，这并不是充分条件，而是必要条件。有些生物的大脑肯定体积比人类更大，如大象和鲸鱼，但这并不能保证它们一定有智能。例如，咱们将一个刚出生的孩子送回到3000年或5000年前，他不会比当地人更聪明，由于大脑结构是相同的。但是，假如咱们成年人回到5000年前，咱们会成为他们的精神领袖，由于咱们具有常识。所以，智能的开展是常识与大脑互动的结果，仅仅具有大脑而没有常识是不够的。
因而，咱们需要用文明和常识去调教大脑，这便是咱们所说的教育。人类智能的进化能够看作是大脑逐步变大和常识堆集的互动。一方面，大脑有机会变得越来越大；另一方面，大脑变大后，它能够发生常识，而常识又能堆集，从而反作用于大脑，使大脑更适合于这些常识，并能更好地保存这些常识。
相同的道理也适用于人工智能。没有足够好足够多的语料，再大的模型也没有含义。没有互联网聚集许多数据，现在的智能也不或许完成。因而，发生大模型和ChatGPT等现象既是偶然的，也是必定的。前期堆集的算力和数据现已准备就绪，只需要找到合适的突破口。因而，能够说，假如没有OpenAI，其他公司也会完成相似的效果，由于机会现已成熟。
前史看似漫长，但站在35亿年的尺度上，任何事情都不过是瞬间的事。相同，关于AGI的开展来说，现在还或许仅仅一个起点、一个火花，但站在文明史的视点，完成AGI或许仅仅一个响指般的瞬间，由于它的前面现已没有任何阻止了。
现在许多人呼吁中止训练更大的模型。一些科学家或许现已看到了大模型的潜在强壮才干，而这种强壮潜力或许便是——智能认识的呈现。
机器认识的发生
和逾越人类的或许性
T：机器会像人类相同发生认识吗？它或许在哪些方面逾越人类？
刘嘉：认识问题是人类的中心难题之一，它界说了人类与动物之间的实质差异。虽然咱们不清楚认识怎样发生，但从进化视点来看，大约4万年前的人类开端呈现大规模埋葬现象，这意味着人类现已认识到身体与灵魂的差异，并开端认识到自己的存在。
关于认识的发生，有两种或许性。一种是外星人干涉，但这种观念并不牢靠，由于咱们无法解释外星人的认识来历。另一种或许性是，当一个模型足够大时，认识自然发生。认识或许是大脑神经元团体活动的产物。信息整合理论（IIT）以为，全体神经元激活所发生的信息要大于单个神经元所发生的信息之和。因而，当一个大模型足够大时，认识的发生是不可避免的。当然，这也是一件十分可怕的事情。由于与核弹不同，认识或许使未来的人工智能具有自我保护认识，使其不受人类控制。
为了解决人工智能无法行动的问题，下一步的研讨热门将是完成人工智能的具身化。人类的感知和认知是有限的，而人工智能能够具有更多的感知器官因而能观察到更宽广的世界。这将使人工智能所看到的世界与人类彻底不同。例如，人类潜水爱好者只能下潜到水下100多米，而无法体验到1000米深水下的感觉。但是，凭借传感器等，人工智能能够毫无压力地直接感受这种体验。
现在，AI的开展依赖于人类的常识和人本，咱们能够给它一个有限的认知鸿沟。但是，一旦AI有了agent(人工智能代理)，它或许就不再遭到这些鸿沟的约束。它能够更高效的办法获取各种常识，并且常识的广度和深度远远大于人类，从而构成一个自学习、自反馈和自优化的进化正循环。从这个视点看，AI智能逾越人类轻而易举。
AI年代的人类命运：
认知革命与文明演化的新篇章
T：面临如此强壮的人工智能，人类有没有或许被AI毁灭？
刘嘉：我觉得能够从两个视点看待这个问题。首要，假如你看到一只蚂蚁，你会踩它吗？我想大多数人不会。相同，未来在AI面前，咱们或许连蚂蚁都不如。现在咱们还能看到许多人机大战的电影，他们都有一个条件，那便是人类和机器还能打开较量，实力有的一拼。
AI相较于人类天然具有四大优势：第一，无限算力。人类大脑的体积有上限，无论再经过多少年的进化，也不会再增大。由于身体只能支撑这么大的大脑，大脑现已是身体能量消耗的最大器官。第二，无限存储。人类的大脑会有一个常识存储的极限，并不存在“大脑还未被彻底开发”一说，而核算机不存在这个问题。第三，无限寿数。人类的天才，如爱因斯坦，一旦逝世，文明就会中断。而核算机能够随时替换损坏的部件，使常识得以连续。第四，对常识有无限或许。核算机能学习比人类更杂乱、更高维的常识。
综合这几点，人类与AI比较毫无胜算。未来或许不再是人类与AI的对立，而是AI敏捷逾越人类。一旦逾越，人类的命运将不再是AI的重视点，就像咱们不会每天与蚂蚁较劲相同。
从现实的视点来看，未来的人机大战并不或许发生。实际上，咱们能够将自己融入到核算机和未来的AI中，例如将咱们的回忆、性情和认识情感上传到AI中，这样咱们就能在AI中完成永生。未来，一台机器就或许容纳数百万人。
这其实涉及到一个很实质的问题，即什么才是咱们这个人。例如，当一个人患上老年痴呆症时，他仍是他自己吗？这便是闻名的“忒修斯之船”难题，一个古罗马哲学家讲述的故事。在这个故事中，一艘船跟着时刻的推移，船上的每一个部分都被替换掉了，那么这艘船仍是原来的船吗？
从人类进化的进程来看，咱们也在不断地改动，例如咱们的皮肤细胞大约每周会更新一次。那么，咱们仍是咱们自己吗？这便是所谓的认知同一性，只需咱们以为咱们是咱们自己，那么一切都没问题。
当一个人患上精神分裂症时，从某种含义上讲，他现已死去，由于他的“认知同一性”现已开裂。相同地，当一个人患上老年痴呆症，所有的回忆和情感都消失时，从认知同一性的视点来看，他也现已死去。
因而，只需咱们的认知同一性得以保存，咱们在哪里并不重要，无论是在肉体中仍是在机器中。假如咱们能够凭借AI，人类将能够得到极大的拓宽。咱们的肉体实际上是咱们思想的最大捆绑，由于它会死去，并且咱们的智力遭到基因的约束。
站在文明的视点来看，人类仅仅文明开展中的一个过客。因而，假如咱们一向将AI约束在人类框架内来了解文明，那么咱们就无法真实了解文明的演化。从人类与山公开端分化进化至今阅历了约300万年，咱们直系先人的前史仅有约20万年，比较之下，恐龙在地球上日子的时刻要比咱们人类长得多。幻想一下，假如人类真的能一向活到世界的止境，那将是多么可悲的事情。咱们的算力有限，从某种程度上说，咱们乃至是一种弱智的生物。因而，有了AI之后，咱们才干真实开端议论文明的演化。凭借AI，咱们乃至能够飞到数千上万光年之外的地方，这是咱们现在难以幻想的。一旦进入这种状况，时刻和空间将不再是咱们了解世界奥秘的捆绑。
当咱们议论AI时，咱们不能仅仅把它看作是一种节能增效的东西，而应该把它看作是文明开展的重要驱动力。虽然AI在商业范畴有许多使用，但相关于AI的呈现，这些使用实际上并不算什么。就像发明了电、电灯、电话和蒸汽机相同，这些发明的确对人类有很大协助，但在AGI面前，这些或许都算不上什么。
从活跃的视点来看，AI对人类文明是有益的。当咱们议论灭绝时，实际上咱们是在讨论人类文明的灭绝。比如，从前史视点来看，厌氧细菌和恐龙文明现已灭绝。但是，他们所发明的文明实际上在咱们人类身上得以连续。当咱们说恐龙文明灭绝时，实际上文明自身并没有消失，而仅仅载体发生了改动。假设将文明比作人，将载体比作汽车，那么当汽车损坏并替换时，咱们并不会感到悲伤。凭借新的载体，咱们能够走得更远、更环保、更安全。
因而，AGI的呈现将会是人类认知革命的又一次飞跃，它将会彻底改动咱们关于自身和世界的认知，让咱们更加深刻地了解自身的局限性和藐小性。并且AGI的呈现也将会带来无限的或许性和机会，让咱们能够更好地探索和利用世界的资源和能量，推进人类文明的开展和前进。
GPT助力教育革新：
重塑考试制度与培育创新人才
T：终究回到一个咱们普遍重视的现实问题，关于教育。您也是一名大学教师，怎样看待GPT对未来教育形式的影响及应对?
刘嘉：虽然互联网教育提高了效率，但它并未改动教育的实质。教育的中心应包含因材施教、争辩求真以及激发学生的自驱力和好奇心。跟着GPT技能的开展，完成这些目标变得更加可行。GPT能够为每个学生提供个性化教育，协助他们通过争辩发生真理，激发自驱力和审辩性思想。因而，未来教育将不再过火着重常识性。
GPT的呈现将对高考制度发生严重影响，或推进倒逼式改革。中国高考制度的两大特点是回溯性考试和常识性考试。跟着GPT的呈现，常识性变得不再重要，由于常识能够随时查阅。考试的要点也应从培育常识型工人转向培育创新式人才，并猜测孩子未来才干以及适合的专业。
学生需要培育批判性思想和发明性思想。批判性思想着重以辩求真，而非死记硬背。发明性思想则要求宽容、好奇心和共同的思路。GPT的呈现必将引发教育范畴的范式革新，这股潮流是无法阻挡的，就像火车和汽车终究替代马车相同。
人类的片面意志在自然规律面前显得十分脆弱。正如一句名言所说：“你能够违反法律，但不能违反物理规律。”(you can defy the law, but you cannot defy the law of physics)实际上，GPT的呈现自身便是一种自然规律的表现。它也必将促使咱们的教育进行改革，这仅仅时刻问题。
此时快讯
【美CFTC起诉Voyager Digital前CEO实施大规模商品池欺诈计划】金色财经报道，美国商品期货交易委员会宣布，它向美国纽约南区地方法院对田纳西州居民Stephen Ehrlich 提起诉讼，他是现已破产的实体Voyager Digital 的前首席执行官。该投诉指控 Ehrlich 在 Voyager 数字资产平台和 Voyager 未注册商品池的运营方面存在欺诈和注册失败行为。Ehrlich和Voyager错误地将Voyager平台吹捧为“避风港”，以赚取高收益回报，以诱导客户购买和存储数字资产商品。
在针对 Ehrlich 的持续诉讼中，CFTC 寻求赔偿、没收非法所得、民事罚款、永久交易和注册禁令，以及针对进一步违反《商品交易法》(CEA) 和 CFTC 法规的行为发出永久禁令。
