长期以来,科幻小说中一向存在人工智能产生认识的想法,回想1968年的电影《2001:太空周游》中从超级核算机变成恶棍的HAL 9000。跟着人工智能的飞速开展,这种可能性正变得越来越不那么古怪,甚至得到了人工智能领军人物的认可。
去年,谈天机器人ChatGPT背面的公司OpenAI首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)发推文称,一些最先进的人工智能网络可能会 “略有认识”。
许多研究人员标明,人工智能体系没有达到有认识的地步。但人工智能的进化速度让他们陷入了深思:咱们怎么知道人工智能是否产生认识?
为了答复这个问题,一个由19位神经科学家、哲学家和核算机科学家组成的团队提出了一份规范清单,假如符合这些规范,就标明一个体系有很大可能是有认识的。他们于本周早些时候在arXiv预印版库中发布了暂时攻略,该攻略没有经过同行评审。
合著者之一、位于加利福尼亚州旧金山的AI安全中心的哲学家罗伯特·朗(Robert Long)标明,他们进行这项作业是因为“好像的确缺少对人工智能认识进行具体、以经验为基础、深思熟虑的讨论”。
该研究团队标明,无法识别人工智能体系是否有认识,这可能会产生重大的品德影响。该研究的神经科学家和合著者梅根·彼得斯(Megan Peters)标明,假如某个东西被贴上了 “有认识 ”的标签,“那一定会极大地改动咱们作为人类对待它的办法。”
朗(Long) 弥补说,据他所知,构建先进人工智能体系的公司并没有支付足够的努力来评价这些模型的认识,并制定相应的方案。他说:“虽然听取了一些抢先实验室负责人的讲话,他们的确标明人工智能认识或许人工智能感觉是值得考虑的问题,仅仅我以为还不行。”
《天然》杂志联系了推进人工智能开展的首要两家科技公司——微柔和谷歌。微软的一位讲话人称,该公司开发人工智能的核心是以负责任的办法协助人类提高生产力,而不是复制人类智能。
该讲话人标明,自从推出GPT-4(ChatGPT揭露发布的最新版别)以来,能够明确的是,“咱们在探索怎么完成人工智能的全部潜力以谋福整个社会,这需求新的办法来评价这些人工智能模型的才能”。谷歌则未回应。
01.
认识是什么?
在研究人工智能认识时,面对的一个应战是界说什么是认识。彼得斯标明,为了陈述的目的,研究人员将要点放在了“现象认识”上,也就是主观体会。即存在于人、动物或人工智能体系体系(假如其中之一被证明具有认识)的感觉。
有许多基于神经科学的理论描述了认识的生物学基础。但哪一种才是 “正确 ”的,现在还没有达成共识。因此,作者选用了一系列理论来创立他们的结构。他们的想法是,假如一个人工智能体系的功能与这些理论的多个方面相匹配,那么它具有认识的可能性就更大。
他们以为,这种评价认识的办法比简单地进行行为测试更好,例如询问ChatGPT是否有认识,或许对其进行应战并观察其反响。因为人工智能体系在仿照人类方面现已取得了令人难以置信的发展。
英国苏塞克斯大学认识科学中心主任、神经科学家阿尼尔-塞思(Anil Seth)的以为,该团队所选用的理论紧密的办法是一个不错的挑选。然而,他标明,“咱们还需求更准确、经过充分测试的认识理论。”
02.
一种理论密集型办法
为了制定他们的规范,作者假定认识与体系怎么处理信息有关,而不管它们是由神经元、核算机芯片仍是其他材料构成。这种办法被称为核算功能主义。他们还假定,以神经科学为基础的认识理论能够应用于人工智能,这些理论是经过对人类和动物的大脑扫描和其他技术研究而得出。
在这些假定的基础上,团队挑选了其中的六种理论,并从中提取了一系列认识目标。
其中之一是全局作业空间理论,它声称人类和其他动物使用许多专门的体系(也称为模块)来履行诸如视觉和听觉等认知使命。这些模块独立但并行地作业,并整合成一个单一体系来共享信息。
朗(Long) 标明,"经过观察体系的架构以及信息在其中的流动办法",人们就能评价某个特定的人工智能体系是否显现了这一理论所衍生的目标。
塞思(Seth)对该团队的提案印象深入。他标明:“它十分深思熟虑,没有夸夸其谈,并且清楚地标明其假定。”虽然我不同意其中一些假定,但这完全不要紧,因为有可能是我错了。"
作者标明,该论文远未对怎么评价具有认识的人工智能体系做出终究结论,他们希望其他研究人员能够帮助完善他们的办法论。但这些规范现已能够应用于现有的人工智能体系。
例如,陈述对ChatGPT等大型言语模型进行了评价,发现这类体系能够说具有与全局作业空间理论相关的一些认识目标。不过,这项作业并未暗示任何现有的人工智能体系是认识的强有力候选者,至少现在还没有。
此时快讯
【Impact Theory案件为SEC针对NFT项目的首次执法行动】金色财经报道,The Block报道称,美国证券交易委员会(SEC)已指控一家位于洛杉矶的播客工作室Impact Theory“进行未经注册的加密资产证券发行”,这是该机构首次针对NFT项目采取执法行动。SEC表示,Impact Theory从数百名投资者那里筹集了约3000万美元,该公司由Tom Bilyeu联合创立,他是YouTube节目和播客(也称为Impact Theory)的主持人。Bilyeu的YouTube频道拥有超过370万订阅者,之前的嘉宾包括演员Matthew McConaughey。至少一位Impact Theory创始人在OpenSea上列出的主要NFT系列已产生约540万美元的交易量。据OpenSea称,该系列于2021年底创建。
SEC表示,虽然Impact Theory没有承认或否认该机构的调查结果,但它同意就违反1933年《证券法》发出的“停止令”,并支付610万美元的罚款和利息。