或许从来没有一项技能能像 AI 大模型一样，在短短几个月内敏捷成为科技界甚至整个社会的一致。今天，一切科技巨子和主要政府简直都笃定地以为 AI 将改动国际，改动一切。
但在一个大的一致背后，还有太多问题，一方面是实在的——在工作上的替代、虚伪内容的众多以及不平等的运用门槛等等，另一方面则是长期以来人类艺术作品里表达的「文明的要挟」。根据《连线》杂志报道，OpenAI 在一份财政文件甚至规定了当 AI 炸毁人类经济体系时的退出机制。
本年 7 月，在 IBM 总部举办的一次活动上，美国参议院大都党首领查克·舒默（Chuck Schumer）表明，他将举行一系列人工智能会议，「让最优秀的人坐在桌前，相互沟通，回答问题，尽力达到一些一致和处理方案，参议员和咱们的工作人员以及其他人仅仅倾听。」终究，舒默期望根据会议上的沟通，「为人工智能方针立法奠定根底」。
两个月后，会议开始了，包含来自顶级科技公司的 22 位与会者都参加了闭门会议，他们其间有 OpenAI CEO 山姆·阿尔特曼、英伟达 CEO 黄仁勋、谷歌 CEO 桑达尔·皮查伊、Meta CEO 马克·扎克伯格等人，也有上一代互联网的科技首领微软创始人比尔·盖茨和谷歌前 CEO 埃里克·施密特。
AI 必定要被「管」起来
没有人会否定人工智能的巨大潜力，但关于人工智能的危险、安全措施、监管以及未来，咱们还缺少许多一致，唯一能够肯定的是，人类不或许彻底听任人工智能的粗野生长。
在脱离第一次闭门会议后，特斯拉、SpaceX、Neuralink CEO 伊隆·马斯克就揭露表明，这次聚会是「历史性的」，他赞同建立一个新的机构来监管人工智能的主意，并重新强调了人工智能构成的巨大危险。
「人工智能犯错的结果是严重的，所以咱们有必要积极主动而不是被迫反响，」马斯克说，「问题实际上是一个文明危险的问题，这对国际各地的一切人类都有潜在的危险。」
马斯克没有深化阐述所谓人工智能对人类文明的具体危害，但当人工智能更多地参加到电网、供水体系以及车辆体系的办理操控之中，一旦犯错就会带来许多的问题。计算机科学家、人工智能研究人员 Deb Raji 也提到了，人工智能的偏见性决议就影响社会的方方面面。
更何况，还有长久以来人类的对人工智能的担忧。
但要怎么削减和避免人工智能带来的危险？微软总裁布拉德·史密斯（Brad Smith）提出，咱们需求为人工智能或许构成的巨大危险建立「紧迫制动器」，尤其是在办理电网和供水体系等要害根底设施的人工智能体系之中，「这样咱们才干保证许多人担心的要挟仍然只存在在科幻小说里，不会成为新的现实。」
布拉德·史密斯，图/
史密斯以为，就像每一栋建筑和家庭中都有的断路器，假如需求的话，能够立即阻止电力体系运行，人工智能体系也需求类似的「紧迫制动器」，保证人类不会受到此类体系的大规模损伤。
无独有偶，英伟达首席科学家兼高级副总裁威廉·达利（William Dally）也指出了，人工智能作为一个计算机程序犯错的或许和形成的严重损伤，要害在于「人类的参加」，即将人类置于人工智能工作的要害环节中，制约人工智能的一些决议计划权利。
威廉·达利，图/英伟达
「所以我以为，只需咱们对怎么部署人工智能坚持谨慎，让人类处于要害环节中，从而能够保证人工智能不会接收并关闭咱们的电网或导致飞机从天而降，」达利说。
AI 开源会是潘多拉盒吗？
上一年年底，ChatGPT 在科技圈内第一次火起来的时分，就有人表达了对 AI 模型被用于欺诈等恶性行为的担忧。开源似乎在加重了「被乱用」的危险。
在会议上，其间一个争辩就是围绕着可供大众下载和修正的「开源」AI 模型打开。这些模型的开放代码能让企业和研究人员得以运用类似于 ChatGPT 背后的 AI 技能，无需投入巨量的资金和资源练习。
但坏人也或许会乱用开源 AI 体系，包含 OpenAI 从 GPT-3.5 开始就中止了开源行为，OpenAI 联合创始人兼首席科学家 Ilya Sutskever 就表明，「几年后，每个人都会清楚地看到，开源人工智能是不明智的。」
Ilya Sutskever 与黄仁勋在 GDC 上的对谈，图/英伟达
被问及原因时，他谈到，「这些模型十分强，并且会变得越来越强，在某个时分，假如有人想的话，很容易用这些模型形成很大损伤。」
另外，DeepMind 联合创始人、Inflection AI CEO Mustafa Suleyman 不久前也提到开源的危险，他指出 AI 开源的要害问题在于，「权利的敏捷分散」将使得单一个体就能对国际形成前所未有的损伤和影响，「在未来 20 年内，单纯的开源，简直肯定会形成灾难」。
Mustafa Suleyman，图/DeepMind
不过 Meta 显然并不同意这些说法，Meta CEO 扎克伯格辩驳说，开源将「AI 变得民主化，有助于公平竞争，促进个人和企业创新」。但同时他也表明，开源形式也许会带来危险，然而 Meta 正在尽或许安全地构建这项技能。
当 AI 遇见开源，这依然是一个悬而待决的问题。
写在最终
距今 2104 年前，汉武帝逝世七年后，汉廷举行了一场前所未有的策问，其间一个主要的问题是武帝时期实施的盐铁酒国营专卖方针的废立修正，为此召集了「贤良、文学六十余人」以及御史大夫桑弘羊等政府官员，后世称之为「盐铁会议」。不过这场盐铁会议，根本上讨论的其实是汉王朝的经济方针走向。
尽管主题不同，时代环境更是天差地别，但不论两千多年前的盐铁会议，还是现在人工智能见地论坛，都是面临一个巨大的问题，期望通过「群贤」沟通辩问，以此作为立法之根底。
图/谷歌
在前不久谷歌 25 周年的纪念文章中，现任谷歌 CEO 桑达尔·皮查伊（Sundar Pichai）写到：
（谷歌）参加有关这些技能将怎么刻画咱们社会的重要辩论，然后共同寻觅答案。人工智能是其间的要害部分。尽管咱们对人工智能造福人类和社会的潜力感到兴奋，但咱们知道人工智能与任何前期技能一样，也带来复杂性和危险。咱们对人工智能的开发和运用有必要处理这些危险，并协助负责任地开发技能。
几天后，包含 Adobe、Cohere、IBM、英伟达、Palantir、赛富时、Scale AI 和 Stability 八家成为第二批签署「负责任地开发人工智能（AI）技能」协议的公司。许多时分，面临单个个体或者单个公司/政府无法的处理的问题，咱们有必要意识到「共同尽力」的价值。
此时快讯
【Rollbot：Degen EXchange交易平台将暂时取消服务】金色财经报道，GambleFi平台Rollbit在社交媒体宣布，由于监管不确定性和采用率较低，其加密货币交易平台Degen Exchange拟暂时取消服务，平台持有的所有资产都可以出售或被提取，但购买第三方资产的服务已经被禁止。Rollbit称做出相关决定的目的是为了更好地定位和业务发展，此外其原生代币RLB功能不受影响，该代币依然可以像以前一样买卖，但其姊妹网站http://Rollbot.com即将停用，该网站现在仅支持提款和一些有限的账户功能。
