来历：雷科技
可能从来没有一项技能能像 AI 大模型相同，在短短几个月内敏捷成为科技界乃至整个社会的一致。今天，一切科技巨头和首要政府几乎都笃定地以为 AI 将改动国际，改动一切。
但在一个大的一致背后，还有太多问题，一方面是实在的——在工作上的代替、虚假内容的泛滥以及不平等的运用门槛等等，另一方面则是长期以来人类艺术作品里表达的「文明的要挟」。根据《连线》杂志报导，OpenAI 在一份财政文件甚至规定了当 AI 炸毁人类经济体系时的退出机制。
今年 7 月，在 IBM 总部举办的一次活动上，美国参议院大都党领袖查克·舒默（Chuck Schumer）表明，他将举行一系列人工智能会议，「让最优异的人坐在桌前，相互沟通，答复问题，尽力达到一些一致和解决方案，参议员和咱们的工作人员以及其他人只是倾听。」最终，舒默期望根据会议上的沟通，「为人工智能政策立法奠定根底」。
两个月后，会议开端了，包含来自尖端科技公司的 22 位与会者都参加了闭门会议，他们其中有 OpenAI CEO 山姆·阿尔特曼、英伟达 CEO 黄仁勋、谷歌 CEO 桑达尔·皮查伊、Meta CEO 马克·扎克伯格等人，也有上一代互联网的科技领袖微软创始人比尔·盖茨和谷歌前 CEO 埃里克·施密特。
AI 必定要被「管」起来
没有人会否定人工智能的巨大潜力，但关于人工智能的危险、安全措施、监管以及未来，咱们还缺少许多一致，仅有可以必定的是，人类不可能完全听任人工智能的野蛮生长。
在脱离第一次闭门会议后，特斯拉、SpaceX、Neuralink CEO 伊隆·马斯克就公开表明，这次聚会是「历史性的」，他附和成立一个新的组织来监管人工智能的主意，并重新强调了人工智能构成的巨大危险。
「人工智能犯错的后果是严峻的，所以咱们有必要积极主动而不是被迫反应，」马斯克说，「问题实际上是一个文明危险的问题，这对国际各地的一切人类都有潜在的危险。」
马斯克没有深化论述所谓人工智能对人类文明的详细损害，但当人工智能更多地参加到电网、供水体系以及车辆体系的办理操控之中，一旦犯错就会带来很多的问题。计算机科学家、人工智能研究人员 Deb Raji 也提到了，人工智能的偏见性决定就影响社会的方方面面。
更何况，还有长久以来人类的对人工智能的忧虑。
但要怎么削减和防止人工智能带来的危险？微软总裁布拉德·史密斯（Brad Smith）提出，咱们需求为人工智能可能形成的巨大危险树立「紧急制动器」，尤其是在办理电网和供水体系等要害根底设施的人工智能体系之中，「这样咱们才能保证许多人忧虑的要挟依然只存在在科幻小说里，不会成为新的实际。」
布拉德·史密斯/图
史密斯以为，就像每一栋修建和家庭中都有的断路器，假如需求的话，可以立即阻挠电力体系运转，人工智能体系也需求相似的「紧急制动器」，保证人类不会受到此类体系的大规模损伤。
无独有偶，英伟达首席科学家兼高级副总裁威廉·达利（William Dally）也指出了，人工智能作为一个计算机程序犯错的可能和形成的严峻损伤，要害在于「人类的参加」，行将人类置于人工智能工作的要害环节中，限制人工智能的一些决策权利。
威廉·达利，图/英伟达
「所以我以为，只要咱们对怎么布置人工智能保持谨慎，让人类处于要害环节中，从而可以保证人工智能不会接管并封闭咱们的电网或导致飞机从天而降，」达利说。
AI 开源会是潘多拉盒吗？
去年年底，ChatGPT 在科技圈内第一次火起来的时候，就有人表达了对 AI 模型被用于诈骗等恶性行为的忧虑。开源似乎在加剧了「被乱用」的危险。
在会议上，其中一个争论便是围绕着可供大众下载和修正的「开源」AI 模型展开。这些模型的敞开代码能让企业和研究人员得以运用相似于 ChatGPT 背后的 AI 技能，无需投入巨量的资金和资源练习。
但坏人也可能会乱用开源 AI 体系，包含 OpenAI 从 GPT-3.5 开端就停止了开源行为，OpenAI 联合创始人兼首席科学家 Ilya Sutskever 就表明，「几年后，每个人都会清楚地看到，开源人工智能是不明智的。」
Ilya Sutskever 与黄仁勋在 GDC 上的对谈，图/英伟达
被问及原因时，他谈到，「这些模型十分强，而且会变得越来越强，在某个时候，假如有人想的话，很容易用这些模型形成很大损伤。」
别的，DeepMind 联合创始人、Inflection AI CEO Mustafa Suleyman 不久前也提到开源的危险，他指出 AI 开源的要害问题在于，「权利的敏捷分散」将使得单一个体就能对国际形成史无前例的损伤和影响，「在未来 20 年内，天真的开源，几乎必定会形成灾难」。
Mustafa Suleyman，图/DeepMind
不过 Meta 明显并不赞同这些说法，Meta CEO 扎克伯格反驳说，开源将「AI 变得民主化，有助于公平竞争，促进个人和企业创新」。但同时他也表明，开源模式或许会带来危险，然而 Meta 正在尽可能安全地构建这项技能。
当 AI 遇见开源，这依然是一个悬而待决的问题。
写在最后
距今 2104 年前，汉武帝去世七年后，汉廷举行了一场史无前例的策问，其中一个首要的问题是武帝时期实施的盐铁酒国营专卖政策的废立修正，为此召集了「贤良、文学六十余人」以及御史大夫桑弘羊等政府官员，后世称之为「盐铁会议」。不过这场盐铁会议，根本上评论的其实是汉王朝的经济政策走向。
虽然主题不同，年代环境更是天差地别，但不论两千多年前的盐铁会议，仍是现在人工智能见地论坛，都是面对一个巨大的问题，期望经过「群贤」沟通辩问，以此作为立法之根底。
图/谷歌
在前不久谷歌 25 周年的纪念文章中，现任谷歌 CEO 桑达尔·皮查伊（Sundar Pichai）写到：
（谷歌）参加有关这些技能将怎么塑造咱们社会的重要辩论，然后共同寻找答案。人工智能是其中的要害部分。虽然咱们对人工智能造福人类和社会的潜力感到兴奋，但咱们知道人工智能与任何早期技能相同，也带来复杂性和危险。咱们对人工智能的开发和运用有必要解决这些危险，并协助负责任地开发技能。
几天后，包含 Adobe、Cohere、IBM、英伟达、Palantir、赛富时、Scale AI 和 Stability 八家成为第二批签署「负责任地开发人工智能（AI）技能」协议的公司。许多时候，面对单个个体或许单个公司/政府无法的解决的问题，咱们有必要意识到「共同尽力」的价值。
此时快讯
【Shiba Inu开发者推出Calcium以放弃治理代币BONE】金色财经报道，Shiba Inu开发者上周在一篇文章中表示，他们将发行Calcium(CAL)以放弃新推出的Shibarium链的上治理代币BONE的合约所有权。CAL作为计划举措的一部分，其超过50%的供应量在上线后不久就被机器人接收，这些代币已在DEX ShibaSwap上上线。
ShibaInu开发人员表示：“该代币的创建只是为了一个特定的目的，即铸造和放弃BONE。请不要交易这个代币，因为它在未来没有任何价值或需求。”开发者Kaal Dhairya写道：“如果有人出售此产品，请认为这是一个骗局。”
