,
就像电影中的《教父》系列一样，帕米·奥尔森的这部大片最好从叙事的中间开始欣赏。 Sam Altman (OpenAI) 和 Demis Hassabis (DeepMind) 寻求建立全能的人工智能世界秩序的诱人旅程；与大型科技公司、谷歌和微软的挑衅性联系，以不可避免的数十亿美元商业意外之财来宣传道德强度和社会成果。
奥尔森打破了令人钦佩的最佳位置；奥特曼和哈萨比斯的不同方法反映了人工智能（尤其是生成式）进化中截然不同的世界观。坐落于美国企业摇篮中的奥特曼痴迷于有形的运营衍生品。哈萨比斯是一位学术国际象棋奇才，他似乎在寻求诺贝尔奖左右，以寻求令人惊叹的科技教育学。
DeepMind 与 Alphabet 帮派谷歌勾结，对超级智能经济系统将挑战其探索性垄断深表怀疑。哈萨比斯希望它像联合国一样，为了共同利益而统一宇宙。因此，它试图通过推出其人工智能程序AlphaGo（中国棋盘游戏围棋的代表）与青少年冠军柯洁对抗，来赢得中国对全新乒乓外交的信心。最终，这样的策略会失败，因为中国坚定地寻求在人工智能开发方面超越美国——这是明天的新时代军备竞赛。
道德人工智能在很多场合都受到关注。 1911 年，标准石油公司控制着世界 90% 的石油储量，而谷歌则是其领域 92% 的利益相关者。它作为邪恶代理人的能力常常推翻其所宣称的为善而奋斗的座右铭。缅甸的罗兴亚人问题是一个不幸的用例，还有其他一些重要的问题。
蒂姆尼特·格布鲁被认为是道德议程的斗士，特别关注性别偏见和种族主义。 COMPAS 是美国基于人工智能的犯罪侦查系统，它不公平地将黑人罪犯描述为更有可能重复犯罪，而不是皮肤白皙的种族。谷歌与军方联合退出 Maven 项目，进一步说明了这个充满活力的竞技场中的混乱和冲突。
预计谷歌和微软的规模太大，不利于创新，而颠覆性创新理念背后的克莱顿·克里斯蒂安森的影子似乎也即将出现。 Transformer（GPT 中的 T）是由 Google 发明的，但它的潜力是由 DeepMind 和 Open AI 等人释放的。这确实是商业文明中持续存在的模式，因为巨头们对变革缺乏安全感。
哈萨比斯和奥特曼的宽宏与独裁议程之间的相互作用令人着迷，至少在他们最初的化身中是这样。 OpenAI，名副其实，提倡开放和共享，而 DeepMind 则相信在发展语言的过程中需要更可控的架构，而不是面向文本的协议，后者是巨头们的舒适区。 GPT 的独特之处在于从未标记的文本中学习，因此具有创造性和多功能性的能力。就像人脑一样，它适应输入的多样性，从而导致输出的收敛。
奥特曼和哈萨比斯的成长岁月构成了本书的第一部分，轶事有趣，但没有任何重大的挑衅性模式。
关于 Satya Nadella（微软）投资 OpenAI 的部分非常有洞察力。供应商锁定是科技巨头为客户建立退出壁垒的战略努力，是这家西雅图巨头对生成式人工智能先驱者特别喜爱的关键驱动力。类似的聪明商业思维决定了谷歌对 DeepMind 的兴趣，这是巩固其领先地位的专制愿望清单。令人着迷的是，或许也令人担忧的是，这与奥特曼和哈萨比斯政治家般的目标体系形成鲜明对比，更像是达尔文主义而不是华尔街。
尽管 DeepMind 打算成为一家“利润有限的公司”，但为了现金流、偿付能力和获得加速跳板的机会，与大型科技公司的结合是不可避免的。例如，微软为 OpenAI 的训练过程构建了一台拥有 2,85,000 个 CPU 核心的超级计算机——与玩具车相比，它是一辆坦克，是一台个人计算机。 Twitter 和 Reddit 将成为最大的学习来源，后者为 GPT4 贡献了 10-30% 的文本，这得益于其实时消费者字节的宝库。在所有这一切中，OpenAI 的普遍访问将继续与 DeepMind 的受控政权形成鲜明对比，陪审团认为谁将是更大的邪恶。
由于创造力与统治之间的勾结似乎不可避免，道德困境仍然有增无减。当 DeepMind 在英国尝试一款医疗保健应用程序时，媒体对宝贵的私人患者数据被泄露给谷歌的传言感到兴奋。大卫·阿莫迪 (David Amodei) 是 OpenAI 技术故事中的关键人物，为瓦纳斯帕蒂 (vanaspati) 增添了一个迷人的人物。他不断质疑奥特曼和他的公司看似不可告人的动机，商业与目的，然后他成立了自己的公司 Anthropic。反过来，最终从谷歌和亚马逊筹集资金为其增长战略提供资金。实用主义，而不是虚伪，将是一种善意的评价。
奥尔森非常漂亮地转向看似温和但真实、非常有价值的问题。关于我们这个时代的人类，你和我们，如何思考和感受人工智能。 LAMDA 的高度敏感使研究人员相信机器里有鬼魂。小冰在中国拥有 6 亿粉丝，与年轻人进行浪漫对话。在美国和欧洲，Replika 是许多人的万能伴侣。有毒内容成为必然，因为 ChatGPT-3 60% 的数据来自 Common Crawl，大部分是合法的，但也包括不敏感的来源。 RLHF 模型（来自人类反馈的强化学习）可能是一种解药，其中引入了物理验证。
随着霸权竞赛的白热化，在人类努力的新狂野西部，许多其他事情正在发生。微软推出了 GitHub Copilot，其中软件可以由非专家共同创建，无论是威胁还是机遇。 DALL-E 2，图像中心，以其敏锐的洞察力让实时艺术家感到恐惧。 Google DeepMind 成为一个合并实体，大卫担任老板。虽然 Altman 被 OpenAI 解雇的阴谋，但商业和目的的冲突，最终在纳德拉的干预下得到纠正。
世界末日福音传道者是流行音乐中的佼佼者。 Eliezer Yudkowsky 在《时代》杂志 (2023) 上发表的文章预测，人工智能将导致人类的毁灭，以及其他弹道论点。就连骗子埃隆·马斯克 (Elon Musk) 也建议暂停人工智能研究六个月，这是一份有 34,000 名签名者的请愿书。多达 22% 的美国人认为人工智能可能带来厄运。
有效的利他主义作为一种可扩展的理论出现，鼓励有能力变得非常富有，以便对穷人产生积极影响。与此同时，世界经济论坛坚信，这可以增强而不是取代创意人士的能力。作为感知损害控制，奥特曼前往达沃斯，用和平主义的术语进行演讲——“更少”地改变世界，更少地改变“工作”。必要但令人心酸的角色转换。
出于多种原因，这本书非常精彩，因为它捕捉到了一个可能塑造命运和进化的快速发展的时刻。 《至高无上》是 Netflix 网络连续剧和末日卷轴的混合体，一定会让您成为这个诱人空间中意见的君主。
作者是一位自主品牌顾问和作家。
霸权：人工智能、ChatGPT 以及将改变世界的种族
帕米·奥尔森
潘·麦克米伦
304
899 卢比
