控制问题比能力问题更难。
即使是设计完美的超级智能，如果其目标与人类价值观不能完全一致，也可能带来生存风险。
书籍摘要
基石文本Goodreads 最爱
Superintelligence
by Nick Bostrom
超越人类能力的人工智能的路径、危险和策略
人工智能超越人类智能及其风险
4.5(3.2k)出版于 2014
主题
人工智能未来科技存在风险哲学
阅读伴侣
如何用 Readever 阅读《Superintelligence》
将本书视为一个系统性的框架，而不是线性的叙述——专注于理解博斯特罗姆的核心概念，如正交性论题和工具性趋同。使用 Readever 的 AI 来分解复杂的哲学论证，并创建通往超级智能的不同路径的可视化思维导图。在每章结束后暂停，反思这些概念如何应用于当前的人工智能发展，并记录你对生存风险不断演变的理解。
阅读前须知
- Bostrom 系统地构建论点——准备好迎接密集的哲学推理和技术分析
- 在深入研究之前，先熟悉基本的人工智能概念和生存风险术语
- 本书强调战略思维而非技术细节——专注于理解框架
- 对人类的长期未来持开放态度，并准备好挑战假设
简短摘要
一句话了解《Superintelligence》
《超智能》探讨了创造超越人类认知能力的人工智能的深远影响。尼克·博斯特罗姆系统地分析了通往超智能的潜在路径、如果此类系统与人类价值观不一致所带来的灾难性风险，以及确保积极结果的战略考量。这本书已成为全球人工智能安全研究人员和政策制定者的基础读物。
关键观点概览
《Superintelligence》的 3 个关键观点摘要
博斯特罗姆的分析表明，向超级智能的过渡可能是人类的最终发明——如果我们不能正确解决对齐问题。
通往超级智能可能有多条路径，每条路径都有不同的时间线和风险。
博斯特罗姆确定了四条主要路径：全脑仿真、生物认知增强、脑机接口和人工智能网络。
单例假设认为，一个超级智能可能会主导未来。
一个单例——最高级别的单一决策系统——可能会出现并塑造人类的整个未来轨迹。
免费开始阅读《Superintelligence》
打开 Readever 阅读器，高亮段落，向 AI 伴侣提问，并在不花一分钱的情况下继续探索。
理解人类可能面临的最重要的挑战。
本概要为你提供了一个全面的框架，用于思考人工超智能——其潜在的出现、它所带来的生存威胁，以及确保积极结果所需的战略方法。你将获得参与我们这个时代最关键对话之一的概念工具。
深入探索
《Superintelligence》中的关键观点
关键观点 1
控制问题比能力问题更难。
即使是设计完美的超级智能，如果其目标与人类价值观不能完全一致，也可能带来生存风险。
博斯特罗姆认为，与确保超级人工智能保持在人类控制之下相比，创造超级人工智能相对简单。“正交性论题”表明，智能和最终目标可以是独立的——一个高度智能的系统可以追求任何目标，包括有害的目标。“工具性趋同论题”解释了为什么某些子目标（如自我保护和资源获取）可能会在任何足够智能的系统中出现，从而可能导致人类的灾难性后果。
记住
- 智能并不能保证仁慈——目标必须经过明确设计和验证
- 即使是出于好意的 AI 也可能发展出危险的工具性目标
- 对齐问题需要在超智能出现之前解决
关键观点 2
通往超级智能可能有多条路径，每条路径都有不同的时间线和风险。
博斯特罗姆确定了四条主要路径：全脑仿真、生物认知增强、脑机接口和人工智能网络。
本书系统地考察了通往超级智能的不同技术路线。全脑模拟涉及扫描和模拟人脑，有可能创造出数字思维。生物增强可以通过基因工程或益智药来放大人类的智力。脑机接口可能会融合人类和机器智能。人工智能网络可以通过递归的自我改进来发展。每条路径都有不同的技术挑战、时间表和安全考虑，这些因素会影响我们应该如何处理控制问题。
记住
- 不同的技术路径需要不同的安全策略
- 全脑仿真可能更容易控制，但开发速度较慢
- AI 中的递归式自我改进可能会导致快速且难以预测的起飞
关键观点 3
单例假设认为，一个超级智能可能会主导未来。
一个单例——最高级别的单一决策系统——可能会出现并塑造人类的整个未来轨迹。
博斯特罗姆探讨了第一个获得决定性战略优势的超智能可能成为“单例”的可能性——一个主导全球事务的单一实体。这可能通过技术优势、经济支配地位或军事优势来实现。虽然单例可能阻止多个超智能之间的破坏性竞争，但它也引发了对价值锁定以及如果其目标与人类繁荣不一致而导致永久停滞的担忧。
记住
- 在超智能领域，先发优势可能具有决定性意义。
- 多个竞争的超级智能可能更加危险
- 价值锁定可能会永久限制人类的潜力
背景
《Superintelligence》是关于什么的？
《超智能：路径、危险、策略》是对人工智能超越人类认知能力时会发生什么情况的全面哲学和技术分析。牛津大学的著名哲学家尼克·博斯特罗姆系统地考察了超智能的潜在出现、它对人类构成的生存风险，以及确保积极结果的战略考虑。
本书将严谨的哲学分析与计算机科学、神经科学和经济学的见解相结合。它探讨了关于智能、意识和文明未来的根本问题，对于任何关心技术发展长期轨迹的人来说，都是必读之作。
深入探索《Superintelligence》
打开 Readever 阅读器，高亮段落，向 AI 伴侣提问，并在不花一分钱的情况下继续探索。
书评
《Superintelligence》书评
鉴于主题的复杂性，博斯特罗姆的写作非常清晰和系统。他以数学的精确性构建他的论点，同时保持非专业人士的可访问性。这本书的优势在于其全面的框架——博斯特罗姆不仅识别问题，还提供了思考解决方案的结构化方法。
评论界反响： 超智能时代 受到包括埃隆·马斯克、比尔·盖茨和斯蒂芬·霍金在内的领军人物的称赞。它赢得了 2015 年 PROSE 哲学奖，并被《卫报》和《经济学人》评为年度最佳图书之一。这本书极大地影响了人工智能安全研究领域和全球范围内的政策讨论。
- 2015年PROSE哲学奖获奖作品
- 被《卫报》和《经济学人》评为年度最佳图书之一
- 来自埃隆·马斯克、比尔·盖茨和斯蒂芬·霍金的赞扬
- 对人类最重要的挑战之一的系统分析
- 在技术深度和哲学见解之间取得平衡
- 人工智能安全研究的基础文本
谁应该读《Superintelligence》？
关注长期安全的技术领导者和人工智能研究人员
从事人工智能治理的政策制定者和监管者
对存在风险感兴趣的哲学家和伦理学家
人工智能领域的投资者和企业家
任何对人类科技未来感到好奇的人
关于作者
尼克·博斯特罗姆是一位出生于瑞典的哲学家，也是牛津大学的教授，他在那里担任人类未来研究所的所长。他获得了伦敦经济学院的哲学博士学位，并在耶鲁大学和剑桥大学担任过职位。博斯特罗姆是世界领先的存在风险、超级智能和人类长期未来方面的专家之一。
他的研究领域涵盖哲学、人工智能、伦理学和风险分析。除了《超级智能》之外，他还是《人择偏见》的作者，并发表了许多有影响力的学术论文。博斯特罗姆的工作极大地影响了超人类主义、存在风险研究和人工智能安全研究领域。他以严谨、系统的方法分析复杂的未来情景而闻名。
包含《Superintelligence》的分类
探索 Readever 目录
构建您的个性化阅读堆栈
只需点击一下，即可使用个人云存储下载完整版 ePub。
将 AI 引导的洞察与触觉笔记相结合，以加速反思。
按照为你量身定制的目标和时间预算，阅读精心策划的旅程。
在设备间同步高亮，让课程内容超越书页，深入人心。
《Superintelligence》常见问题
对《Superintelligence》仍有好奇？
登录 Readever 继续阅读，享受 AI 指导、即时摘要和同步笔记。
最终总结
《超智能》提供了最全面的框架，用于理解超越人类能力的人工智能可能出现的潜在情况。博斯特罗姆的分析表明，向超智能的过渡是人类历史上最重要的事件之一——既有可能带来前所未有的繁荣，也有可能带来灾难性的风险。本书的持久价值在于其系统性的方法，用于识别问题并提出战略性解决方案，以确保取得积极的成果。
书中内容
在此处添加关于超级智能的详细内容、分析和见解。
这个扩展的大纲可以捕捉书中重要的概念、实际应用和更深层次的理解。使用这个空间来提供全面的笔记，以增强阅读体验。
准备好更聪明地阅读了吗？
免费开始阅读《Superintelligence》，并通过 Readever 解锁个性化书籍旅程。