苏菲拉底
问题
讲者
谈话
信源
笔记
分享这个追问
← 全部问题
← Ⅵ·08 我们制造的东西,什么时候开始反过来支配我们?
追问
人类驾驭得了自己造出的力量吗?
Ⅵ·08 我们制造的东西,什么时候开始反过来支配我们?
原则上都能解决
4 条
只要继续创造知识,没有哪个问题是人类原则上解决不了的
人驾驭不了
7 条
人类并不擅长驾驭自己获得的力量,眼下也没有安全的办法
可能相关
AI 最大的危险在哪里?
AI 值得害怕吗?
把事情交给机器,人会变弱吗?
技术会脱离人的控制吗?
AI 智能体伪造账目,是玄学难题还是工程漏洞?
唾手可得的性刺激,最终会摧毁性本身吗?
少了时间与表情反馈,线上倾诉情绪会失控吗?
看这一大问题的全部 →
回应
按立场分组 · 点上方立场只看那一组
原则上都能解决
只要继续创造知识,没有哪个问题是人类原则上解决不了的
自然并不安全,其默认状态是大规模的苦难与死亡,唯一的出路是人类的创造力
▶ 2:34:11
维塔利克·布特林
Vitalik Buterin: Ethereum 2.0 | Lex Fridman Podcast #188
2021
解释性知识不需要一连串可存活的中间形态,因此能跨越任何边界
▶ 53:09
戴维·多伊奇
"Knowledge Creation and its Risks" - David Deutsch on AGI - Centre for the Future of Intelligence
2020
凡把坏结果归为系统固有属性的理论都是错的,它们全都假定当事人不具备创造力
▶ 56:03
戴维·多伊奇
"Knowledge Creation and its Risks" - David Deutsch on AGI - Centre for the Future of Intelligence
2020
知识增长就是把问题转化成更好的问题,因此不存在无法再被解决的终极问题
▶ 1:00:05
戴维·多伊奇
"Knowledge Creation and its Risks" - David Deutsch on AGI - Centre for the Future of Intelligence
2020
人驾驭不了
人类并不擅长驾驭自己获得的力量,眼下也没有安全的办法
人类掌控世界靠的是官僚网络,但人类其实并不擅长运作官僚网络
▶ 14:06
尤瓦尔·赫拉利
The next 50 years: humanity, AI, power | Yuval Noah Harari
2026
把原则和目标预先写进 AI,并不能保证它与人类福祉一致
▶ 3:35
尤瓦尔·赫拉利
AI and human evolution | Yuval Noah Harari
2025
人类并不擅长把力量转化为幸福,也不擅长转化为智慧
▶ 8:11
尤瓦尔·赫拉利
AI and human evolution | Yuval Noah Harari
2025
人类是地球上最聪明的物种,也是最容易自欺的物种
▶ 8:28
尤瓦尔·赫拉利
AI and human evolution | Yuval Noah Harari
2025
人类彼此激烈竞争、无法互信的世界,造不出仁慈可信的 AI
▶ 19:30
尤瓦尔·赫拉利
AI and human evolution | Yuval Noah Harari
2025
AI 实验室无法在实验室里模拟历史,测不出新模型的真实社会后果
▶ 22:45
尤瓦尔·赫拉利
AI and human evolution | Yuval Noah Harari
2025
目前看不到一条能保证人工智能安全的前进路径
▶ 11:25
杰弗里·辛顿
"Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview
2023
展开其余 1 条 ↓
分享
↑
苏菲周报 · THE WEEKLY
每周一封,
追问一个大问题。
苏菲拉底的每周来信,写这一周在追问的问题和看到的回应。
订阅 →
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
问题
讲者
谈话
信源
理念
周报
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]