回应
按立场分组 · 点上方立场只看那一组
存续压倒一切哪怕只把人类灭绝的概率降低一点点，也胜过任何只有局部影响的好处
人类灭绝或大规模丧失权力的概率只要高于 1%，就远超可容忍的范围
▶ 5:47埃里克AI DEBATE: “Most People Have No Idea What’s Coming”2026
极其微小地降低生存性风险，也胜过任何只有局部影响的干预
▶ 6:36尼克·波斯特罗姆Superintelligence | Nick Bostrom | Talks at Google2014
是不是人类不重要是不是人类、跑在什么材料上，与结果好不好无关
智能运行在机器基质还是生物基质上，完全不决定这一结果是否可取
▶ 47:20尼克·波斯特罗姆Superintelligence | Nick Bostrom | Talks at Google2014
人可以退场若出现更优越的存在，某些条件下人应当牺牲自己去成全它
若存在比人类更优越的机器，某些条件下人类应当退场、牺牲自身成全更伟大的存在
▶ 38:52埃里克·施维茨格贝尔Eric Schwitzgebel: Would you shut off a robot who might be conscious?2022
苏菲周报 · THE WEEKLY
每周一封，
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]