苏菲拉底
问题
讲者
谈话
信源
笔记
分享这个追问
← 全部问题
← Ⅵ·03 技术是在替我们工作,还是在替我们决定?
追问
机器该不该被允许犯错?
Ⅵ·03 技术是在替我们工作,还是在替我们决定?
该会犯错
1 条
机器应当能猜、会错,纯确定性的机器不够用。
关键要准
1 条
在地基性的地方,差一点点也不行,得能被逐条查验。
本就难料
2 条
光看代码不可能知道会发生什么,只能跑起来才知道。
可能相关
比人更强的机器,人凭什么还能控制它?
AI 做事时人还需要在场吗?
计算机能让人想得更好吗?
面对技术冲击,人该学什么?
智能体现在能独立干活吗?
AI 会读文献提假设后,研究生还剩什么可做?
把开战决定交给 AI,威慑会更可信还是更危险?
用了工具之后,人的能力会怎么变?
看这一大问题的全部 →
回应
按立场分组 · 点上方立场只看那一组
该会犯错
机器应当能猜、会错,纯确定性的机器不够用。
计算机应当内置噪声源,能够猜测也会犯错,而不是纯粹确定性的机器
▶ 42:44
乔治·戴森
Turing's Cathedral | George Dyson | Talks at Google
2012
关键要准
在地基性的地方,差一点点也不行,得能被逐条查验。
对一套理论的地基性定理,99.9% 的把握是不够的
▶ 26:21
陶哲轩
Terence Tao at IMO 2024: AI and Mathematics
2024
本就难料
光看代码不可能知道会发生什么,只能跑起来才知道。
仅凭阅读代码无法预知结果,必须真正运行才能知道它会做什么
▶ 44:34
乔治·戴森
Turing's Cathedral | George Dyson | Talks at Google
2012
社交网络这类系统的复杂性不在代码本身,而在代码之间连接的拓扑结构
▶ 49:22
乔治·戴森
Turing's Cathedral | George Dyson | Talks at Google
2012
分享
↑
苏菲周报 · THE WEEKLY
每周一封,
追问一个大问题。
苏菲拉底的每周来信,写这一周在追问的问题和看到的回应。
订阅 →
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
问题
讲者
谈话
信源
理念
周报
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]