机器该不该被允许犯错? · 苏菲拉底
← 全部问题← Ⅵ·03 技术是在替我们工作,还是在替我们决定?
追问 机器该不该被允许犯错?
回应 按立场分组 · 点上方立场只看那一组
该会犯错机器应当能猜、会错,纯确定性的机器不够用。
计算机应当内置噪声源,能够猜测也会犯错,而不是纯粹确定性的机器 ▶ 42:44乔治·戴森Turing's Cathedral | George Dyson | Talks at Google2012
关键要准在地基性的地方,差一点点也不行,得能被逐条查验。
对一套理论的地基性定理,99.9% 的把握是不够的 ▶ 26:21陶哲轩Terence Tao at IMO 2024: AI and Mathematics2024
本就难料光看代码不可能知道会发生什么,只能跑起来才知道。
仅凭阅读代码无法预知结果,必须真正运行才能知道它会做什么 ▶ 44:34乔治·戴森Turing's Cathedral | George Dyson | Talks at Google2012
社交网络这类系统的复杂性不在代码本身,而在代码之间连接的拓扑结构 ▶ 49:22乔治·戴森Turing's Cathedral | George Dyson | Talks at Google2012
苏菲周报 · THE WEEKLY 每周一封,
追问一个大问题。
苏菲拉底的每周来信,写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
苏菲拉底微信公众号二维码 微信公众号
© 2026 苏菲拉底 · 内容仅供学习 [email protected]