光靠现有的数据,能学到真实的世界吗? · 苏菲拉底
← 全部问题← Ⅱ·01 知识从哪里来?
追问 光靠现有的数据,能学到真实的世界吗?
回应 按立场分组 · 点上方立场只看那一组
学得到靠预测现有数据就能学到关于世界的真正理解,甚至超出数据本身
数据终将像算力和代码一样,变成点一下按钮就能拿到的东西 ▶ 5:22亚历山大·王Alexandr Wang: “This is a Once-in-a-Civilization Opportunity”2026
视频模型无需专门的物理训练,仅从视频中就能涌现出相当准确的直觉物理理解 ▶ 7:09德米斯·哈萨比斯Demis Hassabis on AI's Next Big Breakthrough, 2050 and More!2026
剥离全部人类知识、完全从零自学的算法,比在人类数据上训练更优雅有效 ▶ 20:59戴密斯·哈萨比斯The Thinking Game | Full documentary | Tribeca Film Festival official selection2025
让模型预测下一个符号,等于逼它理解所处理的内容 ▶ 10:30杰弗里·辛顿The surprising truth about AI’s limits and potential | Geoffrey Hinton | Strange Loop2024
大型神经网络能识别出训练数据中的错误,因而表现得远比训练数据本身更好 ▶ 15:09杰弗里·辛顿The surprising truth about AI’s limits and potential | Geoffrey Hinton | Strange Loop2024
会卡住世界远大于已有数据,只从数据里学迟早会撞上天花板
世界远大于人类写在互联网上的一切,大语言模型终会被互联网信息的有限性卡住 ▶ 10:26理查德·萨顿Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again2026
世界远比任何智能体的心智复杂,智能体只能依靠粗糙的近似,因而必须持续学习 ▶ 15:30理查德·萨顿Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again2026
能拿到通用模型接触不到的数据,是创业公司最大的优势来源 ▶ 29:04杰夫·迪恩Jeff Dean: The 1% Rule for Building in AI2026
蛋白质折叠不像围棋可无限自我对弈,训练数据受实验测定的稀缺性严格限制 ▶ 50:24约翰·江珀The Thinking Game | Full documentary | Tribeca Film Festival official selection2025
训练数据不是世界本来的样子,只是某一批特定收集方式下得到的数据 ▶ 20:14艾米莉·本德Emily M. Bender — Language Models and Linguistics2021
需先想清有些事不可能从经验中学来,必须先以抽象方式把它想清楚
发射火箭这类事情不可能完全从经验中学来,必须先以抽象方式把它想清楚 ▶ 32:34主持人Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again2026
苏菲周报 · THE WEEKLY 每周一封,
追问一个大问题。
苏菲拉底的每周来信,写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
苏菲拉底微信公众号二维码 微信公众号
© 2026 苏菲拉底 · 内容仅供学习 [email protected]