苏菲拉底
问题
讲者
谈话
信源
笔记
分享这个追问
← 全部问题
← Ⅱ·01 知识从哪里来?
追问
光靠现有的数据,能学到真实的世界吗?
Ⅱ·01 知识从哪里来?
学得到
10 条
靠预测现有数据就能学到关于世界的真正理解,甚至超出数据本身
会卡住
6 条
世界远大于已有数据,只从数据里学迟早会撞上天花板
需先想清
1 条
有些事不可能从经验中学来,必须先以抽象方式把它想清楚
可能相关
普遍的科学定律靠什么立起来?
最根本的信念,能讲出理由吗?
孩子见十只猫就会认猫,AI 为何需要整个互联网?
人的思维主要靠哪一种机制?
认识一件事,先有想法还是先有材料?
光靠文字,能学会语言的意思吗?
看这一大问题的全部 →
回应
按立场分组 · 点上方立场只看那一组
学得到
靠预测现有数据就能学到关于世界的真正理解,甚至超出数据本身
数据终将像算力和代码一样,变成点一下按钮就能拿到的东西
▶ 5:22
亚历山大·王
Alexandr Wang: “This is a Once-in-a-Civilization Opportunity”
2026
有先验知识做推理,训练一辆足够出色的自动驾驶汽车并不需要海量里程数据
▶ 26:38
黄仁勋
Jensen Huang: The Mindset That Built NVIDIA
2026
视频模型无需专门的物理训练,仅从视频中就能涌现出相当准确的直觉物理理解
▶ 7:09
德米斯·哈萨比斯
Demis Hassabis on AI's Next Big Breakthrough, 2050 and More!
2026
剥离全部人类知识、完全从零自学的算法,比在人类数据上训练更优雅有效
▶ 20:59
戴密斯·哈萨比斯
The Thinking Game | Full documentary | Tribeca Film Festival official selection
2025
让模型预测下一个符号,等于逼它理解所处理的内容
▶ 10:30
杰弗里·辛顿
The surprising truth about AI’s limits and potential | Geoffrey Hinton | Strange Loop
2024
大型神经网络能识别出训练数据中的错误,因而表现得远比训练数据本身更好
▶ 15:09
杰弗里·辛顿
The surprising truth about AI’s limits and potential | Geoffrey Hinton | Strange Loop
2024
用推理自动生成训练数据,能让模型突破模仿人类的上限,下出创造性的招法
▶ 16:33
杰弗里·辛顿
The surprising truth about AI’s limits and potential | Geoffrey Hinton | Strange Loop
2024
只靠语言就能学到很好的世界模型,但用多模态系统学要容易得多
▶ 18:11
杰弗里·辛顿
The surprising truth about AI’s limits and potential | Geoffrey Hinton | Strange Loop
2024
不需要先天知识或架构限制,随机初始化的大神经网络仅靠数据就能学会语言这类复杂能力
▶ 27:54
杰弗里·辛顿
The surprising truth about AI’s limits and potential | Geoffrey Hinton | Strange Loop
2024
要准确预测下一个词,必须理解整句话的含义
▶ 8:35
杰弗里·辛顿
"Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview
2023
展开其余 4 条 ↓
会卡住
世界远大于已有数据,只从数据里学迟早会撞上天花板
世界远大于人类写在互联网上的一切,大语言模型终会被互联网信息的有限性卡住
▶ 10:26
理查德·萨顿
Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again
2026
世界远比任何智能体的心智复杂,智能体只能依靠粗糙的近似,因而必须持续学习
▶ 15:30
理查德·萨顿
Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again
2026
任务一旦偏离模型训练分布,模型表现会骤降,偏离越远越不可靠
▶ 23:07
杰夫·迪恩
Jeff Dean: The 1% Rule for Building in AI
2026
能拿到通用模型接触不到的数据,是创业公司最大的优势来源
▶ 29:04
杰夫·迪恩
Jeff Dean: The 1% Rule for Building in AI
2026
蛋白质折叠不像围棋可无限自我对弈,训练数据受实验测定的稀缺性严格限制
▶ 50:24
约翰·江珀
The Thinking Game | Full documentary | Tribeca Film Festival official selection
2025
训练数据不是世界本来的样子,只是某一批特定收集方式下得到的数据
▶ 20:14
艾米莉·本德
Emily M. Bender — Language Models and Linguistics
2021
需先想清
有些事不可能从经验中学来,必须先以抽象方式把它想清楚
发射火箭这类事情不可能完全从经验中学来,必须先以抽象方式把它想清楚
▶ 32:34
主持人
Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again
2026
分享
↑
苏菲周报 · THE WEEKLY
每周一封,
追问一个大问题。
苏菲拉底的每周来信,写这一周在追问的问题和看到的回应。
订阅 →
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
问题
讲者
谈话
信源
理念
周报
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]