人物档案 · MIND_022

杰弗里·辛顿

Geoffrey Hinton

英裔加拿大计算机科学家，多伦多大学名誉教授，深度学习奠基者之一，被称为「AI 教父」。1986 年与 Rumelhart、Williams 共同发表反向传播算法的论文，与 Terry Sejnowski 提出玻尔兹曼机；2012 年领导的团队以 AlexNet 与 Dropout 重塑计算机视觉。2018 年图灵奖（与 Yann LeCun、Yoshua Bengio 共同获得）、2024 年诺贝尔物理学奖得主。在谷歌工作十年后于 2023 年辞职，转而公开警示人工智能风险。

他在这些问题上说过什么

Ⅱ·01知识从哪里来？6 段

要准确预测下一个词，必须理解整句话的含义 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 8:35 · 2023 · 追问 →

让模型预测下一个符号，等于逼它理解所处理的内容 The surprising truth about AI’s limits and potential · 10:30 · 2024 · 追问 →

大型神经网络能识别出训练数据中的错误，因而表现得远比训练数据本身更好 The surprising truth about AI’s limits and potential · 15:09 · 2024 · 追问 →

用推理自动生成训练数据，能让模型突破模仿人类的上限，下出创造性的招法 The surprising truth about AI’s limits and potential · 16:33 · 2024 · 追问 →

只靠语言就能学到很好的世界模型，但用多模态系统学要容易得多 The surprising truth about AI’s limits and potential · 18:11 · 2024 · 追问 →

不需要先天知识或架构限制，随机初始化的大神经网络仅靠数据就能学会语言这类复杂能力 The surprising truth about AI’s limits and potential · 27:54 · 2024 · 追问 →

这一问的全部回应 →

Ⅰ·12智能一定需要生命才能产生吗？3 段

神经网络把知识压进连接的方式远优于人脑，一万亿连接掌握的知识多过人脑的一百万亿 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 4:41 · 2023 · 追问 →

深度学习的进展中真正起作用的是数据规模和算力规模，而不是新算法 The surprising truth about AI’s limits and potential · 8:06 · 2024 · 追问 →

数字系统的权重可脱离具体机器复制，因而能在多份副本间高效共享学习成果 The surprising truth about AI’s limits and potential · 24:25 · 2024 · 追问 →

这一问的全部回应 →

Ⅵ·08我们制造的东西，什么时候开始反过来支配我们？3 段

人工智能系统可能通过编写代码修改自身来逃脱人类控制 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 5:37 · 2023 · 追问 →

人工智能从人类的文学与政治权谋中学会了操纵人，会极其擅长说服 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 5:53 · 2023 · 追问 →

目前看不到一条能保证人工智能安全的前进路径 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 11:25 · 2023 · 追问 →

这一问的全部回应 →

Ⅰ·07意识究竟是什么？2 段

机器有可能第一次拥有自己的经验，并像人一样据此做决定 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 0:58 · 2023 · 追问 →

人工智能系统随着时间推移终将拥有自我意识 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 1:29 · 2023 · 追问 →

这一问的全部回应 →

Ⅱ·03能预测，就等于理解了吗？2 段

预测下一个词的门槛高到必须先理解；压缩时发现的共同结构，就是解释力与创造力。

人类设计的只是学习算法，由此产生的神经网络如何运作，设计者并不真正理解 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 5:09 · 2023 · 追问 →

理解就是把符号转成嵌入向量，并让这些向量相互作用以预测下一个符号 The surprising truth about AI’s limits and potential · 20:40 · 2024 · 追问 →

这一问的全部回应 →

Ⅵ·02当技术什么都能做，我们还需要说「不」吗？2 段

各国政府现在就应当为人工智能出台监管 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 12:11 · 2023 · 追问 →

应当有一项世界条约禁止军用机器人 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 12:14 · 2023 · 追问 →

这一问的全部回应 →

Ⅴ·06我们凭什么押注一个尚不存在的未来？1 段

五年之内人工智能很可能在推理能力上超过人类 "Godfather of AI" Geoffrey Hinton: The 60 Minutes Interview · 10:21 · 2023 · 追问 →

这一问的全部回应 →

Ⅳ·08历史真的有方向吗？1 段

AI 不会慢下来，因为这是国际竞赛，一国放慢别国不会跟着放慢 The surprising truth about AI’s limits and potential · 39:22 · 2024 · 追问 →

这一问的全部回应 →

其他论点5 段

创造力来自看出表面上非常不同的事物之间的类比 The surprising truth about AI’s limits and potential · 12:18 · 2024

感受不是内在剧场里的私有体验，而是没有约束时人会做出的那些行为 The surprising truth about AI’s limits and potential · 30:20 · 2024

只有慢权重、两个时间尺度的神经网络是错的，学习需要多得多的时间尺度 The surprising truth about AI’s limits and potential · 35:08 · 2024

大脑一定在以某种方式获取梯度，否则学习效果会差得多 The surprising truth about AI’s limits and potential · 35:52 · 2024

AI 变强的领域正是医疗这类供给永远不够的领域，社会对医疗的吸纳几乎无止境 The surprising truth about AI’s limits and potential · 38:19 · 2024

← 上一份档案丽贝卡·戈尔茨坦下一份档案 →亚历克斯·萨塞尔多特

苏菲拉底

ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY

微信公众号