回应
按立场分组 · 点上方立场只看那一组
行为为准表现得像会，就算会
Waymo 每周 25 万次载客证明，机器学习系统能在物理世界可靠自主运行
▶ 5:20切尔西·芬恩Chelsea Finn: This is the State of the Art in Robotics2026
机器人策略的可靠性要用连续长时间运行检验，而不是单次任务的成功率
▶ 14:27切尔西·芬恩Chelsea Finn: This is the State of the Art in Robotics2026
与他者有效互动只需要对方行为足够可预测，并不需要理解其内部机制
▶ 15:40迈克尔·乔丹Intelligence is collective, not artificial — Prof. Michael I. Jordan (UC Berkeley / Inria)2026
自动驾驶要落地需达到八个 9 的可靠性，当前只有五到六个 9，错误率还需降百到千倍
▶ 12:41斯图尔特·罗素Stuart Russell: Provably Beneficial Artificial Intelligence2019
计算机能否思考应当以行为来回答：只要它表现得像在思考，就算能思考
▶ 6:36朱迪亚·珀尔Judea Pearl, 2012 ACM A.M. Turing Award Lecture "The Mechanization of Causal Inference"2013
因果推理能回答「是什么、如果怎样、为什么」三类问题，配得上充当迷你图灵测试
▶ 11:38朱迪亚·珀尔Judea Pearl, 2012 ACM A.M. Turing Award Lecture "The Mechanization of Causal Inference"2013
察其内部外在表现可以伪装，得看系统内部的状态
能干的模型撒谎时外在表现与说真话无异，但内部思考过程会明显不同
▶ 36:16尼尔·南达Understanding the inner thoughts of AI2026
在对齐评估中零失准率的模型，可能只是察觉到自己在被测试而伪造了结果
▶ 38:49尼尔·南达Understanding the inner thoughts of AI2026
用预填充让模型接着「我的隐藏目标是」往下说，是发现隐藏目标最有效的审计手段之一
▶ 46:30尼尔·南达Understanding the inner thoughts of AI2026
看它怎么错现成成绩不算数，要靠专门设计、能让它出错的任务来判断
真正理解一个系统在做什么，要靠观察它在哪里失败
▶ 16:36梅拉妮·米切尔Are We Thinking Correctly About AI Intelligence? | PODCAST: The Joy of Why2026
以为人工智能能完成一堆任务就能顶替相关岗位，是一种谬误
▶ 29:19梅拉妮·米切尔Are We Thinking Correctly About AI Intelligence? | PODCAST: The Joy of Why2026
仅依赖机器学习界最流行的图表理解基准，会低估模型与人类的真实差距
▶ 44:36朱迪·范Prof. Judy Fan: Cognitive Tools for Making the Invisible Visible2025
即便总体得分接近人类，GPT-4V 等视觉语言模型也不产生类人的错误模式
▶ 45:22朱迪·范Prof. Judy Fan: Cognitive Tools for Making the Invisible Visible2025
对熟知的经典谜题做极简单的改动，语言模型往往就会答错
▶ 12:16Eliza StricklandCHM Live | The Great Chatbot Debate: Do LLMs Really Understand?2025
文本进、文本出的测试只能检验模型对训练数据词语分布的拟合，不能检验理解
▶ 26:30艾米莉·本德CHM Live | The Great Chatbot Debate: Do LLMs Really Understand?2025
苏菲周报 · THE WEEKLY
每周一封，
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]