英国计算机科学家,加州大学伯克利分校计算机科学教授,人类兼容人工智能中心创始人。他与彼得·诺维格合著的《人工智能:一种现代方法》是全球高校最通用的人工智能教材。2019 年出版《AI 新生:破解人机共存密局》(Human Compatible),提出「可证明有益的人工智能」,主张让机器以人类偏好为目标并保持对自身目标的不确定;长期呼吁国际社会禁止致命性自主武器。
电路语言没有事物概念,扩大规模到不了人类水平,须等概念突破。
把固定目标写进机器让它优化,从写下的那一刻起就已失控。

微信公众号