这个问题问的是：当一个由多方设计、训练、部署、使用的系统造成伤害，责任如何在链条上分配，以及「系统本身负责」这个说法是否有意义。它容易被当成纯法律问题（谁赔钱），但底层是道德责任的条件：知情、控制、意图。与「机器需要道德吗」相邻，这里默认机器不是终点，问的是人际之间的分配，以及分配失败时的「责任空洞」。

深度学习系统的输出没有任何一个人完整理解或控制，这打破了传统责任的前提：每个人都可以说「我只做了我那部分」。若不解决这个问题，伤害将没有人承担，受害者也无处申诉；而若粗暴地把责任全部压给终端使用者，则会让设计者免于任何约束。责任的分配方式，最终决定谁有动力把系统做得更安全。

AI 时代重问

AI 错误，是设计者、使用者，还是系统本身的责任？