这个问题有两层：机器是否需要具备道德能力才能安全地行动，以及机器是否有资格成为道德主体，即能被赞扬或谴责。它常被误解为「要不要给 AI 装上规则」，但道德主体性的传统标准涉及情感、意志与理解，而非规则遵守。与「谁应该为 AI 负责」的区别是：那里问责任落在谁身上，这里问机器是否可能成为承担者。

如果道德必须建立在情感或自由意志上，那么无论行为多么合规的机器都只是道德上的工具，责任始终在人；如果道德只需要正确的行为倾向，那么「对齐」就足以造出道德的机器，人的道德也可能被重新理解为一种可训练的行为。这个问题会决定：我们是在把道德教给机器，还是在把道德改写成机器能学的样子。

AI 时代重问

我们是在教机器道德，还是在重写道德？