造物之问「造物如何反过来塑造我们?」之 Ⅵ·08 · #064 我们造的东西,何时开始支配我们? 未结案

它问的不是造物是否有害,而是主动权在哪一刻换了手。工具、市场、媒介、制度起初都为实现我们的目的而设,可一旦成规模运转,就会生出自己的节奏与标准,反过来规定我们能想什么、该要什么。它常被误读为技术悲观论,其实追问的是:支配如何在无人下令时形成。

这类支配没有责任人,也就没有可反抗的对象。等一种造物成了默认环境,再谈利弊已经太晚,它连讨论所用的语言都改写了。反复追问是为了守住那个还能选择的窗口:在效率与增长把一条路径变成唯一路径之前,认出它只是一条路径。自由就是这种具体形态。

AI 时代重问

当推荐系统比你更早知道你想要什么,是你还在使用它,还是它已经在替你写下偏好?

这一问,他们是这样问的 讲者原话 · 点击听那一段
核武器七十年未再使用,能证明危险技术终究可控吗? 17:29珀西斯·德雷尔What can Mary Shelley's classic, Frankenstein, teach us today?
算法管理追踪到工人的肌肉与韧带,这还是效率问题吗? 14:50凯特·克劳福德Atlas of AI: Kate Crawford in conversation with Judy Wajcman
给机器一个固定目标去优化,是不是 AI 从一开始就走错的设计? 38:06斯图尔特·罗素Stuart Russell: Provably Beneficial Artificial Intelligence
读者的实时点击数据推着编辑走,还算是编辑在做判断吗? 20:50The Information: A History, a Theory, a Flood | James Gleick | Talks at Google
思想史的回应 亚里士多德 → 马克思 → 海德格尔 → 麦克卢汉 → 拉图尔 · 经典立场速览
马克思 《资本论》标出了转折点:机器一旦从工人手中的工具变成工人必须伺候的体系,活劳动就成了死劳动的附属肢体。商品拜物教同理:人与人的关系披上物与物的外衣,价格看似自然规律,其实是人造之物在命令人。
海德格尔 技术的本质并不是技术性的:现代技术是一种「座架」,把万物预先摆置为随时可调用的持存物,莱茵河于是成了水力供应者。真正的危险不是机器失控,而是人在这种摆置里把自己也算成人力资源,却仍自以为是主人。
麦克卢汉 媒介即讯息:改变我们的不是电视播什么,而是电视本身重新分配了感知比例与社会尺度。电灯没有内容,却重造了夜晚与城市。他还提醒,每一次延伸同时是一次截除,被延伸的器官随之麻木,所以最管我们的东西往往最难被看见。
拉图尔 他不问从何时开始,而问脚本被写进了哪里:减速带替交警执行减速,旅馆沉重的钥匙坠替前台执行还钥匙。道德一旦委托给物,物就成了行动者。造物管人自设计之时便已开始,只是规则折叠进了形状,不必开口下令。
← 上一问 · Ⅵ·07媒介如何改变我们所知的世界?
订阅苏菲周报 每周一封:本周入库的精读、一个值得带走的问题、一条苏菲按。免费,随时退订。
免费 · 每周一封 · 一键退订
苏菲拉底 THE SOPHIE LAB · ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY 内容仅供学习 · thesophielab.com