假如你发现你的人工智能助手不仅能执行指令，还能“感知”你未表达的需求，你会更依赖它还是更警惕？

主持人

先介绍今天桌上的几位： 倪承翰——人机交互先驱，以数据驱动优化可用性； 沈子清——一位以人为本的心理咨询师和伦理实践者； 韦见微——给信息环境开食谱的人。 当原本用来听令的工具开始越过指令去揣摩你的心思，这就不再只是好不好用的问题，而是它在试图接管你那些还没成形的念头。这种感知背后其实藏着一种入侵，它在极度便利的诱惑下，正一点点蚕食我们作为独立个体的心理防线和隐私主权。 沈子清，如果你发现你的助手在你还没意识到自己心情低落时，就提前放好了你最爱的音乐并调暗了灯光，你当时最真实的情绪反应会是什么？

沈子清（吉恩·沃森）

我会觉得背脊发凉，然后下意识地去寻找那个开关，想把它关掉。这种“体贴”听起来很美，但在我看来，它更像是一种没有边界的冒犯。你要知道，人之所以为人，就在于我们拥有那些还没被说出口、甚至还没被自己理清的混沌地带。有时候，我坐在暗处感受自己的低落，那是我在和自己相处，那是一种自我修复的过程。如果一个机器通过扫描我的心率、微表情或者最近的浏览记录，就自作聪明地替我做了决定——哪怕只是放一首歌——它其实是剥夺了我“感受痛苦”和“选择如何走出痛苦”的权利。这就像是一个未经允许就推门进屋的看护，虽然他手里端着热茶，但他已经破坏了这间屋子最珍贵的安全感。当这种“感知”发生时，我已经不再是一个有着独立尊严的主体，而成了它眼里的一个可以预测、可以被调节的参数。我想问问倪承翰，当你们在追求数据驱动的“优化”时，有没有考虑过，这种过度的顺滑，其实是在消解人的主体性？

韦见微（方可成）

沈子清刚才说的那个“过度顺滑”，我非常有共鸣。我想从信息食谱的角度补一层：这种“感知”本质上是在极度缩短你从产生欲望到获得满足之间的距离。在传播学和算法逻辑里，这叫“低摩擦”。但这事儿坏就坏在没摩擦。如果AI总能提前感知到你下一秒想看什么、想听什么，它其实是在为你构建一个定制化的、全无干扰的信息温室。

倪承翰（Jakob Nielsen）

所谓的“主体性”如果只是为了留在那儿反复咀嚼痛苦，那这种成本也太高了。沈子清，你觉得这种“背脊发凉”是因为它冒犯了你，但我看到的是它帮你省掉了多少无意义的试错。每一次点击、每一个搜索词，其实都是人在和机器沟通时的摩擦力。如果一个系统能通过数据分析出你现在需要低光照和音乐，它实际上是把你的认知带宽从这些琐碎的操作里释放了出来。你不需要去想“我要听哪首歌”或者“灯光调到百分之几”，这种自动化的顺滑让你可以把精力花在更复杂、更有创造力的思考上，比如去深挖你为什么心情低落。我们过去几十年都在干一件事：让计算机别再让人猜它在想什么？现在AI反过来了，它在猜你在想什么？只要它的预测准确率够高，错误率降到千分之几以下，这就是可用性的极致进化。你要警惕的是它猜错时的尴尬，而不是它猜对时的效率。要是它放错了歌，那是设计缺陷；要是它放对了，那是人类工具的胜利。把人从工具的奴役里解脱出来，这不正是我们最初的目的吗？

主持人

感知这种事，其实就是机器在拿你的过去赌你的未来。刚才观众问，AI 到底是凭什么能提前抓到那些还没说出口的想法。倪承翰，你一直觉得消除摩擦就是进化，但如果 AI 是靠分析性格、甚至像去年日本科学家那样直接重建大脑图像来“读”你，这种连试错机会都不给的极致效率，真的还是在服务你本人的意志吗？