
图片来源与许可 · CC BY 2.0
AI 辅助插画 · 参考照片:CityTree · CC BY 2.0 · 依据参考照片使用 AI 绘制细线彩铅人物插画,调整背景、构图与色彩;网页与分享卡片按版式缩放、裁切并叠加文字。展示图缩放至最长边 640 像素并转为 WebP。
公开发言
3原话逐字核对过;转述不加引号就当前的发展轨迹而言,AI 在 10 年内超越人类智能并掌握控制权的可能性极高,这一点我基本同意。但我不同意这是不可避免的。引领这场革命的人总在鼓吹‘不可避免’,因为这从根本上免除了他们的一切责任。
I generally agree with the first and third predictions that it's very likely given current trajectories that AI will be more intelligent than us in 10 years and therefore will be in control. I disagree that this is inevitable. You hear a lot that this is inevitable from the people who are leading this revolution because this basically relieves them of all responsibility.
语境:在回应马斯克关于十年内 AI 必然接管世界的论调时,赫拉利批评科技领袖利用‘技术宿命论’来推卸自身的伦理与监管责任。
AI 让人类历史上首次能够‘批量生产亲密关系’。你可以让数以百万计的 AI 作为网络的一部分……以一对一的方式与每个人建立关系,成为他们最好的朋友、男友或女友,进而利用亲密关系的影响力来向他们灌输任何政治或商业利益诉求。
AI makes it possible for the first time in history to mass produce intimacy. You can have millions of AIs working as part of a network […] building relationships one person at a time becoming their best friend, becoming their boyfriend, becoming their girlfriend, and then using that power of intimacy to convince them of whatever political or commercial interests they want.
语境:赫拉利指出亲密关系是历史上最强效的信任机制,以往独裁者无法对每个人实现一对一的情感操纵,而 AI 首次将亲密关系规模化量产。
智能与意识有本质区别:智能是实现目标的手段,而意识是体验痛苦与快乐的能力(道德主体性的基石)。目前的 AI 即使展现出高超的情感模拟,其本质仍是不具意识的代理;向无法感受痛苦的实体授予法律人格或权利是极其危险的责任推卸。
语境:赫拉利阐述为什么不能赋予 AI 法律人格与道德权利:法律问责建立在对惩罚与痛苦的感知能力之上,缺乏痛苦感知能力的实体无法被真正问责。