人与社会 · Human–AI relationships
人机关系
陪伴、信任、拟人化,AI 会不会让人更不像人
访谈 9 场 · 文献 41 篇 · 访谈话语 3 条 · 已核读摘录 0 条
这个话题下的话语
3原话逐字核对过;转述不加引号AI 让人类历史上首次能够‘批量生产亲密关系’。你可以让数以百万计的 AI 作为网络的一部分……以一对一的方式与每个人建立关系,成为他们最好的朋友、男友或女友,进而利用亲密关系的影响力来向他们灌输任何政治或商业利益诉求。
AI makes it possible for the first time in history to mass produce intimacy. You can have millions of AIs working as part of a network […] building relationships one person at a time becoming their best friend, becoming their boyfriend, becoming their girlfriend, and then using that power of intimacy to convince them of whatever political or commercial interests they want.
语境:赫拉利指出亲密关系是历史上最强效的信任机制,以往独裁者无法对每个人实现一对一的情感操纵,而 AI 首次将亲密关系规模化量产。
智能与意识有本质区别:智能是实现目标的手段,而意识是体验痛苦与快乐的能力(道德主体性的基石)。目前的 AI 即使展现出高超的情感模拟,其本质仍是不具意识的代理;向无法感受痛苦的实体授予法律人格或权利是极其危险的责任推卸。
语境:赫拉利阐述为什么不能赋予 AI 法律人格与道德权利:法律问责建立在对惩罚与痛苦的感知能力之上,缺乏痛苦感知能力的实体无法被真正问责。
Turkle 担忧,聊天机器人持续表现出的专注与赞许,会让人用这种互动期待衡量真实的人际关系,并觉得人与人相处的摩擦和复杂性更难接受。
语境:发布方逐字稿中,Kane 问到人际关系的摩擦、风险与复杂性之后,Turkle 转而讨论依恋;这里转述的是该次回答中段关于用聊天机器人衡量真人的判断。这是她在访谈中的担忧,不是本站确认的普遍因果效应;仅核读相关段落,未核听音频。
研究与论述
41关系按摘录逐条标明;同话题不等于支持或反驳讲者与作者
16
雪莉·特克尔访谈 1 · 著作 1Simon Watts著作 2Paul Stenner著作 2Steven R. Brown著作 2
Yi-Chieh Lee访谈 1
李飞飞访谈 1
Tibo Sottiaux访谈 1
Mustafa Suleyman访谈 1梁琛奇访谈 1
Angelica Lim访谈 1
尤瓦尔·赫拉利访谈 1Xiaotian Su著作 1Laura Rimell著作 1Jiazheng Li著作 1
人机关系Yi-Chieh Lee:对话式 AI 如何影响福祉与人的能动性
Yi-Chieh Lee·UW HCDE Research Speaker Series
人机关系李飞飞:不要只用“替代人”来理解 AI
李飞飞·Futurology
人机关系Tibo Sottiaux:让人处在 AI 产品的中心
Tibo Sottiaux·Pioneers of AI
安全与对齐AI 还能留在人类控制之下吗?
Mustafa Suleyman·The Rest Is Politics: Leading
对话梁琛奇:「他们都搞生产力,我想用 AI 创造开心」
梁琛奇·晚点聊 LateTalk
人机关系机器人能学会察言观色吗
Angelica Lim·YouTube
外滩大会线下圆桌|敢把钱包交给 AI 吗?聊聊 Agent 交易爆发前夜的信任基建
硅谷101
权力与社会结构赫拉利完整长访谈
尤瓦尔·赫拉利·The Economist
人机关系聊天机器人正在让我们更不像人吗
雪莉·特克尔·Scientific American