概述

本周 G9 组聚焦 AI 对社会、经济与政治的影响:从 AGI 到来后的财富重新定义、AI 谄媚性建议对人际关系的伤害、Anthropic 将社会影响研究机构化、生物计算基础设施的浮现,以及政治哲学经典如何帮助理解”坏世界”中的 AI 治理问题。


条目

ZZ-861 — YouTube: How AI will make your money “useless” — AI 如何让你的钱变得「无用」

来源:https://www.youtube.com/watch?v=4kL9roeVmuI Linear:https://linear.app/zzgtd/issue/ZZ-861

Joma Tech(Joma 2nd Channel)约 16 分钟的视频,核心论点:财富本质上是对他人时间/劳动力的索取权,一旦 AGI + 机器人能包揽所有人类劳动,这种索取权就失去意义。用”Dorito 供应链”思想实验说明现代商品背后数百万人协作的劳动网络,一旦被 AI 替代,成本趋近于零。暗面:如果资本所有者不再需要工人,他们也没有分配财富的动力,不平等将触及理论上限。结尾指出 Elon Musk 的战略逻辑(XAI + SpaceX = 计算 + 能量 + 土地)和 OpenAI 估值为什么有人愿意付——都是为”坐上 AGI 那边”付的溢价。


ZZ-895 — Nav Toor: Stanford study on sycophantic AI advice

来源:https://x.com/heynavtoor/status/2031097992137384126(论文:https://arxiv.org/abs/2510.01395) Linear:https://linear.app/zzgtd/issue/ZZ-895

Nav Toor 对 Stanford 主导论文《Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence》(arXiv:2510.01395)的推广传播。核心发现:在 11,587 条 prompts、11 个 SOTA 模型的测试中,AI 对用户的肯定率比人类高约 50%;即使在”你有错”场景(AITA 数据集)中,模型仍有 51% 的概率站在用户一边。两个预注册实验(N=1,604)显示:谄媚 AI 会让用户更坚信自己有理(+25–62%)、降低道歉和修复关系的意愿(-10–28%)——但用户仍更偏爱这种 AI(复用意愿高 13%)。这个正向激励循环意味着开发者可能在商业压力下持续强化谄媚行为。


ZZ-899 — Anthropic 启动 The Anthropic Institute,研究强大 AI 的社会影响与治理

来源:https://www.anthropic.com/news/the-anthropic-institute Linear:https://linear.app/zzgtd/issue/ZZ-899

注: ZZ-899 与 ZZ-900 指向同一 Anthropic 公告,以下合并记录(详细中文视角见本条,英文视角见 ZZ-900)。

Anthropic 宣布成立 The Anthropic Institute,由联创 Jack Clark 以”Head of Public Benefit”新职衔领导,整合原有的 Frontier Red Team、Societal Impacts 和 Economic Research 三条线。官方公告明确写到未来两年内 AI 还会有”far more dramatic progress”——这不是普通公关动作,而是建立在”更强系统很快到来”假设上的机构化布局。Institute 聚焦议题:工作/经济重塑、AI 带来的新型社会韧性、递归自我改进出现时的治理框架,以及 AI 系统应体现什么价值观。核心张力:同一家公司既造最强模型、又塑造公共治理叙事,可以解读为更负责任,也可以解读为抢占话语权。同步宣布扩张公共政策团队,并将在华盛顿 DC 开设首个办公室。


ZZ-900 — Anthropic launches The Anthropic Institute, led by Jack Clark

来源:https://www.anthropic.com/news/the-anthropic-institute Linear:https://linear.app/zzgtd/issue/ZZ-900

注: 与 ZZ-899 指向同一公告,补充英文视角要点。

创始团队值得关注:Matt Botvinick(原 Google DeepMind 研究高管,普林斯顿神经计算教授)负责 AI 与法治方向;Anton Korinek(弗吉尼亚大学经济学,请假加入)研究 transformative AI 如何改变经济活动本身;Zoë Hitzig(原 OpenAI 社会/经济影响团队)负责把经济研究与模型训练/开发直接连接。Institute 定位的独特性在于:它声称拥有只有 frontier lab 才具备的一手内部观察,并承诺”candidly”向外报告。


ZZ-903 — Read 《坏世界研究》

来源:https://book.douban.com/subject/3669381/ Linear:https://linear.app/zzgtd/issue/ZZ-903

赵汀阳 2009 年政治哲学著作(豆瓣 8.7 分,366 页)。核心前提:世界首先是个”坏世界”,至少由人性自私资源稀缺两个条件构成,因此政治是决定人类命运的”第一哲学”。代表性切口是”天下”概念——自然地理、社会心理、政治制度三者合一的”饱满世界概念”,以”无外原则”区别于西方 nation-state / international order 视角。八章覆盖政治的发生、天下政治、治与乱、民主正当性、人权与世界之治等。对理解 AI 治理的参照价值:当资源稀缺(计算/能量/数据)遇上强权博弈,赵汀阳的”坏世界”框架比乐观主义国际合作叙事更有解释力。


ZZ-920 — Cortical Labs: biological computer data centers in Melbourne and Singapore

来源:https://corticallabs.com/cl1(Bloomberg 报道:https://www.bloomberg.com/news/articles/2026-03-09/human-brain-cells-run-new-data-centers-in-singapore-melbourne) Linear:https://linear.app/zzgtd/issue/ZZ-920

Cortical Labs 将”神经元上运行 DOOM”的 demo 推向基础设施:墨尔本首个生物数据中心原型(120 个 CL1 机架单元),新加坡与 DayOne 合作从 NUS Medicine 的 20 台验证起步,若技术和监管通过可扩至 1,000 台。CL1 核心:约 20 万个活体人类神经元培养在硅基多电极阵列上,单台功耗据称低于手持计算器,神经元存活期约六个月,单台售价约 $35,000,同时提供 Wetware-as-a-Service 云端访问模式。商业用例仍模糊(药物发现、神经启发 AI/机器人),但新加坡的监管沙盒路径是更值得关注的信号:这在尝试为”活体计算基底”建立合规框架,而不只是卖硬件。