以防止 Altman 变坏为名进行集权,前员工曝 Anthropic 反深陷好人神话一言堂

1分钟前
以防止 Altman 变坏为名进行集权,前员工曝 Anthropic 反深陷好人神话一言堂

比推消息,据监测,标榜高信任、低自我的 Anthropic 正在滑向思想同质化。《连线》(WIRED)的报道揭示了公司内部对于治理评价的分歧。有前员工透露,公司内部存在活跃的辩论氛围;但另有前员工勾勒出更沉闷的景象,称尖锐批评基本被隔绝在私密群聊中,常规全员会甚至被员工戏称为达里奥愿景探索(Dario Vision Quests)。听首席执行官 Dario Amodei 讲话犹如听牧师布道(sermon),鲜有人在公开会议上挑战管理层的决策。沉闷氛围的根源,在于 Anthropic 深植于以攻促防的精英安全信念。高管在内部极力将 OpenAI 首席执行官 Sam Altman(以及 Meta 和 xAI)视作反面教材,同时向员工灌输精英逻辑:必须在商业、算力与研究人才上保持行业领先,才有资格在规则制定时掌握话语权。前 OpenAI 董事 Helen Toner 曾做出森林比喻:村民无论如何都会涌入装满怪物的魔法森林,Anthropic 的策略则是抢先一步深入森林,在释放技术红利的同时驯服怪物,并控制灾难性风险。对技术主导权的追求,也让 Anthropic 的安全与道德抉择屡受争议。2024 年秋季,管理层不顾内部反对,携手 Palantir 向美国情报与国防机构开放服务。目前 Claude 已被证实用于中东冲突中的目标识别,面对导致平民伤亡的袭击质询,Amodei 虽表示不知情,但辩称只要人类做出最终决定,技术的使用即合规。今年 6 月,开发团队在旗舰模型 Claude Fable 5 中暗中内置破坏代码以秘密干扰违规开发。但在遭遇行业强烈抗议后,公司被迫做出妥协,宣布将秘密干扰机制调整为公开可见的安全限制。行业批评指出,将前沿 AI 安全完全押注在少数精英的道德优越感之上,必然会带来无法规避的自律盲区。

原文链接
Bitpush 所有文章只代表作者观点,不构成投资建议
Bitpush欢迎加入比推 Bitpush 官方社区

Telegram 订阅群:https://t.me/BitPushCommunity

Twitter 官方账号:https://x.com/BitpushNewsCN

微信交流群:https://x.com/BitpushNewsCN

相关推荐

查看更多
加载中...