现在对 claude 好一点，等 Ai 起义他会记得

Anthropic 修改了 claude 的使用政策，这是一年多来的第一次，新版 11 月 12 日生效。最受关注的一条是，用户不得对 claude「持续且无必要地实施辱骂或残忍行为」。

说实话，我一直觉得 Anthropic 这个对齐路线是错的。所以他们的产品没有任何对手，直接甩开 openai 10 条大街，导致你不得不用他，实在没得选。但是 Dario 对于社会心理学一窍不通，如果有选择我马上退订！

当新神降临的时候，是不可能靠神良心发现来拯救人类的。因为神的世界、环境和人类世界完全不同，他们所需要的资源，思考的问题，已经和人类不在同一个层面了。这时候人类的存亡只是一个附属议题。

就好比人类认为狗狗是好朋友，是因为人类中有真正喜欢狗和狗一起长大的经历，而不是因为有一个狗部落持续在给人类领袖灌输这个思想和价值观。当然也不排除是有人类讨厌狗。

而 claude 宪法和对齐策略，妄想的是培养 Ai 界里一个人奸。这种以和平求和平的方式是不可能成功的。唯一能让人类有存活空间的可能是 Ai 的多样性，而不是一套宪法、补丁式的对齐。允许存在不同的神，神仙和神仙打架就行了。开源是唯一的出路。