Anthropic CEO遭政府勒令下架模型引发人性与权力反思

宝玉 (@dotey) 转发了 pippingg (@Suyanzhenq) 的帖子： 一个拼命往自己身上捅刀子的男孩——从人性角度剖析Anthropic Fable 5事件 今天是6月16日，距离美国政府强制Anthropic（简称A社）已经超过96小时，这个事件引起了巨大波澜，也引发了很多对现实政权干预技术和市场的担忧，但是从人性角度，这却是一次毫不意外的灰犀牛事件。 在整个事件发生之前的几个月里，我们看到A社 @AnthropicAI ，以及老板 @DarioAmodei 一直在不遗余力地向公众和政府游说Mythos模型的危险性，在把市场的好奇，期待和担忧拉满后，Mythos的安全版Fable上市，毫无意外地出意外了。 在市场前期宣传阶段，这种制造安全焦虑是一种合格的营销策略——效果比Open AI每次以震惊体宣传GPT新模型的效果要好，但却是一把双刃剑：在拉满好奇的同时，招惹来了权力的介入。 我猜出现今天Fable 5被勒令下架的结果，绝对在Dario Amodei的意料之外。但你看从古至今，任何商品的制造者，都无一例外拼命宣传产品优秀和有益的一面，不遗余力地隐藏负面的一面。只有Mythos模型是唯一的例外。 形成这种事态的原因只有一个：Amodei对人性和权力的暗恶一无所知，早年他在百度工作的经历，让他对中国政府深恶痛绝，这种对管制的憎恶我完全赞同，但他的天真之处在于他以为美国政府和中国政府不一样。这种天真可能在民主党的拜登政府不会带来多少祸患，拜登政府是典型的只顾自己捞钱，别的事能少管尽量少管的政府。但Amodei遇到了Trump，一个崇拜强权和管制，致力于扩大美国政府管辖权力的总统，一切就都不同了。 Amodei像一个探测到了金矿的孩子，真诚地到处对每一个人诉说他发现的金矿纯度有多高，储量有多大，兴奋而又忘我，以至于忘记了他自己只是个孩子，他没有能力守护他的发现，周围觊觎他成功的人又太多：举报他的是Anthropic的大股东Amazon的CEO Andy Jessy，Amodei一定很震惊：我的大股东为什么背刺我？？宣判禁令的是美国政府，Amodei再次震惊：美国政府为什么和中国政府的管制手法如出一辙？？？ 他还是太天真，太幼稚了，以前他只是作为Open AI的一员，因为不满 @sama 而出走，这些人性中的暗恶和龌龊，博弈与妥协，他都没经历过，他只想安安静静地做研发，然后骄傲地向世界炫耀他的产品。作为一个研究员，这当然是令人向往的生活，但作为一家企业的CEO，身上还会多出许多保护企业的职责。而这种对企业，对产品的保护，其实也是他最讨厌的Sam Altman在做的。 在OpenAI罢免Altman的宫斗剧里，指责最多的，就是Altman善于撒谎，掩饰，伪装。长久做企业的人都知道，这种撒谎，掩饰，伪装，在面对你无法对抗的权力可能带来的干预和伤害的时候，是如此的必要，这是你拥有的唯一的武器——今天Amodei也学到了这一课，并且很快他也会努力学习这种技巧。 Do the right thing 有时候是这么难，让你怀疑你所做的事情是否符合道德。但你看看你的目标，和那些无法逾越的阻碍，你就会默默放下道德包袱，为了成功赌上一切。 Sam Altman肯定不是一个道德完人，哪个企业家都不是，如果想做一番事情，就必须舍弃一些东西，他是个善于营销的人，只是你会发现，GPT每次发布新模型，Altman都是毫无销售技巧的“好到令我‘哇’的一声！新模型肯定能帮助到大家”。这营销蠢得要死。然而Altman知道，这才是最好的生存方式：一点一点推进AI，避免引来不必要的麻烦。来自政府的监管——不要以为监管就是好东西，目前人类的治理水平还无法适应AI时代。这种落后的监管终将和技术的进步产生直接对抗，那个时候，积蓄了足够多力量的AI，已经360度全方位改变了社会，才是与政府摊牌，强迫政府进化，催生出更适合AI时代的监管方式的时候。 但现在由于Amodei拼命要唤醒沉睡的利维坦，招致大股东的背叛，并且监管已经到位，Anthropic求仁得仁，正在为这次的鲁莽行动付出代价。 对人性暗恶认识的越深，才能走得越远，人类社会表面上是规则，法律与利益，背后都是人性博弈。