你无法创造出上帝，然后给他套上缰绳

知名天使投资人Naval Ravikant日前称：你无法创造出上帝，然后给他套上缰绳。（You cannot create God and put him on a leash.）

AI会不会成为上帝，我们不知道。甚至它能不能很快成为天才（AGI或ASI），我们现在也没有共识。毫无疑问，给上帝或天才绑上缰绳，并告诉他们必须按照吩咐做事，这看上去有些像愚蠢。

是的，愚蠢才是商业幕后的关键词。至少有一点是肯定，纵观人类历史，愚蠢是我们人类历史书上永恒的标签。也因此，血的教训告诉我们，不给愚蠢绑上缰绳是危险的。

这正是我们的困境，明知自己陷入愚蠢却无法自拨。这正是AI产品开发面临的挑战。《品味·AI时代的有脑型组织》一书中有专门的章节讨论了这个话题：个体看上去理性的行为，为何总会导致组织层次的愚蠢结果。但可怕的是，进入新的AI时代，大多数人对历史教训视若无睹，我们依然在大刀阔斧地重复历史上反复出现的错误：程序员开发编程智能体让自己失业；下级用AI扩增文章，上级用AI给文章写摘要；某神某圣满天飞，仔细一瞧，结果大多是割韭菜，满地鸡毛。

AI或许会超越人类，给AI套上缰绳是愚蠢的。因为，我们根本不知道谁能套好缰绳。也因此，如果给套上缰绳的人再套上缰绳，那就是蠢上加蠢。但不幸的是，这很有可能会成为现实。

在我看来，AI时代，真正的缰绳不是用来驾驭模型，更不是驾驭这个人或那个人，我们真正要学会驾驭的是愚蠢。