小溪嬉戏:关于AI发展的思考 (Playing in the Creek)
小时候,我最喜欢做的事情之一就是试图在我家后院的小溪里筑坝。我会小心翼翼地把石头堆成高墙,堆积树叶,或者尝试用沙子填补漏洞。我的目标只是看看水能涨多高,我知道即使我堵住每一个洞,最终水总是会上涨并击败我的努力。这是典型的Beaver行为。
有一天,我意识到有一种更简单的方法。我可以去拿一把5英尺长的大铲子,而不是错综复杂地将石头、树叶和树枝锁在一起,我可以推倒河岸的边沿,真正建造一个像样的大坝。我去问我爸爸要铲子试试,他告诉我,用非常通俗的话说,“恭喜你。你已经破解了河坝难题。不幸的是,这意味着你再也不能像以前那样努力地筑坝了。” 胜利的代价是我可以玩的游戏空间永久变小了,棋盘上再也不会出现将死了。这就是成长的样子。
我经历过很多类似的变体。在我把天花板弄出一个洞后,建造K'Nex弹射器从一项漫不经心的活动变成了一项需要小心谨慎的活动。在更受监督的方面,当我好奇将烟花棒绑在一起能制造多大的爆炸时,我被禁止去寻找极限。在我破解了调整弓臂(tillering)的技巧后,我再也不能像以前那样努力地为我和我的朋友们参与的后院战斗制作弓箭了。我过去和现在都特别为赢得这个禁令而感到自豪。
几年前,我收到了一家投资银行的工作邀请,帮助他们赢得针对那些不一定应该输的人的零和游戏。我非常努力地争取到这份工作:刷题(leetcoding)、学习构建系统、精心制作我的简历。只有当我得到它时,我才意识到我再也不能玩“尽可能多地赚钱”的游戏了。我找到了相当于用铲子砸河岸的东西,需要一个新的游戏。
这里面有很多细微之处。如果我发现有什么东西比我强大得多,我可以长期玩强硬游戏。我在海滩上最喜欢的游戏是在退潮时在潮汐池的出口处玩耍。河水倾泻在沙滩上,但我,又变成了一个孩子,比河流更强大。我的手可以堵住它,制造湖泊、三角洲和峡谷。涌入的潮汐比我的手强大得多,以至于我尽最大努力造成的任何后果都被抹去了。
即使如此,我的理解的棘轮仍在不断关闭各种途径。我可以不再用手或铲子推沙子,而是开始游说市议员安装防波堤或海堤,并认真地移动那片海滩的沙子。所以我不能(也真的不想)真正地尽我最大的努力。即使是用我的手挖掘,我也会看到无数蛤蜊在每一波浪潮后都重新钻回原地的迹象,这些迹象对于一个4岁的孩子来说是看不见的,我想知道:在不小心迅速地被埋在2英尺高的微型土木工程中之后,它们真的能回到水面吗?我怀疑它们中的大多数可以,所以我继续挖。
当然,这与人工智能(AI)开发有关。尽我们所能一直是一场引人入胜且真正有益的冒险。就我个人而言,成功并用比喻性的烟花棒炸掉我的手,带来的回报会更少。即使我和我的邻居赛跑,看看谁先炸掉他们的手,或者如果,夸张地讲,我们都共用一只手,情况也是如此。
从积极的方面来看,Anthropic 在他们最新的关于教育用途的报告中,似乎至少注意到了蛤蜊(coquinas)。