来源：智源社区
编辑：好困
JohnCarmack，这位传奇游戏开发者、火箭工程师和VR梦想家已经转向一个大胆的新挑战：开发人工通用智能——一种超越模仿人类智能而理解事物和解决问题的AI形式。
我坚信，实现AGI程序的源代码，一个人就能编写，规模是几万行。而不是Chrome三千万或者Twitter两千万那种量级。推理是：人的DNA信息量不到1GB，而大脑只有40MB，其中还有冗余和不精密的部分。十年内我们也能拥有匹配的硬件完成这项工作。职业生涯早期，当我有个聪明的想法却没成功时，会非常沮丧。但现在，我已经很擅长把自己的新奇念头打倒——想办法摧毁它们，而不是当成宝贝来呵护。我是个重细节的人，即使是谈火箭，目标也不会说成“殖民火星”，而会讲讲怎么用螺栓把零件固定在一起。所以，创造更多“人力”，应用在日常事务中，例如告诉AI，你想制作一部电影或漫画书，就能直接在云上运行——这就是我对AGI的愿景。现在世界有80亿人，比5千万人口生活在山洞时好得多。随着AI进入社会，将大大提升社会价值与进步总和。AI会极大地影响经济。我觉得AGI实现的可能性到年会提升到60%。往后说，年会有95%。SamAltman、GregBrockman、IlyaSutskever曾经精心策划过一次研讨活动，目的是想劝我加入OpenAI。Ilya给了我一份大约40篇研究论文的清单，说“如果你把这些都学会了，就会明白90%的重要工作了。”我照做了，一切都开始在我的脑海中变得清晰。令人惊讶的是，“主力选手们”都在进行“集体思考”：去年OpenAI发布了一个图像生成器，然后Google、Facebook跟着纷纷发布——不同公司的精英们在做同样的事，在有限的空间“交叉授粉”。机器学习有个策略：你需要一定随机性，我把自己视为为随机点。我的背景和大家不同，之前并不做学术研究，而是一名系统工程师，但有足够的能力掌握必要知识。其他人朝着他们认为美好的未来前进，保持像我这样的随机性也重要。所以我选择单干。同样令人惊讶的是，每个人都把DeepMind和OpenAI视为领先的AGI实验室，却看不到像我这样做事的人。我很幸运，曾经获得过成功，财务稳定，所以我*得起，能花十年冒这个险，不用担心自己破产。如果我有百分之几的成功概率，而*注的那一边价值数万亿，从这个角度看，*局并不糟糕。在AGI问题上，我和其他人成功的几率差不多，虽然有些人筹集了数十亿美元，并且在某些问题上卓有成效，但还说不清它们是否是AGI的必经之路。我曾经的合作伙伴，建议我如何如何做，保证能成市场独角兽。但我认为这是一项长达10年的任务，为此筹集的0万美元，我不想在接下来的两年内烧完，然后再融资——这不是我做事的方式。商业成功很诱人，但这分散了每个人的注意力，无法放眼未来。关于我的工作，可以直率地说——近期商业机会为零。虽然有人投资了0万，但我没承诺取得AGI突破。相反我说的是：我这里有个不可忽视的机会，为了抓住它，我会亲自弄清楚。我觉得自己有一定概率，比OpenAI、DeepMind以及所有的中国实验室更早想出可行的办法，但不会自大地说会第一个成功。（以上文字做了不改变原意的编辑）人物简介：JohnCarmack，游戏开发公司idSoftware的创始人，他以极强的编程和工程能力而知名，代表作《毁灭战士》（Doom）和《雷神之锤》（Quake）等。他还创立了美国犰狳航空航天公司（ArmadilloAerospace），并曾担任虚拟现实公司Oculus的首席技术官，后又加入Meta。年12月，卡马克辞去了Meta虚拟现实部门的领导职务，全身心投入AGI研发。在近期《DallasInnovates》的专访中，他深入介绍了自己在达拉斯隐居的方式工作的方式和原因。另起炉灶，追寻AGI的圣杯
AGI是人工智能的圣杯，这位达拉斯最著名的科技奇才对AGI的追求就好比是百年难遇的登月行动。在这场针对AGI的角逐当中，参与方还有来自科学家、学者和大型科技公司的“群体思维”（groupthink）的独立竞争，他们也在积极寻求解决方案。
今年8月，Carmack宣布，他的AGI初创公司KeenTechnologies在新一轮融资中从多个知名投资者手中筹集了0万美元。这一轮的参与者包括前GitHubCEONatFriedman、Cue联合创始人DanielGross、Shopify创始人TobiasLutke、Stripe联合创始人PatrickCollison、红杉资本以及总部位于奥斯汀的CapitalFactory。
Carmack强调，尽管他本可以自己开一张0万美元的支票，但从投资者手中拿到融资，将迫使他在寻求AGI的答案时更加自律和坚定。在贝弗利的房子里，Carmack主要忙于KeenTechnologies相关的工作，他称之为职业生涯的“第四个主要阶段”。在此前一个阶段，主要是参与idSoftware公司在电脑和先锋视频游戏方面的工作，有过短暂的经历，如发布于年的《雷神之锤》(Quake)和《毁灭战士》(Doom)系列游戏，在美国犰狳航空航天公司火箭研发的工作（0-），以及在Oculus公司研发虚拟现实，后者在4年被Facebook（现更名为Meta）以20亿美元收购。9年底，卡马克从Oculus的首席技术官职位上退下来，成为VRventure的顾问首席技术官，并宣布他将专注于AGI研究。但去年12月，他从Meta辞职，专心致志于在Keen的工作。
5年在洛杉矶举行的《毁灭战士》(Doom)发布会上，Carmack与当时的idSoftware首席执行官ToddHollenshead、以及id的KevinCloud和Timwilits在一起。
加速器和风投公司CapitalFactory总裁兼联合创始人BryanChambers表示，自9年Carmack宣布对AGI感兴趣以来，这家公司一直在积极跟踪他的消息。Chambers说:“当一个标志性的技术专家带来这样的机会时，射门才是最重要的ーー你需要射门得分，因为这样的机会百年不遇。“Chambers表示，对Carmack这样的创始人进行“登月”式的投资押注，是资本工厂的一项重要战略。Chambers称Carmack是“我们这个时代最伟大、最重要的思想家之一”。正是这些与众不同的奇才往往能够在创新过程的任何阶段创造出非凡的价值。
此外，Chambers表示:“在实现AGI的过程中，任何进展都将改变一切。”、“它将推动其他人的尝试，推动整个人工智能社区。如果AGI真的实现了，那么我们将享受参与人类历史上最重要的价值创造公司之一。这也是风险所在。”这家创业公司之所以名叫Keen，也是来源于Carmack的第一个视频游戏——指挥官基恩系列(CommanderKeen)。同时Carmack还聘请了达拉斯地区的工程师GloriaKennickell和他的哥哥PeterCarmack，后者是堪萨斯城的首席财务官（今年可能会再招聘一到两名员工）。
和马斯克旧相识
在家中楼上的一间办公室里，Carmack把工作重心放在了Keen这家公司上，办公桌上放着一个*色的笔记本，上面写满了笔记，旁边是一台传统的台式电脑，主要用于“调试”开发工作。“当我测试模型时，需要在一个更大的系统上，或者在云资源上运行它，”Carmack说。
Carmack的工作环境
“随着我们开始进行更大规模的工作，我将派人管理另一家远程供应商设置的一个中等规模的集群。”漫步在这个大房子的其他地方，Carmack随手指着一顶挂在墙上的牛仔草帽，草帽来自南德克萨斯州ElonMusk的星际基地，是Musk的一个“手下”送给他的礼物。来自马斯克手下的礼物——牛仔草帽Carmack表示，在Musk创办SpaceX以来，他们就已经相识了。那时Carmack的美国犰狳航空航天公司（ArmadilloAerospace）也刚刚起步。Carmack说:“有一次，Musk和他的首席推进器工程师来到我在加兰德的小店，我们多年来一直保持着联系。”。“当他离开加州的时候，我还匆忙找了一些人去游说他，‘嘿，你真应该搬到达拉斯去，’我们确实努力劝了他一阵子。”Carmack在堪萨斯城长大，上世纪90年代初搬到了德克萨斯州北部，他长期以来一直十分支持这个“孤星之州”，尤其是达拉斯。“一旦我们进入德克萨斯州，我真的很喜欢这里，”他说。“我对很多以商业为重心的事情感到放心。”他补充称，Musk教会了他一个宝贵的经验，全身心投入自己的事业非常重要。此前，由于犰狳航空航天公司未能发展成功，卡马克不得已关闭了这家公司。他表示：“当时我一边还在从事软件开发，一边在跟踪航空公司那边的事情，导致精力不是很集中。”“我从Musk身上学到的一点是，他总是对自己做的事情全力以赴。其实我为我们在犰狳航空公司完成的许多工作感到自豪ーー比如SpaceX最终完成的垂直着陆ーー但问题是我那时候不够专注，很明显现在对于Keen公司我是全力以赴的。”为了激发创新思维，他说，他每天要步行至少四英里（听着有声读物），大量阅读Kindle上的材料，经常把书籍和杂志从天花板高的图书架上拿下来。他说，自从青少年时期以来，他读过的大部分书都还在，因为“我无法忍受丢弃印刷材料。”房子里许多书架上的书的主题范围很广，从《发电厂工程师指南》、《Java安全》、《千脑智能》、《象棋赢家》和《太空先锋》到《凯文的幻虎世界》和《远端画廊》。“从这个角度来看，创造力通常是把这一点和那一点联系起来。我家里的所有这些书都是来给我提供信息的，而这些信息往往就隐藏在我大脑记忆的影子和暗示之中。”Carmack说，“大多数真正好的想法都来自于这样一句话:好吧，我现在正在解决这个问题，这让我联想到了其他一些事情。然后一连串的回忆将所有这一切都勾勒了出来，直到出现这样的情况，‘哦，这真是个好主意，这个灵光乍现可能真的很棒。’然后我迅速追踪这些线索，并问自己一个问题，如何才能迅速测试它呢?”
TheQA
以下为这位科技奇才专访实录（为了简洁明了，笔者对问答进行了编辑）。
Q：你现在正在用什么样的工作方式来“解决”通用人工智能（AGI），为什么要采用你的特定方式？
A：我一直坐在我的电脑前，思考概念，记录想法，制定理论，然后进行测试。这就是我现在的工作，因为没有人真正知道抵达最终目标的完整路径。但我认为，我和其他人能成功解决AGI的几率差不多。有些人筹集了数十亿美元追求AGI。有迹象表明非常强大的东西现在在狭义的机器学习中是可能实现的，目前尚不清楚这些是否是实现人工通用的必要步骤。对于乐于这样做的公司来说，这是一个不错的选择，有很多不同的出口，即使你没有一路走下去抵达终点，过程里也有很多有价值的东西，会改变世界，比如狭义人工智能（narrowAI）。
但令人担心的是，如果你只是走出第一个出口就说，‘嘿，这里有一个价值数十亿美元的出口’——我们知道，只需利用我们所已知的一切就可以彻底改变各个行业。这是一件非常诱人的事情，但它分散了每个人的注意力，使他们无法放眼未来，无法专注于远距离的事情。所以，我可以直截了当地说，目前我在做的事情：短期商业机会为零。
Q：是什么促使您对AGI这个话题产生兴趣？
A：我们现在正处于一场科学革命之中，因为10年前，人工智能还不太有效。我们经历过这些人工智能“寒冬”——事实上，在过去的几十年里就有好几次。这很有趣，因为虚拟现实也经历过这个阶段：虚拟现实几乎成为了一个坏词，因为它在年代变得如此糟糕，人们甚至不想谈论它。
人工智能有几个这样的恶性循环：炒作升温，资金流入，表现不佳，然后崩溃，没有人愿意谈论它。但是最近十年不同了，原来没注意到的人都开始纷纷注目，因为在过去十年中机器学习出现了多项让人震惊的突破，意义深远。这才是真正促使我说，“可能真的是时候认真看看这个了。”这对我来说很有趣，因为我对于机器学习和AI的理解尚处于一个技术旁观者的阶段，从十几岁开始读过一些开创性的领域书籍，了解到符号AI一类的概念。
所以，我的大脑对这些事情有所了解，但我并没有真正
