◇◇新语丝(www.xys.org)(xinyusi.us)(groups.google.com/group/xinyusi)◇◇ 　　人工智能将把我们带往天堂还是地狱 　　作者：DAVID BROOKS 　　2023年11月23日纽约时报 　　OpenAI的优点之一是，它建立在不信任的基础上。它最初是一个非营利性的 研究实验室，因为它的创始人认为，人工智能不应该由主要受利润驱动的商业公 司来开创。 　　随着发展，OpenAI变成了一个可称为卓有成效的矛盾体的东西：一家由非营 利董事会监管的营利性公司，企业文化介于两者之间。 　　公司里的许多人似乎同时受到三种激励：科学家的探索欲望、资本家交付产 品的欲望和行善者安全行事的欲望。 　　过去一周发生的事件——萨姆·奥尔特曼被解雇，经历各种跌宕起伏，被重 新聘用——都围绕着一个核心问题：这种卓有成效的矛盾体能否持续下去？ 　　一个组织或一个人能否同时保持科学家的头脑、资本家的动力和监管机构的 谨慎？或者，正如查理·沃泽尔在《大西洋月刊》(The Atlantic)上所写的那样， 金钱总会胜出？ 　　重要的是要记住，人工智能与科技界的其他领域有很大不同。它（或者至少 曾经是）更加学术化。人工智能这个领域的研究历史可以追溯到几个世纪前。即 使在今天，该领域的许多巨头也主要是研究人员，而不是企业家——比如扬·勒 昆和杰弗里·辛顿这样的人，他们在2018年一起获得了图灵奖（计算机领域的诺 贝尔奖），但现在，对于人工智能将把我们带往何方，他们意见不一。 　　直到最近几年，学术界的研究人员才陆续离开大学，涌向工业界。谷歌母公 司Alphabet；微软；OpenAI；还有拥有Facebook的Meta这些公司的研究人员仍然 通过发表研究论文的方式相互交流，就像教授们那样。 　　但这个领域的激昂与进取，与别的热门创业领域并无不同。在过去一年左右 的时间里，当我与人工智能研究人员交谈时，我经常觉得自己站在每小时五公里 的机场移动人行道上，而他们站在每小时6000公里的跑道上。研究人员不断告诉 我，人工智能历史的这一阶段之所以如此令人振奋，正是因为没有人能预测接下 来会发生什么。“作为人工智能研究人员，重点是你应该了解正在发生的事情， 我们不断地感到惊讶。”斯坦福大学博士候选人里希·博马萨尼告诉我。 　　从事人工智能的人似乎同时经历着完全不同的大脑状态。我发现，要写关于 人工智能的文章非常困难，因为我们根本不知道这项技术会把我们带到天堂还是 地狱，所以我对它的态度会随着我的情绪而改变。 　　播客主播、麻省理工学院科学家莱克斯·弗里德曼以科技界的忏悔之父形象 出现，他表达了我曾多次遇到的那种急剧变化的情绪：“你坐下来，像父母一样 自豪，但几乎是又骄傲又害怕，担心这个东西会比我聪明得多。既像骄傲又像悲 伤，几乎像一种忧郁的感觉，但最终还是喜悦。” 　　当我在5月份参观OpenAI总部时，我发现那里的文化令人印象深刻。我采访 的许多人都是在OpenAI还是一个非营利研究实验室的时候来到这里的，在 ChatGPT的喧嚣之前——当时我们大多数人都没有听说过这家公司。“我父母并 不真正了解OpenAI是做什么的，”产品经理乔安妮·姜（音）告诉我，“他们说， ‘你要离开谷歌？’”参与创造了可视化工具DALL-E 2的研究人员马克·陈（音） 也有类似的经历。“在ChatGPT出现之前，我妈几乎每周都会给我打电话，她会 说，‘嘿，你知道，你别再四处游荡了，该去谷歌之类的公司上班了。’”这些 人的主要动机并非金钱。 　　即使在GPT成为头条新闻之后，置身OpenAI就像身处飓风眼一样。“这里感 觉比世界上其他地方要平静得多，”乔安妮·姜告诉我。“从早期开始，它确实 感觉更像是一个研究实验室，因为我们主要只招聘研究人员，”招聘人员埃琳娜 ·查齐亚塔纳西亚杜告诉我。后来，随着我们的发展，每个人都开始意识到，工 程和研究会带来进步。” 　　我在那里没有遇到任何“技术男”的氛围，甚至没有人有那种“我们正在改 变世界”的不可一世——就是当我是一项技术的先驱时可能会有这种架势。任人 力副总裁的戴安·尹（音）告诉我：“我想用热忱这个词来形容这个团队……热 忱的感觉。” 　　通常，当我作为一名记者访问一家科技公司时，我能见到的高管很少，而我 能采访到的那些人个个守口如瓶。而OpenAI只是拿出一张登记表，然后就让人来 跟我交谈了。 　　我承认，过去我走进这些科技公司的时候，会摆出一种防御性的人本主义架 子：我告诉自己，这些人可能懂代码，但他们可能不懂真正重要的文学和哲学。 　　在OpenAI，我没什么优越感。戴安·尹从小跳舞，出演过莎士比亚戏剧。尼 克·莱德是加州大学伯克利分校的一名数学家，在成为OpenAI的研究员之前，他 对一种叫做有限微分卷积的东西很感兴趣。几个人提到了一个研究方面的同事， 他本科学习物理学，在茱莉亚音乐学院学习了两年钢琴，然后获得了神经科学的 研究生学位。还有人告诉我，他们最初的学术兴趣是心灵哲学、语言哲学或符号 系统。公司技术人员蒂娜·埃卢恩多在加入OpenAI之前学习过经济理论，并在美 联储工作过。 　　尽管他们都给人留下深刻的印象，但我记得我当时告诉自己：这不会持续太 久。我觉得到处都是金钱的氛围。这些人可能是认真的研究人员，但不管他们是 否意识到这一点，他们仍在为推出产品、创造收入和成为第一而竞争。 　　很明显，人们在安全问题上存在分歧。一方面，安全是每个人都关心的问题。 例如，我问马克·陈在DALL-E 2发布那天的心情。“很多时候都是这种忧虑的感 觉。比如，我们是否能保证安全？”他说。另一方面，与我交谈的每个人都致力 于OpenAI的核心使命——创造一种能够实现人工智能的技术，能够在广泛的任务 中匹配或超越人类智能。 　　人工智能领域的卓越人物描绘出截然不同但又有说服力的前景。风险投资家 马克·安德森强调，它将极大地改变世界，让世界变得更美好。认知科学家加里 ·马库斯描绘的场景同样有说服力，他说了这一切可能会出怎样的问题。 　　没有人真正知道谁是对的，但研究人员只是继续努力。他们的行为让我想起 了艾伦·图灵在1950年写的一句话：“我们只能看到前方很短的距离，但我们可 以看到有很多事情需要做。” 　　我曾希望OpenAI能够找到解决这种对立的办法，然而即便在当时，就已经存 在着担忧。正如OpenAI首席运营官布拉德·莱特卡普告诉我的那样：“最重要的 是，在我们成长的过程中保持公司文化和使命导向。真要说的话，真正让我感到 不安的是，如何在规模化的过程中保持这种专注。” 　　这些话很有先见之明。组织文化不容易建立，却很容易被摧毁。这个问题关 系到世界的安危：刚刚被解放出来的奥尔特曼能否保持这种卓有成效的矛盾体， 抑或他会屈服于拼命向前的压力？ 　　David Brooks自2003年以来一直是时报的专栏作家。他最近出版的一本书是 “How to Know a Person: The Art of Seeing Others Deeply and Being Deeply Seen”。欢迎在Twitter上关注他：@nytdavidbrooks。 　　翻译：晋其角 (XYS20231127) ◇◇新语丝(www.xys.org)(xinyusi.us)(groups.google.com/group/xinyusi)◇◇