人工智能时代的原则

佩鲁贾—技术所引发的争议越来越沦为赤裸裸的二选一。人工智能应当加速或者抑制：命题一正一反，但却缺乏综合考虑。与其选边站，我们应当思考将重点放在人性这一真正重要地方的呼吁。

我据此提出六条原则。第一条源自迦太基将军汉尼拔的名言：“要么找一条路，找不到就修。”人工智能仍处于早期阶段，我们还远未见识它的潜能。人工智能可以帮我们找到以前看不到的路，也可以帮我们借助人类创造力成为拓荒者。ChatGPT、Copilot和Pi等工具都是由人类根据材料进行培训的。他们非但不会取代我们，反而能够拓展我们的认知。

想象我们发现了一条贯穿哥德尔、埃舍尔、巴赫、卡拉瓦乔、卢梭和维瓦尔第的此前从未发现的认识线索；就像一根线串起了厨房里的所有原材料。海量的人类创造和曾经的成就就像一块不断延展的挂毯一样悬在我们面前，而现在我们有了工具，可以比前代人做得更好。

第2个原则是，“我们生活在符号中，我们就是符号。”这就是拉尔夫·沃尔多·爱默生对我们使用语言来理解、解释和塑造世界的描述。我们人类一直依赖工具，而工具就是这些符号。我们由此形成的创造此前并不存在，也不是自然发生的。比如狮鹫，头和翅膀像鹰，身体像狮子。它是一种反映我们所希望看到的某种现实的创造。人类出于独特的理由创造了狮鹫。人工智能也是这样。

诚然，许多想象力丰富的作品——从弗兰肯斯坦中玛丽·雪莱的怪物到终结者中詹姆斯·卡梅隆的半机械化杀手——都对人类起警示作用。最初遇见“另一种”或“新”事物时，我们自然而然会有恐惧产生。但狮鹫的例子提醒我们，可以将恐惧转化为一种巨大的可能。归根结底，人类既是符号、文化、环境和决策的缔造者，也是它们的产物。我们可以与人工智能一道创造出更多的狮鹫。

第3条原则是建造教堂，因为它让我们的工作变得神圣，让人们从单纯的结伴逐步朝友谊过渡。现实中的教堂是人类最令人敬畏的创造，因此，现在将阿波罗登月称之为“教堂计划”非常适合。如果它们能像欧洲城市教堂那样，成为我们日常生活的一部分该有多好?

Secure your copy of PS Quarterly: Age of Extremes

Secure your copy of PS Quarterly: Age of Extremes

The newest issue of our magazine, PS Quarterly: Age of Extremes, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.

Subscribe Now

上述计划需要很多人参与，需要跨地区、跨学科，有时甚至是跨越代际的协同。就像作家兼飞行员安托万·德·圣·埃克絮佩里所写道的那样，“教堂由石头组成；但每块石头均因成为教堂的一部分而变得神圣。”人类进步这座教堂中的石头就是科学发现和技术创新。

望远镜、收音机、汽车、电梯、飞机以及现在人工智能的故事都遵循同样的模型。尽管不少人通过最近ChatGPT等商业应用程序才知道人工智能，但我们为今天的成就已经付出了几代创造者的发明。我们需要伟大的计划——既有合作，也有某种健康的竞争——带给我们方向感。我们如何设计和修建教堂反映出我们是谁，以及我们未来的前景。

我们必须甘冒小风险、以求驾驭大风险是第4条原则。与其试图完全消灭风险——这根本不可能——我们应当欢迎可能带来失败的挑战，因为这会带来迭代、反思、讨论和持续的改进。

回顾经济学家海曼·明斯基对金融危机的深刻见地。他认为“稳定”本身就会带来不稳定。金融体系中保障措施过多会加大其脆弱性，而安全的表象则意味着没人能预见到它的崩溃。

人工智能监管领域也适用同样的教训。我们不仅应当鼓励创新，还应当意识到，风险缓和机制就包括（涉及小风险的）试验本身。最终，这些技术广泛部署后，允许更多人尝试并将之融入其生活能够提升我们的监管技能。这也是一项共同的事业，涉及政府、私营部门、新闻界、学术界、公众等所有人。

第5条原则是技术是我们所以为人的基础。如果我们相信人工智能是人类的对立面，那么未来就会出现半人半机械的结合。但规律却并非如此。正反命题的结合并非粗糙的混搭，相反，新的命题会就此诞生。两者共同进化，而这种情况下，导致的综合结果是让人变得更好。

此外，人工智能或可以强化人性。想想人工智能对话模型和聊天机器人的反应能力、表现力和耐心。上述功能可能会对我们产生深远的影响。并非所有人都能随时得到人类的善意和支持。但如果上述资源变得唾手可得，这将提升许多人自身的善良和同理心。而且，同理心可以自我创造。我认为，我们尚未充分重视人工智能在这方面的潜能。

我们有义务让未来变得比现在更好是第6条，也是最后一条原则。想想每人口袋里都揣着个性化数字医生或导师会发生些什么。如果这种情况推迟而非很快到来，人类将会付出何等代价?鉴于技术在改善生活方面无与伦比的力量，速度也是一种美德。

每个人都应当反躬自问，有前景的综合结果会是什么样子的。如果我们能开创人类繁荣的新时代，依靠人工智能驱动的研究来协助发现新疗法，并及时利用核聚变的力量来避免气候变化的最坏结果，这个世界将会发生些什么?窥探黑暗的未知，思考所有可能出错的事物是非常自然的。但思考将会带来什么进步才更有必要——本质上也是更加符合人性的选择。

本评论文章改编自2024年5月在佩鲁贾大学发表的讲话。