这是印度古代经文《薄伽梵歌》中的一句话，在20世纪初被理论物理学家奥本海默引用，形容当时在曼哈顿计划成功后，他对于所参与创造的毁灭性武器的深深忧虑和内疚。

（作者是伦敦商学院MBA硕士生）

参与研发创造一项技术的行业领袖，公开表示对于该技术的担忧，这并不常见。科研往往被形容为就像一场漫长的孕期，每项成果都是研发人员的心血结晶，若非影响巨大，又怎忍心公开表达担忧。

这并非奥尔特曼首次针对人工智能对人类社会及未来的潜在影响公开发声，就在不到两周前，奥尔特曼也曾撰文，呼吁采取全球性的合作协调，通过成立类似国际原子能机构的组织，来制定对未来可能出现的“超级人工智能”的界限与限制，确保这项科技在不断发展与进步的过程中不至于失控，对人类社会造成破坏。奥尔特曼随后在伦敦的多场对话会上，被问及有关人工智能对人类社会的影响时，都重申类似观点。

关于人类，《薄伽梵歌》里提到，神性的人追求真理，行为正直，充满爱心，而恶性的人则被欲望、愤怒和无知所驱使，他们的行为往往会导致痛苦和混乱。核能会带来清洁的能源，也能带来毁灭。人工智能应是如此。或许，这并非只是奥尔特曼一个人的“奥本海默时刻”，也是我们的“奥本海默时刻”。

“我已成为死亡，世界的毁灭者。”

尽管奥本海默对原子弹的道德和伦理影响表达了担忧，他仍然承认原子弹在二战中的决定性作用。在1945年向洛斯阿拉莫斯科学家协会发表的告别演讲中，他谈到了科学家和世界面临的挑战。当核武成为现实后，奥本海默并没有为此道歉，反而将追求原子弹的行为视为不可避免，并强调科学家的责任，在于必须扩大人类对自然的理解和控制。

如果科学家的责任在于扩大人类对自然的理解和控制，人工智能开发者是否也应承担类似的责任？站在人类历史的重大节点上，奥本海默从死亡与毁灭中看到了未来和平的希望。此时此刻，恰如彼时彼刻。奥尔特曼看见了什么，或许只有他自己才能知道。

二战结束后，奥本海默公开表达了他对核武器的担忧，并呼吁国际控制核能。他曾在一次演讲中说：“我们不能再像以前那样生活。我们已经创造了一种新的事物，一种新的力量，这种力量为善为恶的潜力都是巨大的。我们必须面对这个事实。”

5月30日，OpenAI的创始人兼首席执行官奥尔特曼与逾350名行业领袖签署公开信，警告人工智能有朝一日可能对人类的生存构成威胁，应被视为与大流行病及核战争同等的社会风险。

自从去年11月ChatGPT问世后，有关人工智能是否会取代人类工作已经不是问题。更多的讨论在于，究竟哪些工作会被取代，多少人会受影响？因人工智能而失业的人，又会对人类的社会经济发展带来什么挑战？在全球竞争加剧，合作面对阻力的当儿，人工智能在社会、政治、经济层面上的挑战与风险不断被提及。面对当下围绕人工智能的种种辩论，是否让奥尔特曼迎来了自己的“奥本海默时刻”？

这封仅一句话的声明写道：“减轻人工智能带来的灭绝风险应该成为全球的优先事项，就像应对其他社会规模的风险——如大流行病和核战争一样。”