OpenAI的公司结构与一般商业机构不同。它成立于2015年,是一家非营利研究实验室,宗旨是安全、负责任地开发通用人工智能(Artificial General Intelligence,简称AGI),最终目标是让人工智能在思维方面能够相等甚至超越人类。

目前的生成式人工智能,只擅长于通过统计预测下一个单词来进行写作和语言翻译,同一问题的答案可能会有很大差异。但是如果现在生成式人工智能现在能征服数学能力,准确地给出一个正确答案,这意味着人工智能未来很可能拥有类似人类智能的推理能力。

众所周知,它最出名的产品是在华尔街红透半边天的ChatGPT。微软就是看中了它,快手快脚地在OpenAI投资了130亿美元,换取这家子公司的49%股份。

OpenAI最近罢免总裁的事件峰回路转,简直是一场肥皂剧。尽管精彩,人们感兴趣的是,这到底是怎么一回事?也许,回顾OpenAI开业时的初衷,可厘清来龙去脉。

这用意良善,但现实逼人。

解雇奥尔特曼事件,受伤最大的是OpenAI董事会。显而易见的是,理想敌不过商业利益,似是当今商业挂帅社会的定律。人才自由流动,任何人都无法阻止。

消息人士表示,鉴于庞大的计算资源,新人工智能模型能够解决某些数学问题。虽然数学解答能力目前仅达到小学生的水平,但在测试中,这个人工智能模型能够取得好成绩。这让研究人员对Q*在未来取得成功感到鼓舞。

很快地,OpenAI发现,要实现目标,它需要很多很多钱。为了支付研发所需的费用,就需要销售产品赚取收入。于是,公司成立了一家盈利子公司来销售人工智能工具。

从表面上来看,这家公司的控制权仍然属于在它之上的非营利组织董事会。而这个董事会的目标,就是要确保AGI能够惠及所有人类。

AI发展速度与人类能够控制AI能力似乎已失衡

现在又有报道称,ChatGPT背后的技术甚至可以伪造“看似真实”的试验数据,看上去能“支持”未经验证的科学假说。人工智能捏造看似合理的科学数据的能力,增加了学术界对科研诚信的担忧。这也不禁让人觉得人工智能发展的速度,与人类能够控制人工智能的能力,两者之间似乎已经失去了平衡。

奥尔特曼回归OpenAI,原本的董事会也进行了局部改组。新的董事会名单还包括电子商务平台Shopify董事会成员泰勒(Bret Taylor)、著名经济学家萨默斯(Larry Summers)。作为最大股东,微软相信会把自己的高管带进董事会。

一名知情人士告诉路透社,奥尔特曼被开除的导火线之一,是公司内部研究人员致函董事会,警告奥尔特曼专注于构建通用人工智能(AGI)的Q*研究计划取得了突破性进展,他们担心继续发展下去将建构出超越人类智慧的电脑,对全人类构成威胁。(法新社)

换言之,它不需要向股东负责的,它是要对“人类”负责。这次董事会罢免首席执行官奥尔特曼(Sam Altman),是担心AGI开发得太成功,最后超越人类,甚至可以威胁到人类的存在,可就是大问题了。

在人工智能领域,奥尔特曼非常有价值,意味他推动的研究可以影响AGI的未来,研究人员拥护他,微软看好他的能力。最后,面对各方责难,董事会只得屈服,当初对人类负责的崇高理想,也只能束之高阁了。

这次董事会学到,仅靠公司结构来监管技术行不通。如果只靠公司自己单薄的能力,是完全无法在推进人工智能、吸引人才和投资、评估人工智能的威胁和保障人类安全之间取得平衡。

关于董事会解雇奥尔特曼先生的动机,目前仍无定论。不过,市场已在广传,两位知情人士告诉路透社,在奥尔特曼被罢免的前四天,OpenAI有几位研究人员写了一封信给董事会,警告他们的一项强大的人工智能研发可能威胁人类。

但就算OpenAI董事会认真对待“向人类负责”这个原则,OpenAI真能代表80亿人口决定人工智能应走的方向吗?

所以,我们大概要有这样的心理准备:人工智能的研发,或是脱缰的野马,跑得快,但也不确定会前往何处。

两位消息人士说,这份信件和人工智能的新发现,是董事会罢免奥尔特曼的关键因素之一。

延伸阅读

人工智能既有变革的创造性,也带来隐藏的、无法估计的破坏。大前提是,人工智能已是大势所趋,我们暂时大概只能接受企业高管、投资者“自由”决定科技的去向。

但在现实商业社会里,利益主宰一切。

其中一位知情人士称,OpenAI在答复自己员工的内部简讯里,承认公司确实有一个名为Q*(又称Q-Star)的计划。知情人士也说,OpenAI的一些人认为Q*可能是OpenAI探索通用人工智能的一个突破性计划。

仅靠公司结构来监管技术行不通

奥尔特曼最近在旧金山举行的世界领导人峰会说,他相信OpenAI的研究即将有重大进展。奥尔特曼曾努力使ChatGPT成为历史上增长最快的软件应用程序之一。如果Q*真的取得这么重大的突破,奥尔特曼相信也绝对不会把它藏太久。这也许就是董事会最大的顾虑。

OpenAI董事会目标是确保AGI能够惠及所有人类

理想敌不过商业利益?