他在回答一名与会者提问时说,现有的人工智能模型带来的危害是可控的(manageable)。尽管OpenAI希望尽可能减少这类危害,但公司意识到,不论进行多少测试或攻击演练,人们总会以意想不到的方式使用人工智能工具,任何新科技都是如此。

人工智能发展虽会给社会带来一些危害,但风险是可控的。推出聊天机器人ChatGPT的美国人工智能研发公司OpenAI总裁奥尔特曼建议科技公司不要闭门造车,研发相关技术时要结合现实情况,确保科技与社会共同进化。

自去年发布以来,ChatGPT已在全球掀起热潮,但也有不少批评者担忧这项技术可能失控,对人类构成无法估量的威胁。今年5月底,奥尔特曼与300多名人工智能科技业领袖和专家发表联名公开信警告,人工智能技术可能导致人类灭绝,他们敦促政策制定者将这个威胁视为与大流行病和核战争的威胁一样。

延伸阅读

奥尔特曼指出,迭代部署(iterative deployment)是减少这类危害的唯一途径,因为若不这样做,而是只在实验室里秘密研发人工智能技术,然后直接对外发布,那么社会就少了与人工智能共同进化(co-evolve)的时间。

各国监管标准可反映不同群体价值观

奥尔特曼也说,各国有不同的监管标准,希望未来的人工智能技术更多元,反映不同群体的价值观、文化、历史,以及对未来的期许。

奥尔特曼(Sam Altman)星期二(6月13日)在新加坡管理大学出席OpenAI全球巡回“炉边对话”新加坡站活动。

对于人工智能的监管,奥尔特曼呼吁各国监管部门在制定政策前,先了解技术的局限,从而确保监管目标是实际可行的。

迭代部署是减少危害唯一途径

此次炉边对话是由资讯通信媒体发展局与新加坡全国人工智能核心计划(AI Singapore)联合主办,吸引了上千人出席,包括来自字节跳动、华为、Grab、戴尔等科技巨头的业内人士,以及政府官员和学生。