安全主管奈特星期二(4月11日)也说:“这是我们努力开发安全先进的人工智能服务的重要组成部分。”
ChatGPT自去年11月推出以来便风靡全球,它对问题的快速响应惊艳了许多用户,但也因答案不准确而给一些人带来困扰,最近还因隐私漏洞等问题在意大利遭到封禁。
OpenAI已邀请研究员对人工智能聊天机器人ChatGPT的部分功能,以及OpenAI系统与第三方应用的沟通和数据框架共享进行审查。
OpenAI总裁兼创始人布罗克曼此前就说,公司一直考虑启动赏金计划来检测薄弱环节;科技公司也经常通过漏洞赏金计划,来鼓励程序员和道德黑客报告其软件系统中的漏洞。
(旧金山综合电)美国人工智能公司OpenAI推出漏洞赏金计划,将向报告它旗下人工智能系统漏洞的用户,提供高达2万美元(约2万7000新元)的奖金。
有些安全问题则不在上述获奖资格的范畴,如越狱提示,以及由OpenAI系统生成的不正确或恶意内容等。
OpenAI说,“透明度和协作”是发现技术漏洞的关键。
其实,这项赏金计划并不令人惊奇。
该计划由OpenAI与漏洞赏金平台Bugcrowd Inc.合作推出,将根据人们发现漏洞的严重程度来支付现金奖励,金额从“低严重级别发现”的200美元到“特殊发现”的2万美元不等。