原告谴责OpenAI为追逐利润,已经放弃“以最可能惠及全人类的方式”推进AI发展的初心。除了要求法院判定赔偿金数额之外,他们还要求暂时冻结对OpenAI产品的商业访问和进一步开发。
也有反对者说,辛顿的担忧堪比“谈论火星人口过剩”,将AI视作生存威胁为时过早。但辛顿认为,这并非杞人忧天,风险真实存在,人们需要未雨绸缪,以便更好地应对。
(多伦多综合电)人工智能(AI)聊天机器人ChatGPT的研发公司OpenAI在美国旧金山面对集体诉讼。诉状指OpenAI为追求利润,违反隐私法,从互联网上窃取大量个人信息,用于训练人工智能模型。
美国克拉克森律师事务所星期三(6月28日)向旧金山联邦法院提交一份厚达175页的诉讼书,指OpenAI秘密从互联网窃取了3000亿个单词,挖掘范围包括书籍、文章、网站和贴文,以及未经同意获取的个人信息。
延伸阅读
原告谴责OpenAI 为追逐利润放弃初心
ChatGPT是OpenAI旗下颇受欢迎的AI产品,既掀起社会对AI技术前景的强烈兴趣,也引发人们对隐私安全和错误信息等风险的担忧。
根据诉状,OpenAI大规模盗取互联网用户与该公司产品的互动信息,以及集成了ChatGPT的应用中的隐私数据,并将这些信息用于该公司产品的模型训练。受害者据称可能多达数百万人,潜在损失高达30亿美元(约40.6亿新元)。
大规模盗取信息 包括从Slack和Teams收集私人对话
“人工智能教父”辛顿(Geoffrey Hinton)星期三在演讲中敦促政府介入,在AI技术开发和监管之间作出平衡,在AI变得比人类更聪明之前,投入大量资源,防止AI夺走人类对社会的掌控权。
通过将ChatGPT集成到应用,OpenAI可从社媒应用Snapchat收集图像和位置数据、从音乐平台Spotify收集用户音乐偏好、从数码付款平台Stripe收集财务信息,还可从协作办公软件Slack和Teams收集私人对话。
辛顿也指出,AI将加剧不平等,它带来的巨大生产力收益,惠及的是富人而非工人,对社会非常不利。
诉状指OpenAI违反服务协议条款,以及州、联邦隐私和财产法。其他指控还包括侵犯隐私、盗窃、不当得利和违反《电子通信隐私法》等。