微软在一篇博客文章中指出,OpenAI的服务包括其世界领先的GPT-4模型,用于“查询开源(open-source)信息、翻译、查找编码错误以及运行基本编码任务”。
微软称,与俄罗斯军事情报部门有联系的组织“森林暴雪”(Forest Blizzard)使用LLM“研究,可能与乌克兰常规军事行动有关的各种卫星和雷达技术”。
微软在报告中说:“威胁行为者和防御者一样,正在寻求人工智能(包括LLM)来提高效率,并利用可访问的平台来推进他们的目标和攻击技术。”
微软说,与伊朗革命卫队有联系的“赤红沙尘暴”(Crimson Sandstorm)使用ChatGPT来进行编程和排除恶意软件的故障,并为黑客寻找避免检测的方法。
延伸阅读
研究员发现,这些黑客试图利用ChatGPT等大型语言模型(LLM,Large Language Model)来完善他们的网络攻击,一些组织会利用LLM技术来改进他们的网络钓鱼电邮、收集有关电脑漏洞的信息,同时解决本身的技术问题。
与朝鲜有关的“翡翠雨雪”(Emerald Sleet)的工作涉及智库和专家对与共产主义政权有关的研究,以及可能用于在线网络钓鱼活动的内容。
微软已向OpenAI这家人工智能研究公司投资130亿美元(约176亿新元),ChatGPT是总部位于旧金山的OpenAI开发的聊天机器人。微软也使用LLM技术支持自己的应用和软件。
(纽约综合电)美国微软和OpenAI公布的报告指出,俄罗斯、朝鲜、中国和伊朗政府支持的黑客如今使用ChatGPT等工具,寻找发动网络袭击的新方法。
安全专家警告,这种手法的演变将有助于黑客收集更多情报,提高他们在搞破坏时的可信度,并更快地破坏受害者网络。
微软和OpenAI在星期三(2月14日)发布的报告中说,随着公司加大力度阻止获国家支持的黑客使用聊天机器人,他们已经终止了与国家资助的黑客相关的账户。
微软说:“微软与OpenAI合作的目标,包括发布这项研究,是为了确保人们安全、负责任地使用ChatGPT等人工智能技术。”
OpenAI认为,危险程度“有限”,但公司力求跑在不断变化的威胁前头。