第一,开发新技术和工具来侦测网络危害,这包括破坏种族与宗教和谐的内容,以及威胁个人或社区安全的信息等。

延伸阅读

网络危害无所不在,根据通讯及新闻部去年5月进行的一项网络安全调查,本地线上用户中,三分之二接触过有害的网络内容,其中主要涉及网络霸凌(29%)和色情(28%)。然而,只有一半用户屏蔽内容或向平台举报,另一半不采取行动者认为,没有必要举报或担心。

第二,CATOS将持续投资研究,如通过一系列计划促进创新和吸引人才,包括公开征集有质量和具创意的研究提案,解决网络社群信任与安全领域的新兴问题和威胁,或举办编程马拉松和创新挑战赛,增进相关从业员的交流。

网络安全先进技术中心正式启用,政府宣布再为它注资3000万元,强化打击假信息和深伪内容的能力,为人们提供更安全的网络环境。

她说,网络安全先进技术中心(Centre for Advanced Technologies in Online Safety,简称CATOS)是我国打击网络危害的重要工具之一,有助于使互联网变得更安全,让人们更放心使用。

三方面加强预防与减缓网络危害

通讯及新闻部长兼内政部第二部长杨莉明,星期三(5月15日)在首届网络社群信任与安全论坛(Online Trust & Safety Forum)上,宣布这项消息。

隶属于新加坡科技研究局的CATOS,主要通过与政府、各行业、学术界和公民社会等合作,开发和部署先进的技术解决方案,应对网络危害。

第三,提供沙盒环境来测试和完善新技术,以打击网络危害,同时保障网络平台的安全。

例如,CATOS与社区伙伴“查友”(CheckMate)合作,让用户把可疑信息发到一个WhatsApp号码,交由义工协助核实信息真伪。接下来,CATOS将与查友进一步合作,开发工具协助义工更快、更有效地查核信息。

随着中心正式启用,政府决定在“研究、创新与企业2025”(RIE2025)计划下,未来五年通过国立研究基金会再拨款3000万元,从三方面加强预防、检测和减缓网络危害。

杨莉明举例说,由CATOS开发的分析引擎,能准确检测出恐惧、愤怒和悲伤等强烈情绪,以及从社交媒体和网络平台收集数据,找出仇恨言论。这能起到警示作用,避免线上言论恶化成严重对立。

政府在今年1月宣布,投入2000万元展开为期五年的网络信任及安全研究计划,并成立CATOS。

参与调查的家长中,约一半(49%)表示孩子接触过有害的线上内容,跟性有关的有20%,涉及网络霸凌的有19%。这显示,成人和孩童都普遍面对这两类有害内容。