尚穆根说,青少年是“数码原住民”,可轻易在网上接触到极端暴力和恐怖主义宣传内容。社交媒体的算法还会推荐更多类似内容,形成回音室效应,让人越陷越深。

尚穆根警告,人工智能将进一步加速激进化过程。例如,恐怖分子利用人工智能生成和传播宣传材料,还可快速翻译成多种语言,甚至大规模生成个性化信息来招募人手。

学者:网络算法和信息茧房加剧激进化问题

网上暴力和极端内容,是导致本地青少年自我激进化的主要诱因。自2015年以来,14名因自我激进化被内部安全局发出拘留令或限制令的20岁及以下青年,全因在网上接触这类内容而走上激进化道路。

“在这样的环境下,他接触到的都是极端思想,没人去反驳,最后他就觉得伊斯兰国组织的暴力意识形态是合理正当的。”

政府将全方位应对 网络激进信息威胁

他解释,当网络算法“投其所好”,不让人看到其他不同的观点,人们接触的信息就越来越单一,容易被极端内容影响。如果人们总是和跟自己想法一样的人互动,不断听到相同的观点,这会让人更加相信这些想法是对的,甚至变得更极端。当人们只相信和自己想法一致的信息,不愿接受与自己意见相反的内容,这会让极端思想更根深蒂固。

延伸阅读

此外,恐怖分子还会利用社媒和网络游戏平台,激进化和招募青少年。“结果就是,激进化的速度越来越快,从开始接触这些内容到彻底激进化,可能只需要几个月甚至几周。”

诺胡达也以近期被逮捕的17岁自我激进化青年为例,进行分析。这名青年原计划今年9月在淡滨尼西邻里中心袭击非回教徒,幸好被当局及时发现并逮捕。

他也提到,使用人工智能制作的“深伪”视频和图像越来越逼真,让人难辨真伪,而这些内容已被心怀不轨的人用来挑拨社会矛盾、煽动暴力。

尚穆根强调,政府从多方面采取措施,应对青少年网络激进化的威胁。近年来,当局已通过加强相关法律,限制和移除网络上的极端和恐怖主义内容,包括那些使用人工智能生成的。不过,他提醒,要完全侦测和删除所有这类内容是不可能的。

诺胡达认为,这名青年在网上接触到大量美化暴力和殉道的圣战内容后,网络算法进一步把他困在单一的观点里,接触不到其他不同的想法。

此外,内安局也和教育部等多个部门合作,加强反激进化宣传教育。学校也通过课程帮助学生提高媒体素养,让他们学会辨别和应对激进化的风险。尚穆根说,这些措施可提醒青少年和教育工作者关注激进化威胁,同时让他们明白尽早举报的重要。

印度尼西亚反恐专家、南洋理工大学拉惹勒南国际关系学院(RSIS)访问学者诺胡达(Noor Huda Ismail)博士,今年10月在学院官网发表的评论文章,也呼应尚穆根的说法。

内政部长兼律政部长尚穆根日前以书面方式回答淡滨尼集选区议员朱倍庆的提问时,说明网络和科技,尤其是社交媒体和人工智能技术,如何加速青少年自我激进化的过程。