最新报告警告:中国若用AI进行跨国洗脑认知战 恐冲击民主国家国安

 

澳大利亚战略政策研究所(ASPI)11月26日发布题为”中国的说服性技术：对未来国家安全的影响”的报告。（图片来源：ASPI网站)

台北 —

澳大利亚战略政策研究所(Australian Strategic Policy Institute, ASPI)星期二(11月26日)发布报告，直指北京当局利用民企开发的数项人工智能(AI)科技，来对内强化洗脑、监控和箝制自由措施。报告称，中国未来若将这类科技大量运用到海外，恐冲击他国国安。对此，AI专家和海外中国异议人士告诉美国之音，中共早已跨国操作网攻和洗脑认知战，各国若再不加强监管，未来真人的网络声量和思维恐遭中国以AI科技生成的亲中内容和观点所淹没。

除了人脸辨识系统，中国再添AI利器，来管控社会、监测舆论和改变认知思维。

根据ASPI的最新报告，部分地方政府、公安机构和中共分支已与蜜度、燧世(天津)智能和硅基智能等多家公司签约，利用他们发展出的“说服性技术”(persuasive technologies)，如生成式AI和脑机对接介面等，来扩大网络影响力或进行跨国心理战、镇压和网攻等行动。

中国脑计划

例如，AI语言科技公司蜜度所开发的多项产品，如“新浪舆情通”等，已被中共用来监控境内的舆论，或恐用来干预外国决策。

而神经网络技术先驱燧世所开发的一种在线情绪检测和评估系统，可实时解读和回应人类情感，或可间接影响人的行为和认知。

另外，硅基智能的虚拟数字人技术，包括锁定已故亲人的永生AI产品等，可“创建具影响力和吸引力、便于散布的意识形态内容”，如该公司为南京地区中共党员设计出的意识型态培训课程，除可强化“忠党廉政”的政治宣传外，或也可锁定外国受众散播虚假信息。

报告称，中共早于2017年就通过“中国脑计划”，打算于2021-2031年的10年间、斥资120亿人民币(16.6亿美金)，来发展这类新兴脑机对接科技。

该报告撰写人之一的ASPI中国调查与分析项目主管贝书颖(Bethany Allen)在接受美国之音采访时表示，尚未有证据显示，中国大量运用这些新兴科技来打击民主国家，但这些科技中企与北京当局的合作关系令人担忧，若中共大量对他国滥用这些AI科技，来遂行极权目的，又或这些科技产品在国外的市占率大增，都可能严重冲击当地国家的国安，因为中国依法有权要求这些中企提供数据等，秘密配合其情报侦蒐工作。

“我们还希望防止出现中国技术主导全球产业的情况。这将是一个巨大的风险，因为如果其他国家、其他社会、其他消费群体甚至其他国家的政府，都依赖于一项与中国公司、与中国相关的技术，那么中国政府就会拥有巨大的权力和影响力，” 贝书颖说。

她说，以美国为首的民主国家应提早思考对策，建立监管机制、标准和法律架构来规范这些新兴科技的可能风险，也为AI科技的落地划出红线，据以约束所有科技巨头对AI科技的可能滥用。

美国之音以电邮致函蜜度和硅基智能、要求置评，但截至截稿前，未收到任何回应，而蜜度位于福建、舆情编辑等职位的招聘人员陈女士也以“不知情”为由，拒绝接受美国之音的电话采访。

中国AI认知战早已出海

对于“说服性技术”，台湾人工智慧实验室创办人杜奕瑾在接受美国之音采访时解释，这是个原本被用来做精准行销的商用技术，旨在对焦消费者的喜好、刺激其购买欲望，但后来被大量用来分析选民、操弄选举，也就是所谓的认知作战。

但他说，中国早就利用这些科技，包括最新的生成式AI，影响互联网上的全球舆论或台湾与欧美国家等地的选举。

杜奕瑾指出，生成式AI兴起前，中国以机器人帐号取代五毛和网红来在全球网络快速且大量地发文带风向、洗脑，但近年则是利用AI快速生成图文和短影音，来散播亲中论述，尤其影响欧盟、美国和台湾等地的大选选情和政府决策。

他透露，中国有上万亿人民币的维稳经费来支持这项跨国认知作战，而这笔钱，不仅中国科技公司在赚，外国科技公司也抢著协力，分一杯羹。

“这(AI)科技不是只有中国公司在做，外国公司也在赚中国公司的钱，因为中国的维稳经费太高了…… 这些经费会外溢，它(中共)除了收买国内的媒体、国内的技术平台、公关公司操作，它也是会收买国际的媒体、公关公司以及这种科技公司，都是有的，”这位人工智能专家说。

“抖音脑”的同温层陷阱

杜奕瑾同意ASPI对反制中国AI科技操弄的建议，包括建立跨国监测资料库，以增加对这些科技进展和中国认知作战的透明度。另外也应出台监管制度，如允许第三方独立机构去评估社媒平台的对应，协助平台锁定认知操作、进行内容调节，以秘密封锁(shadow ban)等手段平衡候选人或各方论述间不对称的信息传递力道。

杜奕瑾尤其担忧“抖音脑”现象，也就是，年轻世代被大量短影音侵袭，不仅注意力变短 ，也不断被喂食平台演算法所推荐的同类短影音，等于陷入一个知识封闭的同溫層內，相当容易被洗脑。

他警告，这些短影音多是透过中国的工具和AI生成，让大规模影响某族群认知的行动变得相当简单。如果各界再不采取对策因应，各国人士在网络的真实声量和认知将很快被这种AI生成的内容和观点所清洗。

杜奕瑾还说，中国业界开发了许多输入法跟语音辨识等软件供公众免费使用，但其AI语言基础模型带有很深的政治偏见、也符合中国的政治正确论述，未来若经大量采用后，使用者的观点就很容易被带往符合中国论述的方向。

异议人士:中共的科技镇压无所不在

针对中国的认知洗脑操作，中国海内外异议人士虽多已免疫，但他们却是最常受中国网络封锁、监控和镇压的一群受害者。位于武汉的一位异议人士两年前曾告诉美国之音，他走在路上，常被摄像头的人脸辨识系统锁定，成为公安盘查的对象；另一位山东商界人士近期则告诉美国之音，只要在微信打字就可能启动后台审查，尤其微信通联内容若触及敏感字眼，严重者可能被封号，让他只能言不由衷，也不敢多言。

现流亡荷兰逾3年的中国人权问责资料库创办人林生亮也有和中国审查机制博奕的丰富经验。

他对美国之音表示，中国实施网络实名制以来，多数公民的电子足迹都无所遁形，尤其中国可以依法要求电信公司、华为等任何中企提供使用者的最新个资，包括银行金流等。

因此，他自己在微博多次建立的友人群，或因有敏感人士加入、或因敏感内容等不明原因启动后台审查机制，至少九度被封号。

林生亮认为，中共在海外社交X平台、华人间舆论管控和带节奏的手段可能最激烈，以他自己开设的中国人权问责资料库帐号为例，就“常遭貌似机器人帐号、色情帐号狂轰滥炸和投诉”，且“一拨接著一拨来，天天拉黑拉不完”。他认为，这些都是中国在背后发动的，以干扰他对中国人权问责的进展。

他说，他的经验显示，中国的高科技镇压手段早已延伸至境外。“在中国境内， 它(中共)可以使用的手段，它一样可以外延到境外使用，它肯定是更多用在海外的异见人士，它不会轻易用在其他人身上，相对不会，不能说100%。它肯定是内政外延，”林生亮说。

• 

  黄丽玲
  

  
  订阅

 

本文来源：美国之音