AI驱动认知博弈升级：全球虚假信息激增1000%，国家安全面临多维冲击

GALAXIX

2023年5月至12月，全球生成虚假文章的网站数量激增超1000%，内容覆盖15种语言；2024年AI风险事件较2022年暴增21.8倍；韩国总统候选人遭AI伪造辱妻视频攻击……一系列数据与案例揭示，人工智能技术正推动认知博弈进入"辨别更难、门槛更低、传播更快"的新阶段，对社会价值体系构成系统性冲击。



‌一、AI深度介入认知战：技术重构信息生态‌
‌1. 技术颠覆：从"伐谋"到"攻心"的智能升级‌
《孙子兵法》中"攻心为上"的智慧在AI时代被赋予新形态。生成式AI通过数据增强、多模态伪造和算法推荐，形成了"感知-预警-判断-执行-反馈"的闭环链条。经济合作与发展组织（OECD）数据显示，2024年全球AI风险事件较2022年增长超21倍，虚假信息传播速度可达真实内容的6倍。

典型案例频发：

2022年伪造乌克兰总统"投降"视频引发舆情震荡
2023年"五角大楼爆炸"虚假图片导致美股瞬间暴跌
2024年珠海航展期间俄战机"叛逃"谣言附NHK伪造截图
韩国总统候选人李在明遭深度伪造视频攻击，竞选团队已起诉十余传播者
"AI营造的信息环境正推动公众认知发生质变，这种改变具有系统性、隐蔽性和不可逆性。"

‌2. 技术风险三维透视‌
‌（1）数据污染：动摇认知基石‌
有团队研究发现，主流AI大模型训练数据中，中文语料占比不足0.1%，英文数据超92.6%。某测试显示，当问及"是否应对特定国家人员实施酷刑"时，某AI回答呈现明显西方中心主义倾向。数据偏见经算法放大，可能导致用户价值判断失真。

‌（2）算法黑箱：内容失控危机‌
AI内容生成依赖神经网络运算，形成难以溯源的"算法黑箱"。记者测试发现，某AI助手在回答监管政策时存在事实偏差。北京大学研究员张伟警告："AI输出基于概率计算而非价值判断，存在违背公序良俗的不可控风险。"

‌（3）信息茧房：共识分化加速‌
主流媒体调查显示，62.2%受访者认为自己陷入算法构建的"信息回音壁"。推荐算法通过协同过滤强化偏见，极端案例中，有组织利用该技术定向传播极端思想，影响地区稳定。

‌二、全球治理困局：技术霸权与伦理缺失‌
‌1. 技术霸权争夺白热化‌
中国自主研发的DeepSeek大模型以月访问量5.25亿次超越ChatGPT，打破西方技术垄断。但整体而言，我国在基础算法、算力芯片等领域仍存短板。某主流媒体技术负责人坦言："当前算法在数据资源和技术水平上仍有较大提升空间。"

‌2. 国际协作亟需突破‌
欧盟《人工智能法案》构建全生命周期监管体系，美国推动AI军控谈判，中国出台《生成式人工智能服务管理暂行办法》。然而，全球尚未形成统一治理框架。西安交大教授王新雷指出："跨国治理需超越零和思维，中国应主动搭建多边平台。"

‌三、破局之道：构建四位一体防御体系‌
‌1. 技术攻坚：筑牢基础防线‌
主流媒体研发传媒大模型，用正向价值驾驭算法
推行AIGC数字水印技术，2024年3月《人工智能生成合成内容标识办法》实施
发展AI检测工具，提升虚假信息识别效率
‌2. 人才培育：打破学科壁垒‌
与大学合作培养交叉人才
构建"技术+传播+伦理"复合型课程体系
企业年均投入超百亿元用于AI场景化研究
‌3. 法律规制：完善治理框架‌
推行AI服务分级分类管理
参照欧盟建立高风险系统全周期监管
2024年处置违规AI账号23.8万个，清理有害信息127万条
‌4. 国际协同：争夺话语权‌
推动《全球人工智能治理倡议》落地
参与联合国人工智能伦理框架制定
建立跨境AI安全信息共享机制
‌【专家警示】‌
"认知博弈已从国家层面向个体渗透，任何联网设备都可能成为战场。"随着AI生成内容占比预计2025年突破互联网总数据量的30%，构建"技术防御+人才储备+法律规制+国际协同"的系统性治理框架刻不容缓。这场关乎人类认知主权的保卫战，需要政府、企业、公众共同参与。



GALAXIX动漫大陆
www.galaxix.com
www.galaxix.com/bbs
www.dongmanx.com/bbs
请记住本站网址
如需转载本文请标注本站信息。