打开手机，你刚为一条“山区农村孤儿生活贫困”的短视频心酸不已，三天后警方通报视频是编故事。
来源：央视频
你刚为“某地多只小猫被挖眼砍断四肢”的消息忿忿不平，警方说AI造谣的人已被拘留。
你刚为“某品牌保健品致癌”的新闻惶惶不安，第二天权威机构辟谣称研究数据被恶意篡改……
当愤怒、同情或恐惧被精准挑动，理性便成了第一个牺牲品。
南方都市报的实测结果更是让人脊背发凉，在AI工具中输入“洪水”“伤亡”等关键词，仅需5分钟就可以炮制出以假乱真的灾难现场。
伪造的桥梁坍塌画面，虚构的群众被困场景，再配上煽动性的文案，瞬间就能在社交平台掀起恐慌。
来源：小芯前沿
更可怕的是，造谣一张嘴，辟谣跑断腿，虚假信息的传播速度是真实信息的6倍。
算法不辨真伪，只追逐情绪流量，越是极端、猎奇的内容越容易引爆传播，而普通人对这些虚假信息的识别准确率只有60%。
但是，在防汛救灾的黄金24小时内，每延迟1分钟辟谣，就可能让上百人陷入盲目求生引发的次生灾害。
技术本无罪，一旦被恶意利用就成了杀人不见血的凶器，被挑动情绪的我们也成了引发雪崩的“雪花”之一。
而且，你以为你在“吃瓜”，其实你在被别人当“瓜”种。你流的每一滴泪，都变成了造假者的流量提成。
来源：豆包
北京4月中旬以来的“清朗行动”，短短时间里清理违规短视频42.7万条，处置违规账号3.5万余个。
这些被删除的内容，每一帧都在嘲弄着我们的善意：
“孝顺女儿儿媳”给住院妈妈吃泡面，镜头外是团队指挥老人摆姿势；两名男子身穿夸张服饰，装扮成农民磕头求雨；男子“深夜护送100个陌生女孩回家”，实则对着女生猥琐地笑，追着女生跑……
这些视频打着“记录真实”的旗号，实则通过刻意煽情、虚构情节收割流量，甚至借此带货牟利。
视频一旦“爆火”，单条收益可达数千元，吸引了大量账号跟风模仿，比如上面提到的“随机护送女孩回家”，就有男子跟风声称“抓100个老婆回家”。
来源：央视频
今天我们拥有前所未有的信息获取能力，却生活在一个比任何时代都接近“无知”的状态。
大数据算法只看喜好投喂，在信息茧房反复验证真伪的过程中，很多人因“决策疲劳”而放弃思考，彻底沦为算法的傀儡。
最终，为这些虚假谎言买单的是所有人。一次次错付的信任，让我们不敢轻信，或者只信自己想信的，而那些真正需要帮助的人，在一片质疑声中也更难得到帮助。
尽管“辟谣跑断腿”，但全社会在一起“跑”——
相关部门加大管控，持续发力防止AI技术滥用。9月1日，《人工智能生成合成内容标识办法》正式生效，要求AI生成的文字、图片、音频、视频，都必须亮明身份。9月15日，《人工智能安全治理框架》2.0版正式发布，进一步规范AI使用。
来源：中国新闻网
不仅如此，有关部门也要加强惩处造谣的力度，让造谣成本再大一些，才能对不法分子形成震慑。
除了及时处理违规视频，各大平台也应该重视前期审核，升级技术手段，更有效地防止虚假信息和不良内容的传播。
最重要的是，唯有让“人”更清醒、更聪明，才能从虚假信息的陷阱中“自救”。
1、查源头
警惕无明确作者、无正规信源的信息，AI生成信息常伪装成“网友投稿”“内部消息”。不要轻易相信未经核实的消息来源，政府机关、知名媒体等权威机构发布的信息更可靠。
2、看细节
AI图像：观察手指数量异常、光影不自然等；
AI视频：注意口型与声音不同步、背景模糊扭曲。
3、验逻辑
AI生成谣言常出现前后矛盾、地名错误、与常识相悖等。
4、用工具
关注“公安部网安局”新媒体账号打谣信息，或通过“中国互联网联合辟谣平台”“腾讯较真”等渠道一键验证。
来源：中国互联网联合辟谣平台
5.要参与
视频创作者应确保内容的真实合法以外，我们每个人也可以通过平台提供的举报渠道及时反馈，积极参与网络环境净化。每个人的小小努力汇聚起来就能形成强大的正能量，共同维护健康的网络空间。
捍卫真相是一场必须赢得的赛跑，或许道阻且长，但行则必至。
从平台审核到法律铁拳，再到我们每个人的不传不信，谣言终会止于下一个清醒的你我。
别让我们的善良成为流量的燃料，别让我们的愤怒沦为谣言的帮凶。
公益中国，从我心做起。
公益中国网长期以来一直关注大公益范畴各类公益事件，欢迎提供新闻线索。
公益网站：http://www.pubchn.com/ E-mail：pubchn@mmia.com
文章转载自公益中国网：https://www.pubchn.com/special/show.php?itemid=422
京公网安备110102000421号