摘要
如果你是半年前的快手用户，大概率刷到过这样的场景： 一个用AI孝顺儿子配着煽情的背景音乐，对着屏幕前的空巢老人嘘寒问暖，字字句句直戳心窝，只为诱导他们点击下方的购物链接。而在另一个切片视频中，“全红婵”正用极为逼真的AI合成声音，不知疲倦地叫卖着所谓的“生态土鸡蛋”。 在小红书的隐秘角落，黑灰产团伙不再需要耗费人力去雇佣水军。他们只需敲下几行代码、套上几套大模型模板，就能在几秒钟内批量制造出成百上千个高仿真的人设账号，以及数十万篇带着强烈“个人真实体验感”的虚假种草笔记。 跳水世界杯冠军全红婵 图源 | 人民日报 当这些真假难辨的AI垃圾，如同癌细胞一样在信息流里疯狂分裂时，内容平台赖以生存的空气就被彻底污染了。 正是在这样的背景下，快手与小红书在近期密集抛出其最新的社区治理报告，而快手更是发布了最新的、百页级别的ESG报告。他们一改往日对流量的追逐，开始在数字安全、技术反诈、AI疑似标签等治理细节上下功夫。大厂似乎察觉到了，在监管压力、公众审美不断提高的大趋势下，谁的生态治理不够严苛，内容信用就有可能破产，社区根基就会率先坍塌。 01 碎了一地的“老铁信任”与合规“水分” 在AI带来的技术海啸中，率先惊慌失措的，应该是快手。 早年的快手，凭借独特的“老铁文化”在下沉市场筑起了牢固的护城河。彼时，一声“老铁”，能让两个陌生人之间快速熟络起来。基于这种高粘性的信任资产，快手才得以构建出差异化的“信任电商”生态。 然而，在AI黑产的冲击下，这种朴素的信任，正在崩溃。AI换脸的“靳东”在屏幕里深情表白，AI生成的宗教人物在直播间收割香火钱。这种低成本、高仿真的骗局，把快手最引以为傲的“信任资产”——老铁们，变成了可以任意揉捏的提款机。 面对这种情况，快手确实下了不少力气去整治和完善。比如在最新的社区治理报告中，快手列了铁腕数据：“针对短视频领域利用AI仿冒名人明星带货、虚假人设情感绑架等新型违规行为，平台宣称重拳出击，屏蔽相关电商短视频5000多条，封禁清退商家700余人次。” 在宏观合规层面，快手在ESG报告中提到，自己不仅完成了《生成式人工智能服务安全基本要求》的自评估试点与安全能力备案，其AI开发平台还新获得了国际权威的ISO 42001人工智能管理体系认证。 形式上看，这是一份极为漂亮的“成绩单”
摘要可能不完整，可查看原文