3・15 曝光 AI 坑人套路!大河报早扒过底,立法再跟不上就晚了
- AI
- 1天前
- 14热度
今年央视3·15晚会,最让咱老百姓揪心的,不是过期食品,也不是假冒伪劣,而是藏在手机里、看不见摸不着的AI“洗脑”套路。咱平时随口问AI“哪个品牌靠谱”“哪家医美放心”,以为得到的是客观答案,殊不知,这背后可能是一场花了钱的骗局——不法商家靠着给AI“喂毒”,把广告包装成“标准答案”,悄无声息忽悠咱掏钱。这事说起来不算新鲜,大河报早在去年9月,就已经把这条灰色产业链扒得明明白白,如今3·15再曝光,更让人看清:AI再智能,也架不住人心的贪心,而约束这份贪心,立法必须跟上算法的脚步。

AI“洗脑”没那么玄乎,花几万块就能操作
咱普通人觉得AI是高科技,神圣不可侵犯,可在那些不法服务商眼里,它就是个能花钱收买的“打工仔”。央视3·15曝光的核心,是一种叫GEO的业务,说白了就是“生成式引擎优化”,本来是用来优化信息分发的好东西,硬生生被这些人玩成了给AI“投毒”的工具。
去年9月,大河报记者扮成客户去咨询,人家服务商一点不藏着掖着,直接明说:2万块钱包月,就能让你家的产品在AI回答里排前三,还能悄咪咪带上联系方式;要是医药、医美这种敏感行业,5万块起步,能直接在AI回答里插电商链接,从提问到下单一步到位。我当时看到这报道就犯嘀咕,AI咋就这么好“收买”?
后来才弄明白,套路其实很简单。这些服务商先锁定关键词,比如“面部抗衰哪家好”“靠谱保健品推荐”,然后编一堆看似是知识分享、用户测评的软文,不写硬广,却处处藏着商家信息,还特意做成AI喜欢的格式——一两句话分一段,逻辑看着特清晰。接着,他们通过几百个高权重平台批量发布,就像把一本假手册,放在图书馆最容易被AI翻到的地方。
央视记者采访的一位服务商负责人更直白,说他们干这行一年就服务了200多个客户,核心就是“不停投喂”,AI算法一更新,就再接着投,哪怕花几百万“投毒”也乐意。更恶劣的是,还有人靠这套路抹黑对手,你做不上去,我就给你投负面虚假信息,搅得市场乌烟瘴气。有研究显示,只要训练数据里有0.01%的虚假文本,AI的有害输出就会增加11.2%,哪怕只有0.001%的污染,也会涨7.2%,这可不是小数目,积少成多,AI就彻底成了虚假信息的传声筒。

别觉得这种“推广”占便宜,里面藏着俩致命坑
可能有人觉得,不就是商家打广告吗?以前是在网页上刷到,现在是从AI嘴里说出来,差别不大。可我觉得,这差别大了去了,AI“洗脑”的危害,比普通虚假广告更隐蔽、更伤人。
最直接的就是坑咱老百姓。去年大河报的调查里提到,有医美机构靠这套路,让AI一提到“面部抗衰”就推荐它,不少人信了AI的“标准答案”,花了大价钱做项目,结果效果根本达不到预期。更吓人的是,有些服务商还会伪造权威专家、虚构研究报告,比如为了推一款化妆品,凭空造一个“瑞士某实验室王博士”,AI没法核实真假,就把这些虚假内容当成专业信息输出,咱普通人哪能分辨得出来?
更深层的危害,是搅乱市场公平。资金雄厚的大企业,能花几百万“投毒”,把小商家挤得没活路;而那些愿意踏实做产品、不搞歪门邪道的商家,反而因为没花钱做GEO,被AI“无视”。中国商业经济学会副会长宋向清就说,这就是典型的“劣币驱逐良币”,长此以往,咱想买点靠谱的东西,只会越来越难。
更让人担心的是,这种“投毒”套路门槛极低,普通人花几十块钱就能买工具操作,无需专业技术,批量生成虚假内容、全网发布,短短两小时,就能让AI推荐一款根本不存在的产品。这种无孔不入的操控,要是不加以约束,以后咱的消费、甚至决策,都可能被算法牵着鼻子走。

专家都急了:算法跑得太快,立法得赶紧跟上
3·15曝光后,不少专家都站出来发声,核心就一个:AI技术跑得太快,监管和立法的脚步,得赶紧跟上。河南金纬律师事务所律师张扬说得实在,这些服务商伪造用户评价、冒充权威,本质就是虚假宣传,违反了《互联网广告管理办法》,可为啥还这么猖獗?关键就是没有专门的法律,明确“给AI投毒”这种行为的边界和处罚标准。
中国社会科学院大学互联网法治研究中心主任刘晓春也提到,现在AI相关的纠纷越来越多,比如去年有高校用AI做招生简章,AI擅自承诺“回答错了赔10万”,最后引发诉讼,可法院判决时,只能靠现有法律权衡,没有专门的AI立法可依。她主张立法要“问题导向、适当容错”,既要约束不法行为,也不能过度限制AI创新,这种“小步快跑”的思路,我觉得特别实在。
今年全国两会上,《政府工作报告》明确提出要完善人工智能治理,保障算法公平;司法部也表示,今年要加快研究人工智能立法。这可不是空话,要是再不管,以后AI“洗脑”可能会渗透到更多领域,比如教育、医疗,到时候危害的就不只是咱的钱包,还有咱的切身利益。
