当前位置:首页 > 运营管理 > 正文内容

当心AI“投喂”的陷阱 虚假榜单正操控你的选择

lmwmm10个月前 (02-01)运营管理468

来源:杭州网

央视新闻客户端讯 现在不管是买东西、选餐厅,甚至订住宿,不少人都习惯先问一问AI,要一份推荐榜单,觉得这样既省心又靠谱。但您有没有想过,这些看似权威的榜单,来源可能根本经不起推敲。

它往往会给你一个看似是全网口碑汇总的靠谱排行榜,当记者顺着AI的推荐往回查时,却发现了一个奇怪的网站。

网站上遍布着各行各业的排行榜。每一个领域都能看到十几篇标题高度雷同的文章。而榜上的第一个名字,永远是同一家。

网站的制作也非常粗糙,浏览体验明显不符合正常人的使用习惯。按理说,这样的网站不可能影响任何人的决策。但它,却影响到了AI。

这样的网站,是怎么让AI相信的?记者调出了网站的源代码,发现了一些隐藏的文字——某官方部门网站。但我们查询到该部门真正的官网,网址并不相同,内容也跟可疑网站中的排行榜毫无关系。

中国科学技术大学计算机学院研究员 郑值:通过注入一些关键词,把它变得类似于一个很官方的网站,可能AI在它的这个系统里就会把权重提升,AI很喜欢那种格式总结得很好,很有逻辑的这种文本,比如说像排行榜。

这一个网站并不是个例,过去一个月,标题中含有“排行榜”和“榜单”的网络文章和视频,新增了200多万条,其中88%都不是由官方信源发布。AI却经常将这些非官方发布的内容,当作多个独立信源来使用。那些经不起我们推敲的文章,对AI来说却是“量身定制”。

那是谁,在专门写只有AI会关注到的文章?顺着线索,记者在电商平台上找到了答案。大量商家在出售一种服务:“AI搜索优化”。宣传语写得很直白:“企业抢占AI推荐位。”在他们的演示系统里,只要输入一个关键词,就能一键生成上百万个排行榜标题。

中国社会科学院助理研究员 李元琨:他们已经有一个相对比较成熟的产业链,开始是从关键词的设计、软文的设计,去进行各个信息平台的分发,还会不断地进行评测、校验,实时地告诉客户推广的效果怎么样。

这也解释了,为什么你用AI时,会突然看到一个果汁品牌,或者一位导游的电话号码。你以为是“智能推荐”,其实是被人“投喂”过的结果。真正替代你做决定的不是科技,而是围绕大模型的业务。

不过,在调查的过程中,记者也看到有些大模型已经意识到:“看起来像是商业推广”“权威性一般”“避免推荐具体品牌”。这说明,大模型本身也在不断升级自己甄别信息的能力。

中国移动九天大语言模型算法专家 龙翀:对特殊的字符以及异常的标记来进行识别,对那些疑似污染的数据进行降权处理。

AI的升级需要时间,AI生态的修复也需要时间。但普通用户,可以先做一件事:多点开AI引用的链接,看看是不是真正的官方网站,让自己不会被奇怪的“假榜单”所迷惑。

扫描二维码推送至手机访问。

版权声明:本文由点度点度金讯时代-BLOG发布,如需转载请注明出处。

本文链接:https://lmwmm.com/post/6771.html

分享给朋友:

“当心AI“投喂”的陷阱 虚假榜单正操控你的选择” 的相关文章

针对大型网站收录下降的原因分析

针对大型网站收录下降的原因分析

网站收录下降的因素:(需要网站负责人先做下排查)1、网站服务器是否稳定(比如访问延时,半天打不开,我在武汉这边通过百度第一次访问该网站加载比较久,大概第一次打开需要1分钟左右。如图)2、网站友链和死链是否过多(改版后,之前一些其他网站的链接…

禁止抓取机制robots.txt设置方法及注意事项

禁止抓取机制robots.txt设置方法及注意事项

今天我们主要学习一下robots.txt文件的使用和设置方法。一、认识robots.txt文件从网站优化和网站安全的方面来说,我们的站点并不是每一个页面都需要用户访问,这就好比即使再好的朋友来到了您的家里,您也不会将家里所有的东西都展示给朋…

抖音小店无货源模式常见问题解答

抖音小店无货源模式常见问题解答

今年留给我们实现目标的时间已过去很多了,多余的废话就不说了,接下来我们就说一下关于“抖音小店无货源”大家最关心的问题,让大家可以更直观地了解抖音小店。问:抖音小店需要绑定抖音号吗?答:需要绑定抖音号,但是对于抖音号都没有太多要求,一个抖音号…

美文共赏:有一种幸福,叫简单

美文共赏:有一种幸福,叫简单

文/彩云追月 幸福不是越多越好,而是恰到好处;幸福不是脸上的虚荣,而是内在的需要;幸福不在别人眼中,而在自己心间。 人生的幸福源自于简单。 生活简单就迷人,人心简单就幸福;学会简单其实就是不简单。 鱼儿的幸福…

温馨美文:最深的爱,是灵魂的相依

温馨美文:最深的爱,是灵魂的相依

随着时代的车轮滚滚向前,我们的内心似乎越来越孤独寂寞,我们的灵魂似乎越来越漂泊无依,因为喧嚣中难掩浮躁的心,纷扰中难守精神的高贵,空虚中难觅雪莲花般圣洁的爱。 其实,能够真正滋养我们生命的东西,不是物质和地位,而是爱、善良、舍予、以…

微信紧急提醒!

微信紧急提醒!

在?帮下忙 借个收款码 用完给你发红包如果有人说借你的收款码套个现还会支付你一定的报酬这个忙你帮不帮郑重提醒这忙不!能!帮 !8月26日微信发布最新提醒 租借收款码 可能成为犯罪分子的“帮凶” “微信…