這些網(wǎng)站在很少有人監(jiān)督的情況下運(yùn)行，平均每天生成數(shù)千篇文章，其中包含錯(cuò)誤信息，尤其是誤導(dǎo)用戶的醫(yī)療和健康信息。

科技媒體The表示，人工智能正在扼殺舊網(wǎng)絡(luò)，而新網(wǎng)絡(luò)卻在艱難誕生。 “生成人工智能模型正在改變網(wǎng)絡(luò)的經(jīng)濟(jì)性，使生成低質(zhì)量內(nèi)容的成本變得更便宜。 我們才剛剛開始看到這些變化?！?影響。”

發(fā)現(xiàn) 217 個(gè)不可靠的人工智能生成的新聞和信息網(wǎng)站

分析發(fā)現(xiàn)，在人工智能生成的內(nèi)容網(wǎng)站上發(fā)布的廣告似乎是以編程方式生成的，這意味著該公司沒有選擇將其廣告放置在這些網(wǎng)站上，而是由提供廣告的系統(tǒng)自動(dòng)定位。 大多數(shù)廣告都是通過 的工具投放的。

不可靠的人工智能生成的新聞和信息網(wǎng)站 (UAIN) 被定義為在很少或沒有人類監(jiān)督的情況下運(yùn)行并發(fā)布主要或完全由機(jī)器人撰寫的文章的網(wǎng)站。 就在上個(gè)月，分析師將新推出的 UAIN 網(wǎng)站跟蹤器上的網(wǎng)站數(shù)量從 49 個(gè)更新為 217 個(gè)。

盡管許多廣告商及其廣告代理商維護(hù)著“品牌不安全”網(wǎng)站的“排除列表”，但這些列表通常沒有及時(shí)更新，并且顯然沒有跟上 UAIN 網(wǎng)站的激增速度。

2023 年 5 月和 6 月，分析師確定了來自 141 個(gè)主要品牌的 393 個(gè)程序化廣告（廣告，使用技術(shù)實(shí)現(xiàn)數(shù)字廣告買賣的過程），這些廣告出現(xiàn)在 55 日確定的 217 個(gè) UAIN 網(wǎng)站上。 所發(fā)現(xiàn)的廣告被提供給四個(gè)國家的互聯(lián)網(wǎng)分析師：美國、德國、法國和意大利。

一家運(yùn)動(dòng)服裝公司的廣告出現(xiàn)在 .br 上，這是一個(gè) UAIN 網(wǎng)站，發(fā)布人工智能生成的有關(guān)巴西就業(yè)機(jī)會(huì)的新聞。 用黑色塊屏蔽此程序化廣告。

雖然沒有透露提供這些廣告的公司名稱，但其中包括各種各樣的藍(lán)籌廣告商：六家大型銀行和金融服務(wù)公司、四家奢侈品百貨公司、三個(gè)領(lǐng)先的運(yùn)動(dòng)服裝品牌、三個(gè)家電制造商、兩家全球最大的消費(fèi)技術(shù)公司世界，兩家全球電子商務(wù)公司，兩家美國頂級(jí)寬帶提供商，美國廣播網(wǎng)絡(luò)提供的 3 項(xiàng)流媒體服務(wù)，一個(gè)硅谷數(shù)字平臺(tái)和一家大型歐洲連鎖超市。

程序化廣告使用算法和先進(jìn)的拍賣流程，將高度針對性的數(shù)字廣告直接提供給個(gè)人用戶，而不是特定的網(wǎng)站。 這意味著廣告在用戶瀏覽互聯(lián)網(wǎng)時(shí)有效地“關(guān)注”他們。 由于這個(gè)過程非常不透明，品牌可能不知道他們正在資助 UAIN 網(wǎng)站的傳播，因?yàn)閺V告是通過第三方購買的，并涉及多個(gè)中介機(jī)構(gòu)。

假作者傳播可疑的健康信息

發(fā)現(xiàn)的所有 393 個(gè)廣告都直接出現(xiàn)在包含人工智能生成的錯(cuò)誤信息的文章旁邊。

一些似乎包含主要品牌廣告的 UAIN 網(wǎng)站似乎使用人工智能工具重寫主流新聞媒體的文章。 例如，發(fā)表的一篇文章似乎是英國小報(bào)《太陽報(bào)》美國版文章的人工智能重寫版本，具有相似的圖像和措辭。 文章中往往會(huì)包含作者姓名，如“今年以來，該‘作者’已發(fā)表文章4,364篇，其中僅2023年6月15日就發(fā)表了108篇文章。

有些網(wǎng)站平均每天生成 1,200 多篇文章，幾乎沒有明顯的人工編輯監(jiān)督。 相比之下，根據(jù) 2022 年 4 月的數(shù)據(jù)，《紐約時(shí)報(bào)》通常每天發(fā)布約 150 篇文章。

大多數(shù)人工智能生成的網(wǎng)站質(zhì)量較低，但不會(huì)傳播錯(cuò)誤信息。 然而網(wǎng)站制作，人們發(fā)現(xiàn)，未經(jīng)證實(shí)且可能有害的自然健康療法以“檸檬可以治療皮膚過敏嗎？”等標(biāo)題進(jìn)行宣傳。 “治療多動(dòng)癥的 5 種自然療法是什么？” 和“如何自然地預(yù)防癌癥”。

UAIN 網(wǎng)站快速將其內(nèi)容貨幣化非常簡單。 在谷歌的登陸頁面上，谷歌表示網(wǎng)站可以輕松賺取程序化廣告收入：“你所要做的就是將代碼放入你的網(wǎng)站，它會(huì)立即開始工作?！?/p>

自 2023 年 5 月首次開始跟蹤 UAIN 網(wǎng)站以來，它每周都會(huì)發(fā)現(xiàn)約 25 個(gè)新網(wǎng)站，而 5 月初，其報(bào)告僅發(fā)現(xiàn)了 49 個(gè)“似乎幾乎完全由人工智能軟件編寫”的網(wǎng)站。 UAIN網(wǎng)站總數(shù)可能遠(yuǎn)高于目前確定的217個(gè)。

上出現(xiàn)了一家全球汽車租賃公司的廣告網(wǎng)站制作， 是一個(gè) UAIN 網(wǎng)站，發(fā)布人工智能生成的有關(guān)食品的文章。 使用黑塊來阻止這些程序化廣告。

如果一個(gè)網(wǎng)站滿足以下所有 4 個(gè)標(biāo)準(zhǔn)，則被視為不可靠的人工智能生成的新聞和信息網(wǎng)站： 首先，有明確證據(jù)表明該網(wǎng)站的很大一部分內(nèi)容是由人工智能生成的； 其次，有強(qiáng)有力的證據(jù)表明該內(nèi)容是在沒有人工監(jiān)督的情況下發(fā)布的； 第三，網(wǎng)站的呈現(xiàn)方式讓普通讀者相信其內(nèi)容是由人類作家或記者制作的； 第四，網(wǎng)站未明確披露其內(nèi)容由人工智能制作。

這不一定是壞事

近幾個(gè)月來，多家媒體報(bào)道稱人工智能生成的內(nèi)容正在污染互聯(lián)網(wǎng)。 當(dāng)?shù)貢r(shí)間6月26日，資深記者詹姆斯·文森特（ ）發(fā)表了一篇措辭激烈的評論文章。 他寫道：“它被用來生成充滿垃圾的網(wǎng)站。 Etsy（一個(gè)工藝品電子商務(wù)網(wǎng)站）充滿了“人工智能生成的垃圾”。 聊天機(jī)器人在混亂的錯(cuò)誤信息中互相引用。 人工智能被用來刺激疲倦的用戶。 并希望當(dāng)你的朋友不在身邊時(shí)，機(jī)器人可以與你交談……互聯(lián)網(wǎng)檔案館正在與數(shù)據(jù)抓取者作斗爭，而人工智能正在撕裂維基百科。 舊的網(wǎng)絡(luò)正在消亡，新的網(wǎng)絡(luò)正在艱難誕生?！?/p>

當(dāng)然，文森特認(rèn)為，網(wǎng)絡(luò)多年來一直在消亡，被那些將流量從網(wǎng)站上轉(zhuǎn)移的應(yīng)用程序或獎(jiǎng)勵(lì)“縮短注意力的時(shí)間”的算法所扼殺。 但到了 2023 年，它再次消亡，而一個(gè)新的催化劑正在發(fā)揮作用：人工智能。

他打了一個(gè)比方：“網(wǎng)站創(chuàng)建了流暢、功能豐富的平臺(tái)，并向任何人敞開大門加入。 他們把盒子放在我們面前，我們在這些盒子里填滿文字和圖片，然后人們過來看看那些盒子里有什么。 這些公司追逐規(guī)模，因?yàn)橐坏┯凶銐蚨嗟娜司奂谌魏蔚胤?strong>網(wǎng)站制作，通常就有辦法從中賺錢。 但人工智能改變了這些假設(shè)?！?/p>

因?yàn)?，考慮到資金和計(jì)算能力，人工智能系統(tǒng)，尤其是當(dāng)前流行的生成模型，可以毫不費(fèi)力地?cái)U(kuò)展。 他們產(chǎn)生大量的文本和圖像，很快也會(huì)產(chǎn)生音樂和視頻。 其產(chǎn)出有潛力超越或勝過人們現(xiàn)在依賴的新聞、信息和娛樂平臺(tái)。 但這些系統(tǒng)的質(zhì)量往往很差。 “這些模型是根據(jù)上一個(gè)互聯(lián)網(wǎng)時(shí)代奠定的數(shù)據(jù)層進(jìn)行訓(xùn)練的，并且它們對這些數(shù)據(jù)的再現(xiàn)是不完美的。 公司從開放網(wǎng)絡(luò)中抓取信息并將其提煉成機(jī)器生成的內(nèi)容，這些內(nèi)容生成成本低，但可靠性較差。 然后該產(chǎn)品會(huì)與之前的平臺(tái)和用戶爭奪注意力，”文森特指出。

最成功的網(wǎng)站往往是那些利用規(guī)模優(yōu)勢的網(wǎng)站，要么通過增加社交聯(lián)系或產(chǎn)品選擇，要么通過對構(gòu)成互聯(lián)網(wǎng)本身的大量信息進(jìn)行編目，但這種規(guī)模依賴于大量的人類來創(chuàng)造在大規(guī)模生產(chǎn)方面，人類的潛在價(jià)值顯然無法擊敗人工智能。

但文森特最終表示，這不一定是壞事。 “有些人會(huì)說這就是世界運(yùn)轉(zhuǎn)的方式，并指出網(wǎng)絡(luò)本身殺死了之前的事物，通常是為了變得更好。例如網(wǎng)站制作，印刷版百科全書幾乎已經(jīng)絕跡，但我更喜歡維基百科可訪問性的廣度和廣度，而不是比大英百科全書的厚重和安全性還要高。與人工智能生成的寫作有關(guān)的所有事情一樣，也有很多方法可以改進(jìn)它——從改進(jìn)的引文功能到更多的人類監(jiān)督。此外，即使網(wǎng)絡(luò)上充斥著人工智能垃圾“這可能會(huì)被證明是有益的，從而刺激資金更充足的平臺(tái)的發(fā)展。例如，如果谷歌不斷為您提供糟糕的搜索結(jié)果，您可能會(huì)更傾向于付費(fèi)訪問您信任的資源?！?/p>

歸根結(jié)底，目前由人工智能引起的變化只是網(wǎng)絡(luò)歷史上長期斗爭中的最新一個(gè)。 從本質(zhì)上講，這是一場信息之戰(zhàn)——誰生產(chǎn)信息、如何獲取信息以及誰獲得報(bào)酬。