·“網(wǎng)站創(chuàng)造了順暢的、功能豐富的平臺,并向任何人敞開大門,讓他們加入。他們把盒子放在我們面前,我們用文字和圖片填滿這些盒子,人們就來看看這些盒子的內(nèi)容。這些公司追逐規(guī)模,因為一旦有足夠的人聚集在任何地方,通常就有辦法從他們身上賺錢。但人工智能改變了這些假設。”
(資料圖片)
·即使網(wǎng)絡上充斥著人工智能的垃圾,它也可能被證明是有益的,能刺激資金更充足的平臺發(fā)展。
新聞網(wǎng)站評級工具NewsGuard發(fā)布2023年6月的錯誤信息監(jiān)控結(jié)果,稱141個品牌正在向低質(zhì)量的人工智能(AI)生成的網(wǎng)站提供廣告收入,來支持這些不可靠網(wǎng)站的發(fā)展。
這些網(wǎng)站在幾乎沒有人監(jiān)督的情況下運行,每天平均生成上千條文章,其中包括錯誤信息,特別是誤導用戶的醫(yī)療健康信息。
科技媒體The Verge稱,人工智能正在扼殺舊網(wǎng)絡,而新網(wǎng)絡正在掙扎著誕生,“生成式人工智能模型正在改變網(wǎng)絡經(jīng)濟,使生成低質(zhì)量內(nèi)容變得更便宜。我們才剛剛開始看到這些變化的影響?!?/p>
發(fā)現(xiàn)217個不可靠的AI生成新聞和信息網(wǎng)站
NewsGuard分析發(fā)現(xiàn),發(fā)布在AI生成內(nèi)容網(wǎng)站上的廣告似乎是以編程方式生成的,這意味著公司不是選擇將其廣告投放在這些網(wǎng)站上,而是通過投放廣告的系統(tǒng)自動定位。大多數(shù)廣告是由谷歌的工具投放的。?
NewsGuard將不可靠的AI生成新聞和信息網(wǎng)站(UAIN)定義為,在很少或沒有人類監(jiān)督的情況下運行的網(wǎng)站,并發(fā)布主要或完全由機器人撰寫的文章。就在上個月,NewsGuard分析師將新推出的UAIN網(wǎng)站跟蹤器上的網(wǎng)站數(shù)量從49個更新為217個。?
盡管許多廣告商及其廣告代理商維護著“品牌不安全”網(wǎng)站的“排除列表”,但這些列表往往沒有保持最新狀態(tài),顯然沒有跟上UAIN網(wǎng)站激增的步伐。?
2023年5月和6月,NewsGuard分析師確定了來自141個主要品牌的393個程序化廣告(programmatic ad,利用技術手段實現(xiàn)數(shù)字廣告購買和銷售的過程),這些廣告出現(xiàn)在NewsGuard確定的217個UAIN網(wǎng)站中的55個上。NewsGuard發(fā)現(xiàn)的廣告,提供給了美國、德國、法國和意大利四個國家的互聯(lián)網(wǎng)分析師。?
一家運動服裝公司的廣告出現(xiàn)在NoticiasDeEmprego.com.br網(wǎng)站上,這是一家UAIN網(wǎng)站,發(fā)布由人工智能生成的關于巴西工作機會的新聞。NewsGuard用一個黑塊屏蔽了這個程序化廣告。
NewsGuard沒有點名提供這些廣告的公司,它們包括各種各樣的藍籌廣告商:6家大型銀行和金融服務公司、4家豪華百貨公司、3家運動服裝領先品牌、3家電器制造商、兩家世界上最大的消費技術公司、兩家全球電子商務公司、兩家美國頂級寬帶提供商、美國廣播網(wǎng)絡提供的3家流媒體服務、一個硅谷數(shù)字平臺和一家歐洲大型連鎖超市。?
程序化廣告使用算法和高級拍賣流程,直接向個人用戶而不是特定網(wǎng)站提供具有高度針對性的數(shù)字廣告。這意味著廣告在用戶瀏覽互聯(lián)網(wǎng)時有效地“關注”他們。?由于這個過程非常不透明,品牌可能不知道他們正在資助UAIN網(wǎng)站的傳播,因為廣告是通過第三方購買的,并且涉及多個中介機構。?
假作者傳播可疑健康信息
NewsGuard發(fā)現(xiàn)的所有393個廣告都直接出現(xiàn)在包含由AI生成的錯誤信息的文章旁邊。?
一些出現(xiàn)主要品牌廣告的UAIN網(wǎng)站似乎使用人工智能工具重寫主流新聞媒體的文章。例如,AlaskaCommons.com發(fā)表的一篇文章似乎是英國小報《太陽報》美國版文章的AI重寫版本,連圖片和措辭都類似。AlaskaCommons.com的文章經(jīng)常將作者名寫為Ingrid Taylor,自今年年初以來,這位“作者”已經(jīng)發(fā)表了4364篇文章,其中僅在2023年6月15日一天就發(fā)表了108篇文章。
一些網(wǎng)站平均每天生成超過1200篇文章,幾乎沒有明顯的人工編輯監(jiān)督。相比之下,根據(jù)2022年4月的數(shù)據(jù),《紐約時報》通常每天發(fā)表約150篇文章。
大多數(shù)AI生成的網(wǎng)站質(zhì)量低,但不會傳播錯誤信息。然而,NewsGuard發(fā)現(xiàn),MedicalOutline.com推廣未經(jīng)證實和潛在有害的自然健康療法,標題如“檸檬能治愈皮膚過敏嗎?”“ADHD的5種自然療法是什么?”和“你如何自然地預防癌癥?!?
對于UAIN網(wǎng)站來說,快速將其內(nèi)容貨幣化非常簡單。在谷歌AdSense的登錄頁面上,谷歌稱網(wǎng)站可以輕松地賺取程序化廣告收入:“您所要做的就是將AdSense代碼放入您的網(wǎng)站,它就會立即開始工作。”
自2023年5月首次開始跟蹤UAIN網(wǎng)站以來,NewsGuard每周已確定約25個新網(wǎng)站,5月初,其報告還只確定了49個“似乎幾乎完全由人工智能軟件編寫”的網(wǎng)站。而UAIN網(wǎng)站的總數(shù)可能比NewsGuard目前識別的217個網(wǎng)站多得多。
一家全球租車公司的廣告出現(xiàn)在FoodingWorld.com上,這是一個UAIN網(wǎng)站,發(fā)布AI生成的關于食物的文章。NewsGuard用黑塊擋住了這些程序化廣告。
如果一個網(wǎng)站符合以下所有4個標準,則NewsGuard將其視為不可靠的人工智能生成新聞和信息網(wǎng)站:第一,有明確的證據(jù)表明,該網(wǎng)站的很大一部分內(nèi)容是由人工智能制作的;第二,有強有力的證據(jù)表明,內(nèi)容是在沒有人類監(jiān)督的情況下發(fā)布的;第三,該網(wǎng)站的呈現(xiàn)方式讓普通讀者認為其內(nèi)容是由人類作家或記者制作的;第四,該網(wǎng)站沒有明確披露其內(nèi)容是由人工智能制作的。
也不一定是壞事
近幾個月來,已有多家媒體報道AI生成內(nèi)容正在污染互聯(lián)網(wǎng)。當?shù)貢r間6月26日,The Verge高級記者詹姆斯·文森特(James Vincent)發(fā)表了一篇措辭激烈的評論文章。他寫道:“ChatGPT正被用來生成全是垃圾的網(wǎng)站。Etsy(手工藝品電子商務網(wǎng)站)充斥著“AI生成的垃圾”。聊天機器人在錯誤信息的烏龍中相互引用。LinkedIn正在使用人工智能來刺激疲勞的用戶。Snapchat和Instagram希望機器人能在你朋友不在時與你交談……互聯(lián)網(wǎng)檔案館正在對抗數(shù)據(jù)刮刀,而人工智能正在把維基百科撕碎。舊的網(wǎng)絡正在消亡,而新的網(wǎng)絡正在掙扎著誕生?!?/p>
文森特認為,當然,網(wǎng)絡多年來一直在死亡,被那些從網(wǎng)站上轉(zhuǎn)移流量的應用程序或獎勵“縮短注意力”的算法所扼殺。但在2023年,它又在消亡,一個新的催化劑在發(fā)揮作用:人工智能。
他打了一個比方:“網(wǎng)站創(chuàng)造了順暢的、功能豐富的平臺,并向任何人敞開大門,讓他們加入。他們把盒子放在我們面前,我們用文字和圖片填滿這些盒子,人們就來看看這些盒子的內(nèi)容。這些公司追逐規(guī)模,因為一旦有足夠的人聚集在任何地方,通常就有辦法從他們身上賺錢。但人工智能改變了這些假設?!?/p>
因為,只要有資金和計算能力,人工智能系統(tǒng),尤其是目前流行的生成模型,可以毫不費力地進行擴展。它們會產(chǎn)生大量文本和圖像,很快也會產(chǎn)生音樂和視頻。其產(chǎn)出有可能超過或勝過人們現(xiàn)在所依賴的新聞、信息和娛樂平臺。但這些系統(tǒng)的質(zhì)量往往很差。“這些模型是在上個網(wǎng)絡時代奠定的數(shù)據(jù)層上訓練出來的,它們對這些數(shù)據(jù)的再現(xiàn)并不完美。公司從開放的網(wǎng)絡上搜刮信息,并將其提煉成機器生成的內(nèi)容,這些內(nèi)容生成成本低,但可靠性差。然后這種產(chǎn)品與之前的平臺和人爭奪注意力。”文森特指出。
最成功的網(wǎng)站往往是利用規(guī)模發(fā)揮其優(yōu)勢的網(wǎng)站,要么通過增加社會聯(lián)系或產(chǎn)品選擇,要么通過對構成互聯(lián)網(wǎng)本身的巨大信息群進行分類,但這種規(guī)模依賴于大量人類來創(chuàng)造潛在價值,在大規(guī)模生產(chǎn)方面,人類顯然無法擊敗人工智能。
但文森特最后也談到,這不一定是件壞事。“有人會說,這只是世界運行的方式,指出網(wǎng)絡本身就扼殺了之前的東西,而且往往是為了更好的發(fā)展。例如,印刷版百科全書幾乎已經(jīng)絕跡,但我更喜歡維基百科的廣度和可及度,而不是《大英百科全書》的厚重感和安全感。對于所有與人工智能生成的寫作有關的問題,也有很多方法可以改進它——從改進引用功能到更多的人工監(jiān)督。此外,即使網(wǎng)絡上充斥著人工智能的垃圾,它也可能被證明是有益的,能刺激資金更充足的平臺發(fā)展。例如,如果谷歌在搜索中不斷給你提供垃圾結(jié)果,你可能會更傾向于為你信任的來源付費并訪問它們?!?/p>
歸根結(jié)底,人工智能目前引起的變化只是網(wǎng)絡歷史上長期斗爭的最新成果。從本質(zhì)上講,這是一場關于信息的戰(zhàn)斗——關于誰制造信息,如何獲取信息,以及誰獲得報酬。
(原標題:《人工智能正制造網(wǎng)絡垃圾:低質(zhì)量AI生成網(wǎng)站獲廣告支撐迅猛發(fā)展》)
標簽: