人工智能發(fā)展中的環(huán)境挑戰(zhàn)與解決途徑

近期，新華社發(fā)表文章，對(duì)人工智能技術(shù)的應(yīng)用提出了批評(píng)性意見。在《警惕“AI污染”亂象》一文中，文章提到，自去年以來，生成式人工智能在全球范圍內(nèi)引發(fā)了**關(guān)注，其創(chuàng)新性應(yīng)用為眾多行業(yè)和用戶帶來了積極影響。然而，正如硬幣的兩面，生成式人工智能的普及也伴隨著一系列負(fù)面效應(yīng)，尤其是“信息垃圾”引發(fā)的“AI污染”問題日益嚴(yán)重。

隨著人工智能技術(shù)的迅猛發(fā)展，互聯(lián)網(wǎng)內(nèi)容創(chuàng)造領(lǐng)域經(jīng)歷了一場(chǎng)**。但與此同時(shí)，技術(shù)的**應(yīng)用也引發(fā)了一系列挑戰(zhàn)：

一些流行的社交媒體平臺(tái)上，出現(xiàn)了大量由AI制造的虛假賬戶；

在某個(gè)小說發(fā)布平臺(tái)上，一個(gè)賬號(hào)依賴AI技術(shù)“創(chuàng)作”內(nèi)容，能夠做到日更50部小說，月產(chǎn)量達(dá)到數(shù)千萬字?jǐn)?shù)，但這些內(nèi)容常常缺乏邏輯連貫性，語言空洞無物；

在學(xué)術(shù)領(lǐng)域，AI內(nèi)容創(chuàng)作的問題也暴露無遺。一位**高校的學(xué)者在SCI期刊上發(fā)表的論文，因使用了AI生成的插圖，存在眾多錯(cuò)誤，*上線3天便被撤回，成為學(xué)術(shù)界的笑柄……

隨著人工智能技術(shù)的**應(yīng)用，其在新聞和信息傳播領(lǐng)域的負(fù)面影響逐漸顯現(xiàn)，引起了**關(guān)注。AI技術(shù)能夠生成、偽造或篡改文本、圖片、音頻和視頻，制造出大量質(zhì)量低劣、真?zhèn)坞y辨的“信息垃圾”，對(duì)此進(jìn)行**審視已變得尤為迫切。

01

AI對(duì)新聞?lì)I(lǐng)域的滲透

新聞?wù)鎸?shí)性的嚴(yán)峻挑戰(zhàn)

人工智能的進(jìn)步為新聞行業(yè)帶來了**性的變化，從傳統(tǒng)的人工采編向智能化、高效率的方向發(fā)展。然而，AI技術(shù)可能會(huì)復(fù)制或放大現(xiàn)有數(shù)據(jù)中的錯(cuò)誤，產(chǎn)生虛假信息和宣傳，新聞機(jī)構(gòu)在使用AI時(shí)，也面臨著維護(hù)真實(shí)性和公信力的重大挑戰(zhàn)。

一些MCN機(jī)構(gòu)為了吸引流量，利用AI軟件制造虛假新聞，導(dǎo)致大量網(wǎng)絡(luò)謠言像病毒一樣傳播。今年6月中旬，一名MCN機(jī)構(gòu)的實(shí)際控制人因利用AI軟件制造虛假新聞并**傳播，擾亂公共秩序，被警方行政拘留。據(jù)警方通報(bào)，該控制人運(yùn)營(yíng)5家MCN機(jī)構(gòu)，管理賬號(hào)842個(gè)，自今年1月以來，通過AI軟件制造虛假新聞，**峰時(shí)一天能產(chǎn)出4000至7000篇。

新華社在《警惕AIGC數(shù)據(jù)污染“稀釋”人類原創(chuàng)》一文中提醒，“生成偽造虛假內(nèi)容，擾亂公共秩序”：生成式人工智能可以根據(jù)人的指令生成不存在的內(nèi)容，極易被用于自動(dòng)生成虛假新聞和謠言。深度偽造技術(shù)（DeepFake）正在快速發(fā)展，圖片偽造、音頻合成和視頻換臉在生成式AI的幫助下變得輕而易舉，這些虛假內(nèi)容能夠以逼真的形式迅速傳播，帶來嚴(yán)重的社會(huì)影響。

在《警惕“AI污染”亂象》一文中提到：清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份研究報(bào)告顯示，近一年來，經(jīng)濟(jì)與企業(yè)類AI謠言量增速達(dá)99.91%。美國(guó)調(diào)查機(jī)構(gòu)“新聞守衛(wèi)”稱，生成虛假文章的網(wǎng)站數(shù)量自2023年5月以來激增1000%以上，涉及15種語言。一些**認(rèn)為，AI制造的“信息垃圾”產(chǎn)量龐大，且辨別難度較大、篩選成本較高。

版權(quán)歸屬問題的復(fù)雜性

傳統(tǒng)版權(quán)通常歸屬于創(chuàng)作者或創(chuàng)作者雇主，但AI版權(quán)可能歸屬于訓(xùn)練數(shù)據(jù)的提供者、算法開發(fā)者、系統(tǒng)操作者甚至*終用戶，這導(dǎo)致新聞、出版機(jī)構(gòu)在面對(duì)科技企業(yè)推出的AI工具整合新聞和內(nèi)容時(shí)，可能損失相關(guān)流量和廣告收入。

當(dāng)?shù)貢r(shí)間10月21日，《華爾街日?qǐng)?bào)》母公司道瓊斯和《紐約郵報(bào)》對(duì)人工智能初創(chuàng)公司Perplexity提出侵權(quán)訴訟，指控后者抄襲受版權(quán)保護(hù)的新聞內(nèi)容，并利用這些新聞內(nèi)容生成對(duì)用戶提問的回復(fù)，從而搶走了原本會(huì)流向這兩家出版商網(wǎng)站的流量。而在一周前的10月15日，Perplexity剛剛收到了來自《紐約時(shí)報(bào)》的警告，要求其在10月30日前停止使用《紐約時(shí)報(bào)》的內(nèi)容。這一事件也引起了網(wǎng)友的**討論。

02

探討應(yīng)對(duì)策略

新華社在《警惕“AI污染”亂象》一文中提出了以下建議：

首先，加強(qiáng)AI學(xué)習(xí)和生成機(jī)制的源頭管理。需要明確AI平臺(tái)對(duì)其使用的原始素材的控制責(zé)任，以及對(duì)生成內(nèi)容的監(jiān)管責(zé)任，制定AI內(nèi)容生成的規(guī)范，強(qiáng)制對(duì)AI生成內(nèi)容進(jìn)行明確標(biāo)識(shí)，增強(qiáng)AI技術(shù)的透明度和可解釋性。

其次，增強(qiáng)對(duì)AI生成內(nèi)容的審查和監(jiān)管。相關(guān)監(jiān)管部門和企業(yè)應(yīng)將重點(diǎn)放在AI生成內(nèi)容的審查和審核上，開發(fā)專門的審查算法，規(guī)范內(nèi)容的流入和傳播，及時(shí)識(shí)別和刪除低質(zhì)量或虛假內(nèi)容。

再次，提升用戶對(duì)AI生成內(nèi)容的識(shí)別能力。網(wǎng)民應(yīng)保持理性，提高防范意識(shí)和識(shí)別能力，使用反向搜索工具，核查內(nèi)容來源和作者信息，分析內(nèi)容的語言和結(jié)構(gòu)特征，以辨別真?zhèn)魏蛢?yōu)劣。

對(duì)于新聞從業(yè)者，除了上述措施外，還應(yīng)注意以下兩點(diǎn)：

一方面，界定AI的應(yīng)用范圍。在新聞?lì)I(lǐng)域中，明確AI的應(yīng)用邊界是至關(guān)重要的。需要確定哪些新聞內(nèi)容可以由AI生成，哪些必須由人工撰寫。例如，對(duì)于需要高度準(zhǔn)確性和專業(yè)判斷的重大時(shí)政新聞和深度調(diào)查報(bào)道，應(yīng)禁止使用AI生成，以確保新聞的**性和可靠性。同時(shí)，規(guī)范AI在新聞編輯、分發(fā)等環(huán)節(jié)的使用，防止過度依賴AI導(dǎo)致新聞質(zhì)量下降。

另一方面，提升對(duì)AI生產(chǎn)內(nèi)容的識(shí)別能力。提高新聞從業(yè)人員和公眾對(duì)AI生成內(nèi)容的識(shí)別能力是應(yīng)對(duì)AI帶來問題的關(guān)鍵措施。新聞從業(yè)人員應(yīng)通過培訓(xùn)和教育，了解AI的工作原理和特點(diǎn)，掌握辨別AI生成內(nèi)容的方法和技巧。

AI的發(fā)展是大勢(shì)所趨，它為人類帶來了前所未有的機(jī)遇和挑戰(zhàn)。我們既要充分利用AI的優(yōu)勢(shì)，又要高度重視其帶來的問題，加強(qiáng)監(jiān)管和治理，共同維護(hù)健康的網(wǎng)絡(luò)生態(tài)環(huán)境。