- 首頁(yè)
- 民文
- English
- 舉報專(zhuān)區
- 登錄
人工智能大模型發(fā)展,如何安全、規范、可持續?
由人民網(wǎng)主辦的“智融未來(lái)——2023人工智能成果展示會(huì )”近日在武漢精彩演繹。展示會(huì )上,來(lái)自傳播內容認知全國重點(diǎn)實(shí)驗室的相關(guān)負責人介紹了生成式人工智能合規性評估體系和語(yǔ)料庫的建設情況。
目前,主流價(jià)值語(yǔ)料庫的建設取得了階段性進(jìn)展,已完成3000多萬(wàn)篇基礎語(yǔ)料、5萬(wàn)多道問(wèn)答語(yǔ)料的建設工作。相關(guān)工作成果助推了國產(chǎn)人工智能大模型的安全、規范和可持續發(fā)展,為生成式人工智能領(lǐng)域提供了更多的規范和參考。
為何要群力群策建設這樣一個(gè)主流價(jià)值語(yǔ)料庫?人民日報社傳播內容認知全國重點(diǎn)實(shí)驗室首席科學(xué)家張勇東在接受人民網(wǎng)采訪(fǎng)時(shí)表示,在人工智能時(shí)代,媒體的重要職責之一就是保證意識形態(tài)的安全。當前,人工智能大模型已經(jīng)成為一種生成式信息傳播工具,因此對于大模型價(jià)值觀(guān)的訓練是必要的?!坝柧毴斯ぶ悄艽竽P偷倪^(guò)程就像培養一個(gè)小孩,你從小怎樣培養他,在什么環(huán)境下去培養他,他將來(lái)就成為什么樣的人?!敝髁髅襟w建立符合中國人自己價(jià)值觀(guān)的語(yǔ)料庫,就是對其“成長(cháng)環(huán)境”的一種塑造。
當前,生成式人工智能技術(shù)(AIGC)發(fā)展迅猛,不僅能夠應用于文字,更是在視頻、音頻等多領(lǐng)域實(shí)現突破。那么,媒體行業(yè)在利用AIGC技術(shù)提高生產(chǎn)力的同時(shí),如何防范別有用心者用其制造假新聞,傳播假消息?
張勇東認為,保證新聞的真實(shí)性,一直以來(lái)都是媒體的重要職責。人工智能技術(shù)生成的內容偽裝性和欺騙性都很強,的確有可能會(huì )導致更多的虛假內容產(chǎn)生?!耙虼?,我們要用AI對抗AI?!被谝恍┓烙匀斯ぶ悄芗夹g(shù),首先判斷信息內容是否為人工智能技術(shù)生成,向用戶(hù)發(fā)出預警。另外,隨著(zhù)主流價(jià)值語(yǔ)料庫的規模不斷擴大,還能夠通過(guò)人工智能技術(shù)將存疑信息與語(yǔ)料庫內數據進(jìn)行對比,從而幫助用戶(hù)判斷出信息是否與事實(shí)相符,若為謠言,還能夠列舉其中哪些信息點(diǎn)是錯誤的。
據了解,由傳播內容認知全國重點(diǎn)實(shí)驗室主導,與中國科學(xué)技術(shù)大學(xué)、合肥綜合性國家科學(xué)中心人工智能研究院聯(lián)合推出的AI生成內容檢測工具——AIGCX,可快速區分機器生成文本與人工生成文本,目前對中文文本檢測的準確率已超過(guò)90%。
分享讓更多人看到
客戶(hù)端下載
熱門(mén)排行
- 1時(shí)習之丨與黨同心同行 習近平引領(lǐng)新時(shí)代…
- 2時(shí)習之丨進(jìn)博會(huì )上,習近平多次闡明中國擴…
- 3在學(xué)習貫徹習近平新時(shí)代中國特色社會(huì )主義…
- 4時(shí)習之丨在新時(shí)代新征程上書(shū)寫(xiě)巾幗榮光 …
- 52023年10月國家社科基金年度項目、…
- 6習近平新時(shí)代中國特色社會(huì )主義思想蘊含的…
- 7時(shí)習之丨共赴“進(jìn)博之約” 習近平闡述經(jīng)…
- 8果園鋪就致富路 “四好農村路”讓鄉村振…
- 9人民網(wǎng)評:讓大流量自覺(jué)走向正能量
- 10四川發(fā)布干部任前公示