由人民網(wǎng)主辦的“智融未來(lái)——2023人工智能成果展示會(huì )”近日在武漢精彩演繹。展示會(huì )上，來(lái)自傳播內容認知全國重點(diǎn)實(shí)驗室的相關(guān)負責人介紹了生成式人工智能合規性評估體系和語(yǔ)料庫的建設情況。

目前，主流價(jià)值語(yǔ)料庫的建設取得了階段性進(jìn)展，已完成3000多萬(wàn)篇基礎語(yǔ)料、5萬(wàn)多道問(wèn)答語(yǔ)料的建設工作。相關(guān)工作成果助推了國產(chǎn)人工智能大模型的安全、規范和可持續發(fā)展，為生成式人工智能領(lǐng)域提供了更多的規范和參考。

為何要群力群策建設這樣一個(gè)主流價(jià)值語(yǔ)料庫？人民日報社傳播內容認知全國重點(diǎn)實(shí)驗室首席科學(xué)家張勇東在接受人民網(wǎng)采訪(fǎng)時(shí)表示，在人工智能時(shí)代，媒體的重要職責之一就是保證意識形態(tài)的安全。當前，人工智能大模型已經(jīng)成為一種生成式信息傳播工具，因此對于大模型價(jià)值觀(guān)的訓練是必要的?！坝柧毴斯ぶ悄艽竽Ｐ偷倪^(guò)程就像培養一個(gè)小孩，你從小怎樣培養他，在什么環(huán)境下去培養他，他將來(lái)就成為什么樣的人?！敝髁髅襟w建立符合中國人自己價(jià)值觀(guān)的語(yǔ)料庫，就是對其“成長(cháng)環(huán)境”的一種塑造。

當前，生成式人工智能技術(shù)（AIGC）發(fā)展迅猛，不僅能夠應用于文字，更是在視頻、音頻等多領(lǐng)域實(shí)現突破。那么，媒體行業(yè)在利用AIGC技術(shù)提高生產(chǎn)力的同時(shí)，如何防范別有用心者用其制造假新聞，傳播假消息？

張勇東認為，保證新聞的真實(shí)性，一直以來(lái)都是媒體的重要職責。人工智能技術(shù)生成的內容偽裝性和欺騙性都很強，的確有可能會(huì )導致更多的虛假內容產(chǎn)生?！耙虼?，我們要用AI對抗AI?！被谝恍┓烙匀斯ぶ悄芗夹g(shù)，首先判斷信息內容是否為人工智能技術(shù)生成，向用戶(hù)發(fā)出預警。另外，隨著(zhù)主流價(jià)值語(yǔ)料庫的規模不斷擴大，還能夠通過(guò)人工智能技術(shù)將存疑信息與語(yǔ)料庫內數據進(jìn)行對比，從而幫助用戶(hù)判斷出信息是否與事實(shí)相符，若為謠言，還能夠列舉其中哪些信息點(diǎn)是錯誤的。

據了解，由傳播內容認知全國重點(diǎn)實(shí)驗室主導，與中國科學(xué)技術(shù)大學(xué)、合肥綜合性國家科學(xué)中心人工智能研究院聯(lián)合推出的AI生成內容檢測工具——AIGCX，可快速區分機器生成文本與人工生成文本，目前對中文文本檢測的準確率已超過(guò)90%。

分享讓更多人看到