隨著AI的應(yīng)用越來越廣泛,諸多問題開始顯現(xiàn),首當(dāng)其沖的就是內(nèi)容真實(shí)性。AI作為工具并不具備判斷力,其生成的結(jié)果是基于數(shù)據(jù)投喂和算力養(yǎng)成的綜合產(chǎn)物,那么,這些數(shù)據(jù)是否真實(shí)合法,直接決定了AI是否能大規(guī)模應(yīng)用。
日前,國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱《征求意見稿》),向社會(huì)征求意見?!墩髑笠庖姼濉访鞔_“國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作,鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源”,并就生成式人工智能服務(wù)商的準(zhǔn)入,算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型、內(nèi)容,以及用戶個(gè)人隱私、商業(yè)秘密等方面提出了相關(guān)要求。
(相關(guān)資料圖)
其中,有兩條內(nèi)容強(qiáng)調(diào)了真實(shí)。一則是在第四條“提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求,尊重社會(huì)公德、公序良俗”中表示,“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,采取措施防止生成虛假信息”。另一則是在第七條“提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)”中表示,“能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性”。
這意味著,AIGC的研發(fā)平臺(tái)不但要保證投喂的數(shù)據(jù)資源真實(shí)可靠,同樣要對(duì)生成的內(nèi)容負(fù)責(zé),這無疑是一項(xiàng)巨大的挑戰(zhàn)。
事實(shí)上,在全球AI賽道的頂級(jí)選手中,還沒有任何一個(gè)平臺(tái)對(duì)AI生成結(jié)果的真實(shí)性進(jìn)行擔(dān)保。此前,谷歌推出的人工智能聊天機(jī)器人巴德(Bard)與ChatGPT對(duì)壘,卻因巴德犯了事實(shí)錯(cuò)誤,導(dǎo)致谷歌的股價(jià)暴跌,一夜之間市值蒸發(fā)約1056億美元。微軟則在一份免責(zé)聲明中表示:“必應(yīng)是由人工智能驅(qū)動(dòng)的,因此有可能出現(xiàn)意外和錯(cuò)誤?!?/p>
對(duì)生成式AI研發(fā)者而言,確保結(jié)果真實(shí)的難度之大可想而知。筆者認(rèn)為,在研發(fā)、實(shí)驗(yàn)階段,應(yīng)該允許AI不斷試錯(cuò)、修正、完善,但隨著生成式AI作為工具進(jìn)入生產(chǎn)領(lǐng)域,開始進(jìn)行搜索、繪畫、問答,甚至編程、視頻生成等工作,那么確保真實(shí)就應(yīng)該是基礎(chǔ)門檻。
換句話說,AI要搶人類的工作,從底層模型起就先要解決是否真實(shí)準(zhǔn)確的問題。如果這一問題還未有定論,那么研發(fā)平臺(tái)應(yīng)該審慎向大眾層面推出新品,更不應(yīng)草率地將AI運(yùn)用于商業(yè)環(huán)境中。
如今,全球基于AI的創(chuàng)業(yè)公司如雨后春筍般涌現(xiàn),僅在3月份就有近10款A(yù)I視頻生成器誕生。輸入幾個(gè)關(guān)鍵字就能獲得一段文字、一張圖片甚至一個(gè)視頻,這無疑體現(xiàn)了科技的魅力。但部分企業(yè)為了追風(fēng)口就倉促推出新品,導(dǎo)致產(chǎn)品質(zhì)量良莠不齊,一些產(chǎn)品生成的內(nèi)容滑稽可笑,更有一些產(chǎn)品生成的內(nèi)容存在虛假。這類“深度造假”的內(nèi)容一旦傳播開來,極易引發(fā)社會(huì)信任危機(jī)。
在筆者看來,面對(duì)新技術(shù),我們既要抓住機(jī)會(huì)、勇于攀登,也不能回避技術(shù)發(fā)展帶來的各類安全風(fēng)險(xiǎn)和倫理挑戰(zhàn),需構(gòu)建合理規(guī)范的數(shù)字規(guī)則,做“負(fù)責(zé)任的”人工智能,立好規(guī)矩明確紅線,防范潛在風(fēng)險(xiǎn),推動(dòng)科技向善。
相關(guān)報(bào)道
ChatGPT遭美國(guó)監(jiān)管盯上了:將嚴(yán)查利用AI詐騙的公司
AI真會(huì)失控嗎?DeepMind CEO:AI未來有可能擁有自我意識(shí)
馬斯克再談監(jiān)管:AI將如小行星般撞擊人類 有可能摧毀文明
(文章來源:證券日?qǐng)?bào))
關(guān)鍵詞:
- 天天頭條:證券日?qǐng)?bào)評(píng)論:嚴(yán)防生成式AI“深度造假”
- 有機(jī)農(nóng)產(chǎn)品近些年前景如何?有機(jī)農(nóng)業(yè)與傳統(tǒng)農(nóng)業(yè)的區(qū)別
- 國(guó)際黃金開戶條件是什么?想做現(xiàn)貨黃金應(yīng)該怎么開戶?
- N旺成今日上市 開盤上漲6.51%
- 看點(diǎn):港股博彩股走強(qiáng) 國(guó)際娛樂漲近9%
- 世界熱門:合鍛智能受讓的1.37億商業(yè)承兌匯票逾期 出票人股權(quán)頻繁變更,“國(guó)企”、“私企”背景切換自如
- 有色板塊早盤走強(qiáng),洛陽鉬業(yè)逼近漲停
- 天天快報(bào)!中環(huán)環(huán)保2022年?duì)I收增長(zhǎng)21% 產(chǎn)業(yè)鏈向新能源賽道延伸
- 焦點(diǎn)短訊!洛陽鉬業(yè)漲近5%,剛果(金)TFM銅鈷礦混合礦開發(fā)項(xiàng)目推進(jìn)順利并預(yù)計(jì)今年投產(chǎn)
- 企業(yè)發(fā)展戰(zhàn)略規(guī)劃有哪些特點(diǎn)?企業(yè)戰(zhàn)略可分為哪幾個(gè)層次?
- 種植牙進(jìn)入黏膜整合新時(shí)代!柏德口腔諾貝爾新品鈦超卓PCC云南獨(dú)家首發(fā)
- 港股通標(biāo)的股票是什么?滬港通的股票是怎么挑出來的?
- 國(guó)家規(guī)定的津貼補(bǔ)貼有哪些?津貼和補(bǔ)貼的區(qū)別
- 基金加倉是什么?基金加倉技巧和方法
- 個(gè)稅抵扣房租的標(biāo)準(zhǔn)是怎樣的?房租怎么抵扣個(gè)稅?
- 最新消息:cwi焊接檢驗(yàn)師考試經(jīng)驗(yàn)分享_cwi
- 蘋果版"余額寶"來了!年利率4.15%,10倍高收益!半月前剛推出"花唄"
- 農(nóng)民工返鄉(xiāng)創(chuàng)業(yè)貸款申請(qǐng)需要滿足哪些條件?農(nóng)民工返鄉(xiāng)創(chuàng)業(yè)貸款應(yīng)該如何辦理?
- 世界熱資訊!農(nóng)業(yè)農(nóng)村部發(fā)布2023年國(guó)家農(nóng)作物優(yōu)良品種推廣目錄
- 霸權(quán)霸道霸凌行徑破壞和平、侵犯人權(quán)(鐘聲)
- 低碳菜單引領(lǐng)寧波餐飲消費(fèi)新風(fēng)尚 試點(diǎn)將持續(xù)至今
- 深圳坪山打造餐飲服務(wù)食品安全示范高地 嚴(yán)守食品
- 黑龍江哈爾濱推出“沙盒”監(jiān)管新模式 激發(fā)市場(chǎng)活
- 第三季度全國(guó)消協(xié)受理投訴數(shù)量同比增10.02% 食品
- 北京懷柔對(duì)機(jī)動(dòng)車檢測(cè)機(jī)構(gòu)開展監(jiān)督抽查 規(guī)范機(jī)動(dòng)
- 天津北辰扎實(shí)做好價(jià)格監(jiān)管工作 維護(hù)安全有序市場(chǎng)
- 北京石景山開展冬季供暖前特種設(shè)備安全專項(xiàng)檢查
- 陜西延安:開展兒童化妝品專項(xiàng)檢查 規(guī)范化妝品市
- 北京海淀開展商品條碼專項(xiàng)監(jiān)督檢查 努力打造穩(wěn)定
- 金華推進(jìn)網(wǎng)絡(luò)直播營(yíng)銷治理顯成效 培育放心消費(fèi)直
- 1 天天頭條:證券日?qǐng)?bào)評(píng)論:嚴(yán)防生成式AI“深度造假”
- 2 有機(jī)農(nóng)產(chǎn)品近些年前景如何?有機(jī)農(nóng)業(yè)與傳統(tǒng)農(nóng)業(yè)的區(qū)
- 3 國(guó)際黃金開戶條件是什么?想做現(xiàn)貨黃金應(yīng)該怎么開戶
- 4 N旺成今日上市 開盤上漲6.51%
- 5 看點(diǎn):港股博彩股走強(qiáng) 國(guó)際娛樂漲近9%
- 6 世界熱門:合鍛智能受讓的1.37億商業(yè)承兌匯票逾期
- 7 有色板塊早盤走強(qiáng),洛陽鉬業(yè)逼近漲停
- 8 天天快報(bào)!中環(huán)環(huán)保2022年?duì)I收增長(zhǎng)21% 產(chǎn)業(yè)鏈向新能
- 9 焦點(diǎn)短訊!洛陽鉬業(yè)漲近5%,剛果(金)TFM銅鈷礦混合
- 10 企業(yè)發(fā)展戰(zhàn)略規(guī)劃有哪些特點(diǎn)?企業(yè)戰(zhàn)略可分為哪幾個(gè)