中新經(jīng)緯3月16日電 題：為人工智能建立安全即發(fā)展的新理念

　　作者 趙保國(guó) 北京郵電大學(xué)經(jīng)濟(jì)管理學(xué)院教授

　　人工智能正加速向各類經(jīng)濟(jì)社會(huì)場(chǎng)景滲透，成為培育新質(zhì)生產(chǎn)力的核心引擎，各行各業(yè)都在積極引入人工智能技術(shù)增效賦能，工具逐步普及化與規(guī)�；�。然而，技術(shù)紅利往往與風(fēng)險(xiǎn)挑戰(zhàn)如影隨形，生成式人工智能的爆發(fā)不僅帶來(lái)了惡意濫用、系統(tǒng)性失靈等問(wèn)題，其不確定性更成為當(dāng)前全球治理的核心難題。

　　人工智能技術(shù)發(fā)展的“雙刃劍”

　　技術(shù)發(fā)展與安全問(wèn)題從來(lái)都是相伴相生。生成式人工智能大幅降低了內(nèi)容生成的門(mén)檻，這也使得偽造犯罪低成本化和低門(mén)檻化，造成了“劣幣驅(qū)逐良幣”的現(xiàn)象。在實(shí)際應(yīng)用中，人工智能技術(shù)可以實(shí)現(xiàn)深度偽造，正在系統(tǒng)性動(dòng)搖現(xiàn)有社會(huì)信任基礎(chǔ)，不法分子普遍開(kāi)始利用人工智能技術(shù)合成虛假影像和聲音來(lái)實(shí)施針對(duì)性的精準(zhǔn)詐騙，普通民眾難辨真假，深受其害。

　　當(dāng)前，人工智能技術(shù)在帶來(lái)便利的同時(shí)，也伴生了諸如涉詐APP、虛假信息傳播及仿冒名人廣告等新型風(fēng)險(xiǎn)。也有少部分高校學(xué)生在科研論文中使用人工智能工具生成論文，極大地影響了科研原創(chuàng)。關(guān)于人工智能生成內(nèi)容在論文中的合規(guī)性，目前教育部門(mén)還沒(méi)有出臺(tái)統(tǒng)一的政策指導(dǎo)。

　　此外，在關(guān)鍵數(shù)據(jù)領(lǐng)域，如果國(guó)家重要部門(mén)有在直接采用基于公有云架構(gòu)的通用模型，那么由于大模型特有的記憶機(jī)制，可能也會(huì)導(dǎo)致敏感數(shù)據(jù)在交互過(guò)程中被無(wú)意識(shí)地竊取或?yàn)E用。

　　為人工智能建立安全即發(fā)展的新理念

　　面對(duì)上述錯(cuò)綜復(fù)雜的風(fēng)險(xiǎn)，我們必須確立安全即發(fā)展的新理念，推動(dòng)治理重心從靜態(tài)規(guī)則制定向動(dòng)態(tài)日常執(zhí)法進(jìn)行轉(zhuǎn)變。

　　檢測(cè)防范在平臺(tái)側(cè)和技術(shù)供給端，鑒于目前各企業(yè)安全技術(shù)能力參差不齊，因此還是建議相關(guān)部門(mén)組織研發(fā)或授權(quán)標(biāo)準(zhǔn)化的大模型安全護(hù)欄以及AIGC內(nèi)容標(biāo)識(shí)檢測(cè)工具，并要求相關(guān)服務(wù)商強(qiáng)制部署，以實(shí)現(xiàn)實(shí)時(shí)攔截惡意內(nèi)容的生成與傳播，定期巡檢以防范日益增加的AI偽造內(nèi)容。

　　同時(shí)，建議國(guó)家把人工智能深度偽造鑒定或者檢測(cè)平臺(tái)，作為人工智能安全基礎(chǔ)設(shè)施進(jìn)行建設(shè)。而對(duì)于掌握海量高價(jià)值數(shù)據(jù)、涉及國(guó)家機(jī)密的政府部門(mén)及重要行業(yè)，需要全面推行大模型的私有化+本地化的專用部署戰(zhàn)略，確保數(shù)據(jù)不出域、不共享。

　　用戶是最后一道防線，守護(hù)用戶的正確認(rèn)知是根本，建議有關(guān)部門(mén)或行業(yè)協(xié)會(huì)為普通民眾提供AIGC鑒偽產(chǎn)品，并在主流社交平臺(tái)嵌入一鍵鑒偽插件，確保公眾日常在遇到疑似虛假信息時(shí)有工具可用、有地方可查。

　　目前，我國(guó)智能手機(jī)的使用已經(jīng)完全普及，如果能夠在終端側(cè)提供AIGC鑒偽功能，在用戶數(shù)據(jù)不用上云端，個(gè)人隱私不會(huì)泄露的情況下，做到防偽防詐，也是一個(gè)不錯(cuò)的途徑。這不僅能提升全民信息素養(yǎng)，更能有效應(yīng)對(duì)人工智能時(shí)代可能帶來(lái)的潛在風(fēng)險(xiǎn)。(中新經(jīng)緯APP)

　　中新經(jīng)緯版權(quán)所有，未經(jīng)授權(quán)，不得轉(zhuǎn)載或以其他方式使用。

編輯：張寧 責(zé)任編輯：董湘依 賈亦夫