12月7日，2025大灣區(qū)科學(xué)論壇人工智能分論壇暨第六屆中國(guó)（廣東）人工智能論壇在廣州南沙國(guó)際會(huì)展中心舉行。在“人工智能創(chuàng)新與治理”圓桌交流環(huán)節(jié)，四位專(zhuān)家圍繞中國(guó)AI發(fā)展的優(yōu)勢(shì)與挑戰(zhàn)、算力支撐、人才培養(yǎng)、企業(yè)責(zé)任、敏捷治理機(jī)制等展開(kāi)了深度對(duì)話(huà)。

“人工智能創(chuàng)新與治理”圓桌交流。（圖片來(lái)源：活動(dòng)主辦方）

交流中，四位專(zhuān)家針對(duì)人工智能的“敏捷治理”這一概念分享了見(jiàn)解。中國(guó)工程院院士、鵬城實(shí)驗(yàn)室主任高文指出，以AlphaGo下圍棋為例，其訓(xùn)練數(shù)據(jù)中80%都是生成式數(shù)據(jù)，正是通過(guò)生成數(shù)據(jù)與既有數(shù)據(jù)的結(jié)合訓(xùn)練，才實(shí)現(xiàn)了對(duì)人類(lèi)的超越。這一現(xiàn)象讓我們必須重視生成式數(shù)據(jù)的治理問(wèn)題，核心是要引導(dǎo)其“向善”發(fā)展。他強(qiáng)調(diào)，“敏捷治理”絕非事后補(bǔ)救，而應(yīng)注重事前預(yù)埋治理邏輯。例如對(duì)生成式數(shù)據(jù)的管理上，需要進(jìn)行標(biāo)識(shí)，僅靠顯式標(biāo)識(shí)還不夠——這類(lèi)標(biāo)識(shí)可能被人為移除，因此還需配套隱式標(biāo)識(shí)，確保其難以被隨意篡改。基于此，相關(guān)立法機(jī)構(gòu)與技術(shù)部門(mén)應(yīng)提前介入治理過(guò)程，而非等問(wèn)題發(fā)生后再被動(dòng)應(yīng)對(duì)。

中國(guó)科學(xué)技術(shù)大學(xué)黨委常委、副校長(zhǎng)吳楓結(jié)合校園實(shí)踐分享了看法。他提到，當(dāng)前學(xué)校的信息化建設(shè)成效顯著，基礎(chǔ)設(shè)施完備，但人工智能技術(shù)的落地應(yīng)用仍存在較大空白。為此，校方曾嘗試推動(dòng)人工智能在校園管理等場(chǎng)景中的應(yīng)用，卻發(fā)現(xiàn)各部門(mén)對(duì)數(shù)據(jù)安全高度敏感，普遍持謹(jǐn)慎態(tài)度，這讓他意識(shí)到：人工智能在校園的應(yīng)用，必須先從后臺(tái)場(chǎng)景起步，而非直接推進(jìn)前端落地。隨后，學(xué)校用了一年多時(shí)間，重點(diǎn)推進(jìn)數(shù)據(jù)治理工作——明確數(shù)據(jù)管理規(guī)則、探索合理利用路徑，包括封閉場(chǎng)所的數(shù)據(jù)開(kāi)發(fā)等相關(guān)規(guī)范。而解決完數(shù)據(jù)問(wèn)題后，又面臨新的課題：哪些人工智能技術(shù)適合校園場(chǎng)景？吳楓指出，師生及學(xué)校領(lǐng)導(dǎo)對(duì)人工智能的使用同樣敏感，反對(duì)用技術(shù)對(duì)師生進(jìn)行全方位的監(jiān)測(cè)與了解，這意味著人工智能技術(shù)的應(yīng)用必須建立在明確規(guī)范之上，先立規(guī)矩再談開(kāi)發(fā)。缺乏完善的治理體系，人工智能技術(shù)很難在校園這類(lèi)敏感場(chǎng)景中順利落地應(yīng)用。

百度、京東的兩位企業(yè)代表一致認(rèn)為，“敏捷治理”的核心是“邊發(fā)展邊治理”——既要推動(dòng)技術(shù)快速迭代，也要實(shí)現(xiàn)更具針對(duì)性、更高效的治理，確保治理節(jié)奏與發(fā)展步伐同頻同步。同時(shí)，兩位代表還結(jié)合企業(yè)自身的開(kāi)發(fā)與服務(wù)實(shí)踐，介紹了人工智能安全治理的具體做法與措施。

百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主任王海峰表示，百度已將人工智能安全治理貫穿于技術(shù)研發(fā)到落地應(yīng)用的全流程，既有模型安全保障，也有外部安全屏障。在源頭環(huán)節(jié)，會(huì)對(duì)數(shù)據(jù)進(jìn)行嚴(yán)格篩選，從根源上規(guī)避安全風(fēng)險(xiǎn)；即便數(shù)據(jù)經(jīng)過(guò)篩選無(wú)虞，模型仍可能出現(xiàn)“幻覺(jué)”現(xiàn)象，團(tuán)隊(duì)也針對(duì)性開(kāi)展研究，著力優(yōu)化幻覺(jué)抑制。進(jìn)入應(yīng)用層面，會(huì)考慮到不同產(chǎn)品的特性搭建獨(dú)立的安全保障體系。此外，團(tuán)隊(duì)還從多角度深入研究AI安全領(lǐng)域，例如專(zhuān)門(mén)開(kāi)展防偽技術(shù)研發(fā)等。

京東集團(tuán)高級(jí)副總裁、探索研究院副院長(zhǎng)何曉冬認(rèn)為，AI安全治理至關(guān)重要，京東主要從三個(gè)層次構(gòu)建安全防護(hù)體系：第一，源頭數(shù)據(jù)防護(hù)，公司內(nèi)部建立了嚴(yán)格的數(shù)據(jù)安全保護(hù)機(jī)制；第二，生成內(nèi)容標(biāo)注，在AIGC時(shí)代，針對(duì)生成式數(shù)據(jù)制定了新的規(guī)范，比如京東直播中會(huì)對(duì)AI生成內(nèi)容進(jìn)行清晰標(biāo)注；第三，敏感內(nèi)容監(jiān)測(cè)，對(duì)AI生成內(nèi)容的敏感性進(jìn)行持續(xù)跟蹤監(jiān)測(cè)。

圓桌交流環(huán)節(jié)上，“人工智能創(chuàng)新與治理——共建可信共生人工智能未來(lái)倡議書(shū)”發(fā)布，倡導(dǎo)構(gòu)建“安全可信、創(chuàng)新共生、包容普惠”的人工智能發(fā)展新生態(tài)，確保技術(shù)進(jìn)步與人類(lèi)福祉同頻共振。