12月7日，2025大灣區(qū)科學(xué)論壇人工智能分論壇暨第六屆中國（廣東）人工智能論壇在廣州南沙國際會(huì)展中心舉行。在“人工智能創(chuàng)新與治理”圓桌交流環(huán)節(jié)，四位專家圍繞中國AI發(fā)展的優(yōu)勢與挑戰(zhàn)、算力支撐、人才培養(yǎng)、企業(yè)責(zé)任、敏捷治理機(jī)制等展開了深度對話。

“人工智能創(chuàng)新與治理”圓桌交流。（圖片來源：活動(dòng)主辦方）

交流中，四位專家針對人工智能的“敏捷治理”這一概念分享了見解。中國工程院院士、鵬城實(shí)驗(yàn)室主任高文指出，以AlphaGo下圍棋為例，其訓(xùn)練數(shù)據(jù)中80%都是生成式數(shù)據(jù)，正是通過生成數(shù)據(jù)與既有數(shù)據(jù)的結(jié)合訓(xùn)練，才實(shí)現(xiàn)了對人類的超越。這一現(xiàn)象讓我們必須重視生成式數(shù)據(jù)的治理問題，核心是要引導(dǎo)其“向善”發(fā)展。他強(qiáng)調(diào)，“敏捷治理”絕非事后補(bǔ)救，而應(yīng)注重事前預(yù)埋治理邏輯。例如對生成式數(shù)據(jù)的管理上，需要進(jìn)行標(biāo)識，僅靠顯式標(biāo)識還不夠——這類標(biāo)識可能被人為移除，因此還需配套隱式標(biāo)識，確保其難以被隨意篡改。基于此，相關(guān)立法機(jī)構(gòu)與技術(shù)部門應(yīng)提前介入治理過程，而非等問題發(fā)生后再被動(dòng)應(yīng)對。

中國科學(xué)技術(shù)大學(xué)黨委常委、副校長吳楓結(jié)合校園實(shí)踐分享了看法。他提到，當(dāng)前學(xué)校的信息化建設(shè)成效顯著，基礎(chǔ)設(shè)施完備，但人工智能技術(shù)的落地應(yīng)用仍存在較大空白。為此，校方曾嘗試推動(dòng)人工智能在校園管理等場景中的應(yīng)用，卻發(fā)現(xiàn)各部門對數(shù)據(jù)安全高度敏感，普遍持謹(jǐn)慎態(tài)度，這讓他意識到：人工智能在校園的應(yīng)用，必須先從后臺場景起步，而非直接推進(jìn)前端落地。隨后，學(xué)校用了一年多時(shí)間，重點(diǎn)推進(jìn)數(shù)據(jù)治理工作——明確數(shù)據(jù)管理規(guī)則、探索合理利用路徑，包括封閉場所的數(shù)據(jù)開發(fā)等相關(guān)規(guī)范。而解決完數(shù)據(jù)問題后，又面臨新的課題：哪些人工智能技術(shù)適合校園場景？吳楓指出，師生及學(xué)校領(lǐng)導(dǎo)對人工智能的使用同樣敏感，反對用技術(shù)對師生進(jìn)行全方位的監(jiān)測與了解，這意味著人工智能技術(shù)的應(yīng)用必須建立在明確規(guī)范之上，先立規(guī)矩再談開發(fā)。缺乏完善的治理體系，人工智能技術(shù)很難在校園這類敏感場景中順利落地應(yīng)用。

百度、京東的兩位企業(yè)代表一致認(rèn)為，“敏捷治理”的核心是“邊發(fā)展邊治理”——既要推動(dòng)技術(shù)快速迭代，也要實(shí)現(xiàn)更具針對性、更高效的治理，確保治理節(jié)奏與發(fā)展步伐同頻同步。同時(shí)，兩位代表還結(jié)合企業(yè)自身的開發(fā)與服務(wù)實(shí)踐，介紹了人工智能安全治理的具體做法與措施。

百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心主任王海峰表示，百度已將人工智能安全治理貫穿于技術(shù)研發(fā)到落地應(yīng)用的全流程，既有模型安全保障，也有外部安全屏障。在源頭環(huán)節(jié)，會(huì)對數(shù)據(jù)進(jìn)行嚴(yán)格篩選，從根源上規(guī)避安全風(fēng)險(xiǎn)；即便數(shù)據(jù)經(jīng)過篩選無虞，模型仍可能出現(xiàn)“幻覺”現(xiàn)象，團(tuán)隊(duì)也針對性開展研究，著力優(yōu)化幻覺抑制。進(jìn)入應(yīng)用層面，會(huì)考慮到不同產(chǎn)品的特性搭建獨(dú)立的安全保障體系。此外，團(tuán)隊(duì)還從多角度深入研究AI安全領(lǐng)域，例如專門開展防偽技術(shù)研發(fā)等。

京東集團(tuán)高級副總裁、探索研究院副院長何曉冬認(rèn)為，AI安全治理至關(guān)重要，京東主要從三個(gè)層次構(gòu)建安全防護(hù)體系：第一，源頭數(shù)據(jù)防護(hù)，公司內(nèi)部建立了嚴(yán)格的數(shù)據(jù)安全保護(hù)機(jī)制；第二，生成內(nèi)容標(biāo)注，在AIGC時(shí)代，針對生成式數(shù)據(jù)制定了新的規(guī)范，比如京東直播中會(huì)對AI生成內(nèi)容進(jìn)行清晰標(biāo)注；第三，敏感內(nèi)容監(jiān)測，對AI生成內(nèi)容的敏感性進(jìn)行持續(xù)跟蹤監(jiān)測。

圓桌交流環(huán)節(jié)上，“人工智能創(chuàng)新與治理——共建可信共生人工智能未來倡議書”發(fā)布，倡導(dǎo)構(gòu)建“安全可信、創(chuàng)新共生、包容普惠”的人工智能發(fā)展新生態(tài)，確保技術(shù)進(jìn)步與人類福祉同頻共振。