RM新时代有限公司

AI越來(lái)越聰明，為什么更需要可信數據和安全底座？

近日，中國人民銀行等九部門(mén)聯(lián)合印發(fā)《關(guān)于加強科技金融領(lǐng)域數據開(kāi)發(fā)利用的通知》，明確提出開(kāi)展科技金融可信數據空間創(chuàng )新發(fā)展試點(diǎn)，推動(dòng)科技金融領(lǐng)域數據資源開(kāi)放共享和融合利用。

《通知》提出，圍繞企業(yè)名單、科創(chuàng )屬性、經(jīng)營(yíng)、研發(fā)投入、知識產(chǎn)權、創(chuàng )新能力評價(jià)等數據指標，加強公共數據、產(chǎn)業(yè)數據等資源歸集共享，探索數據授權利用、聯(lián)合建模等模式。

這意味著(zhù)，數據價(jià)值釋放正在進(jìn)入新的階段。

隨著(zhù)人工智能從模型能力展示走向真實(shí)業(yè)務(wù)應用，企業(yè)關(guān)注的問(wèn)題也正在發(fā)生變化。AI進(jìn)入產(chǎn)業(yè)場(chǎng)景后，需要處理更加復雜的業(yè)務(wù)數據，連接更多業(yè)務(wù)流程，同時(shí)滿(mǎn)足安全、可靠和可管理等要求。

AI能力持續提升，可信數據和安全運行環(huán)境正在成為推動(dòng)人工智能規?；瘧玫闹匾A。

過(guò)去幾年，大模型快速發(fā)展，AI的理解、生成和推理能力不斷提升。

在真實(shí)應用中，AI不僅需要理解通用知識，還需要結合企業(yè)自身數據和業(yè)務(wù)經(jīng)驗完成具體任務(wù)。

但企業(yè)數據通常分散在不同系統和業(yè)務(wù)環(huán)節中，涉及經(jīng)營(yíng)信息、客戶(hù)數據和內部知識。隨著(zhù)Agent開(kāi)始調用工具、訪(fǎng)問(wèn)數據并執行任務(wù)，AI應用面臨的新問(wèn)題也逐漸顯現。

近期AI安全事件中，黑客利用大模型能力和權限管理漏洞完成攻擊，再次說(shuō)明：

AI越接近真實(shí)業(yè)務(wù)，可信運行能力越重要。

企業(yè)部署AI，關(guān)注的不只是模型效果，還需要解決數據使用邊界、訓練驗證環(huán)境以及應用安全治理等問(wèn)題。

這也是可信數據空間受到重視的原因。

可信數據空間，讓數據價(jià)值安全釋放

可信數據空間正是在這一背景下受到關(guān)注。

通過(guò)授權管理、安全機制和可信流通方式，可信數據空間能夠推動(dòng)不同主體之間的數據資源協(xié)同利用，在保障數據安全的同時(shí)釋放數據價(jià)值。

此次九部門(mén)推動(dòng)科技金融可信數據空間創(chuàng )新發(fā)展試點(diǎn)，正是希望進(jìn)一步促進(jìn)公共數據、產(chǎn)業(yè)數據和企業(yè)數據融合利用，提高科技金融服務(wù)能力。

對于人工智能而言，可信數據空間能夠為模型訓練、業(yè)務(wù)分析和智能體應用提供更加可靠的數據基礎。

數據價(jià)值釋放，需要建立在安全可信的流通機制之上。

AI時(shí)代，安全能力成為重要基礎

隨著(zhù)Agent逐漸進(jìn)入企業(yè)流程，人工智能正在承擔越來(lái)越多實(shí)際任務(wù)。

相比傳統問(wèn)答應用，Agent需要調用工具、連接業(yè)務(wù)系統，并根據目標完成連續任務(wù)。

近期GPT侵入等AI安全事件也提醒行業(yè)，當人工智能具備更強執行能力后，安全治理需要同步完善。

企業(yè)在應用AI過(guò)程中，需要關(guān)注數據使用邊界、模型運行風(fēng)險以及任務(wù)執行過(guò)程中的安全控制。

AI越深入業(yè)務(wù)核心，對可信運行能力的要求越高。

云從科技：構建AI可信運行基礎設施

對于云從科技而言，可信數據空間的發(fā)展方向，與公司長(cháng)期圍繞人工智能基礎設施的布局高度契合。

過(guò)去十多年，云從科技持續積累人工智能核心技術(shù)能力，從計算機視覺(jué)、多模態(tài)理解，到大模型和智能體系統，推動(dòng)AI能力從感知理解走向任務(wù)執行。

隨著(zhù)AI進(jìn)入更多產(chǎn)業(yè)場(chǎng)景，企業(yè)需要的不只是模型能力，還需要支撐AI持續運行的數據、訓練和安全體系。

圍繞這一方向，云從科技持續推進(jìn)相關(guān)能力建設。

在數據層面，公司探索可信數據空間建設，推動(dòng)數據資源在授權、安全和可追溯條件下流通利用。

在訓練驗證層面，公司依托武漢國家網(wǎng)安基地訓推一體化中心，打造面向大模型和智能體的可控訓練環(huán)境，讓模型和Agent在進(jìn)入真實(shí)業(yè)務(wù)前完成測試和優(yōu)化。

同時(shí)，公司布局內容審核大模型等安全能力，為AI生成內容和智能應用提供風(fēng)險識別、安全檢測和治理支撐。

這些能力共同構成AI從數據利用、訓練驗證到業(yè)務(wù)應用的重要支撐。

從可信數據，到可信Agent

AI真正進(jìn)入企業(yè)，需要經(jīng)過(guò)從數據基礎到業(yè)務(wù)應用的完整過(guò)程。

可信數據為空間提供可靠輸入，可控訓練環(huán)境幫助模型和Agent提升穩定性，安全治理能力保障應用過(guò)程。

在此基礎上，經(jīng)過(guò)訓練驗證的Agent才能進(jìn)入具體業(yè)務(wù)流程。

云從科技圍繞行云智能體操作系統和魔方Agent Lab，探索企業(yè)級Agent應用。

行云負責AI團隊的組織、調度和運行，讓Agent能夠圍繞目標協(xié)同工作；魔方沉淀行業(yè)知識、崗位技能和業(yè)務(wù)流程，幫助Agent適應具體場(chǎng)景。

人工智能的發(fā)展正在進(jìn)入新的階段。

模型能力決定AI能夠完成什么任務(wù)，而數據、訓練、安全和運行體系決定AI能否真正進(jìn)入產(chǎn)業(yè)。

云從科技將持續圍繞AI基礎設施、智能體系統和行業(yè)應用推進(jìn)布局，推動(dòng)人工智能在金融、制造、營(yíng)銷(xiāo)、城市治理等更多場(chǎng)景中落地。

讓數據更好流通，讓AI更加可靠，讓智能真正服務(wù)業(yè)務(wù)。

人工智能正在從“會(huì )思考”，走向“可信工作”。