LLM 的 “黑盒特性”
像 ChatGPT、DeepSeek、Grok 等大型語言模型(LLM, Large Language Model)已成為近年來最為普遍的 AI 應用示例。聚焦於 LLM 本身,其通常指利用深度學習技術方案,在大規模文本數據上訓練而成的一類自然語言處理模型,具備強大的語言理解與生成能力,廣泛應用於文本創作、翻譯、對話交互、問答等場景。LLM 不僅能直接面向 C 端用戶提供服務,絕大多數 LLM 服務商(如 OpenAI 等)也可通過 API 接口對外開放模型能力,使其在更廣泛的場景中發揮作用。例如,物聯網設備、智能汽車系統等可集成 LLM API,實現更智能的交互體驗,為用戶提供更高效、自然的 AI 驅動服務。
事實上,普遍而言 LLM 模型本身具備高複雜度性、商業封閉性、數據不可見性以及深度學習模型的固有不可解釋性等系列特點,所以當 LLM 服務商向用戶提供 API 服務時,其內部模型的運作邏輯通常是不可見的。整個模型對外呈現為一個完全的黑盒系統,即用戶只能通過 API 發送請求並獲取響應,而無法直接訪問或理解其內部的具體計算過程、參數權重或訓練機制。
這種普遍的 “黑盒特性” 正在使得用戶在使用大模型或集成 API 時,會面臨兩個潛在的核心問題:
一個是一致性問題。
系統提示詞是由開發者提供的,其直接影響模型行為,比如模型可能會因為某些提示詞偏好導致模型的最終推理帶有一定的指向性,進而左右推理結果。
同樣,用戶每次進行 API 調用時,通常無法驗證實際使用的系統提示詞是否被篡改,可能會導致模型行為偏離預期。
一個是隱私性問題。
系統提示詞通常會包含高度敏感的商業信息,比如定價策略、風控規則、內部流程等,這些提示詞通常涉及企業的核心競爭力,因此開發者不願公開。
現階段雖然 TLS(Transport Layer Security) 方案被用於保障數據在傳輸過程中的加密,即確保數據不會被竊聽或篡改,但 TLS 無法證明伺服器端實際執行的系統提示詞是否被篡改。這意味著,即使 API 通信是安全的,用戶依然無法驗證 LLM 使用的提示詞是否與開發者所承諾的一致。如果開發者希望向第三方或合作夥伴證明他們的相關 AI 服務是可信的,通常還需要一種機制來保證系統提示詞的完整性,而傳統的 TLS 無法提供這種能力,這也使得大多數 LLM 都不具備保證提示詞可信性的能力。
正因如此,LLM 在金融、醫療等對合規性、隱私和安全性要求較高的場景中的應用,面臨一定的局限性。隨著 Zypher Network 推出了以 zkTLS 技術為核心的 zkPrompt 方案,有望成為突破瓶頸的關鍵。該方案不僅能夠基於 ZK 方案有效保護系統提示詞的隱私,還能驗證每次 API 調用中系統提示詞的一致性,這將有助於推動 LLM 在更多行業領域的廣泛應用起到至關重要的作用。
Zypher Network 的 zkPrompt 方案
Zypher Network 是一套以 ZK 技術為核心的協處理設施,旨在為所有需要零知識證明的應用場景和設施提供 ZK 服務。Zypher Network 系統由一個由分佈式計算節點構成的鏈下計算網絡和一個鏈上引擎 Zytron 組成。當 Zypher 網絡中出現零知識計算任務時,系統會將計算任務委派給計算礦工並生成 ZKP。該 ZKP 可以在鏈上進行驗證,確保數據、交易、行為等的可信度和誠實性。與此同時,分佈式計算網絡不僅顯著降低了系統的計算成本,還賦予了網絡卓越的可擴展計算能力。
在此基礎上,Zypher Network 推出了專為 LLM 服務的 zkPrompt 方案,進一步拓展為 AI 領域重要的可信和隱私基礎設施。zkPrompt 方案以其獨特的 zkTLS 技術為核心,通過將傳統 TLS 協議與 ZK 技術相結合,使得用戶能夠在不暴露敏感數據的前提下驗證數據的真實性。這一創新有效彌補了傳統 TLS 在數據證明能力上的不足,在保證隱私的前提下為 AI 的運行提供了更高的可信度。
zkTLS,ZK + TLS
TLS(Transport Layer Security) 是一種廣泛應用的加密協議,旨在保障計算機網絡中數據傳輸的安全性。通過對傳輸中的數據進行加密和驗證,TLS 可以有效防止數據在傳輸過程中被竊取、篡改或偽造,其通常應用於各種互聯網通信場景,如網頁瀏覽、電子郵件和即時消息等,以確保通信雙方的隱私和數據完整性。
TLS 協議的基本原理結合了對稱加密和非對稱加密:通信雙方首先通過非對稱加密進行身份驗證,並交換加密密鑰,接著使用對稱加密對數據進行加密,從而提高加密效率。與此同時,TLS 還使用消息認證碼(MAC)來驗證數據的完整性,確保數據在傳輸過程中未被篡改或損壞。
在 LLM 的應用中,客戶端與伺服器之間的 API 調用過程中,通常是基於 TLS 加密協議,以確保 LLM 的 API 服務能夠確保數據在傳輸過程中的安全性,防止數據被竊取或篡改,從而保障模型在處理用戶請求時的隱私性和完整性。這使得 LLM 在處理敏感信息時具備了基本的安全防護,確保了通信的機密性。當然,其局限性我們上文有所討論就不再贅述。
而將密碼學方案與 TLS 加密協議進行組合,有望能夠改善 LLM 模型所面臨的一致性與隱私等問題。事實上,零知識證明是本身是一個不錯的方案,其允許一方 (證明者) 向另一方 (驗證者) 證明一個陳述是真實的,而不揭示任何額外信息,雖然 TLS 協議可以保證數據傳輸的完整性和保密性,但難以向第三方提供這些數據的完整性和真實性的證明,因此借助 ZK 方案,可以在保護隱私的同時向第三方證明數據的完整性和真實性。
當然為了實現上述目標,zkTLS 通常會引入一個可信第三方 (通常稱為 Verifier 或 Notary),該可信第三方可以在不損害原始連接安全性的情況下,對交互進行驗證。而目前,根據現的技術路線不同,zkTLS 主要分為三種模式包括:
基於 TEE 模式:TLS 協議安全的運行在 TEE 中,並由 TEE 提供會話內容證明。
基於 MPC 模式:通常採用 2-MPC 模型,即引入一個 Verifier。在這種模式下,prover 和 verifier 通過 MPC 共同生成會話密鑰,這個會話密鑰相當於分成兩部分,分別由雙方持有,最後 prover 可以選擇性披露一些信息給 verifier。
基於代理模式:代理 (Verifier) 充當客戶端和伺服器之間的中介,負責轉發並驗證雙方在通信過程中交換的加密數據。
Zypher Network 本身包含了一個可拓展且成本低廉鏈下的計算網絡,與此同時其還包含了一個鏈上 AI 引擎 Zytron,該引擎不僅部署了大量的預編譯合約,同時也搭建了一套分片化、專門用於執行合約驗證的 P2P 鏈上通信節點網絡。通過對 P2P 網絡進行連接,確保各節點能夠直接高效地通信。這種方式能夠有效減少了中間傳輸的環節,使得數據傳遞更加迅速。並且節點之間的通信和地址定位使用了 Kademlia 算法,這種結構化設計使得節點在尋找和聯系其他節點時更加快捷和精確。
而在執行上,Zytron 還根據 Kademlia 算法中定義的節點距離規則,對合約的執行過程進行分片。這意味著合約的不同部分會根據節點間的距離被分配到不同的網絡節點上執行。這種基於距離的分配方式,有助於在 Zytron 網絡中均勻地分布計算負載,進而提高整個系統的速度和效率。
那麼得益於性能與成本優勢,Zypher Network 在 zkPrompt 中採用了基於代理模式的 zkTLS 實現,與其他模式相比,代理模式不僅避免了多方計算協議所帶來的額外計算開銷,同時也規避了 TEE 相關的硬件成本。
zkPrompt 是如何運行的?
聚焦於 zkPrompt 方案本身,在其代理模式中,驗證者充當客戶端和大模型伺服器之間的中介,負責轉發 TLS 流量並記錄雙方交換的所有密文數據。在會話結束時,在鏈下計算網絡的支持下,客戶端基於記錄的密文生成 ZKP,使得任何第三方均能驗證該 TLS 會話中系統提示詞的一致性,而無需暴露提示詞內容或任何敏感信息。
在開始任何交互之前,Client 對系統提示詞進行承諾,即系統提示詞通過加密進行處理,並生成一個承諾值,該承諾值被存儲在區塊鏈上,從而保證該提示詞在後續操作中不可篡改。這個承諾值作為一種證明,確保系統提示詞始終如一,不會在後續的交互中發生變化。
當 Client 通過 Proxy 向 LLM 大模型 發送請求時,Proxy 充當了客戶端和伺服器之間的中介角色。它不僅負責轉發 TLS 流量,還會記錄雙方交換的所有加密數據包。在此過程中,Proxy 會生成一個請求的承諾值,並將其存證到鏈上,確保每個請求數據包的完整性和一致性。這一過程的目的是確保請求的數據和系統提示詞不被篡改。
LLM 服務返回響應時,Proxy 會同樣記錄響應數據包,並生成響應的承諾值。這些響應的承諾值也會被上鏈存證,確保響應的內容與預期一致。通過這種方式,系統可以驗證響應是否在傳輸過程中被篡改,從而進一步保障了數據的完整性和可信度。
在會話結束後,Client 會基於所有加密記錄生成零知識證明(ZKP),該證明能夠使任何第三方驗證 TLS 會話 中 系統提示詞 的一致性,而無需暴露提示詞的具體內容或其他敏感信息。這種方式既有效保護了提示詞的隱私,又確保了在整個通信過程中系統提示詞未被篡改。
生成的零知識證明隨後會提交至鏈上智能合約,由 Zytron 引擎 進行驗證。通過這一驗證過程,能夠確認提示內容是否未被篡改,以及 LLM 模型 是否按預定行為執行。如果提示內容被篡改或執行行為不符合最初設定,驗證將失敗,從而及時識別並防範任何不合規或潛在的風險。
Zypher 的 Zytron 引擎為 Prompt 的可靠性提供了強有力的保障,確保 LLM 模型 始終按照預期運行,避免了外部干擾或篡改帶來的風險。這一驗證機制不僅增強了系統的可信度,還為 zkPrompt 方案提供了重要的安全防護,使得在高合規性領域的應用能夠更加穩健。
從特點上來看,zkPrompt 能確保 LLM:
數據隱私:用戶可以驗證提示的正確性,而無需看到或了解系統提示的具體內容,保護提示的敏感性。
可信性與透明度:通過零知識證明,用戶可以信任 AI 的行為未被惡意篡改。
分佈式驗證:任何用戶或第三方都可以通過驗證過程確認提示和模型的一致性,而不依賴於中心化實體。
以 zkPrompt 為基礎,其不僅能夠保證 Prompt 的可信性,同時還能進一步向 Proof of Inference 延伸,同樣能夠確保 LLM 的推理過程是可信的,推理結果是基於合法輸入生成的。
值得一提的是,Zypher Network 的 zkPrompt 以易用的 SDK 形式呈現,其核心依托於一套先進的加密方案,包括強加密、Pedersen 承諾 和 zkSnarks(Plonk) 等加密原語。針對不同特點的 LLM 模型,Zypher 能夠靈活適配不同的零知識方案,確保為每種 LLM 提供最優的效果。
zkInference
除了 zkPrompt 外,Zypher Network 基於 ZKP 方案還首創性的提出了 zkInference 框架,該框架利用零知識證明算法,確保 AI Agent 嚴格遵循預定規則或 AI 模型操作,保證它們的決策過程符合公平、準確和安全的原則,該框架使得 AI Agent 的行為可以得到驗證,而無需暴露底層模型或數據。因此,zkInference 有效地防止了多個 AI 代理之間的合謀和惡意行為,保障了包括 Web3 遊戲、AI Agent 等一系列場景的公平性和安全性。
zkInference 框架更適合輕量化、需要執行基礎性以及確定性任務的模型,比如 Web3 遊戲中的 AI 機器人等用例。
整體而言,zkInference 框架的整體特點可以總結為:
可驗證性:利用零知識證明技術驗證 AI Agent 行為,而無需暴露底層模型或數據。
反合謀:有效防止不同 AI Agent 之間的合謀,確保公平的遊戲體驗。
無限計算能力:提供去中心化的礦池市場,為可驗證的 AI Agent 提供無限的計算資源。
Zypher Network 可信框架用例
Alpha Girl
Alpha Girl 是基於 Zypher 的 Proof of Prompt 框架的首個無信任多模態 AI 代理,旨在通過實時市場數據對比特幣的市場行為進行預測,並做出智能預測和決策。作為一個前沿的 AI 解決方案,Alpha Girl 利用先進的算法和數據分析,幫助用戶更好地理解和預測市場趨勢。該 AI 代理由知名的 Prompt Engineer 團隊經過 3 個月的深度開發,面向市場推出,目前其首批支持比特幣價格的預測。根據實測,Alpha Girl 的趨勢預測準確度高達 72%,相比於持幣待漲策略,其提供的策略能夠帶來 25% 的超額回報。
通過集成 Zypher Network 的 zkPrompt 方案,Alpha Girl 的 AI 代理模型能夠確保其使用的系統提示詞在不透露任何底層數據的前提下,保持一致性和正確性,確保每次預測的透明性與可靠性,從而保證了預測結果與預期的高匹配度。
作為可信 AI 代理的早期示例,Alpha Girl 展示了如何通過 Zypher Network 提供的技術,確保預測過程的透明性與可驗證性。Zypher Network 有望為加密貨幣市場中的預測工具提供保障,也為同類 AI 代理在隱私保護和數據安全方面設立了標杆。
AI Agent 遊戲引擎可信框架
Zypher Network 在鏈上遊戲領域也有所實踐。目前其推出了 Game Engine 組件,開發的遊戲代理利用智能合約來進行遊戲操作,並基於 zkPrompt 來確保不同玩家之間的行為公正性。
在該遊戲引擎中,開發人員能夠使用諸如 Cocos Creator、Unity 、Unreal 等原生遊戲引擎來低門檻創建鏈上遊戲。在這些工具的支持下,遊戲的核心狀態管理得以實現,通過與去中心化數據管理層的接口,確保遊戲狀態的實時更新和驗證。遊戲狀態管理包括輸入的數據、生成的內容以及測試結果等,所有這些內容都會經過生成內容代理、遊戲測試代理等多個 AI Agent 的處理,以優化遊戲體驗並確保數據的準確性。
遊戲的數據輸入、生成的內容以及測試反饋將被傳送到去中心化的遊戲數據管理和存儲層。在這一層中,數據將被用於支持遊戲邏輯的執行,並通過與 zkPrompt 集成的 ZK Game SDK 進行零知識證明驗證,以確保數據的不可篡改性與真實性。同時,基於去中心化證明協議,遊戲的數據通過加密礦池處理和提交,由區塊鏈網絡進行驗證,確保所有遊戲操作都可以公開透明且安全地記錄。
該技術棧進一步結合了優化資源層,用於提供計算和存儲資源的優化,使得所有參與的 AI 代理(如內容生成代理、遊戲測試代理和數據洞察代理)都能高效協作。最終,這一系統不僅提供了遊戲開發所需的高效計算能力,還通過去中心化的驗證機制確保了每個遊戲操作的透明度和公正性,避免了任何篡改或不公正的行為。
此外,代理玩家還可以在 “LP” 結構下進行質押,並與其他質押者共享遊戲收益即遊戲挖礦。這不僅使遊戲支持跨平台運行(包括手機和電腦端),還通過 LP 結構 的收益共享機制,為玩家提供了更多的盈利機會,通過與 LP 的合作,玩家能夠進一步增加自己的收益。目前,基於該 Game Engine 組件推出的遊戲包括 Protect T-RUMP、Zombie Survival 以及 Big Whale 等數十款遊戲。
現階段,Zypher 的 zkPrompt 方案也正在向更多領域嘗試探索,以進一步通過隱私、可信的方式推動 LLM 以及 AI Agent 等在更多領域的規模性採用。
總體而言,AI 領域仍處於發展初期,儘管 LLM 和 AI Agent 等應用已取得初步進展,但仍處於探索階段,面臨諸多挑戰。黑盒特性所導致的缺乏可信性和可驗證性,正在成為制約其進一步發展的主要瓶頸之一。Zypher Network 提出的系列方案正逐步成為破解這一困局的關鍵,其不僅為 LLM 和 AI Agent 等採用提供了一個可信的框架,也為其在更廣泛行業中的應用鋪平了道路。該方案有望顯著提升 AI 系統的可靠性和透明度,同時也將為 AI 領域的廣泛應用奠定堅實的信任基礎。