部署拓撲
三種形態，在評估階段選定。它們之間有一個差異比其他都重要：是否有任何連線跨越你的網路邊界。
資料流向何處
誠實的答案取決於你選哪一種設定，所以這裡全部列出。我們寧願你看清差異，也不願讓人誤以為最強的那個結論永遠成立。
| 設定 | 提示詞與文件 | 路徑上的第三方 |
|---|---|---|
| 在你的硬體上進行本地推論 | 完全不離開你的網路 | 無 |
| 在你的環境中使用代管推論——你已核准的模型 API | 提示詞與隨之送出的脈絡會到達該供應商 | 僅該供應商，依你與其簽訂的合約 |
| 由我們代管並讀取你的系統——你授予限定範圍的唯讀權限 | 按需讀取，只存在於記憶體與模型脈絡中。我們這邊不留靜態副本 | 我們（僅傳輸過程），以及模型供應商 |
| 由我們代管並保有副本——你把資料複製給我們 | 依約定的保存期限存放在我們的基礎架構上 | 我們（作為你的資料處理者），以及模型供應商 |
在前兩種設定中，完全沒有回傳到我們這邊的遙測路徑；當部署必須完全沒有對外流量時，隧道元件執行在你自己的帳號內，因此沒有任何第三方——包括我們——處在流量路徑上。第三種在設計上就不同：如果由我們代管，我們就在處理你的資料，因此它附帶資料處理合約、明訂的保存期限與外洩通報承諾，而不是一句口頭保證。請挑選符合你法遵義務的那一列，而不是聽起來最強的那一列。
存取內部系統
真正值得連接的系統，通常正是不接受連入連線的那些。與其申請例外，代理程式從內部往外建立連線。
- 方向
- 用戶端一律往外連線，使用你的網路已經允許的連接埠。你這邊不需要接聽任何連入連線。
- HTTP 隧道
- 在 HTTP/2 與 TLS 之上的持續雙向 gRPC 串流，轉送到本地服務。對外的邊緣可以部署在你的帳號內。
- 反向 SOCKS5
- 用於更廣泛地存取內部網路：一端提供 SOCKS5 接聽，另一端在內部網路中連線目標。承載在 TLS + yamux 或 QUIC 之上，因此掉一個封包只會卡住它自己的串流。
- 工具存取
- 內部能力以工具形式開放給代理程式，透過使用 stdio 或 streamable HTTP 的 Model Context Protocol 用戶端。開放哪些由你決定；不會自動發現任何東西。
訊息介面中的加密
當部署包含聊天介面時，負責轉送訊息的中樞在設計上讓「能維運」不等於「能讀取」。要送給離線收件者的訊息以密文排隊，並在重新連線時依序送出。
- 金鑰協議
- X3DH 與 PQXDH。
- 訊息金鑰
- 一對一對話使用 Double Ratchet。
- 群組
- sender key，成員變動時重新換鑰，因此被移除的成員無法讀取之後的內容。
- 中介資料
- sealed sender。
- 驗證
- 安全碼，讓兩個人可以在頻外確認沒有發生金鑰替換。
- 裝置
- 每台已連結的裝置各自持有獨立的簽章與訊息金鑰，可以個別撤銷。
記錄了什麼
工作階段歷程、代理程式的判斷與工具呼叫會寫入執行該部署的主機磁碟。在由你執行的兩種設定下——你的硬體或你的雲端帳號——這台主機屬於你，因此這些記錄適用你自己的保存策略與存取控管，我們不保留任何副本。若由我們代管，它們則位於我們的基礎架構上，並適用資料處理合約中約定的保存期限。
保存什麼、保存多久、誰可以讀取，都是我們在「部署」階段與你一起決定的設定，而不是你被動繼承的預設值。
如何驗證這一切
以上全部都只是說法，而你沒有理由接受一家還沒合作過的公司的說法。有三種驗證方式。
- 自己動手測
- 已包含在服務內，也是三者中最有說服力的：在你控管的網路上執行該部署，看看有什麼流出去。我們會免費協助你完成這項量測，因為換到你的位置，這也是我們自己會想做的驗證。
- 原始碼審閱
- 可依需求安排，在保密合約下進行，並作為計價選項報價——準備審閱環境需要工程時間，走完法務流程需要法務時間。若你的審查程序要求閱讀程式碼，請及早提出，我們會報價。
- 原始碼信託
- 可依需求安排，透過第三方信託機構辦理。機構費用與我們的建置時間會按實報價並轉付，以每份合約計價，因此請及早提出以便納入預算。
對外連線驗證實錄
三分鐘，記錄第一種方式在我們自己的網路上實際執行的過程：代理程式針對一個臨床資料庫提問，推論在本地執行；隨後對該查詢開啟的每一個網路 socket 取樣，只要其中任何一個連到公網位址，檢查即判定失敗。它也說明了自身的限制——該指令碼只監看這一台機器，因此審查方還應同時監看推論主機。
影片由本站自有網域提供，不是第三方嵌入——沒有第三方播放器，也沒有追蹤。