跳至主要內容
Last Furlong
語言: 繁體中文

私有 AI 整合

我們負責 AI 的最後一段路。

我們建構能針對你自己的系統回答問題的 AI 代理程式——你的資料庫、API 與檔案共享——並執行在你的政策允許的位置:你的硬體上、已核准的代管模型上,或由我們完整代管。模型從來不是難點。把它接進系統、並通過安全審查才是。

挑模型、寫提示詞、看基準分數。這部分很適合做示範。

部署、整合、安全審查。這部分才真正上線。

兩分半鐘,看它實際運作

用日常語言向代理程式提出一個問題;它自行發現從未拿到過的資料庫結構、自己寫出查詢語句並回傳答案——隨後我們檢查有什麼離開了網路。每一條指令與每一行輸出都是真的。

影片由本站自有網域提供,不是第三方嵌入——沒有第三方播放器,也沒有追蹤。

AI 試作很少是因為模型不夠好而失敗。

它們卡在邊界上。當試作即將成為別人真正依賴的系統時,問題就不再是準確率,而是資料去了哪裡。

  • 資料可以到哪裡

    對多數組織來說,使用已核准的模型供應商是可以接受的,那也是最快的路。但有些資料不行,這時多數廠商的參考架構在第一頁就用不上了。兩種情況我們都能做。

  • 系統都在內部

    真正值得自動化的工作跑在防火牆後面,那些主機不接受任何連入連線,未來也不會開放。

  • 總得有人簽核

    審查人員一定會問資料流向何處、誰能解密、記錄了什麼。含糊的回答會直接讓專案結束。

我們做什麼

  • 在你的政策允許的位置執行模型

    當資料確實不能離開時,本地推論讓一切留在你的硬體上。若你的政策已允許某家核准的供應商,那條路更快也更準確,提示詞會依你與該供應商的合約傳送出去。這是依使用情境由你決定,不是我們的限制。

  • 不用開連接埠也能存取內部系統

    僅對外的隧道與反向 SOCKS 讓代理程式有路徑存取內部服務。不需要對外暴露任何連入連接埠,也就不必為了一條新的防火牆規則去說服誰。

  • 放在工作真正發生的地方

    命令列、桌面、行動裝置,以及端對端加密的聊天介面。透過 Model Context Protocol 存取你自己的系統。

建立在我們自己的技術堆疊上

我們不是把別人的 API 包一層再轉售。交付跑在 Kavilo 之上——那是我們自己寫、自己維護的軟體。正因如此,我們能改變它的部署方式來配合你的限制,而不是要你去配合一套產品。

單一執行檔
靜態編譯,不需要再安裝或執行任何東西。直接複製到沒有網際網路連線的主機上就能跑。
模型供應
本地推論(Ollama 或 vLLM)與代管 API(Anthropic、OpenAI、Gemini、DeepSeek)共用同一個介面,之間有重試與斷路機制。
工具
檔案系統、Shell、網頁與檢索工具,以及透過 stdio 與 streamable HTTP 存取你服務的 Model Context Protocol 用戶端。
訊息
伺服器永不持有明文的訊息中樞:X3DH 與 PQXDH 金鑰協議、Double Ratchet、群組 sender key,以及 sealed sender。
網路
僅對外的 HTTP 隧道,以及在 TLS 或 QUIC 之上的雙向 SOCKS5。
原始碼
不公開。第三方程式碼審閱與原始碼信託(escrow)都可依需求安排,作為計價選項。

合作怎麼開始

三個階段,任何一個階段之後你都可以停。多數客戶從「評估」開始,因為那是判斷我們功力最便宜的方式。

評估

我們釐清你的資料可以與不可以去哪裡、價值在哪些系統、審查人員會要求什麼。範圍固定、費用固定。最後交付一份屬於你的書面架構,無論你之後是否繼續與我們合作。

部署

我們把它做出來:你選定的拓撲、與內部系統的連線、你的同事真的會用的介面,以及交接時的維運手冊。

維運

版本升級、模型與供應商更換,並在每次變更後重跑驗收測試,讓行為是量測出來的,而不是假設出來的。

而且有三種執行方式

資料確實不能離開時,完全跑在你的硬體上。政策已經允許時,在你的環境裡接上已核准的代管模型——多數組織屬於這一類。若你只要結果、不想維運基礎架構,由我們完整代管最快見效;此時你的資料可以留在你的系統中、由我們以限定範圍的唯讀權限讀取,也可以複製一份給我們,由你決定。我們會告訴你真正需要哪一種,包括答案是最便宜那一種的時候。

各階段包含的內容 →查看七個產業的實測結果 →

終點

從邊界開始,而不是從模型開始。

「評估」範圍固定、費用固定,最後交付一份屬於你的書面架構——無論你之後是否繼續與我們合作。