本文へ移動
Last Furlong
言語: 日本語

アーキテクチャとセキュリティ

承認印を押す人のために書きました。

当社を審査されているなら、このページはあなたのためのものです。各構成でデータがどこへ行き、何が記録され、そしてその主張を信頼ではなく検証で確かめる方法を記しています。

配備トポロジー

3 つの形態を評価段階で選びます。違いのうち、他より重要な一点は、ネットワーク境界を越える通信があるかどうかです。

お客様自身のハードウェア上への配備エージェントループとローカルモデルを動かすホストがお客様のネットワーク内にあり、内部システムに接続します。ネットワーク境界を越える通信はありません。お客様のネットワークKAVILO ホストエージェント + ツールローカルモデルOllama または vLLM内部システムデータベース、API、ファイル共有送信なし
エージェントループとローカルモデルを動かすホストがお客様のネットワーク内にあり、内部システムに接続します。ネットワーク境界を越える通信はありません。
お客様のクラウドアカウント内への配備同じ構成要素をお客様が管理するクラウドアカウント内で動かします。ホスト型モデル API への接続は可能ですが任意で、ポリシーが許す場合のみです。お客様の VPCKAVILO ホストエージェント + ツールローカルモデルOllama または vLLM内部システムデータベース、API、ファイル共有ホスト型モデル任意 —お客様の選択
同じ構成要素をお客様が管理するクラウドアカウント内で動かします。ホスト型モデル API への接続は可能ですが任意で、ポリシーが許す場合のみです。
隔離ホスト上への配備単一の静的バイナリとローカルモデルの重みを、送信経路を持たないホストへファイルで持ち込みます。隔離ホスト — 送信経路なしKAVILO ホストエージェント + ツールローカルモデルOllama または vLLM単一の静的バイナリ+ モデル重み、ファイルで持ち込み
単一の静的バイナリとローカルモデルの重みを、送信経路を持たないホストへファイルで持ち込みます。

データはどこへ行くのか

正直な答えは構成によって変わるので、すべて並べます。最も強い主張が常に当てはまるように見せるより、違いを見ていただく方を選びます。

構成プロンプトと文書経路上の第三者
お客様のハードウェア上でのローカル推論ネットワークから一切出ませんなし
お客様の環境でのホスト型推論——承認済みのモデル APIプロンプトと同時に送られるコンテキストが当該事業者に届きます当該事業者のみ。お客様と同社との契約に基づきます
当社ホスティングでお客様のシステムを参照——範囲限定の読み取り専用アクセスを付与必要時に読み取り、メモリとモデルのコンテキスト内にのみ存在。当社側に静的な複製は残りません当社(通信中のみ)とモデル提供事業者
当社ホスティングで複製を保持——お客様がデータを当社へ複製合意した保存期間、当社インフラ上に保存されます当社(お客様のデータ処理者として)とモデル提供事業者

最初の 2 つの構成では、当社へ戻るテレメトリ経路は一切ありません。送信をまったく許さない配備が必要な場合、トンネル構成要素はお客様自身のアカウント内で動くため、当社を含むいかなる第三者も通信経路上に存在しません。3 つ目は設計上異なります。当社がホストするなら当社がデータを処理するため、口約束ではなくデータ処理契約、明示した保存期間、侵害通知の確約が付きます。最も強く聞こえる行ではなく、ご自身の義務に合う行を選んでください。

内部システムへの到達

接続する価値のあるシステムは、たいてい受信接続を受け付けないものです。例外申請をするのではなく、エージェントが内側から外向きに到達します。

方向
クライアントは常に外向きに接続し、お客様のネットワークが既に許可しているポートを使います。お客様側で受信を待ち受ける必要はありません。
HTTP トンネル
HTTP/2 と TLS 上の永続的な双方向 gRPC ストリームで、ローカルサービスへ転送します。公開エッジはお客様のアカウント内に配備できます。
リバース SOCKS5
内部ネットワークへより広く到達する場合。片側で SOCKS5 を待ち受け、もう一方が内部ネットワーク内の宛先へ接続します。TLS + yamux または QUIC で運ぶため、パケット 1 つの損失はそのストリームのみを止めます。
ツールアクセス
内部の機能は、stdio または streamable HTTP を使う Model Context Protocol クライアント経由で、ツールとしてエージェントに公開されます。何を公開するかはお客様が決め、自動的に発見されるものはありません。

メッセージング面の暗号化

チャット面を含む配備では、メッセージを中継するハブは「運用できること」が「読めること」を意味しない設計になっています。オフライン宛のメッセージは暗号文のまま滞留し、再接続時に順序どおり配送されます。

鍵合意
X3DH と PQXDH。
メッセージ鍵
1 対 1 の会話には Double Ratchet。
グループ
sender key。メンバー変更時に再鍵するため、外れたメンバーは以降の内容を読めません。
メタデータ
sealed sender。
検証
セーフティナンバー。鍵のすり替えが起きていないことを 2 者が帯域外で確認できます。
デバイス
連携済みデバイスはそれぞれ独立した署名鍵とメッセージ鍵を持ち、個別に無効化できます。

記録される内容

セッション履歴、エージェントの判断、ツール呼び出しは、その配備を動かしているホストのディスクに保存されます。お客様が動かす 2 つの構成——お客様のハードウェアまたはクラウドアカウント——では、そのホストはお客様のものなので、記録にはお客様の保存規程とアクセス制御が適用され、当社は複製を保持しません。当社がホスティングする場合は、当社のインフラ上に置かれ、データ処理契約で定めた保存期間が適用されます。

何を、どれだけの期間保持し、誰が読めるのかは、「配備」段階でお客様と決める構成上の判断であり、既定値を引き継ぐものではありません。

これらを検証する方法

以上はすべて主張であり、取引実績のない会社の主張を受け入れる理由はありません。検証方法は 3 つあります。

自分で試す
サービスに含まれ、3 つの中で最も説得力があります。お客様が管理するネットワークで配備を動かし、何が出ていくかを観測してください。その計測は追加費用なしで支援します。立場が逆なら当社もそれを求めるからです。
ソースコード監査
ご要望に応じ、NDA のもとで、有償オプションとして見積ります。審査環境の準備には工数がかかり、書面手続きには法務の時間がかかります。審査プロセスがコードの閲覧を求めるなら、早めにお伝えいただければ見積ります。
エスクロー
ご要望に応じ、第三者のエスクロー機関を通じて手配します。機関費用と当社の初期対応工数は実費見積りで転嫁し、契約単位で価格を決めるため、予算に収まるよう早めにお伝えください。

送信チェックの実録

3 分間、1 つ目の方法を当社自身のネットワークで実際に行った記録です。エージェントが臨床データベースに問いを投げ、推論はローカル。その後、そのクエリが開いたネットワークソケットをすべてサンプリングし、いずれかが公開アドレスに達していればチェックは失敗します。自らの限界も述べています——このスクリプトが監視するのは 1 台だけなので、審査担当者は推論ホストも併せて監視すべきです。

動画は当ドメインから配信しており、埋め込みではありません——第三者プレーヤーもトラッキングもありません。

ゴール

初回打ち合わせに審査担当者をお連れください。

セキュリティ審査が何を問うか既にお分かりなら、事前に質問をお送りください。書面で回答します。