フレームワークは3層の保護メカニズムによって保護されている:
- サンドボックス隔離デフォルトではDockerコンテナでコードを実行し、ファイルシステムへのアクセスとネットワーク・パーミッションを制限します。
deluser ${USER} sudo
管理者権限を完全に削除する。 - 入力フィルタリングディレクトリトラバーサル攻撃を防ぐために、ファイル処理モジュールへの入力パスを正規化したチェックサムを使用します。
- 実行監視このコードは、制限された環境(Firejailなど)で実行されるように生成され、異常な動作(システムコマンドを呼び出そうとした場合など)が発生するとすぐにプロセスが終了します。
特に、プロジェクト・ドキュメントでは、1)モデル上のツール呼び出し権限を無効にする 2)別のネットワーク・ネームスペースを使用する 3)生成されたコードを定期的にレビューする、ことによって機密データを扱うべきであることを強調している。これらの対策により、このフレームワークは、学術的、商業的シナリオの両方において、セキュリティコンプライアンスの要件を満たすことができる。
この答えは記事から得たものである。Cognitive Kernel-Pro:オープンソースのディープリサーチ・インテリジェンス構築のためのフレームワークについて