Tencent

AI-Infra-Guard

Security#AI Security#Red Teaming#Vulnerability Scanner#LLM#Cybersecurity

3,461

// 概要

AI-Infra-Guard は Tencent Zhuque Lab が開発したプロフェッショナルな AI red teaming セキュリティ評価プラットフォームであり、企業や個人向けに包括的な AI セキュリティリスクの自己診断ソリューションを提供します。本プラットフォームは AI infrastructure の脆弱性スキャン、Agent workflow のセキュリティ評価、MCP server のスキャン、jailbreak テストといった中核機能を統合しています。ユーザーは Docker を介して迅速にデプロイでき、モダンな Web インターフェースと堅牢な API を活用して効率的なセキュリティ検出と管理を実現可能です。

// 技術解説

A.I.G (AI-Infra-Guard) は Tencent Zhuque Lab が開発した AI レッドチーミングプラットフォームであり、AI インフラストラクチャおよびエージェントワークフローに対する包括的なセキュリティ自己診断を提供するよう設計されています。このプロジェクトは拡張可能なプラグインベースのアーキテクチャを採用しており、AI コンポーネント、MCP サーバー、およびエージェントスキル全体にわたるモジュール式の脆弱性検出を可能にします。自動スキャンフレームワークとジェイルブレイク評価ツールを統合することで、現代の AI デプロイメントにおける設定ミス、プライバシー漏洩、サプライチェーンの脆弱性といったセキュリティリスクを特定するという重要なニーズに対応しています。注目すべき技術的決定として、Docker ベースのデプロイメントと標準化されたフィンガープリントシステムへの依存があり、これにより新しいセキュリティルールの統合が簡素化され、クロスプラットフォームの互換性が確保されています。

// 主要ハイライト

ClawScan は OpenClaw にワンクリックのセキュリティ評価を提供し、設定リスク、CVE、プライバシー漏洩を検出します。

Agent Scan は、Dify や Coze などのプラットフォームにおける AI ワークフローのセキュリティを評価するための独立したマルチエージェントフレームワークを提供します。

MCP Server & Agent Skills スキャンは、ソースコードとリモート URL の両方から 14 カテゴリのセキュリティリスクを特定します。

AI infra vulnerability scanner は 57 以上の AI フレームワークコンポーネントをサポートし、1000 以上の既知の CVE と照合します。

Jailbreak Evaluation は、厳選されたデータセットと複数の攻撃手法を使用してプロンプトのセキュリティを評価し、堅牢なモデルテストを実現します。

このプラットフォームは、リアルタイムの進捗追跡が可能なモダンな Web インターフェースと、容易な統合のための包括的な API ドキュメントを備えています。

// ユースケース

AI infrastructure の脆弱性スキャンであり、57 以上の AI frameworks と 1000 を超える既知の CVE 脆弱性の検出をサポートします。

Agent workflow のセキュリティ評価であり、Dify や Coze といったプラットフォームの Agents に対して自動化フレームワークを用いたリスク検出を実行します。

Jailbreak 評価および MCP server のスキャンであり、多様な攻撃手法を用いてモデルの堅牢性をテストし、セキュリティリスクを特定します。

// クイックスタート

A.I.G の利用を開始するには、Docker がインストールされていることを確認し、リポジトリをクローンしてから 'docker-compose -f docker-compose.images.yml up -d' を実行してサービスを起動してください。起動後、http://localhost:8088 の Web インターフェースにアクセスして、AI サービスのスキャンやモデル設定の構成を開始できます。あるいは、README に記載されているワンクリックインストールスクリプトを使用して自動セットアップを行うことも可能です。