ペンテスト 誰かに説得されてセキュリティ侵害を引き起こしてしまう前に、AI機能を整備しておきましょう。
.avif)
.avif)




あなたのAIがそこにアクセスできるなら、そのAIとチャットする誰でもアクセスできます。
.avif)
最初のチャットメッセージから、実績のあるエクスプロイト まで。

専門家と一緒にペンテスト の導入範囲を策定しましょう
プロンプト、ツール、データ、エージェントの各要素について、多角的なチェックを行います。
ダイレクト・プロンプト・インジェクションと脱獄
間接的なプロンプト注入
システムプロンプトの漏洩
ガードレールおよび安全フィルターのバイパス
ゴール操作
機密情報の開示
メモリおよびコンテキストの汚染
RAG(検索強化生成)とベクトルの弱点
データおよびモデルのポイズニング
過度な主体性
ツールおよび機能の誤用
ツールやプラグインの統合におけるセキュリティ上の脆弱性
安全でない自律的な行動
マルチエージェント通信の汚染
特権の侵害と「混乱した代理人」
AI機能における認証エラー
身元詐称
不適切な出力処理
際限のない消費と財布の無視
モデルおよびサプライチェーンのエクスポージャー
.jpg)
たった1つの改ざんされたファイルがあれば、顧客データが漏洩してしまう
アップロードされたファイルに隠された指示により、アシスタントが内部ツールを呼び出し、そのツールが権限チェックをスキップした結果、別のテナントの請求書がチャットに表示されてしまった。
エージェントはその一連の流れを、安全が確保できる範囲で可能な限り追跡し、そのすべての段階をお客様にご説明します。
エージェントがAI機能のテスト中に、WebまたはAPI に関する問題を確認した場合、その内容もレポートに記載されます。
LLMレッドチームング・フレームワークと実際のAI能力の比較ペンテスト
AI機能ペンテスト それともWebアプリペンテスト ?
AI機能を含む、アプリケーション全体
数百人の担当者が1つのアプリを監査する
ロジック、ロール、API、およびAI機能がテストされる
ご用意いただくもの:アプリ、およびホワイトボックス手法を採用する場合はコードまたはテストユーザー
あなたの相棒となるチャットボットやAIエージェント
エージェントは、実行期間全体を通じて、LLMの機能のみに焦点を当てて動作します
プロンプト、ツール、記憶、情報検索、およびAIの権限に関するテストが実施される
ご提供いただくもの:ステージング用URL、テストユーザー、そしてできればコード

Lovable または Supabase を使ってアプリを開発しましたか?
.avif)
.avif)
ペンテスト 今日のAI機能
ポイント Aikido ステージング環境のアプリを指定し、テストユーザーを数人追加してください。あとはエージェントが対応します。

LLMおよびAIエージェントを用いたペネトレーションテストに関するよくある質問
AIエージェントは、コパイロット、チャットボット、RAG検索、ツールを使用するエージェントなど、アプリケーション内のLLM機能を、攻撃者が行うのと同じ手法で攻撃します。プロンプトインジェクション、データ漏洩、ツールの不正使用、メモリおよび検索結果の改ざん、AIアクションにおける認証の不備などを検出し、発見された各問題を動作するエクスプロイト を用いて実証します。
製品にLLM機能を組み込んだ場合、そのモデルだけでなく、その背後にあるツール、データ、権限も網羅したテストが必要となります。 Aikidoペンテスト のAI機能は、まさにそれを実現し、エクスプロイト の検証結果と、監査対応可能なレポートを提供します。
フレームワークは、攻撃プロンプト、オーケストレーター、採点ツールといった構成要素を提供します。ただし、ターゲットの設定、テストの実行、結果の判定、レポートの作成は、依然としてユーザー自身で行う必要があります。 Aikidoのエージェントは、AIの機能を独自に特定し、ツールやデータを含めあらゆる要素をテストし、すべての発見事項を検証した上で、レポートを提出します。
はい。 Aikido 両方のリストに記載されている主なリスク(プロンプトの注入、機密情報の漏洩、過剰な代理権限、ツールの悪用、メモリポイズニング、システムプロンプトの漏洩、ベクトルおよび埋め込みの脆弱性、無制限な消費など)をテストします。
はい。エージェントは、それぞれ多くのやり取りと数回の試行を含む、複数の独立した会話を並行して処理するため、長いやり取りの末にようやく解除されるような「ガードレール」も捕捉することができます。
はい。エージェントは、AIが読み込むコンテンツ(アップロードされたファイル、取得された文書、ウェブページ、メール、ツールの出力結果など)に指示を埋め込み、それらの指示が制御を掌握するかどうかを確認します。
はい。エージェントは、AIエージェントが持つツールを通じて、そのエージェントが何ができるかをテストします。これには、攻撃者が悪意のあるパラメータを指定してツールを呼び出させたり、アクセスすべきでないシステムに到達させたりできるかどうかも含まれます。
その両方です。リポジトリを連携させると、エージェントがコードを読み取り、チャットのエントリポイント、プロンプト、ツール、メモリ、および検索機能をマッピングします。これにより、同じクレジットでより多くの情報を引き出すことができます。コードがない場合でも、エージェントはアプリや、ユーザーが指定したコンテキストに基づいて動作します。
AI機能が実装されたステージング用URL、ドメイン認証、テスト対象とする各ロールごとのテストユーザー、および Aikido許可リストに登録されたIPアドレスを含んだステージングURL。コードの連携は任意ですが、推奨されます。
ステージング環境で実行してください。エージェントは、実際のユーザーと同様にAI機能を使用します。これには、データの作成、変更、削除が可能なツールも含まれます。本番環境以外のデータを使用したテストインスタンスを利用し、可能であれば、決済や送信メールなどのデータに破壊的な影響を与えるツールは無効にしてください。パニックボタンを使用すれば、すべてのエージェントを即座に停止させることができます。
はい。すべての Aikido Webおよびモバイル版の「ペンテスト 」には、対象範囲内のAI機能がすべて含まれています。「AI Capabilities」ペンテスト を使用すると、担当者はAI機能のみに集中でき、レポートもAIリスクに焦点を絞った内容となります。
はい。SOC 2 Type II、ISO 27001、およびHIPAAの技術的統制を網羅し、検証済みの調査結果、エクスプロイト の証明、および是正措置の指針が記載された、監査対応可能なレポートが提供されます。
はい。 Aikido LovableやSupabaseと連携しているため、わずか数クリックで、AI生成アプリやSupabaseをバックエンドに持つアプリをペンテスト できます。
ペネトレーションテストはクレジット制で実施されます。テスト開始前に正確な料金が確認できます。詳細については、ペンテスト の料金ページをご確認ください。
エージェントは、人間のレッドチーム担当者が用いるのと同じ手法を採用しています。これは、時間をかけて複数ターンにわたる操作から、脱獄(ジェイルブレイク)をツールの呼び出しへとつなげる手法まで多岐にわたります。エージェントは同時に多数の対話を処理するため、プロンプト、モデル、またはツールを変更するたびに、テスト全体を再実行することができます。