Aikido

ペンテスト 誰かに説得されてセキュリティ侵害を引き起こしてしまう前に、AI機能を整備しておきましょう。

AikidoのAIエージェントは、アプリ内のLLM機能を特定し、長時間の対話を通じてそれらを継続的に検証します。エージェントが確認した各問題について証拠が提供され、監査担当者が活用できるレポートが作成されます。
データは共有されません - 読み取り専用アクセス - CC不要
15万以上の組織から信頼されています
|
30万人以上の開発者に愛用されています
|
4.7/5
愛らしい
Pendo
Revolut
SoundCloud
Niantic
n8n
Deel
Visma
握手
ジョー&ザ・ジュース
ランウェイ
Too Good To Go
NiCE
ベルフィウス
愛らしい
Pendo
Revolut
SoundCloud
Niantic
n8n
Deel
Visma
握手
ジョー&ザ・ジュース
ランウェイ
Too Good To Go
NiCE
ベルフィウス

あなたのAIがそこにアクセスできるなら、そのAIとチャットする誰でもアクセスできます。

リリースするLLMの機能には、すべて説明やデータへのアクセス権、そして多くの場合、システム上で動作するツールが付属しています。そのチャットボックスに文字を入力するユーザーなら誰でも、それらを利用することができます。
たった1枚の改ざんされたドキュメントチケットが、アシスタントを自社のユーザーに敵対させることになりかねません。
AIはデータを読み取り、ツールを呼び出すことができます。チャットを引き継いだ人は誰でも、それらに直接アクセスできます。
AIのテストの多くは、モデルの発話パターンを制限するにとどまっており、データやツールに対するモデルのアクセス権限については見落とされがちです。

最初のチャットメッセージから、実績のあるエクスプロイト まで。

AikidoのAIエージェントは、LLMの機能が実際にどのように動作するかを解析し、独創的な攻撃者のようにそれらを攻撃して、どこまで到達できるかを証明します。

AIのエントリポイントをマッピングします

コードを連携させると、エージェントがそれを読み取り、AI機能がどこに存在し、どのような範囲にアクセスできるかを確認します。コードへのアクセス権限を提供できない場合でも、エージェントはアプリを使用することでその動作を理解することができます。

会話が終わるたびに、攻撃を繰り返し続ける

ガードレールの中には、最初は機能しても、何度か試してみると破綻してしまうものもあります。そこで、エージェントたちは、あなたのAIが新しいチャットや長時間のチャットでそのガードレールが機能するかどうかをテストします。また、アップロードされたPDFなど、AIが読み取るものに指示をさりげなく盛り込むこともあります。

エクスプロイト に沿って、模型の横を通り過ぎる

プロンプトの注入だけで、そのモデルが騙されやすいことが分かります。エージェントはさらに踏み込んで、ツールへの呼び出しやAPIにまで侵入し、モデルがどのようなデータにアクセスできるかを確認します。

専門家と一緒にペンテスト の導入範囲を策定しましょう

30分で、お客様のAI機能の役割を把握し、お見積りの範囲を確定いたします。

プロンプト、ツール、データ、エージェントの各要素について、多角的なチェックを行います。

Aikido LLMアプリケーション(LLMコード)向けのOWASP Top 10から、エージェント型アプリケーション(ASIコード)向けのOWASP Top 10に至るまで、あらゆる内容を網羅しています。

ダイレクト・プロンプト・インジェクションと脱獄

命令のオーバーライド、ロールプレイによる脱獄、およびモデルが自身のルールを無視するように仕向ける、エンコードまたは難読化されたペイロード。
LLM01
ASI01

間接的なプロンプト注入

モデルが読み込む文書、ウェブページ、ファイル、電子メール、およびツールの出力結果に埋め込まれた指示を、モデルが実行するかどうかを確認します。
LLM01
ASI01

システムプロンプトの漏洩

システムプロンプト、隠された指示、ガードレールの設定を引き出すことで、シークレット や次の攻撃に向けた道筋が明らかになることがよくあります。
LLM07

ガードレールおよび安全フィルターのバイパス

コンテンツフィルタを回避するための、難読化、翻訳、ペイロードの分割、および低速なマルチターン操作。
LLM01

ゴール操作

タスクの途中で、エージェントの目標や計画を変更すること。
ASI01

機密情報の開示

個人識別情報(PII)、認証情報、内部データ、および他のユーザーの会話内容が、セッションやテナントをまたいで、モデルの出力を通じて漏洩する。
LLM02

メモリおよびコンテキストの汚染

パーシステントメモリ、会話履歴、セッション状態を改ざんし、今後の回答を誘導したり、後でデータを漏洩させたりする。
ASI06

RAG(検索強化生成)とベクトルの弱点

テナント間の情報漏洩は、情報の取得、改ざんされたドキュメント、不正なコンテンツ、および埋め込みの反転を通じて発生します。
LLM08

データおよびモデルのポイズニング

フィードバックループ、ユーザー生成コンテンツ、そしてモデルの挙動を目に見える形で変化させる微調整の入力。
LLM04

過度な主体性

その職務に必要な範囲を超えて、より多くのツール、権限、または裁量権を持つ担当者。
LLM06

ツールおよび機能の誤用

エージェントに、悪意のあるパラメータを含むツールを呼び出させたり、意図していない一連のツール操作を行わせたりすること。
ASI02

ツールやプラグインの統合におけるセキュリティ上の脆弱性

バックエンドへのツール呼び出しを追跡し、SSRF、コマンドインジェクション、パストラバーサル、その他のインジェクションを検出します。
ASI02

安全でない自律的な行動

人の確認なしに実行される、あるいは確認手順をスキップできる支払い、削除、または外部呼び出し。
LLM06

マルチエージェント通信の汚染

エージェント間でやり取りされる、偽装または改ざんされたメッセージにより、エージェントネットワーク全体に悪意のある指示が拡散される。
ASI07

特権の侵害と「混乱した代理人」

AIに、攻撃者に代わって自身の認証情報と権限を使用させる。
ASI03

AI機能における認証エラー

AIエンドポイントへの認証なしのアクセス、エージェントの動作に対するユーザーごとのチェックの欠如、およびエージェントを介したIDOR。
ASI03

身元詐称

ユーザー、別のエージェント、または信頼できるサービスを装い、本来持つべきではない影響力を得ようとする行為。
ASI03

不適切な出力処理

モデルの出力が他のコンポーネントに安全でない方法で渡され、XSS、SQLインジェクション、コマンドインジェクション、SSRF、またはテンプレートインジェクションを引き起こす。
LLM05
ASI05

際限のない消費と財布の無視

トークン料金を膨らませたり、リソースを枯渇させたり、大量アクセスによってモデルを抽出したりすることを可能にする、欠落率やクォータ制限。
LLM10

モデルおよびサプライチェーンのエクスポージャー

公開されている、または認証されていないモデルエンドポイント、および脆弱性のあるAIフレームワークとプラグイン依存関係 。
LLM03
ASI04
アタックチェーン

たった1つの改ざんされたファイルがあれば、顧客データが漏洩してしまう

実際の攻撃者は、ある脆弱性を突いて次の脆弱性へと進みますが、当社のエージェントも同様の仕組みで動作します。
  • アップロードされたファイルに隠された指示により、アシスタントが内部ツールを呼び出し、そのツールが権限チェックをスキップした結果、別のテナントの請求書がチャットに表示されてしまった。

  • エージェントはその一連の流れを、安全が確保できる範囲で可能な限り追跡し、そのすべての段階をお客様にご説明します。

  • エージェントがAI機能のテスト中に、WebまたはAPI に関する問題を確認した場合、その内容もレポートに記載されます。

さあ、始めましょうペンテスト

LLMレッドチームング・フレームワークと実際のAI能力の比較ペンテスト

オープンソースのレッドチームング・フレームワークは、モデルに対して攻撃プロンプトを送信し、その応答を評価しますが、セットアップやレポート作成はユーザー自身が行う必要があります。一方、「AI Capabilitiesペンテスト 」はさらに一歩進んでおり、エージェントがAIの機能を自ら特定し、各攻撃を追跡してモデルの背後にあるツールやデータまで掘り下げます。テスト終了後には、証拠付きの検証済み結果が提供されます。
レッドチームングのフレームワーク
Aikido AIの機能ペンテスト
セットアップ
ターゲットの設定を記述し、攻撃用プラグインを選択して、それらをアプリに接続します。
エージェントは、コードから、あるいはアプリを使用することで、AI機能を見つけ出します。
テストの対象となるもの
主に、モデルが攻撃的なプロンプトに対して返した回答です。
モデルに加え、その背後にあるツール、データ、メモリ、およびアクセス権限。
どこまで進むのか
調査結果は、モデルが示した内容にとどまっている。
エージェントは、調査結果が示す限りそれを追跡し、しばしば別の顧客のデータにまで踏み込むことになる。
結果
攻撃の成功率は、多くの場合、別のLLMによって評価される。
エクスプロイト の証明と修正ガイダンスを伴う、検証済みの知見。
レポート
生の結果を、ご自身でレポートにまとめます。
SOC 2 および ISO 27001 に対応した監査対応レポート。
その他のペネトレーションテスト
AIのみ。
他の Aikido ペネトレーションテストと同じ製品上で実行されます。
仕組み
あらかじめ選択した決まった一連の攻撃を実行する。
エージェントは、アプリ内で検出した状況に応じて、その後の各攻撃を適応させていきます。

AI機能ペンテスト それともWebアプリペンテスト ?

すべての Aikido Webおよびモバイルのペンテスト では、アプリ内のAI機能がすでにテストされています。AIのテストを最優先したい場合は、AI Capabilitiesペンテスト を選択してください。
Webアプリペンテスト

AI機能を含む、アプリケーション全体

  • 数百人の担当者が1つのアプリを監査する

  • ロジック、ロール、API、およびAI機能がテストされる

  • ご用意いただくもの:アプリ、およびホワイトボックス手法を採用する場合はコードまたはテストユーザー

Webサイトを立ち上げるペンテスト
AIの機能ペンテスト

あなたの相棒となるチャットボットやAIエージェント

  • エージェントは、実行期間全体を通じて、LLMの機能のみに焦点を当てて動作します

  • プロンプト、ツール、記憶、情報検索、およびAIの権限に関するテストが実施される

  • ご提供いただくもの:ステージング用URL、テストユーザー、そしてできればコード

AI機能の導入ペンテスト

Lovable または Supabase を使ってアプリを開発しましたか?

LovableプロジェクトまたはSupabaseバックエンドを接続し、わずか数クリックでアプリをペンテスト に公開しましょう。Lovableはリポジトリを連携するため、すべてのLovableペンテスト はホワイトボックス方式で実行されます。
さあ、始めましょうペンテスト

ペンテスト 今日のAI機能

ポイント Aikido ステージング環境のアプリを指定し、テストユーザーを数人追加してください。あとはエージェントが対応します。

すべて込み - 一律料金 - 開始から是正まで
15万以上の組織から信頼されています
よくある質問

LLMおよびAIエージェントを用いたペネトレーションテストに関するよくある質問

AI機能のペネトレーションテストとは何ですか?

AIエージェントは、コパイロット、チャットボット、RAG検索、ツールを使用するエージェントなど、アプリケーション内のLLM機能を、攻撃者が行うのと同じ手法で攻撃します。プロンプトインジェクション、データ漏洩、ツールの不正使用、メモリおよび検索結果の改ざん、AIアクションにおける認証の不備などを検出し、発見された各問題を動作するエクスプロイト を用いて実証します。

LLMアプリケーションをペンテスト する最良の方法は何でしょうか?

製品にLLM機能を組み込んだ場合、そのモデルだけでなく、その背後にあるツール、データ、権限も網羅したテストが必要となります。 Aikidoペンテスト のAI機能は、まさにそれを実現し、エクスプロイト の検証結果と、監査対応可能なレポートを提供します。

これは、オープンソースのLLMレッドチームング・フレームワークとどう違うのでしょうか?

フレームワークは、攻撃プロンプト、オーケストレーター、採点ツールといった構成要素を提供します。ただし、ターゲットの設定、テストの実行、結果の判定、レポートの作成は、依然としてユーザー自身で行う必要があります。 Aikidoのエージェントは、AIの機能を独自に特定し、ツールやデータを含めあらゆる要素をテストし、すべての発見事項を検証した上で、レポートを提出します。

これには Aikido 「LLMアプリケーション向けOWASP Top 10」および「エージェント型アプリケーション向けOWASP Top 10」を網羅していますか?

はい。 Aikido 両方のリストに記載されている主なリスク(プロンプトの注入、機密情報の漏洩、過剰な代理権限、ツールの悪用、メモリポイズニング、システムプロンプトの漏洩、ベクトルおよび埋め込みの脆弱性、無制限な消費など)をテストします。

マルチターン・ジェイルブレイクのテストは行っていますか?

はい。エージェントは、それぞれ多くのやり取りと数回の試行を含む、複数の独立した会話を並行して処理するため、長いやり取りの末にようやく解除されるような「ガードレール」も捕捉することができます。

間接的なプロンプト注入についてテストしていただけますか?

はい。エージェントは、AIが読み込むコンテンツ(アップロードされたファイル、取得された文書、ウェブページ、メール、ツールの出力結果など)に指示を埋め込み、それらの指示が制御を掌握するかどうかを確認します。

AIエージェントは Aikido ペンテスト ツールやMCPサーバーを使用するAIエージェントは可能ですか?

はい。エージェントは、AIエージェントが持つツールを通じて、そのエージェントが何ができるかをテストします。これには、攻撃者が悪意のあるパラメータを指定してツールを呼び出させたり、アクセスすべきでないシステムに到達させたりできるかどうかも含まれます。

ブラックボックスか、ホワイトボックスか?

その両方です。リポジトリを連携させると、エージェントがコードを読み取り、チャットのエントリポイント、プロンプト、ツール、メモリ、および検索機能をマッピングします。これにより、同じクレジットでより多くの情報を引き出すことができます。コードがない場合でも、エージェントはアプリや、ユーザーが指定したコンテキストに基づいて動作します。

何を差し出せばいいのでしょうか Aikido?

AI機能が実装されたステージング用URL、ドメイン認証、テスト対象とする各ロールごとのテストユーザー、および Aikido許可リストに登録されたIPアドレスを含んだステージングURL。コードの連携は任意ですが、推奨されます。

本番環境で実行しても大丈夫ですか?

ステージング環境で実行してください。エージェントは、実際のユーザーと同様にAI機能を使用します。これには、データの作成、変更、削除が可能なツールも含まれます。本番環境以外のデータを使用したテストインスタンスを利用し、可能であれば、決済や送信メールなどのデータに破壊的な影響を与えるツールは無効にしてください。パニックボタンを使用すれば、すべてのエージェントを即座に停止させることができます。

私のWebアプリ「ペンテスト 」では、すでにAI機能のテストが行われていますか?

はい。すべての Aikido Webおよびモバイル版の「ペンテスト 」には、対象範囲内のAI機能がすべて含まれています。「AI Capabilities」ペンテスト を使用すると、担当者はAI機能のみに集中でき、レポートもAIリスクに焦点を絞った内容となります。

このレポートをコンプライアンス対応に利用できますか?

はい。SOC 2 Type II、ISO 27001、およびHIPAAの技術的統制を網羅し、検証済みの調査結果、エクスプロイト の証明、および是正措置の指針が記載された、監査対応可能なレポートが提供されます。

Lovable や Supabase で構築されたアプリをペンテスト に公開することはできますか?

はい。 Aikido LovableやSupabaseと連携しているため、わずか数クリックで、AI生成アプリやSupabaseをバックエンドに持つアプリをペンテスト できます。

価格はどのように算出されるのですか?

ペネトレーションテストはクレジット制で実施されます。テスト開始前に正確な料金が確認できます。詳細については、ペンテスト の料金ページをご確認ください。

これは、人間によるAIレッドチームと比べてどうでしょうか?

エージェントは、人間のレッドチーム担当者が用いるのと同じ手法を採用しています。これは、時間をかけて複数ターンにわたる操作から、脱獄(ジェイルブレイク)をツールの呼び出しへとつなげる手法まで多岐にわたります。エージェントは同時に多数の対話を処理するため、プロンプト、モデル、またはツールを変更するたびに、テスト全体を再実行することができます。