AI利用ルールの整備は38.6％、AI特有の攻撃への検証は20.6％――500名への共同調査をもとに当社が分析・提言

株式会社サイバーセキュリティクラウド（本社：東京都品川区、代表取締役社長兼CEO：小池敏弘、以下「当社」）は、当社が運営に参画する一般社団法人サイバーセキュリティ連盟（以下「連盟」）および同連盟の運営会員企業4社（株式会社イーシーキューブ、かっこ株式会社、サイバーコマンド株式会社、株式会社サイバーセキュリティクラウド）が共同で実施した『セキュリティ対応実態調査2026』の結果をもとに、生成AI・AIエージェントの利用に伴うセキュリティ対策の実施状況と課題について分析・安全なAI活用について4つの提言をまとめました。

本調査は、連盟および同連盟の運営会員企業4社が企画・調査設計を取りまとめ、Webサイト・Webサービスの運営・管理等に関わる500名を対象に実施したものです。
連盟は調査概要・全体結果を発信し、各社は共通の調査結果をもとに、それぞれの専門領域に応じた独自の切り口・テーマで分析レポートを公開します。本レポートでは、当社が「生成AI・AIエージェントの安全な活用」をテーマに、AIセキュリティ対策の実施状況と企業規模による違い、今後取り組むべき対策を分析・提言しています。
分析の結果、AI利用に関する社内ルール・ガイドラインの整備率は、従業員1,000名以上の企業に勤務する回答者では50.9%だった一方、49名以下の企業では15.2%にとどまり、35.7ポイントの差が確認されました。
また、全体ではAI利用ルールの整備率が38.6%であるのに対し、AIアプリケーションの脆弱性診断は26.6%、プロンプトインジェクション等のAI特有の攻撃に対する検証は20.6%となっています。
こうした結果から、企業規模によるAIセキュリティ対策の実施状況の違いに加え、AIの利用を管理するガバナンス対策と、AIシステムそのものの安全性を確認する技術的対策の双方に取り組む必要性が浮かび上がりました。

1.調査結果の主なポイント

今回の調査から、特に注目すべき結果として以下の5点が挙げられます。

①AI利用ルールの整備率は企業規模によって35.7ポイントの差

AI利用ルールを整備していると回答した割合は、従業員1,000名以上の企業に勤務する回答者では50.9％、49名以下では15.2％となり、企業規模によって取り組み状況に大きな違いが見られました。

②AIアプリケーションの脆弱性診断は26.6%、AI特有の攻撃検証は20.6%

AI利用ルールや入力制限などに比べ、AIアプリケーションに対する技術的なセキュリティ評価・検証の実施回答率は相対的に低い結果となりました。

③約4割がAIへの機密情報・個人情報の入力による情報流出を懸念

機密情報・個人情報等の流出を懸念する割合は38.2%、AIによる誤情報・不適切な内容の生成を懸念する割合は36.6%となりました。

④AIエージェントによる意図しない操作を23.4%が懸念

AIエージェントによる外部システム・API等の意図しない操作への懸念が23.4%となった一方、AIエージェントの操作権限を制限する対策を実施している割合は18.0%でした。

※全体の割合は回答者500名を分母とし、企業規模別の割合は各規模に属する企業に勤務する回答者を分母としています。AIを利用・導入していない回答者も含まれます。異なる設問の回答割合の差は、個別回答者の未対策率を示すものではありません。

⑤AIセキュリティ対策の必要性を認識しながら、具体的な対策は未実施との回答が14.6%

AIセキュリティ対策の必要性を認識しているものの、具体的な対策は実施していないと回答した割合は14.6%でした。対策の必要性を理解することに加え、実際の取り組みに移すための課題整理や優先順位付けが重要であることが示唆されます。

2.AI利用ルールの整備率に企業規模による大きな差

大企業では50.9%、49名以下の企業では15.2%

生成AI・AIエージェントの利用・導入に伴うセキュリティ対策について企業規模別に分析したところ、AI利用ルール・ガイドラインの整備率に大きな差が確認されました。

【図表1】企業規模別のAIセキュリティ対策実施状況

対策内容	49名以下	50〜299名	300〜999名	1,000名以上
AI利用ルールの整備	15.2%	28.6%	45.4%	50.9%
AIへの入力情報の制限	9.1%	27.1%	34.5%	44.0%
AIアプリケーションの脆弱性診断	9.1%	20.0%	31.9%	34.9%
AI特有の攻撃への検証	9.1%	19.3%	21.0%	25.7%
AIエージェントの権限制限	6.1%	13.6%	18.5%	25.7%

出典：連盟および同連盟の運営委員会4社『セキュリティ対応実態調査2026』。各企業規模に属する企業に勤務する回答者ベース、複数回答。

AI利用ルールの整備率は、49名以下の15.2%から1,000名以上の50.9%まで、企業規模が大きくなるにつれて高くなる傾向が見られます。
また、AIへの入力情報の制限についても、49名以下では9.1%であるのに対し、1,000名以上では44.0%となっています。
一方で「生成AI・AIエージェントを利用・導入していない」との回答は、49名以下の企業で40.9%、1,000名以上の企業では5.7%となっており、利用状況自体にも大きな違いが確認されました。

当社による分析：企業規模だけではなくAI利用状況に応じた対策が必要

今回の結果は、企業規模によってAIセキュリティ対策の実施状況が異なることを示しています。
ただし、企業規模が小さいほどセキュリティ水準が低いと一概に判断することはできません。AIを利用・導入していない企業も含まれるためです。
重要なのは、企業規模にかかわらず、自社でどのようなAIが利用され、どのような情報を取り扱い、どの程度のリスクが生じる可能性があるかを把握することです。特に、これからAIを導入する企業では、導入後に対策を検討するのではなく、利用ルールや情報の取り扱い方針をあらかじめ整備することが重要と考えられます。

3.AI利用のガバナンス対策と技術的対策の実施状況に違い

AI利用ルールは38.6%、AI特有の攻撃検証は20.6%

AIセキュリティ対策の実施状況を全体で見ると、最も多かったのは「AI利用に関する社内ルール・ガイドラインの整備」で38.6%でした。
続いて、AIへの入力情報の制限が32.4%、AIが生成する回答・出力内容の確認・監視が31.0%となっています。
一方、AIアプリケーションの脆弱性診断は26.6%、プロンプトインジェクション等に対する検証は20.6%、AIエージェントの外部システム・API等への権限制限は18.0%でした。

【図表2】AIセキュリティ対策の実施率

対策内容	実施率
社内ルール・ガイドラインの整備	38.6%
AIへの入力情報・データの制限	32.4%
AIの回答・出力内容の確認・監視	31.0%
AIアプリケーションの脆弱性診断	26.6%
プロンプトインジェクション等への検証	20.6%
AIエージェントの外部システム等への権限制限	18.0%

出典：連盟および同連盟の運営委員会4社『セキュリティ対応実態調査2026』Q4をもとに、当社が分析。n=500、複数回答。

当社による分析①：ルールを整備することと、安全性を検証することは異なる

AI利用ルールやガイドラインの整備は、企業がAIを安全に活用するための重要な取り組みです。
しかし、ルールを整備することと、AIアプリケーションそのものの安全性を確保することは異なります。

例えば、従業員に対して「機密情報をAIに入力しない」というルールを定めていたとしても、企業が独自に開発したAIアプリケーションにアクセス制御の不備が存在すれば、本来閲覧できない情報がAIの回答に含まれる可能性があります。

また、AIエージェントが外部システムと連携する場合には、AIに過剰な権限が付与されていることによって、意図しないデータの更新や外部サービスへの操作が発生する可能性もあります。
こうしたリスクへの対策には、利用ルールの整備に加え、システムの構成や権限を確認し、実際の動作を検証する技術的な取り組みが必要です。
今回の調査では、従業員1,000名以上の企業でも、AIアプリケーションの脆弱性診断は34.9%、AI特有の攻撃への検証は25.7%となりました。
AI活用が進んでいると考えられる大企業においても、技術的なセキュリティ対策を検討する余地があることがうかがえます。

なお、これらの実施率には該当するAIシステムを開発・運用していない回答者も含まれており、AIアプリケーション開発企業だけに限定した診断実施率を示すものではありません。

当社による分析②：対策の必要性を認識していても、具体的な取り組みに至っていない層が存在

また今回の調査では、全体の14.6%が「AIセキュリティ対策の必要性は認識しているが、具体的な対策は実施していない」と回答しました。一方で「AI特有のセキュリティ対策は必要ないと考えている」との回答は3.2%でした。
この結果からは、AIセキュリティ対策の必要性を理解しているものの、具体的な取り組みに至っていないと回答する層が一定数存在することが確認できます。

ただし、本調査では対策を実施していない理由までは明らかになっていません。人材や予算の不足、技術的な知識、組織体制など、特定の要因が対策を妨げていると断定することはできません。
当社では、企業がAIセキュリティ対策を具体化するためには、まず自社のAI利用状況を把握し、どのようなリスクが存在するのかを整理したうえで、取り組むべき対策の優先順位を明確にすることが重要と考えています。
特に、AIアプリケーションやAIエージェントを開発・運用している場合には、一般的な利用ルールの整備だけでなく、実際のシステム構成や操作権限に応じた技術的な安全性評価が求められます。

4.企業が懸念するAIセキュリティリスク

情報流出38.2%、誤情報36.6%。AIエージェント特有のリスクへの懸念も

AIセキュリティに関する懸念・課題について尋ねたところ、最も多かったのは「機密情報・個人情報等がAIへの入力を通じて外部へ漏えいすること」で38.2%でした。

次いで「AIが誤った情報・不適切な内容を生成すること」が36.6%となりました。

【図表3】生成AI・AIエージェントに関する主な懸念・課題

懸念・課題	回答割合
機密情報・個人情報等の流出	38.2%
誤情報・不適切な内容の生成	36.6%
RAG等による権限外情報の取得・出力	27.2%
AIエージェントによる意図しない操作	23.4%
プロンプトインジェクション等による意図しない動作	22.4%
AIアプリケーション自体の脆弱性	18.4%
AIサービス・外部事業者の安全性を確認できない	16.0%
AIセキュリティの専門知識・人材不足	15.4%

出典：連盟および同連盟の運営委員会4社『セキュリティ対応実態調査2026』Q5をもとに、当社が分析。n=500、複数回答。

情報流出や不適切な出力への懸念に加え、AIを組み込んだシステム特有のリスクについても、一定数の回答者が課題として認識していることが分かります。

当社による分析①：AIエージェントの普及により、管理対象が「情報」から「操作」に拡大

企業におけるAI活用は、従業員が生成AIサービスに質問し、回答を得る利用形態にとどまりません。
社内情報を検索・参照するRAG、顧客向けのAIチャットボット、外部システムと連携して業務を実行するAIエージェントなど、利用形態によって求められるセキュリティ対策は異なります。これに伴い、セキュリティ対策で管理すべき対象も変化します。

例えば、RAGでは利用者の権限に応じて参照できる情報を制限する必要があります。
AIエージェントでは、外部APIを通じて情報を取得するだけでなく、データの更新や削除などの処理を実行できる場合があります。
そのため、AIに与える権限を必要最小限に制限し、重要な操作には人による承認や監査の仕組みを設けることが重要です。
特に、プロンプトインジェクションなどによってAIが意図しない指示に従った場合、単なる不適切な回答にとどまらず、外部システムに対する操作につながる可能性があります。
AIエージェントの安全性を確保するためには、AIの回答内容だけでなく、AIが何を実行できるかという権限と操作範囲の管理が欠かせません。

当社による分析②：AIの利用形態に応じて必要な対策は異なる

AIセキュリティ対策を検討するうえでは、生成AIサービスを従業員が利用する場合と、AIを組み込んだアプリケーションやAIエージェントを開発・運用する場合を分けて考える必要があります。
例えば、外部の生成AIサービスを業務利用する場合には、機密情報の入力や未承認サービスの利用状況を把握することが重要です。
一方、社内データを参照するRAGでは、利用者が本来閲覧できない情報をAI経由で取得できないか、認証・認可や検索対象の権限制御を確認する必要があります。さらに、AIエージェントが業務システムを操作する場合には、操作権限の制限や重要な処理に対する承認、実行履歴の監査などが重要になります。

【図表4】AIの利用形態別に想定されるリスクと優先的な確認事項

AIの利用形態	想定される主なリスク	優先的に確認すべき対策
外部生成AIサービスの業務利用	未承認AIサービスの利用、機密情報・個人情報の入力	利用サービスの把握、入力ルール、データの取り扱い条件、利用状況の確認
AIチャットボット・RAG	プロンプトインジェクション、権限外情報の取得・出力	認証・認可、検索対象のアクセス制御、AI特有の攻撃への検証
AIエージェント・MCP等を利用したツール連携	過剰な操作権限、外部APIの意図しない実行、データの変更・削除	最小権限の設定、重要操作の承認、実行ログの取得・監査、操作権限の検証

※本図表は調査結果をもとに当社が整理した一般的なリスクと対策例であり、個別の企業やAIシステムについて実際に脆弱性が確認されたことを示すものではありません。

このように、AIの利用形態によって管理すべき対象は「入力する情報」「参照できる情報」「実行できる操作」へと広がります。

企業が適切なセキュリティ対策を講じるためには、AIを利用しているかどうかだけでなく、AIがどのような情報にアクセスし、どのような処理を実行できるのかを把握することが重要です。

5.AIセキュリティ対策は「導入・整備して終わり」ではない

今回の調査では、従来のセキュリティ製品・サービスについても、継続的な見直しに関する課題が確認されました。
利用中のセキュリティ製品・サービスの設定やルールを最後に見直した時期について「1年以上前」が21.4%、「導入以来実施していない」が9.6%、「分からない」が19.6%となりました。合わせて50.6%の回答者について、直近1年以内に見直しが実施されたことを確認できない結果となっています。

※「分からない」には実際には見直しが行われているケースも含まれる可能性があるため、50.6%が1年以上見直していないことを意味するものではありません。

この調査結果はAIに限定したものではありませんが、セキュリティ対策における継続的な運用の重要性を示しています。
AIシステムにおいても、利用するAIモデル、参照する情報、接続する外部サービス、AIエージェントに付与する権限などは変化します。
導入時に安全性を確認していたとしても、こうした変更によって新たなリスクが生じる可能性があります。
AIの利用環境や脅威の変化に応じて、ガイドラインの見直し、アクセス権限の確認、技術的なセキュリティ検証などを継続的に実施することが重要です。

6.安全なAI活用に向けた当社の4つの提言

当社では今回の調査結果を踏まえ、企業が安全なAI活用を進めるために次の4つの取り組みを提言します。

①AIの利用状況を可視化する

まずは、社内で利用されているAIサービスやAIアプリケーションを把握し、利用目的、取り扱う情報、外部システムとの連携状況などを整理することが重要です。

未承認のAIサービスの利用、いわゆるシャドーAIも含め、管理すべき対象を明確にする必要があります。

実務上は利用しているAIサービス・アプリケーション、利用部門、取り扱うデータ、外部システムとの連携先を一覧化し、管理対象を明確にすることが第一歩となります。

②AIガバナンスと管理体制を整備する

AI利用に関するガイドラインや情報の取り扱い方針を定め、利用・導入に関する責任体制を明確にすることが重要です。

ルールを策定するだけでなく、実際の業務で運用できる状態にする必要があります。

例えば、AIに入力してよい情報、利用可能なサービス、導入時の承認手続き、インシデント発生時の連絡先など、従業員や管理者が業務上判断できる具体的なルールを整備することが重要です。

③AIアプリケーションの安全性を技術的に検証する

AIアプリケーションやRAG、AIエージェントについては、利用形態に応じて技術的な安全性を確認することが求められます。

プロンプトインジェクション、権限外情報の取得、AIエージェントの意図しない操作など、AI特有のリスクを想定した検証が重要です。

特に、既に本番環境で運用されているAIアプリケーションやAIエージェントについては、利用ルールの整備が完了するまで技術的検証を待つのではなく、取り扱う情報や操作権限の重要性に応じて、優先的に安全性を確認する必要があります。

例えば、AIモデルの変更、RAGが参照するデータの追加、外部システムとの新たな連携、AIエージェントへの権限追加などを、安全性の再評価が必要か判断するタイミングとして位置付けることが考えられます。

④継続的に見直し・改善する

AIの利用状況やシステム構成が変化した場合には、リスクを再評価し、必要な対策を見直すことが重要です。
AIセキュリティを一度限りの取り組みではなく、継続的な管理・改善活動として位置付ける必要があります。

当社による提言：まずは何から始めるべきか

AIセキュリティ対策を進める際には、すべての対策を一度に実施しようとするのではなく、自社のAI利用状況とリスクに応じて優先順位を付けることが重要です。具体的には、最初の30日間を一つの目安として、以下の4つの事項を確認することを推奨します。

①AI利用状況の棚卸し

利用中のAIサービス・アプリケーション、利用部門、利用目的、取り扱う情報、外部連携先を整理し、管理対象を明確にします。

②リスクと管理体制の確認

機密情報・個人情報の取り扱い、既存の利用ルール、責任部門、承認手続きなどを確認し、管理上の不足事項を整理します。

③技術的検証が必要な対象の特定

RAGやAIエージェントなど、社内情報へのアクセスや外部システムの操作を伴うAIシステムを特定し、認証・認可、操作権限、AI特有の攻撃への検証が必要かを判断します。

④改善の優先順位と実施計画の策定

確認した課題について、情報の機密性、業務への影響、発生した場合のリスクなどを踏まえて対応の優先順位を定めます。
なお、これらは初期対応の一例です。既に本番運用しているAIシステムに重大なリスクが疑われる場合には、30日間の整理を待たず、必要な技術的確認や対策を優先して実施することが重要です。

7.総括：AIセキュリティは「ルール整備」から「安全性の継続的な確保」へ

今回の調査から、AIセキュリティ対策の実施状況には企業規模による大きな違いがあり、また、AI利用ルールの整備と技術的な安全性検証の実施状況にも差が見られることが明らかになりました。
AI活用の拡大に伴い、企業が対処すべきリスクは、情報流出や不適切な出力だけでなく、AIアプリケーションの脆弱性、プロンプトインジェクション、RAGのアクセス制御、AIエージェントの操作権限などへと広がっています。

こうした状況において、企業が安全にAIを活用するためには、単に利用ルールを策定するだけでなく、AIの利用実態を把握し、ガバナンスと技術的なセキュリティ対策を組み合わせることが重要です。
また、対策の必要性を認識しながら具体的な取り組みを実施していないと回答する層が存在することも踏まえ、企業には自社のAI利用状況とリスクを整理し、実行可能な対策から着手することが求められます。

当社はAI活用の推進とセキュリティ対策は対立するものではなく、安心してAIを活用するために相互に不可欠な取り組みであると考えています。

今後もAIセキュリティの専門的な知見を通じて、企業における安全なAI活用の実現を支援してまいります。

『セキュリティ対応実態調査2026』調査概要

• 調査実施日：2026年10月1日
• 調査主体・企画・設計：一般社団法人サイバーセキュリティ連盟及び同連盟の運営会員企業4社
  （株式会社イーシーキューブ、かっこ株式会社、サイバーコマンド株式会社、株式会社サイバーセキュリティクラウド）
• 調査対象：Webサイト・Webサービスの運営・管理等に関わる方
• 有効回答数：500名
• 分析対象：主にQ3〜Q5および企業規模別クロス集計
  ※複数回答設問は回答割合の合計が100%を超える場合があります。
  ※各回答割合は小数点以下を四捨五入しているため、合計が100%にならない場合があります。
  ※本調査は回答者ベースの集計です。本文中の割合は、回答者が勤務先の状況について回答した結果であり、企業数そのものの構成比を示すものではありません。
  ※本リリースのAIセキュリティに関わる見解は当社の意見であり、連盟および他の運営委員会各社の見解を代表するものではありません。

 

調査結果の取り扱いについて

本調査は回答者による自己申告に基づくものであり、企業500社の独立した調査結果や、企業の安全性を技術的に検証した結果ではありません。また、複数回答の設問については、各選択肢の割合の合計は100%になりません。

本レポートにおける技術的リスクの解説や対策提言は、共同調査の結果を踏まえた株式会社サイバーセキュリティクラウドの独自の分析・見解であり、連盟および他の運営委員会各社の見解を示すものではありません。

引用・転載時の出典表記：一般社団法人サイバーセキュリティ連盟および同連盟の運営委員会4社『セキュリティ対応実態調査2026』をもとに、株式会社サイバーセキュリティクラウドが分析。

株式会社サイバーセキュリティクラウドのAIセキュリティへの取り組み

当社は企業の安全なAI活用を支援するため、AIガバナンスアセスメントサービス、AIガバナンスガイドライン策定支援サービス、AIアプリケーション脆弱性診断サービス、AIセキュリティ改善・実装支援サービスなど、AI利用の管理から技術的な安全性の検証・改善まで、複数の領域にわたるサービスを展開しています。
詳細については当社のAISecurityページをご覧ください。
AISecurity：https://www.cscloud.co.jp/ai-security/