AI開発の脆弱性とは、生成AIを使った開発や、AIを組み込んだシステムで生じるセキュリティ上の欠陥のことです。混入経路は「生成コード」「依存ライブラリ」「AI開発ツール自体」「AIを組み込んだ機能」の4つに分けると整理できます。対策の要点は、欠陥をどの工程で、誰が、どう見つけるかを先に決めておくことです。
AIは学習したコードの傾向を再現するため、安全でない書き方もそのまま出力することがあります。一方で、AIを使わない開発に脆弱性がないわけではありません。問われるのは、混入しうる欠陥を見つける仕組みが開発工程に組み込まれているかどうかです。
この記事では、AI駆動開発を検討している、あるいは外部に開発を委託しているBtoB企業の担当者に向けて、脆弱性の種類、発注側が確認すべきこと、検証の進め方を整理します。
AI開発の脆弱性とは、AIが関わる開発工程や、AIを組み込んだ機能を通じて生まれる、攻撃や情報漏えいにつながる欠陥を指します。
脆弱性とは、第三者が悪用できるプログラムや設定の弱点のことです。入力値の検証漏れや権限確認の欠落のように、従来の開発と同じ種類の欠陥も含まれます。
AIが関わる場合に変わるのは、欠陥の入り口と広がり方です。AIを開発の道具として使う場合と、製品の機能として組み込む場合では、必要な対策が大きく異なります。自社の案件がどちらに当たるのか、あるいは両方なのかを最初に区別してください。
AIが関わる開発では脆弱性の入り口が従来より増え、大きく4つの経路に分けて捉えられます。
入力値の検証漏れ、権限確認の欠落、古い暗号方式の使用など、安全でない書き方がそのまま出力されます。動作はするため、テストが通ってしまうことがあり、気づきにくい経路です。
古いバージョンや、保守が止まったライブラリが提案されることがあります。実在しない名前が提案されることもあります。名前が妥当に見えるため、確認せずに導入されやすい点が問題です。
コードを読み、コマンドを実行するAI開発ツールは、それ自体が攻撃の入り口になりえます。信頼できないリポジトリの設定ファイルや指示文を読み込み、意図しない処理を実行する危険があります。開発者の権限で動くため、認証情報が漏れたときの影響も大きくなります。
利用者の入力でAIの動作を乗っ取られたり、学習・参照データから機密情報が引き出されたりします。従来のテスト項目に存在しないため、見落とされやすい経路です。
経路1から経路3は「AIを開発の道具として使う」場合の論点です。経路4は「AIを製品の機能として組み込む」場合に固有の論点で、性質が大きく異なります。
AI生成コードでは、権限確認・入力値の検証・出力のエスケープが特に抜けやすい観点です。
生成AIは、学習したコードに多く現れる書き方を再現します。そのため、広く出回っている不適切な実装も再現されることがあります。実務で確認する機会が多いのは次のような点です。
いずれも従来の開発でも起こる欠陥です。AI特有なのは、短時間で大量のコードが生まれるため、同じ欠陥が複数箇所に広がりやすいことです。1箇所の見落としが、横展開されたコピーの数だけ残ります。
見つけた欠陥は、その箇所だけ直して終わりにしないでください。同じ書き方が他にないかをコード全体で検索し、レビューの観点にも追加すると再発を抑えられます。
AIは、存在しないライブラリ名を、もっともらしい形で提案することがあります。攻撃者がその名前を先回りして登録し、悪意あるコードを配布する手口が報告されています。提案されたライブラリは、名前が妥当に見えても次の点を確認してから導入します。

AI開発ツールは開発者の権限でファイル操作やコマンド実行を行うため、ツールの使い方そのものにルールが必要です。
コーディングを支援するAIエージェントは、通常のAIチャットと違い、手元の環境で処理を実行できます。そのため、ツールの不具合や、読み込んだ内容に紛れ込んだ指示によって、意図しない操作が起きる可能性があります。AI開発ツールも一般のソフトウェアと同じく、脆弱性が見つかり修正される対象です。
開発会社や社内チームで、少なくとも次のルールを決めておくと安全性が上がります。
AIへ入力してよい情報の範囲も、同じルールの中で決めます。社内利用でのリスクの洗い出し方は生成AIの情報漏洩対策の進め方で詳しく整理しています。
AIを製品の機能として組み込む場合は、コードの修正ではなく、AIに何を任せ何を任せないかという設計で防ぐ必要があります。
自社の製品やサービスにAIを組み込むと、従来のWebアプリケーションにはなかった論点が加わります。代表的な論点と対応の方向は次のとおりです。
入力文に指示を紛れ込ませ、本来の制約を外させる手口で、プロンプトインジェクションと呼ばれます。AIの出力を信頼せず、実行する処理の側で権限と範囲を制限します。
社内文書を参照する仕組みで、権限のない情報まで回答に含まれることがあります。検索の段階で、利用者の権限に応じて参照対象を絞ります。
AIの出力をコードやコマンドとして実行すると、意図しない動作を招きます。出力は必ず検証を通し、自動実行の範囲を限定します。
入力された情報が、意図せず外部のAIサービスへ送られることがあります。送信前に除去する情報のルールを設け、学習利用の有無を契約で確認します。
攻撃手法の変化や守る側でのAI活用まで含めた全体像は、AIとサイバーセキュリティの全体像と対策の順序で解説しています。
開発を外部に委託する場合、「AIを使っています」という説明だけでは品質を判断できないため、工程・検査・情報の扱いを具体的に確認します。
次の項目ごとに、望ましい回答と注意したい回答を示します。専門知識がなくても、回答の具体性で判断できます。
委託先の選定段階から比較したい場合は、生成AI導入支援の選び方と比較項目も参考になります。
脆弱性の確認は、開発の最後にまとめて行うより、工程ごとに分けたほうが手戻りを抑えられます。
自動検査は有効ですが、万能ではありません。権限設計の誤りや業務ロジックの抜けは、機械的な検査では見つかりません。自動検査と人のレビューは併用するものです。
AIを組み込んだ機能を本番へ進める前の評価方法は、生成AI PoCの評価指標と本番化の判断基準で解説しています。

AI開発の脆弱性対策でつまずく原因は、技術の不足よりも、確認の責任範囲が曖昧なまま進めてしまうことにあります。
仕様書のない既存システムの把握は、仕様書がないAIシステムの保守・引き継ぎの進め方で手順を紹介しています。
いいえ。脆弱性は従来の開発でも発生します。AIの利用で変わるのは、生まれるコードの量と速度、そして依存ライブラリの選定経路で、確認の仕組みがあるかどうかが安全性を左右します。
不十分です。静的解析は既知のパターンを検出しますが、権限設計の誤りや業務上の判断ミスは検出できません。人によるレビューの観点を別に定義してください。
あります。AI開発ツールも一般のソフトウェアと同じく、脆弱性が見つかり修正される対象です。最新版への更新、権限の制限、信頼できないリポジトリを開かないことが基本の対策です。
まず、AIに任せる範囲と、人が承認する箇所を決めます。そのうえで、AIの出力を信頼しない前提で、実行する処理の側に権限と範囲の制限を設けます。
まず、委託先に確認する項目を決めるところから始められます。本記事のチェックリストは専門知識がなくても使える形にしており、受け入れ時の検証を第三者に依頼する選択肢もあります。
開発からマーケティングまでの支援内容はHVLのサービス一覧で紹介しています。
ハイ・ヴァーチュ・ラボは、AI駆動開発・システムインテグレーション・マーケティングを一気通貫で提供するテクノロジーパートナーです。プロジェクトの立ち上げから収益化まで、すべての工程を網羅しています。
「AIを使った開発を検討しているが、品質の担保が不安」「既存システムの脆弱性を確認したい」という方は、まずはご相談ください。現在の状況と目的を伺いながら、確認すべき範囲と進め方を整理します。