サイバーリスクマネジメント業界はどこへ行くのか?
リスクマネジメントの自動化。人工知能(AI)は、機械学習(ML)による資産の有効活用、データ侵害のコスト(CoDB)削減、インシデントレスポンス(IR)の封じ込めや根絶時間の短縮など、多くのメリットを提供する一方で、脅威行為者の能力を強化します。AIはテクノロジです。人-プロセス-テクノロジのモデルに対して適切なバランスを維持するために、組織はサイバーリスク･マネジメント･プロセスを合理化し、人の要素である企業のIT専門家の作業負担を軽減する方法をよく検討する必要があります。
シスコ社のジートゥ･パテル氏などの業界専門家は、サイバーセキュリティのリスク管理の将来はAI主導でなければならないと述べています。これは主に、アラート疲れ、攻撃の高度化、攻撃量の増加(部分的には、AIが短時間でマルウェアを作成する能力のため)によるものです。AIは、異常なネットワーク動作やシステムアラームを処理する、現在配置されている人間/IT専門家のリソースにより重い負担を強いことになります。あなたの組織の現在のサイバーリスク管理プロセスは、AIがどのようにサイバー犯罪の効率を高めてきたか、また今後も高めていくであろうかに対して適切ですか?
組織を悩ませる業界共通の人的資源の制約や、企業の取締役や取締役会に対する測定可能なサイバーセキュリティの改善要求のため、最も妥当な解決策は、業界の専門家が推奨するように、AIツールでサイバーセキュリティのリスクマネジメントのプロセスを自動化するか、信頼できるマネージド･セキュリティ･サービス･プロバイダのパートナに負担を移すことを検討することです。
AIはどのような種類のサイバー脅威ベクトルを悪用できるのか?
AIと大規模言語モデル(LLM)モデルの主な要素の2つは、ディープラーニング(DL)と基礎的なモデリング(FM)です。つまり、AIは静止状態や転送中のデータセットを深いレベルで分析することができます。データサブセットのディープラーニングが行なわれると、AIはネットワーク侵入の主要なポイントをすべて悪用することができるようになります。そのため、エンドポイント検知･対応ツール(EDR)、ネットワーク検知･対応ツール(NDR)、拡張検知･対応ツール(XDR)など、ネットワークとエンドポイントの可視性を高めることを目的とした検知ツールを使用する必要があります。
ヴィッシングやフィッシングのようなソーシャルエンジニアリングに基づくサイバー攻撃も、AIによる攻撃能力の進歩を目の当たりにしています。「ディープフェイク」という概念が導入され、重要な意味を持つようになりました。それは、新しいAIツールは、脅威行為者が本人の認識や同意なしに、写真やビデオに人物をシームレスにはめ込むことを可能にするからです。音声の複製もまた、ヴィッシング型攻撃にとって大きな懸念事項です。ユーザ認証に関するアクセスコントロールの概念は、AIの悪用によって重大な新たな課題を目の当たりにしています。つまり、誤った情報を広める能力は、AIのおかげで単純に大きくなり、プライバシーの権利や個人情報保護法の専門家にとって重大な課題を生み出すことになるのです。
ディープラーニングの段階で大規模な言語モデルがマシンに関与すると、膨大な量のデータが収集され、将来の資産行動の予測分析を作成するために処理されます。これは祝福でもあり呪いでもあります。機械学習がもたらす予測的･予見的な利点は、ユーザにとってはリアルタイムの投資収益率につながりますが、AIツールの悪意のあるコード生成機能は、脅威行為者を新たな未知のレベルまで強化してしまいます。
産業用自動制御システム(OT-IACS)で使用される制御技術のような決定論的ネットワークは、定義された方法で動作するように設計されています。データフローや処理特性も定義されています。マシンの標準的なベースライン構成からの逸脱は、健康安全や環境に望ましくない結果をもたらす可能性があり、脅威行為者の有能な手中にある間は、AIツールに関連する新しいコード生成能力がそれを意味します。脅威行為者がOT-IACSシステムを深く学習し、容易に入手可能なオープンソースのAIツールを使用して悪意のあるコードを作成する能力は、今や現実のものとなっています。
今日、組織ができることは何か?
セキュリティ目標達成の進捗状況をどのようにベンチマークしているかを調べ、(特に受託者の善管注意義務を実証するために)業界で認知された標準にシステムを合わせます。それには備えが重要です。脅威行為者がLLMを利用しているのであれば、あなたもそうすべきです。
最初のステップは、包括的なネットワークの評価を完了し、現在の一般的な脆弱性と露出ポイント、およびそれぞれの重要性を判断することです。次の理想的なステップは、スペシャルパブリケーション800-18に概説されているように、NIST-CSFガイダンスを活用してサイトセキュリティ計画を立案することです。最後のステップは、システムネットワークを適応させる組織の能力を評価することです。組織の優先順位にシステムOTネットワークの最新化の余裕がない場合は、信頼できるパートナであるロックウェル･オートメーションにこれらの目標を移すことを検討してください。
AI機能を積極的に活用するために、組織が現在どのような取り組みを行なっているかを探ります。AIは部分的に、より高い業務効率を達成するためにユーザのために開発されました。大規模なデータのサブセットを分析、自動化、要約するAIツールの能力こそが価値です。
まとめ
ネットワークアラームや異常動作の管理は、企業にとって多大な労力を要します。また、サイバーリスク曲線の先を行くことも重要です。一部のAIツールのオープンソースの性質とサイバー犯罪に関連する悪用は、おそらく完全に自動化されたサイバーリスク管理戦略の必要性を促進することになります。産業運営の安全確保を担う組織のリーダは、リスクを最小限に抑えつつAIの強みを活用する責任あるAIの導入に注力すべきです。
ロックウェル･オートメーションは、AIベースのサイバーセキュリティを活用し、より安全でセキュアな未来への道を開くお手伝いをいたします。まずはご相談ください。
参照
https://www.pcmag.com/explainers/what-is-microsoft-copilot
https://www.youtube.com/watch?v=cjy5jpRS_S0
https://github.com/Hacker-GPT/HackerGPT
