AIセキュリティベンダーに必ず聞くべき8つの質問 

先週、Black Hatカンファレンスに参加しましたが、予想通り、人工知能（AI）が話題の中心でした。 スイムレーンパートナー ブースや見込み客とのやり取りで、AIについて何らかの形で触れられた方々がいらっしゃいました。AI製品のリーダーとして、こうした会話は楽しいのですが、AIに関するメッセージは往々にして曖昧で浅薄なものになりがちだという点に、私は強い印象を受けました。. 

私は在職期間の大半を スイムレーン データサイエンティスト、業界アナリスト、顧客との会話、そしてAIのトレンドに関する書籍を読むことで、私はあらゆることを学んできたと言えるでしょう。サイバーセキュリティベンダーにAIについて尋ねるべき重要な質問について、私の見解をこのブログでご紹介していきますので、ぜひお読みください。.

ヒーローAIの紹介

必須の質問に入る前に、背景を説明しておきたいと思います。 ヒーローAI タービン内で利用可能なSwimlaneのAI強化イノベーションのコレクションです セキュリティ自動化 プラットフォームです。その機能には、ケース要約、テキストからコードへのチャットボット、HelpDocsチャットボット、スキーマ推論、そして新たに発表された推奨アクションとAI拡張レポートが含まれます。. 

以下では、AIベンダーに尋ねるべき重要な質問について議論するとともに、Swimlaneにおけるこれらの分野へのアプローチについてもご紹介します。Hero AIの価値、ユースケース、アーキテクチャに関するより詳細な情報については、こちらの技術レポートをご覧ください。 TAG Cyber: AI を活用した SecOps 自動化. 

SOCにおけるAI製品についてAIベンダーに尋ねるべきよくある質問

1. AI モデルではどのような大規模言語モデルを使用していますか? 

AIベンダーの機能を支える大規模言語モデル（LLM）を理解することは、良い出発点です。アラート、ケース、インシデント、自動化パイプラインといったサイバーセキュリティ情報をLLMと共有することを検討する際には、ある程度の懐疑心を持つことが不可欠です。. 

スイムレーン ヒーローAI ケース要約、推奨アクション、AI拡張レポート、スキーマ推論などの機能は機密データを扱うため、公開モデルではなくSwimlane LLMを使用します。チャットボット機能はOpenAIを活用し、Pythonコードの生成やSwimlane Knowledge Centerの情報の要約に役立てています。 スイムレーンタービン. 

2. あなたの AI システムはどのようなデータ ソースに依存していますか? また、データのプライバシーとセキュリティをどのように確保していますか?

AIシステムは、学習と分析のために膨大な量のデータへのアクセスを必要とすることがよくあります。プライバシー規制の遵守と不正アクセスの防止を確保するためには、これらのデータの入手先と取り扱い方法を把握することが不可欠です。.

Hero AIのコア機能は、プライベートにホストされたLLMを活用しています。Swimlane LLMは、機密データが一元的に保存されることがないよう保証します。一元的に保存されるのは、モデルの使用状況とパフォーマンスに関連するメタデータのみです。顧客データは、共有モデルのトレーニングに使用されることはなく、今後も一切ありません。Hero AIによって処理されるすべてのデータは、顧客ごとに専用のデータベースインスタンスに安全に保存され、完全なデータ分離が確保されます。. 

3. AI アルゴリズムの透明性と説明可能性についての洞察を提供できますか?

AIを活用したセキュリティソリューションにおいては、透明性と説明可能性が最も重要です。セキュリティチームは、AIシステムがどのように意思決定を行うのかを理解し、その出力を解釈し、信頼できる必要があります。.

スイムレーンの「あらゆること」における誠実さと誠実さは、私たちの核となる価値観であり、この価値観はお客様にも適用されます。私たちは、すべてのことにおいて誠実でありたいと考えています。 スイムレーンのお客様 Hero AIの価値とシンプルさを体験するには、お客様がご自身のペースでAIを導入することが重要です。透明性を最優先するため、Hero AIはすべてのお客様に対してデフォルトで無効になっています。AI機能は、お客様がHero AI補足条項に記載されている利用規約を確認し、同意した時点で認証されます。. 

4. AI ソリューションは、新たな脅威や出現する脅威にどのように適応しますか?

脅威の状況は絶えず変化しており、AIシステムはそれに応じて適応できなければなりません。AIベンダーは、新たな脅威に先手を打つために、アルゴリズムを継続的に更新・改善するための仕組みを整備する必要があります。.

データ保護とセキュリティ上の理由から、お客様のデータはモデルの学習に使用しません。私たちのアプローチは、数ヶ月前のデータを使用する学習データセットに重点を置くのではなく、モデルアーキテクチャを常に再評価し、常に最先端の技術を活用してHero AIのイノベーションをサポートできるようにしています。これらのモデルは、例えば以下のような公開データで学習されます。 サイバーセキュリティフレームワーク 公開ドキュメントもご用意しています。お客様独自のデータとナレッジベースのベストプラクティスは、Hero AIインスタンス内で活用され、お客様独自のプライベートモデルをトレーニングします。. 

5. 敵対的な攻撃や AI の脆弱性の悪用を防ぐためにどのような対策が講じられていますか?

AIシステムの脆弱性を悪用しようとする敵対的攻撃は、ますます深刻な懸念事項となっています。AIベンダーは、こうした攻撃から保護し、AIアルゴリズムの整合性を確保するために、強力なセキュリティ対策を講じる必要があります。.

設計上、Hero AIは他のAIと同様に堅牢なセキュリティ原則に従っています。 スイムレーンタービン プラットフォーム。Hero AIには承認されたユーザーのみがアクセスでき、自動化の権限を持つデータのみと通信できます。Hero AI機能のトレーニングと検証に使用されるデータは、徹底的にチェックされ、サニタイズされ、サイロ化されているため、顧客データが共有モデルのトレーニングに使用されることはありません。. 

6. AI ソリューションは既存のセキュリティ インフラストラクチャとどのように統合されますか?

AIソリューションの効果を最大限に高めるには、既存のセキュリティインフラとのシームレスな統合が不可欠です。AIベンダーは、自社のソリューションを組織の既存のセキュリティスタックにどのように統合できるかについて、明確なガイダンスを提供する必要があります。.

その性質上、, スイムレーンタービン あらゆるものと統合できます。あらゆるAPIに接続でき、リモートエージェントとWebhookを使用して、アクセスが困難なテレメトリの可視性を獲得できます。Hero AIはプラットフォームに完全に統合されているため、Turbineが認識できるあらゆるデータと連携できます。. 

7. 実装と継続的なメンテナンスを支援するために、どのようなレベルのサポートと専門知識を提供していますか?

AIを活用したセキュリティソリューションの導入と維持は複雑になる可能性があります。AIベンダーは、セキュリティチームが導入プロセスをスムーズに進め、発生するあらゆる課題に対処できるよう、包括的なサポートと専門知識を提供する必要があります。.

スイムレーンプロフェッショナルサービス SOC ソリューション実装サービスの一環として、すべての新規顧客に対して Hero AI を実装します。. テクニカルアカウントマネジメント（TAM）サービス 継続的なサポートやカスタマイズをご希望のお客様には、サポートをご利用いただけます。すべてのTurbineプラットフォームパッケージには、追加費用なしでサポートが付属しています。. 

8. 関連する規制や基準への準拠についてはどのようなアプローチを取っていますか?

GDPR、HIPAAなどの規制へのコンプライアンスは、特に機密データの取り扱いにおいては必須です。AIベンダーは、関連する規制や標準への準拠を確実にするために、堅牢なコンプライアンスプログラムを導入する必要があります。.

で スイムレーン, 苦情は真摯に受け止め、データ保護とAIに関する最新の規制、そしてAI分野におけるサイバーセキュリティリスクの調査を常に確認・監視し、それらを遵守するために必要なあらゆる手順と技術を実施しています。Swimlaneのセキュリティおよびコンプライアンス管理の詳細については、こちらをご覧ください。 信頼センター。.

AI強化セキュリティ自動化の詳細 

AIをいつ、どのようにビジネスに取り入れるべきか、興奮したり、圧倒されたり、好奇心が湧いたり、混乱したりするのは当然です。 セキュリティオペレーション ワークフロー。すべての組織に当てはまる唯一の正解や解決策はありませんが、ベンダーのサービスについて十分な知識と情報を得ることで、組織にとって最適な決定を下すことができます。 SOC チーム。. 
AI強化についてもっと知りたい場合は セキュリティ自動化, 、ぜひつながりたいです。.