** 本記事は、SophosAI at Virus Bulletin ’24: Using multimodal AI as a “sixth sense” for cyber defense の翻訳です。最新の情報は英語記事をご覧ください。**
今週アイルランドのダブリンで開催される「Virus Bulletin 2024」カンファレンスで、ソフォスのプリンシパルデータサイエンティストである Younghoo Lee が、電子メールや Web コンテンツの分類という複雑な問題に大規模言語モデル (LLM) AI を活用する SophosAI の研究について発表します。Lee の発表では、「マルチモーダル」AI の使用について詳しく説明します。マルチモーダル AI は、電子メールや Web コンテンツのテキストと画像の両方を検査するモデルを使用して、コンテンツを無害、迷惑、有害のいずれかに分類します。
「Multimodal AI: The Sixth Sense for Cyber Defence (マルチモーダル AI: サイバー防御のための第六感)」と題した論文の中で、Lee は昨年発表された SophosAI の研究結果「Scampaign」で実証されたように、攻撃者は生成 AI を使って説得力のあるフィッシングメールや Web サイトを作成できると説明しています。さらに、既存の悪意あるコンテンツや迷惑 (「スパム」) コンテンツのトレーニングセットを使って構築されたフィッシングやスパムの検出に対する従来の機械学習アプローチは、既存のパターンに一致しない新しいテクニックを見逃してしまう可能性があります。
しかし、SophosAI が悪意のある電子メールや Web コンテンツの潜在的なソースとして調査したテクノロジーは、その種のコンテンツを検出したり、既存のレピュテーションデータのない新しい Web サイトの分類にも使用できます。インターネットコンテンツの膨大なデータセットで学習した LLM を使ってコンテンツのあらゆる側面を見るマルチモーダル AI を使い、電子メールのヘッダー、コンテンツ、ロゴ、画像を分析することで、新しいフィッシングメールや未知の悪意あるコンテンツや迷惑コンテンツを特定のトレーニングデータがなくても認識できるようになります。
Lee の発表は 10 月 4 日 (金) 午前 11 時 30 分 (現地時間) に行われます。研究結果についての詳しい記事は、プレゼンテーション後に発表される予定です。