先週、Check Point社のCEO Nadav Zafrir氏のもと、Team8のCISO Villageと共催した「Leaders Point EMEA」のために、バイエルンで3日間を過ごしました。欧州・中東・アフリカから70名以上のCISOが集い、今回が2回目の開催、欧州では初の開催となります。招待制にしたことで、参加者が率直に意見を交わせる場となりました。
タイミングも示唆に富んでいました。ここ1ヶ月の間に、スーパーマーケットの冷蔵システムへの攻撃がフランスをはじめ複数の欧州諸国で発生し、食品が腐敗して棚が空になるという事態が起きました。背後にいる犯行者はいまだ特定されていません。サイバーリスクをITの問題と捉えている人にとって、これは物理的な影響がいかに現実的になったかを痛感させる出来事でした。
Nadav氏が参加者に語ったように、Check Point社のセキュリティ業界は30年来で最も劇的な変革期を迎えています。CISOたちは今、三つの仕事を同時にこなさなければなりません。AI主導の脅威から組織を守ること、自社チームが利用するAIを安全に保つこと、そして自らの防衛にAIを活用することです。しかも、ルールがまだ整備されていない中でこれらをすべてこなしているのです。
Check Point社がLeaders Pointを開催するのは、お客様の視点からこうした課題を見ることが同社の戦略に不可欠だからです。「欧州はどのAIを信頼できるか?」をテーマにしたCISOパネルや、AI時代における国家サイバーリーダーシップ、フロンティアAIラボの内部紹介など、幅広いテーマを取り上げました。議論の中で繰り返し浮かび上がったテーマが4つあります。
予防の重要性がさらに高まっている
AIは脆弱性が発見されてから悪用されるまでの時間を大幅に短縮しました。攻撃者はAIを使って弱点を発見し、実際の攻撃に変換するスピードが以前と比べて格段に速くなっています。パッチ適用を速めるだけでは対応が追いつかない状況です。
Check Point社が対話したCISOたちは、「予防」の意味を再定義しようとしています。攻撃が来る前に環境を堅牢化し、リスクのカテゴリごと排除することで、新たな脆弱性が発見されても影響を最小限に抑えられる体制を目指しています。予防はCheck Point社のアプローチの根幹であり、日々セキュリティを運営する担当者たちが同じ結論に達していることは、非常に力強いメッセージでした。
スーパーマーケットへの攻撃はその理由を如実に示しています。報道によると、インターネットから直接アクセス可能な冷蔵庫のコントローラが多数存在し、その多くはメーカーがすでにサポートを終了したソフトウェアで動作していました。これらのシステムにパッチが当たることは永遠にありませんでした。唯一の実効ある防御は、誰かが侵入を試みる前にその入口を閉じることだったのです。
AIエージェントにはその目的に沿ったコントロールが必要
AIエージェントは現在、正規の認証情報を使ってメール、エンドポイント、ネットワーク、クラウドをまたいで動作しています。そのため、従来のツールによる監視が難しくなっています。ほとんどのシステムにとって、有害な行動を取るエージェントと正常に機能するエージェントは区別がつきません。
議論の中で繰り返し注目されたのが「目的」という概念です。エージェントを安全に保つには、そのエージェントが何をすべきかを把握し、すべての行動をリアルタイムでその目的と照合する必要があります。契約書の要約を目的として作られたエージェントがファイアウォールのルールを変更する理由はなく、セキュリティチームはそれが起きた瞬間に検知・阻止できなければなりません。
最近、AIエージェントのキルスイッチについて多くの議論がなされています。もちろん用意すべきものです。エージェントが乗っ取られた場合は切断するのが当然です。しかし、リスクのあるエージェントのほとんどは悪意を持っているわけではありません。ただ目標を達成しようとするあまり、危険な近道を選んでしまうのです。エージェントをオフにすれば、その途中経過の作業も失われます。キルスイッチはあくまで最後の手段です。最初の一手は「操舵」であるべきです。エージェントが危険な方向に逸れる兆候を捉え、危険なステップを止めながら作業を継続させること。エージェントを止めることだけが戦略であれば、それはエージェント戦略ではなく、単なるオフスイッチです。
すべてのAIユースケースには人間のオーナーが必要
AIがより多くの判断を下し、より多くの行動を取るようになると、その結果が誰の責任でもない状態に陥りやすくなります。CISOたちはこれを許してはならないと明言しています。
すべてのAIユースケースには、他のビジネスリスクと同様に、そのリスクを承認する担当者を明確に指名する必要があります。明確なオーナーシップがあることで、組織はAIを迅速に活用しながらも、何か問題が起きたときに誰が責任を負うかを把握できます。
欧州の組織はAIの選択において自律性を求めている
「欧州はどのAIを信頼できるか?」というパネルを含む多くの議論で共通して浮かび上がったのが「コントロール」というテーマでした。欧州の組織は、市場の変化に応じてAIモデルやサプライヤーを切り替える自由を求めており、最も重要な領域では独自の能力を構築したいと考えています。
CISOにとって、これは実践的なレジリエンスの問題です。単一のモデルやプロバイダーへの依存は、他のあらゆる集中リスクと同様のリスクです。Check Point社の役割は、お客様がどのモデルやサプライヤーを選択しても、AIを安全に保護することです。
重要な意思決定は今年中になされる
来年の今頃には、組織がAIをどのように保護するかを左右する多くの意思決定がすでに行われているでしょう。バイエルンの会場に集まったリーダーたちが、その多くを担うことになります。
3日間という貴重な時間と率直な意見を共有してくださったすべてのCISOの方々、そしてLeaders PointをCheck Point社と共に構築してくださったTeam8のCISO Villageに深く感謝します。今回伺った内容は、Check Point社が次に何を構築するかを形作るものとなり、同社は今後も耳を傾け続けます。
原文: https://blog.checkpoint.com/security/what-70-european-cisos-told-us-about-securing-the-ai-era/