AI ビデオ通話のなりすましに備えるチーム確認手順

ビデオ会議を未確認の連絡として扱う

正しい表示名、見慣れた顔、聞き慣れた声の参加者がビデオ会議に入り、振込先の変更、アカウント情報の開示、アクセス権の再設定、ファイル送付を求めることがあります。相手を見ながら話せたことで確認が済んだように感じても、その会議は依頼が届いた一つの経路にすぎません。参加者の身元や承認権限を単独で証明するものではありません。

FBI は、犯罪者が生成 AI を使って詐欺を大規模にし、手口を信じやすくしていると警告しています。AI 生成音声で公人や身近な人になりすまして支払いを引き出す例と、AI 生成動画で公人のもっともらしい映像を作り詐欺を補強する例を挙げています。ただし、この資料は特定企業のビデオ会議事件や社内承認規程を示したものではありません。

社員に顔や声が合成かどうかをその場で判定させるのではなく、判定に頼らず動ける手順を決めます。高リスクな依頼は、入ってきた会議の外で、チームが以前から信頼している連絡先と記録を使って確認します。

参加者、依頼内容、承認を分けて確認する

実行前に三つを記録します。参加者が誰だと名乗ったか、何を変更または開示してほしいのか、その操作には本来誰の承認が必要かです。参加者が本物らしく見えても、残り二点の確認にはなりません。

対象を具体的に書きます。どの口座、振込先、従業員記録、資格情報、文書、権限が変わるのか、期限はいつか、通常の確認者を省く指示があったかを残します。これで曖昧な緊急感を、別の担当者が照合できる依頼に変えられます。

会議で示された連絡先は使いません。社内名簿、既存の会話、既知の電話番号など、会議前から信頼していた記録を自分で開きます。名乗られた本人に新たに連絡し、依頼された操作を自分の言葉で確認します。連絡できない場合は保留し、組織が定めた既存の報告経路に従います。

承認も別に確認します。身元が確認できても、すべての支払い、情報開示、アカウント再設定、権限変更が承認されるわけではありません。通常の承認者と書面記録を外さず、誰がどの独立経路で身元と操作を確認し、何を実行したか残します。

元の会議の外で確認を終える

財務、サポート、人事、運用の各チームは、「通常の確認経路で調べ、その経路から回答します」という短い返答を共通で使えます。社員は AI の使用を断定したり、画面の特徴について議論したりする必要はありません。別経路の確認が終わるまで依頼を保留します。

信頼できる連絡先を開く前に、会議を終了または中断します。チャットに投稿された新しいリンクや番号を使わず、参加者が示した代替連絡先も受け入れません。いずれも同じ未確認のやり取りから得た情報だからです。

唯一のコピーを編集せず、利用できる資料を保存します。会議招待、表示名、チャット、共有ファイル、要求された送付先、時刻、判断記録などが対象です。金融詐欺の可能性がある場合、FBI は被害者に Internet Crime Complaint Center への通報と、提供可能な詳細の提出を案内しています。組織内のセキュリティ、プライバシー、法務、事故報告の手順にも従います。

保存済みファイルがある場合だけ検出結果を参照する

ライブ会議では分析できる録画が残らないことがあります。保存した動画、音声、画像、テキストがある場合、DeepFakeCheck でファイルを分析し、確率的なリスク信号を得られます。この結果はライブ参加者の本人確認、依頼の承認、会議の正当性の証明には使えません。

自動検出には偽陽性と偽陰性があります。偽陽性は本物の資料を疑わしいと判定し、偽陰性は合成または加工された資料を見逃します。高いスコアは追加確認の理由になりますが、低いスコアで参加者や依頼を承認することはできません。結果にかかわらず、独立した連絡と通常の承認を続けます。

検出結果は元ファイルと確認メモに添えて保存します。ツールが示したリスク信号と、チームが自分たちの記録で確認した事実を分けて扱えます。

高リスクな依頼を一つ選んで事前に練習する

誤って承認すると大きな損害につながる操作を一つ選びます。取引先の振込先変更や管理者権限の再設定などです。社員が信頼済みの連絡先を探し、依頼を止め、会議外で名乗られた本人に連絡し、通常の承認者を見つけ、結果を記録できるか確認します。

どこかの手順が会議中に新しく渡された情報に依存するなら、次の依頼が来る前にその穴を直します。返答は圧力のある場面でも使える短さにし、別の社員でも同じ経路をたどれる具体性を持たせます。参加者、操作内容、必要な承認を元の会議外でそれぞれ確認した後にだけ、依頼を進めます。

出典

• FBI Internet Crime Complaint Center, “Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud”: https://www.ic3.gov/PSA/2024/PSA241203