＃ちょっと待て。本当に本人か？
先日、中国人の知人から、AIを使った詐欺の話を聞きました。
娘から「大学に受かったので、すぐ振り込まなければならないの。ママ、お願い」とのテレビ電話がありました。画面に写っていたのは娘ですし、当然のことながら声も話し方も娘のものです。
疑うことなく、振り込みました。
ところがこれがAIを使ったディープフェイク詐欺だったのです。
最初は「そんなことまで、できるのか」と半信半疑でしたが、聞いてみますと、すでに中国や香港を含むアジアで実際の被害が出ているみたいです。
この犯行は緻密です。
まず年頃の子女を持った母親を探します。
そしてその電話番号を入手します。
「母親とは微信（WeChat）、日本でいうLINEのようなアプリで連絡できるので、接触すること自体は比較的簡単です。
問題は娘の声です。
中国人の知人によれば、これは中国では新聞などでも紹介され、かなり知られた手口だそうです。
犯人は娘を尾行し、駅などで道を尋ねて会話を録音する。
その間に別の仲間が娘の顔を撮影する。
そして集めた顔と声の素材を豆包（Doubao）という中国の生成AIアシスタントに読み込ませ、本人そっくりの映像と音声を作るというのです。
顔を作る。
声を作る。
後は電話するだけです。
これでは、受け手が信じてしまうのも無理はありません。
さらに衝撃的なのが、2024年に香港で起きた事件です。
ある多国籍企業の社員が、CFO、つまり最高財務責任者を名乗る人物からオンライン会議に呼び出されました。
会議に参加すると、画面にはCFOだけでなく、知っている同僚たちも映っていました。
社員は当然、本物の社内会議だと思います。
ところが、画面に映っていたCFOも同僚も、実際にはAIで作られたディープフェイクでした。
社員は会議での指示を信用し、複数回にわたって送金しました。
その総額は2億香港ドル、約2,560万米ドルにも達したとされています。
つまり、会議そのものが偽物だったのです。
これまで詐欺対策といえば、
「声を聞けば本人か分かる」
「顔を見れば安心だ」
「テレビ電話なら大丈夫だ」
と考えてきました。
しかし、AI時代には、この常識が通用しなくなりつつあります。
英語に、
Seeing is believing.
という有名な表現があります。
日本語なら「百聞は一見にしかず」です。
しかし今後は、
Seeing is no longer believing.
「見たからといって、もう本物とは限らない」
という時代になるのかもしれません。
では、どうすればよいのでしょうか。
意外にも、有効な対策はとてもアナログです。
中国では送金するときは、このような詐欺に遭っていないかどうか、かなり厳しく調べられます。
お金を要求されたら、たとえビデオ通話で本人の顔と声を確認したつもりでも、その場では送金しない。
いったん通話を切り、自分が以前から知っている電話番号にこちらからかけ直す。
家族であれば、家族しか知らないことを質問する。
会社であれば、一人の判断で送金せず、必ず複数の人間で確認する。
ところが、犯人グループもさらに手口を変えています。
最近では、第三者の口座への送金では銀行側に怪しまれたり、手続きに時間がかかったりするため、まず「子供本人の口座だから安心して」と偽の口座を示し、そこへ入金させるケースもあるそうです。
詐欺対策を強化すれば、犯人はまた別の方法を考える。
AI scams have become a game of whack-a-mole.
「AI詐欺への対応は、まるでモグラ叩きのようないたちごっこになっています。」
AIは非常に便利で可能性に満ちた技術です。
しかし同時に、私たちは今後、
「顔が見えるから安心」
という常識そのものを捨てなければならないのかもしれません。
便利さが増えるほど、確認する力も必要になる。
AI時代の詐欺対策で最も大切なのは、結局のところ、昔ながらの一言なのだと思います。
「ちょっと待て。本当に本人か？」これにつきます。
今日はガイドの下見で白金に出没です。
今日のお店は「サイゼリヤ」白金高輪台店さんです。
住所： 東京都港区白金1-17-2 白金タワー テラス棟202
電話：03-5795-3160
休日：年中無休
お店の外観です。
今日のオーダー「カルボナーラ＆ドリックバー」＠700円です。
ドリンクバーはセルフサービスです。
個人的にはサイゼリヤの珈琲は口に合いません。
待つ事8分で「カルボナーラ」が到着しました。
「美味からず不味からず」です。
白金高輪台は食べる所が少ないので落ち着いて食べられるだけ幸せです。
ごちそうさまでした。
先日、中国人の知人から、AIを使った詐欺の話を聞きました。
娘から「大学に受かったので、すぐ振り込まなければならないの。ママ、お願い」とのテレビ電話がありました。画面に写っていたのは娘ですし、当然のことながら声も話し方も娘のものです。
疑うことなく、振り込みました。
ところがこれがAIを使ったディープフェイク詐欺だったのです。
最初は「そんなことまで、できるのか」と半信半疑でしたが、聞いてみますと、すでに中国や香港を含むアジアで実際の被害が出ているみたいです。
この犯行は緻密です。
まず年頃の子女を持った母親を探します。
そしてその電話番号を入手します。
「母親とは微信（WeChat）、日本でいうLINEのようなアプリで連絡できるので、接触すること自体は比較的簡単です。
問題は娘の声です。
中国人の知人によれば、これは中国では新聞などでも紹介され、かなり知られた手口だそうです。
犯人は娘を尾行し、駅などで道を尋ねて会話を録音する。
その間に別の仲間が娘の顔を撮影する。
そして集めた顔と声の素材を豆包（Doubao）という中国の生成AIアシスタントに読み込ませ、本人そっくりの映像と音声を作るというのです。
顔を作る。
声を作る。
後は電話するだけです。
これでは、受け手が信じてしまうのも無理はありません。
さらに衝撃的なのが、2024年に香港で起きた事件です。
ある多国籍企業の社員が、CFO、つまり最高財務責任者を名乗る人物からオンライン会議に呼び出されました。
会議に参加すると、画面にはCFOだけでなく、知っている同僚たちも映っていました。
社員は当然、本物の社内会議だと思います。
ところが、画面に映っていたCFOも同僚も、実際にはAIで作られたディープフェイクでした。
社員は会議での指示を信用し、複数回にわたって送金しました。
その総額は2億香港ドル、約2,560万米ドルにも達したとされています。
つまり、会議そのものが偽物だったのです。
これまで詐欺対策といえば、
「声を聞けば本人か分かる」
「顔を見れば安心だ」
「テレビ電話なら大丈夫だ」
と考えてきました。
しかし、AI時代には、この常識が通用しなくなりつつあります。
英語に、
Seeing is believing.
という有名な表現があります。
日本語なら「百聞は一見にしかず」です。
しかし今後は、
Seeing is no longer believing.
「見たからといって、もう本物とは限らない」
という時代になるのかもしれません。
では、どうすればよいのでしょうか。
意外にも、有効な対策はとてもアナログです。
中国では送金するときは、このような詐欺に遭っていないかどうか、かなり厳しく調べられます。
お金を要求されたら、たとえビデオ通話で本人の顔と声を確認したつもりでも、その場では送金しない。
いったん通話を切り、自分が以前から知っている電話番号にこちらからかけ直す。
家族であれば、家族しか知らないことを質問する。
会社であれば、一人の判断で送金せず、必ず複数の人間で確認する。
ところが、犯人グループもさらに手口を変えています。
最近では、第三者の口座への送金では銀行側に怪しまれたり、手続きに時間がかかったりするため、まず「子供本人の口座だから安心して」と偽の口座を示し、そこへ入金させるケースもあるそうです。
詐欺対策を強化すれば、犯人はまた別の方法を考える。
AI scams have become a game of whack-a-mole.
「AI詐欺への対応は、まるでモグラ叩きのようないたちごっこになっています。」
AIは非常に便利で可能性に満ちた技術です。
しかし同時に、私たちは今後、
「顔が見えるから安心」
という常識そのものを捨てなければならないのかもしれません。
便利さが増えるほど、確認する力も必要になる。
AI時代の詐欺対策で最も大切なのは、結局のところ、昔ながらの一言なのだと思います。
「ちょっと待て。本当に本人か？」これにつきます。
今日はガイドの下見で白金に出没です。
今日のお店は「サイゼリヤ」白金高輪台店さんです。
住所： 東京都港区白金1-17-2 白金タワー テラス棟202
電話：03-5795-3160
休日：年中無休
お店の外観です。
今日のオーダー「カルボナーラ＆ドリックバー」＠700円です。
ドリンクバーはセルフサービスです。
個人的にはサイゼリヤの珈琲は口に合いません。
待つ事8分で「カルボナーラ」が到着しました。
「美味からず不味からず」です。
白金高輪台は食べる所が少ないので落ち着いて食べられるだけ幸せです。
ごちそうさまでした。
