現在AIの技術は目覚ましい進化を続けていて、ウェプレスでもそれを紹介する機会がかなり多くなりました。しかし、その進化は必ずしも便利なものとは限らないようです。
先日、音声AIの技術を使って不正送金を試みたという事件がニュースになっていました。
AI悪用か、社長の偽音声で指示 部下に電話、不正送金命じる（神戸新聞）
https://www.kobe-np.co.jp/news/zenkoku/core/202503/0018769195.shtml
記事によると、犯人はAIによって生成した社長の声をボイスチェンジャーのように使用し、部下に緊急の送金を命じる電話をかけたというもの。発信者の表示も社長の携帯番号になっていたそうで、日常的に社長と話していた部下でさえも最初の電話の時点では偽の音声だと気づかなかったのだといいます。
その後、再度の電話で送金を急いでいることを不振に思った部下は弁護士に連絡し、ここで詐欺だと判明。さらに3度目の電話で社長が偽物だと確認するために「今度の同期会に出席されますか」と部下が質問をすると、電話主は困惑して電話を切ったのだそうです。
こうして無事に詐欺の被害を受けずに済みましたが、まさに紙一重だったといえるでしょう。
ネットに公開されている音声からAIを学習させた
いったいどのようにしてそんな音声を生成したのかというと、ネット上に公開されている社長の動画をAIに学習させることで生成させたと考えられているようです。
このわかりやすい例が、元2ちゃんねる管理人のひろゆきさんの音声を使って好きな言葉を喋らせることができる「おしゃべりひろゆきメーカー」というサービス。
こちらは入力したテキストをひろゆきさんの音声で読み上げてくれるという内容なのですが、YouTube上に公開されているひろゆきさんの音声をAIに学習させることで完成させたのだそう。
もしYouTubeやSNSに社長の講演やインタビューなどの動画が公開されていたら、今の技術なら簡単にAIで音声を生成できてしまうということなのです。
今後このようにAIを悪用した犯罪は間違いなく増えると予想されています。誰もが今回紹介したような犯罪に巻き込まれる可能性があると頭に入れておいたほうがいいでしょう。
