AIが作る危険な動画ディープフェイクに気をつけて！

急速にディープフェイクと呼ばれる動画が身近に感じられるようになってきた気がします。

ディープフェイクというのは、ディープラーニング（深層学習）とフェイク（偽物）を組み合わせた造語。一般的にはAIが動画や画像、音声を結合させ、元とは異なるデータを生成する技術全般のことなのですが、最近では特に著名人に虚偽の発言をさせる“フェイクニュース”のことを指すことが多いです。

最近驚いたのは、生成AIが実在のアナウンサーの声や動きを再現した架空のニュース番組風のディープフェイク動画。こちらが一時的にYouTubeの広告にも流れてしまっていたようなのです。

生成AIを使って実在のアナウンサーの声や動きを再現したとみられる、民放のニュース番組に似せた偽の広告の動画がSNSで広がっています

偽動画は投資情報サイトへの登録を促す内容で、番組に似せた偽動画を作られた日本テレビが注意を呼びかけていますhttps://t.co/mQ7lXMg3DR#nhk_video pic.twitter.com/uYgTPzV2cO

— NHKニュース (@nhk_news) November 1, 2023

このディープフェイクを駆使した問題を取り上げるニュースが多くなってきているのは、AIが急速に進歩しているからなのでしょう。

こちらの問題になった動画はYouTube上からは削除されたようですが、X（旧Twitter）に共有して注意喚起をしているアカウントもいくつかあり、実際に閲覧することもできます。

最近のYouTube広告怖すぎる pic.twitter.com/sDOtC7LmhN

— なまけるねこ (@Lazy_Cat_nyan) October 26, 2023

※動画の内容自体は詐欺まがいの内容となっているため、あくまでも現在のディープフェイク技術の凄さを知る目的で注意して閲覧してください。

動画内では岸田首相や孫正義氏のフェイク動画も登場し、より本物っぽさをかもし出しています。

フェイク動画だと意識して見れば違和感を覚える部分も多いですが、こういった技術があることを知らない人が見たら本物のニュース番組の映像だと思ってしまうのではないでしょうか。

これから先、ディープフェイクの技術も進歩していくことは間違いありません。目にする動画のすべてを疑わなければいけないような時代が来てしまうかもしれませんね。