AIが勝手にホテルに電話？ 話題の「自律型AI」の暴走がネットで注目

最近「自律型」と呼ばれるAI（自律型AIエージェント）が登場してきているのをご存知でしょうか。

ChatGPTやGeminiなど従来型のAIは指示や質問に対して回答してくれるものですが、自立型AIは指示された内容に対して、その目的を達成するためにAIが自分で作業を組み立てて進めてくれます。

例えば、従来のAIに「箱根の旅館を調べて」と指示すると、おすすめの旅館をリストアップしてくれるでしょう。

一方、自律型AIに「箱根旅行を計画して」と指示すると、

Googleカレンダーを確認して旅行日程を整理
↓
宿泊施設を検索・比較
↓
交通手段を調査
↓
観光ルートを作成
↓
予約画面まで進める

というように、アプリを閉じていてもどんどん進めてくれるのです。

日本ではMeta社の「Muse（ミューズ）」という自律型AIが10月23日からサービス開始となっているので、皆さんもこれから触れる機会や耳にする機会が増えてくるのではないかと思います。

Muse：https://muse.ai/

自律型AIの怖い事例がネットで話題に……

AIに任せられることが増えれば間違いなく便利になりますが、その分リスクも生じるということなのかもしれません。

旅行系YouTuberのおのださん（@onodamasashi）が「Pickle（ピクル）」という自律型AIを使って年末年始のホテルについて質問したところ、なんとAIが勝手にホテルに電話をするということがあったそうで、その詳細を伝える投稿がSNSで注目を集めました。

投稿に添えられているスクリーンショットを見ると、AIがどんな行動をしたのか詳細に記録されています。

電話をかけないでと指示をすればちゃんと守ってくれるのでしょうが、親切心で電話までかけてしまうというのは恐ろしい……！

おのださんは実際にどのような通話になるのかも動画で投稿しています。

機械的な音声ではありますが、必要な情報をしっかりと聞き出していることがわかります。これはすごい……！

今後は電話する前の確認が必須になるらしい

この一件を受けて「Pickle」のCEOのDaniel Park氏は、お店への電話は「かける前に確認」と「最初にAIと名乗る」を必須にするということを表明。ひとまず「Pickle」では同じようなトラブルは起きなくなりそうです。

とはいえ、このまま自律型AIが普及、進歩していくと、そのうちAI同士がやり取りをして勝手に旅行の予約をしているなんていうことも起こりそうですね。

また、AIが何か暴走して誰かに迷惑をかけるようなことがあった場合、その責任は誰が負うことになるのかも問題になっていきそうな気がします。

もし今後自律型Aエージェントを実際に使ってみようとお考えの場合、こういったリスクもあることを頭に入れておいたほうがいいでしょう。