WORLD
2018年05月25日 14時19分 JST | 更新 2018年05月25日 14時29分 JST

Amazonのアレクサにまつわるゾッとする話。夫婦の会話、他人に勝手に送っちゃった。

自分の会話を、AIに送信されていたら…。

Elijah Nouvelage / Reuters

音声でリモート操作できるAIサービスとして注目を集める、Amazonのアレクサ。

でも、このAIが勝手に自分の会話を他人に送信していたら...。

実際にそんな恐怖体験をしたのは、アメリカ・オレゴン州に住むある夫婦だ。

妻のダニエルさんが地元のニュース番組KIRO-TVに語ったところによると、夫婦はアレクサをエアコンや電気、セキュリティシステムの管理に使っていたが、ある日夫の部下から電話がかかってきた。

その部下は「アレクサの電源を抜いたほうがいい。ハッキングされている」と夫婦に伝えた。

さらに部下は、夫婦の会話を録音した音声ファイルを受け取ったと告げた。「最初夫は『まさか、そんなことあるわけないだろう』と言いました。すると相手は『フローリングの話をしているでしょう』と言ったんです。私たちは『本当に聞かれていたんだ』と青くなりました」とダニエルさんは語った。

夫婦はAmazonに連絡をして、何が起きているのか調べてもらった。その後、調査をしたアレクサの担当者から連絡がきた。担当者は音声ファイルが送信されていたことを認め、謝罪したという。

「担当者は『エンジニアが、お宅のアレクサのログを調べたところ、おっしゃった通りだったことがわかりました。本当に申し訳ありませんでした』と謝罪しました。彼は30分間に15回謝って、『この問題を報告していただき、ありがとうございました。これは修正しなければいけない問題です』と言いました」とダニエルさんは語る。

なぜこんなこと起きたのか。

AmazonはCNETの取材に、アレクサが「"ウェイクワード(起動ワード)"や音声コマンドを立て続けに聞き間違えたのが原因だった」と説明した。

同社によると、アレクサによる誤送信はこうやって起きた。

  1. 夫婦の会話の中に"アレクサ"に似た言葉を認識し、起動した。
  2. さらに、続く会話の中に含まれていた言葉を"メッセージを送る"と認識。アレクサは"誰に?"と尋ねた。
  3. その後の夫婦の会話から、連絡先リストにある人の名前を認識し、「(連絡先リストの名前)でよろしいですか?」と尋ねた。そして、その後の会話から、"はい"という言葉を認識した。

Amazonは、今回のようなケースは非常に稀であり、今後このようなことがないよう対策を講じると説明する。

しかしダニエルさんは、「自宅での夫婦の会話はプライベートなもの。アドレス帳に乗っている人に送るためのものではない」と述べ、今後二度とエコーを使いたくないとKIROTVに語った。