音声でリモート操作できるAIサービスとして注目を集める、Amazonのアレクサ。
でも、このAIが勝手に自分の会話を他人に送信していたら...。
実際にそんな恐怖体験をしたのは、アメリカ・オレゴン州に住むある夫婦だ。
妻のダニエルさんが地元のニュース番組KIRO-TVに語ったところによると、夫婦はアレクサをエアコンや電気、セキュリティシステムの管理に使っていたが、ある日夫の部下から電話がかかってきた。
その部下は「アレクサの電源を抜いたほうがいい。ハッキングされている」と夫婦に伝えた。
さらに部下は、夫婦の会話を録音した音声ファイルを受け取ったと告げた。「最初夫は『まさか、そんなことあるわけないだろう』と言いました。すると相手は『フローリングの話をしているでしょう』と言ったんです。私たちは『本当に聞かれていたんだ』と青くなりました」とダニエルさんは語った。
夫婦はAmazonに連絡をして、何が起きているのか調べてもらった。その後、調査をしたアレクサの担当者から連絡がきた。担当者は音声ファイルが送信されていたことを認め、謝罪したという。
「担当者は『エンジニアが、お宅のアレクサのログを調べたところ、おっしゃった通りだったことがわかりました。本当に申し訳ありませんでした』と謝罪しました。彼は30分間に15回謝って、『この問題を報告していただき、ありがとうございました。これは修正しなければいけない問題です』と言いました」とダニエルさんは語る。
なぜこんなこと起きたのか。
AmazonはCNETの取材に、アレクサが「"ウェイクワード（起動ワード）"や音声コマンドを立て続けに聞き間違えたのが原因だった」と説明した。
同社によると、アレクサによる誤送信はこうやって起きた。
- 夫婦の会話の中に"アレクサ"に似た言葉を認識し、起動した。
- さらに、続く会話の中に含まれていた言葉を"メッセージを送る"と認識。アレクサは"誰に？"と尋ねた。
- その後の夫婦の会話から、連絡先リストにある人の名前を認識し、「（連絡先リストの名前）でよろしいですか？」と尋ねた。そして、その後の会話から、"はい"という言葉を認識した。
Amazonは、今回のようなケースは非常に稀であり、今後このようなことがないよう対策を講じると説明する。
しかしダニエルさんは、「自宅での夫婦の会話はプライベートなもの。アドレス帳に乗っている人に送るためのものではない」と述べ、今後二度とエコーを使いたくないとKIROTVに語った。