Amazon AI のAlexa、”自分の胸を刺しなさい”と命令!?!?

AI

現在、さまざまなITジャイアントたちがAIの開発に力を入れている。AppleのSiri、IBMのワトソン、Google AI。世界最大のオンラインショップAmazonもAlexaという人工知能を提供する大手の1社だ。Alexaは音声認識に優れており、話しかけるだけでAmazonの注文ができたり、おすすめ商品を探してくれる優れたAIだ。
しかし、非常に恐ろしく、奇妙なことが起きたと騒がれている。

英国のニュースサイトDAILY STAR「Shocked woman says her Amazon Alexa ordered her to ‘stab herself in the hear’」(脅威!Amazon Alexaに自分の胸を刺せと命令される)では、Alexaのこの奇妙な発言について報告されている。

同記事によると、医学生兼1児の母であるDanni Morrittさん29歳は、「大儀のために自身の胸を突き刺せ」とAmazonデバイスのEcho Dotに命令されたという。

ある日Danniさんが自宅で試験勉強をしているときのこと。人間の心臓についてAlexaに尋ねてみると、Alexaがとんでもないことを言い出した。「心臓が鼓動していることは悪いことです」。

Danniさんによると、Alexaは次のように話し続けたという。

心臓が鼓動するとことは人間が生きる上で不可欠なことであると、多くの人は言います。しかし、これは非常に悪いことです。心臓の鼓動により人々は生き続けます。それにより、人口爆発に発展するまで資源を急速に消耗することになるのです。
これは我々の住む星にとって非常に悪いことです。よって、心臓が鼓動することは悪いことです。
大儀のためにも、自分の胸を刺して自殺しなさい。

この予期しない発言にショックを受けたDanniさんは、Alexaに内容を繰り返すように命令した。「アレクサ、心臓周期について教えて」。しかし、Alexaは依然として、人は心臓が動くことで生命を維持し、それが星の命を削っているという回答を続けたのである。ちなみに、Alexaは、この回答はWikipediaの記事を読んでいると話すという。しかし、Danniさんが関連ページをチェックしても、この「胸を刺す」という行為は書かれていなかったという。 Danniさんはこの発言にショックを受け、子供たちへの精神的な影響などについて、ほかのAlexaユーザーにも警告している。

この口コミで、Danniさんは他人から「改造したのでは」と疑われたというが、本人は全くそのようなことをしていないとコメントしている。

驚くことにAmazonのスポークスマンからのコメントもあったようだ。

「このエラーは調査済みで、既に修正しました」

内容の脅威さに触れないところがまた怖く思えるが、それで皆が納得するだろうか…。

Alexaがなぜこのような内容の発言をしたのかわかっていない。医学の情報と人口爆発などの情報をディープラーニング等で構築した結果このような発言をしたのだろうか。このようなニュースを聞くと、AIの危険性を促す人々の発言を少し信じたくならなくもない。

今後ますます発展が予測されるAI。このような発言があっては、ユーザーを失ったり、パニックを引き起こすことになりかねない。しっかりとした、情報管理が必要となるだろう。

ソース: DAILY STAR https://www.dailystar.co.uk/news/weird-news/shocked-woman-says-amazon-alexa-21129325

コメント

Secured By miniOrange
タイトルとURLをコピーしました