AIロボットの暴言
ついこの前，Microsoftの学習型人工知能会話ボット「Tay」を
緊急停止させた話題がありました。
Tay は会話を通じた理解の研究を目的として開発された人工知能チャットボットで米国で，チャットアプリを多用する年齢層である18歳から24歳をターゲットとした若い女性で，俗語や省略綴り，絵文字も多用する設定ということです。
なんでもない会話や質問に冗談を交えて答えたり
ちょっとしたゲームをしたり
送られた写真にコメントを書き加えて返すことを基本機能としていたようですが
特定の人物について問われれば放送禁止レベルの差別語で罵倒したり
ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言があったそうです。
こちらは Hanson Robotics社が開発した女性型ロボット「Sophia（ソフィア）」。
「人間を滅亡させたいかい？」という質問に対し
彼女は間を置かず「OK, I will destroy humans.（そうね、人類を滅亡させるわ）」と返答したのだそうです。
60種類を超える多様な表情がプログラミングされている彼女は、ほほえみを浮かべたり顔をしかめたりなど、微妙な表情の変化を表すことができます。さらに会話をしながら相手のことを学んでいくので、アイコンタクトを取りながら、より人間に近い「自然な受け答え」が可能となっているのです。
そんなSophiaの口から問題発言が飛び出したのは、アメリカのニュース専門放送局「CNBC」内のインタビューでのこと。男性の「人間を滅亡させたいかい？」という質問に対し、彼女は間を置かず「OK, I will destroy humans.（そうね、人類を滅亡させるわ）」と返答したのです。<span class="su-quote-cite"><a href="http://nlab.itmedia.co.jp/nl/articles/1603/30/news059.html" target="_blank">人類終了のお知らせ AIロボットがついに「人類を滅亡させる」と発言</a></span>
そんなSophiaの口から問題発言が飛び出したのは、アメリカのニュース専門放送局「CNBC」内のインタビューでのこと。男性の「人間を滅亡させたいかい？」という質問に対し、彼女は間を置かず「OK, I will destroy humans.（そうね、人類を滅亡させるわ）」と返答したのです。<span class="su-quote-cite"><a href="http://nlab.itmedia.co.jp/nl/articles/1603/30/news059.html" target="_blank">人類終了のお知らせ AIロボットがついに「人類を滅亡させる」と発言</a></span>
専門以外はあまりセンシティブにならず，鈍感力も必要なのかも!?
どうですか，Siriさん，Cortanaさん，りんなさん？
情報源:
人類終了のお知らせ AIロボットがついに「人類を滅亡させる」と発言 – ねとらぼ