「会話する AI」の開発がすすんでいます。「女子高生らしい会話」を学習した AI をつかえば「女子高生」と会話ができます。危険な時代にはいってきました。
グラフィックサイエンスマガジン『Newton』2018年9月号の連載「人工知能革命」第2回は「会話する AI」です。




スマートフォンなどに搭載されている音声アシスタントは、使用者が話した内容から、「1. どの機能を使うか」、「2. その機能で何をしたいか」、「3. その具体的な内容は何か」を読み解きます。

アップルの「Siri」やグーグルの「Google アシスタント」などの音声アシスタントは、基本的に雑談をすることが目的ではなく、特定の仕事(タスク)を実施することが目的のため、「タスク志向型」とよばれます。

効率を重視するスマートフォンの音声アシスタントとはちがい、まるで友人と話すように雑談ができる AI も存在します。そのような AI の一つがマイクロソフトの「りんな」です。りんなは、いわゆる「チャットボット」とよばれる、自動で会話を行うプログラムの一種であり、女子高生というユニークな設定で人気を集めています。

IMG_6036


スマートフォンやタブレットは、人工知能(AI: Artificial Intelligence)を利用した「音声アシスタント」機能を搭載しており、音声による指示で検索や音楽の再生などをおこなうことができます。

またアマゾンの「Echo」、グーグルの「Google Home」、アップルの「HomePod」などの「スマートスピーカー」も続々と発売されており、これらは「AI スピーカー」ともいわれ、音声のみによって操作をすることができます。

AI による音声認識では、「ディープラーニング(深層学習)」という手法がつかわれ、AI が、マイクでひろわれた音声の周波数を分析し、音を特定し、辞書とてらしあわせて日本語としてただしそうな結果をえらびだします。それぞれの音を区別するための基準は AI が独自に獲得し、判断基準を人間が設定するのではありません。




このような音声アシスタント(音声認識)はあくまでも機器を操作するためのものでした。いままでボタンをおしたりしていた操作が音声でもできるようになって簡単・便利になったということでした。

しかしマイクロソフトの「りんな」はこれとはちがい、「女子高生」と会話をするというツールです。これは、「女子高生らしい会話」のデータをたくさん AI に学習させることでなりたちます。

ということは、学習させるデータをかえれば、別のキャラクターの AI もつくれるということです。たとえば会話ができる AI に「Tay」というものもあり、人種差別的な言葉を学習させたところ、人種差別的な発言をツイッター上で「Tay」がくりかえしたという事件が発生しました。

このように、従来の「音声アシスタント」とあたらしい「会話 AI」とは目的がことなり、「会話 AI」の場合は、どのようなデータを学習させるか、学習データをどう管理するかが問題になります。誹謗中傷や犯罪に利用されることもありえ、場合によっては大きな危険をうみだします。

AI 技術者は、「AI が、常識を身につけて、人と同じように会話できるようにする」といいますが、そもそも人によって常識はちがうのであり、立場によって判断もことなります。人間界には、善人・悪人・権力者・労働者・大金持ち・難民など、実にさまざまな人々がいます。身分社会制度(階級社会)がのこっている地域もたくさんあります。人間界に矛盾がある状態で AI が開発されれば、どのような悪用がおこなわれるか? どのように AI が暴走するか?

このような問題があることをわたしたち一般の者も認識し、AI 技術者に AI をまかせっきりにするのではなく、AI の開発を監視していかなければならないといえるでしょう。


▼ 関連記事
「AI が加速させる自動運転技術」(Newton 2018.8号)

アウトプットしてメッセージをつたえる -「進化する人工知能 ついに芸術まで!?」(NHK クローズアップ現代+)-
人間が主体になった情報処理をすすめる -「ゼロからわかる人工知能」(1)(Newton 2018.1号)-
情報処理のエラーをおこさない -「ゼロからわかる人工知能」(2)(Newton 2018.1号)-
創造的な仕事をめざす -「人工知能は人より賢くなれるか」(Newton 2018.6号)-

▼ 参考文献
『Newton』2018年9月号、ニュートンプレス、2018年9月7日