2018年03月07日

『AIが人間を殺す日』小林雅一 集英社新書

この著者は視点がいいと思う。技術の発展を手放しで称賛するわけでも、無暗に恐れるわけでもなく、機械と人間の関係や社会への影響について真摯に向き合っている。

テスラ社は、2015年にオートパイロット機能を搭載した半自動運転車モデルSをリリースしたが、2016年に死傷事故を起こした。モデルSには高性能で高価なセンサーのLIDARが搭載されていなかった。グーグルは、2016年に分社化したウェイモに自動運転事業を移管し、人間を制御の環から外した完全自動運転の開発を進めている。各社では、ごくまれに発生する非常事態にも対応できるようにするため、指令センターの人間が制御権を引き継いで遠隔操作する方式も検討されている(Human in the Loop)。

IBMが開発したワトソンは、2011年にテレビのクイズ番組で歴代チャンピョンをを下した後、本格的なビジネス用のコンピューターに改造することを決定し、これまでに25業種で導入されている。中でも、ワトソン事業部の人員の3分の2が医療ビジネスに振り向けられており、新薬の開発やがんの診断支援、ゲノム解析アドバイザーなどに応用しようとしている。東大医科学研究所でも、2015年に導入している。ワトソンは、ルール・ベースの自然言語処理に機械学習やニューラルネットワーク、ビッグデータの探索技術を組み合わせた折衷型。

グーグル傘下のディープマインド社は、2016年にアルファ碁でイ・セドル棋士を負かしたが、ディープラーニングを医療に応用する取り組みを進めている。グーグル翻訳は2016年、対訳文書を比較するディープラーニングに基づいたモデルにリニューアルした。画像・音声認識の分野では、最高水準のディープラーニングのエラー率は3%前後に達しており、5%前後である人間のエラー率を追い越している。

オバマ政権が2012年に策定した国防総省指令では、兵士が標的を定めて攻撃する半自律的兵器と、兵器自体が標的を定めて攻撃する完全な自立兵器を区分し、米軍は前者を保持・使用すると定めている。戦場で戦う兵士や指揮官が欲しがっているロボットは、自ら戦況を判断して見方を助け、敵を攻撃する自律的兵器だが、自律性を高めようとすれば、人間の予想を超える行動に出る危険性も高まる。

従来の自動車や高速鉄道、ジェット機など、これまでの技術でも、私たちが中身の仕組みや技術を理解しないまま機械に命を預けるケースは多いが、これらを開発した科学者や技術者はその原理や仕組みを正確に把握しており、人間の制御下にあった。しかし、人工知能では、当の技術者さえ内部メカニズムや思考回路を把握しきれなくなっており、人間が制御できなくなっている(Human out of the Loop)。ディープラーニングで入出力層の間に追加する隠れ層は急増しており、100層を超えるものも珍しくない。入力するパラメータの数も億単位になっている。ディープラーニングの結論に至った理由を説明できるようにすることが課題になっている。

しかし、ディープラーニングの結論に至る理由を人間が理解できる形で説明することなどできるのだろうか?ディープラーニングの方法と似ている主成分分析でも、第1成分や第2成分といった説明が行われる。第1成分は入力したパラメータのうちのどれとどれが、それぞれどのような割合で構成されているなどと説明される。隠れ層の数が多くなるほど、そのような説明が長々と続くことになるだろうし、層の段階が進むほど人間には理解できなくなるのではないか。

著者は、ディープラーニングの技術が人間社会に受け入れられる過程について、古来の薬草が効くことがわかっていても理由は不明だったことに例えて、高い確度で妥当性が示されれば受け入れざるを得なくなるだろうと予想している。自らの思考や判断よりも人工知能の結論の方が好ましいことを経験的に学べば、人々は人工知能に従うようになっていくだろう。そうして思考力や判断力を養うことを怠れば、ますます人工知能への依存が強くなる恐れも抱く。

本書の最後で著者が書いていることは、私が人工知能に対して抱く懸念と同じだ。

「いつの日か私たちが本来の心を失い、人工知能にすべての判断をゆだねるとき、人は人であることを止め、人の姿をしたロボットになる。人工知能がもたらす真の脅威とは、それが人間を殺すことではなく、人間性を殺すことなのかもしれない。」

AIが人間を殺す日 車、医療、兵器に組み込まれる人工知能AIが人間を殺す日 車、医療、兵器に組み込まれる人工知能
小林 雅一 / 集英社 (2017-07-14)
タグ:人工知能
2017年03月01日

講演会「人工知能が大学入試を突破する時代、人は何をすべきか?」

地元で講演会「人工知能が大学入試を突破する時代、人は何をすべきか?」があったので聞きに行きました。今回は、その報告です。

人工知能が大学入試を突破する時代、人は何をすべきか?


講演者は、人工知能(AI)が東大合格を目指す「東ロボプロジェクト」を率いてきた新井紀子さん。2010年の段階で、様々なAIの研究プロジェクトの審査をした経験から、2025〜30年にはホワイトカラーの半分が機械に取って代わると予測したという。それを本「コンピュータが仕事を奪う」に書いて出したら、本屋ではSFの書棚に置かれていたことに危機感を抱き、翌年、これを社会に認知させることを目的にして東ロボプロジェクトを始めた。

アメリカでは、2011年にIBMのワトソンが2人のクイズ王に勝ったことが話題になったが、クイズは「モーツアルトの最後の交響曲についている惑星」のような固有名詞の穴埋めであり、AIの処理は比較的やさしい。それでも正答率は70%だが、クイズの場合は正答する確率が低いと判断した時はボタンを押さなければいい。90%以上の正答率が求められる東大合格は、クイズよりはるかに難しい。

AIは、過去の問題、教科書、Wikipedia、百科事典などの情報をすべて保存できるが、問題の文章を理解することはできない。実際にやっていることは、問題文に含まれるキーワードを検索して、統計的に妥当そうな答えを探すだけ。アップルのSiriでも、「近くのおいしいイタリアンレストラン」と「近くのまずいイタリアンレストラン」、「近くのイタリアン以外のレストラン」は、どれも全く同じ結果が返ってくる。東ロボくんも国語の問題は解けないし、英語もうまくいかなかったが、世界史は好成績をあげた。

昨年、センター試験の偏差値は57.1に達し、全大学の8割、MARCHを含む私立大学の88%に合格した。しかし、現状の技術ではAIが東大に合格する日は永遠に来ないと判断して、挑戦は終えた。
「東ロボくん」、東大合格を断念 (朝日新聞 2016年11月14日)

それでも偏差値は50を越え、学生の半数以上を上回ったことは、問題の文章を理解することができない学生が少なくないからだという。実際、文章に答えが書いてある問題の例をあげて、正解できなかった中高生が少なからずいることが紹介された(具体的な問題は、「AI研究者が問う ロボットは文章を読めない では子どもたちは「読めて」いるのか?」に紹介されている)。これでは教科書を読むことはできないし、1人で勉強することもできない。社会人になっても、マニュアルを読むこともできない。AIに取って代わられないようにするためには、教科書を読むことができるようにすることが必要であり、新井さんは今後その取り組みを進めるという。元々、東ロボプロジェクトを始めたのは、人間がAIに負けないようにすることが目的だった。

AIに取って代わられるのは、時給の低い職などではない。介護も草むしりも難しい。確率論で対応できる銀行の融資や保険の審査業務、膨大な過去の判例を読み込むパラリーガル、画像診断を行う放射線診断医といった職が真っ先に対象になる。

最後に、参加者からの質問に答えて、シンギュラリティは来ないと言い切った。すべての人間の能力を上回ってしまえば、ベーシックインカムといった議論にもなり得るが、人間の半数を上回るということは、今後、職に就ける人と就けない人が出てくることになる。

私は、AIが東大に合格したら、次は公務員試験に挑戦するだろうから、その先、人間はAIに服従することになるのではないかと恐れていた。正直に言って、東大合格を断念という記事を読んだときには安心したのだが、新井さんの目的はそんなところにあるわけではなかった。いち早く社会への影響を理解し、それを明らかにするための研究プロジェクトを行い、さらにはその対策を進めようとまでする姿勢には、目頭が熱くなった。

単純な情報の処理力では人間より圧倒的に強いAIの時代を迎えることを考えれば、教育のあり方を考え直すことも必要なのではないだろうか。世界史がAIでも高得点をあげてしまうという事実は、この教科の教育が知識偏重になっていることを示しているように思えてならない。

AIはこれから着実に社会に進出していくのは間違いない。AIが社会に与える影響については、恐れることも、軽んじることもなく、よく知っておく必要があると改めて思った。

コンピュータが仕事を奪う
コンピュータが仕事を奪う

ロボットは東大に入れるか (よりみちパン! セ)
ロボットは東大に入れるか (よりみちパン! セ)
2016年12月26日

『人工知能は人間を超えるか』松尾豊

時代毎の人工知能の開発の歴史を追った上で、現在の状況を説明しているのがわかりやすい。ディープラーニングと機械学習との違いもよくわかった。

1960年代の第1次ブームでは、推論と探索によって問題を解く研究が進んだ。チェスや将棋などのゲームでは、盤面を評価するスコアをつくり、そのスコアがよくなる次の差し手を探索した。こちらは点数を最大に、相手はこちらの点数を最小にする手を指すミニマックス法を用いる。局面が最終段階に入ったら、終局するまでランダムに手を指し続けて、その勝率で盤面を評価するモンテカルロ法を用いる。トイ・プロブレムは解けても、複雑な現実の問題は解けないことが明らかになり、1970年代には冬の時代を迎えた。

1980年代の第2次ブームでは、大量の知識を入力することによって現実の問題を解く開発が行われた。知識の概念はノードをリンクで結ぶことによるネットワークで表現したが、それをコンピューターで見つけるライトウェイト・オントロジーによってデータマイニングが進んだ(セマンティックウェブやLinked Open Dataとして研究が展開されている)。IBMが開発したワトソンも、ウィキペディを基にライトウェイト・オントロジーを生成して解答に使っている。

1998年頃から、ウェブページのテキストを扱う自然言語処理と機械学習の研究が発展した。学習とは分ける作業で、判断をイエス・ノーで答えるもの。教師あり学習では、正しい出力を与えて、その分け方を学習させる。分ける方法のひとつであるニューラルネットワークでは、シナプスの結合強度にあたる重みづけを、全体の誤差が小さくなる方向に調整する誤差逆伝播によって精度を上げていく。

機械学習の入力に用いる変数である特徴量に何を選ぶかで予測精度が大きく変化するため、研究機関はその設計にしのぎを削ってきたが、ディープラーニングによってコンピューターが特徴量を作り出すことができるようになった。手書きの文字画像のような入力と同じものを出力にも置き、ニューラルネットワークを用いてできるだけ近くなる重み付けと隠れ層を生成する(自己符号化器。主成分分析と同じ)。生成された隠れ層をさらに入力と出力に置いて次の隠れ層を生成することを繰り返すことにより、高次の特徴量が生成される。

著者は、これまでに研究されてきた人工知能のトピックが、今後ディープラーニングの技術を用いて洗い直されると予測する。時間を扱うことができるようになれば、動画や音声を処理することができる。物を動かすなどのコンピューター自らの動作とその結果を学習することができれば、動作の概念や行動した結果の抽象化が進む。日常の概念を獲得できれば、それに言葉を結びつけることができる。言葉を理解できるようになれば、ウェブや本を通して人間の知識を吸収することになるという。

人工知能は人間を超えるか ディープラーニングの先にあるもの人工知能は人間を超えるか ディープラーニングの先にあるもの
松尾 豊 / KADOKAWA/中経出版 (2015-03-11)
タグ:人工知能