Appendix

広告

Entries

黒魔術で向上するAI性能 AIは人間のできることしかできない?開発者すら理解できないAIの性能が向上する理由


 AIの話は楽観論と脅威論が入り混じってたいへんな感じですが、AIができることは人間のできることだけってのはもちろん誤解です。おもしろいなと思ったのが、開発者の手に負えなくなるというか、AIの改良作業をしている開発者でもAIが何しているのかさっぱりわからんということがあるそうです。(2017/7/20)


●AIは人間のできることしかできない?

2017/7/20:最近AIの話になると、「機械学習をやるとAIより人間の方が詳しくなる」と書いている方がいます。人間がAIにパターンを覚え込ませなくちゃいけないので、そのときに人間がすごく詳しくなるってことみたいですね。

 ただ、これは誤解を招きそうな言い方だと思います。すべてのケースにおいてこのことが言えるわけではないと考えられるためです。

 「機械学習」というのは、Wikipediaによると、人工知能における研究課題の一つで、人間が自然に行っている学習能力と同様の機能をコンピュータで実現しようとする技術・手法のこと。なので、人間がやっていることの代替にすぎないようです。

 就活のAI導入で不利になるのは嘘つき学生だけ 嘘発見器つきアプリのしくみで、人材研究所の曽和利光さんが「人間の採点したデータをAIに学習させて採用効率を上げても、結局人間がみたことと変わりはない」と言っていました。

 これもいっしょであり、人間のやっていることを代替しただけというケース。しかし、既に実例が多数あるように、AIが人間を超えるケースはいくらでもあります。


●開発者すら理解できないAIの性能が向上する理由

 で、おもしろいなと思ったのが、「機械学習」を導入した将棋AI「ポナンザ」の生みの親である山本一成さんの話。将棋AIが強い理由を製作者は説明できないという話でした。
(「人工知能の性能が上がった理由」は開発者にも説明できない | 人工知能はどのようにして「名人」を超えたのか? | ダイヤモンド・オンライン 2017年5月17日 山本一成 より)

 「解釈性と性能のトレードオフ」「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなる」といった言い方もしていましたが、機械学習の世界ではこれを「黒魔術」とも呼んでいるそうです。

 具体的に言うと、"たとえばプログラムに埋め込まれている数値がどうしてその数値でいいのか、あるいはどうしてその組合せが有効なのか、真の意味で理解していない"という話。

 新しい改良を加えたポナンザが、古いボナンザと対戦して勝率が高いときにその改良を採用するのだそうですが、将棋のプレイヤーとしての感覚からでは、なぜ強くなったのかさっぱりわからないそうです。

 また、この改良というのが、そもそも当てずっぽう。"強くなることが確認できるのは100回に2回もない"ということで、改良策は完全に勘で偶然頼り。実際には改良になっていないことの方が大半なんですね。


●しくみが説明できないことは実は他分野でも珍しくない?

 同じ話を書いた別記事への反応では、工学なんかは普通にそうじゃないか?という指摘がありました。

“科学ならそうだが工学ならよくあること。”(kenchan3 2017/06/21)
“「人工知能の性能を上げるほどなぜ性能が上がったのかを説明できなくなっている」人工知能は科学でなく工学。工学だからといって科学だとは限らず、科学でないからといって役に立たないとは限らない”(tach 2017/06/21)
“医学分野でも作用機序のわからない薬とかあるようだし、実用と理解が同期しないのは今に始まったことではないが、AI研究で生物知能の解明につながるかと期待している人間としては非常にモヤモヤした気持ちになる。”(obsv 2017/06/21)
“還元主義だけを科学だと定義してるのが間違いかもね。”(kei_1010 2017/06/21)
(はてなブックマーク - 「人工知能と黒魔術」(視点・論点) | 視点・論点 | NHK 解説委員室 | 解説アーカイブスより)

 そういえば、そうでした。工学は、しくみなどを厳密に説明できなくても、法則性が見つかればそれでOKという感じだと大雑把に捉えていました。工学以外の分野でもよくあることで、そう考えると、それほど不思議でもないかもしれません。


【本文中でリンクした投稿】
  ■就活のAI導入で不利になるのは嘘つき学生だけ 嘘発見器つきアプリのしくみ

【その他関連投稿】
  ■AI(人工知能)で農家の職人技すら不要に グーグルテンサーフローでキュウリの選別や唐揚げの盛り付け
  ■実はAIの発展で最初になくなる仕事は、能力がある上司の仕事?
  ■AI僧侶が登場、裁判官も弁護士に「もっとAI使え」 ノーベル賞もAIの時代になるか?
  ■AIで仕事がなくなる…は誤解だった 人間の作業を代替するだけで職業そのものを代替するわけではない
  ■囲碁AIがさらに進化 世界に置いてかれる日本AIは中国にも完敗
  ■ビジネス・仕事・就活・経済についての投稿まとめ

Appendix

広告

ブログ内 ウェブ全体
【過去の人気投稿】厳選300投稿からランダム表示









Appendix

最新投稿

広告

定番記事

宝くじ高額当選者3000人のその後……10年後の彼らの生活は?
歴代首相の身長ランキング 背の高い、低い意外な総理大臣 野田佳彦・麻生太郎・鳩山由紀夫・小泉純一郎・安倍晋三など
日本で馴染みのある韓国系企業一覧
国別ノーベル賞受賞者数ランキング 日本は8位、上位はどこの国?
橋下徹大阪市長の出自 同和地区(被差別部落)と父・叔父と暴力団
意外に有名企業があるファブレス企業・メーカー 任天堂・ダイドードリンコ・やおきんなど
飛び降り自殺は意識を失うから痛みはない…は嘘 失敗した人の話
白元・鎌田真の経歴と派手な交友関係 神田うの,松本志のぶ,妻も美魔女など
楽天Edyはコンビニの公共料金の支払い(収納代行)に使える?
楽天Edyの使えるコンビニ・使えないコンビニ
主な緑黄色野菜一覧 と 実は緑黄色野菜じゃない淡色野菜の種類
のれん代とのれん代の償却のわかりやすい説明
消滅可能性都市ランキングと一覧 1800市区町村中896自治体が危機
カルシウムの多い食材ランキングベスト20 牛乳以外に取れる食品
堀越二郎の妻は死んでないし菜穂子でもない モデルは堀辰雄の婚約者矢野綾子
創価学会、会長候補の正木正明氏左遷で谷川佳樹氏重用の理由は?
インチキで効果なし、活性水素水詐欺 誇大広告であるとして排除命令が出た商品も
高カロリー食品ランキングベスト20(100グラムあたり)
EPA、DHA(オメガ3脂肪酸)の魚油サプリ 効果なしどころか危険という説
リチウムイオン電池の寿命を長持ちさせるのは、使い切って満充電?継ぎ足し充電?

ランダムリンク
厳選200記事からランダムで









アーカイブ

説明

書いた人:千柿キロ(管理人)
サイト説明
ハンドルネームの由来

FC2カウンター

2010年3月から
それ以前が不明の理由