AI僧侶好評、裁判官も「もっとAI使え」 冤罪を生むという問題点も

　＜アメリカの裁判官は弁護士に「もっとAI使え」＞、＜AI僧侶が好評、境内を動き回り人々の悩みや問いかけに回答＞、＜黒人は悪い！人種差別で怪しい人認定 冤罪を生むというAIの問題点＞など、AIに関する話をまとめています。

冒頭に追記
2022/11/14追記：
●人間は何でもAI任せにしていいの？という記事を読んで拍子抜け　【NEW】

『人工知能が「生命」になるとき』(三宅陽一郎)




●人間は何でもAI任せにしていいの？という記事を読んで拍子抜け

2022/11/14追記：＜｢人間は何でもAI任せにしていいのか｣AI研究者と東大特任講師が出した結論＞(プレジデントオンライン / 2021年3月16日 11時15分)という記事が目につきました。アンチAIの非専門家の話かな？と思ったら、人工知能研究者の三宅陽一郎さんとAI倫理などについて詳しい江間有沙・東京大学特任講師の対談だそうです。

　＜本稿は、1月13日に行われた『人工知能が「生命」になるとき』（PLANETS）の刊行記念イベントの一部を構成したものです＞とあったので、書籍『人工知能が「生命」になるとき』(三宅陽一郎)の宣伝記事だった模様。まず、書籍タイトルである「生命」に関わる部分は以下でした。


【江間有沙】ここで、人工知能学会の倫理指針の9条の話をしたいのですが。私も三宅さんもメンバーになっている人工知能学会倫理委員会で、2017年に倫理指針を作りました。このうち1条から8条までの主語はすべて「人工知能学会員」ですが、9条の主語だけは「人工知能」となっています。

9（人工知能への倫理遵守の要請）人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない。
https://news.infoseek.co.jp/article/president_44101/


　現代では、「人工知能」を生命とみなすような技術に至っておらず、夢のまた夢という段階。ただ、江間有沙・特任講師は先に社会との関係性を考えておくべきだと提言していました。一方、記事タイトル｢人間は何でもAI任せにしていいのか｣はたぶん以下のあたりだと思いますけど、正直、発言の趣旨からズレた編集者の釣りタイトルくさいですね。


【三宅】私は極めて東洋的な立場で、人工知能が生成的に生まれてくるものだとしたら、それらの生物が自分たちで倫理を作っていくというのがベストだと考えています。(中略)
【江間】AIが自分たちで自分の倫理を作るとすること自体がまだそのレベルにないので、現状では技術者や研究者が代わりに考えていかなければならないと思います。(中略)
【三宅】人工物を限りなく人間に寄せて作ることの是非は、まさに本質的な議論が必要なところだと思います。オバマ前大統領のフェイク動画が話題になりましたが、画面越しに見るだけではフェイクなのか本物なのかわかりません。
　ドイツはすでにフェイクニュースやフェイク画像に非常に厳しい罰則をかけるようになっていますよね。これは、ヨーロッパには社会を人間がビルドアップしてきたというプライドがあるからだと思います。だから人工知能に関しても最初から厳しく規制して、安全を確保した上ですすめようとしています。
【江間】それは三宅さんがずっとおっしゃっている、キリスト教の根底にある考え方ですよね。人間には神の代理人として自然や人工物を統治する責任がある。そこには子供も動物も入ってくる。だからこそ責任問題もはっきりしています。
　ところが、境界が曖昧になると責任の所在とうまくつながらなくなってしまう。どこがどう責任を取るかも曖昧になってしまう。これは自律性を持ったAIを議論するまでもなく、自動運転をはじめ、もうすでに問題になっています。


●アメリカの裁判官は弁護士に「もっとAI使え」

2016/12/31：日経新聞のAI特集を見てみると、どこもかしこもAIという感じで、そんなところでも！という話があります。アメリカでは弁護士がきちんとAIを使っていないとみなされると、裁判官から「ちゃんと使って」と叱られるんだそうな。既に使って当然ということになってきています。

使うか使われるか　公平な新部長の素顔は　　：日本経済新聞 2016/11/5 3:30 日本経済新聞　電子版

　米首都ワシントン。大手法律事務所コビントン＆バーリングのエドワード・リッピー弁護士は最近、大きな案件ではほぼすべて人工知能（ＡＩ）を活用する。ちゃんとＡＩを使ってください――。資料や証拠が整理されていないと、判事から指導されるからだ。

　米国では弁護士の主要作業の一つ、証拠集めはＡＩが主役だ。メールなど膨大なデータから学習しながら必要な情報を探す。若手弁護士の仕事だったが今はＡＩに探したい証拠の特徴を教えるだけ。リッピー氏は「弁護士費用削減で顧客への請求額を２割強減らせた」。

　この事務所では所員教育の柱の一つをＡＩとした。昇進にはＡＩを使いこなすことが求められる。ＡＩが代替する弁護士業務もこれから増えていくだろう。ＡＩを操れない人はＡＩに淘汰される厳しい時代に入った。

●AI僧侶が好評、境内を動き回り人々の悩みや問いかけに回答

　上記のタイトルになっていた「公平な新部長の素顔は」というのは、"社内を巡回しカメラで人や備品の配置を学習。残業や備品状況をチェックする"という部長見習いAIの話。いずれは人事評価して辞令を出してもらうつもりのようです。

　ただ、これよりおもしろかったのは、既に活躍していると別記事であったAI僧侶の話。AIが僧侶とはありがたみがないと言う人もいるでしょうが、まあ、これは人によりけり。"身長60センチのロボット僧侶「賢二」が境内を動き回ると、参観客から「癒やされる」と声が上がる"と好評な様子。

　よりメリットがわかるのは、"人に相談するより気楽といった若者が多く訪れる"という話。ネット通販が登場したときに、実店舗では書いづらい商品が売れたという話がありましたが、むしろ生身の人間じゃないことの利点も多くあります。

　この僧侶AIは、"高僧たちの膨大な説法データを解析し、人々の悩みや問いかけに答え"ているということで、かなりの対応ができそうでした。以下がやり取りの例。ちゃんと会話になっています。

　「うちの女房が怒りっぽくて困る」
　「ただ一緒に生きていくだけさ。離婚はお勧めできないな」

　で、このAI僧侶がどこにいるのか？と言うと、実は日本ではありません。"建立１千年を超す中国・北京の名刹、龍泉寺"でした。先に中国って書くと「どうせ中国レベルでしょ」と思われそうなので、後に持ってきました。


●ノーベル賞もAIの時代になるか？AIの発達で人間の能力は衰える？

　さらに別記事。"ソニーコンピュータサイエンス研究所の北野宏明社長が中心となり進める日米欧のプロジェクト"は、マジでAI自身にノーベル賞を受賞させようというもの。AIの強みは「大量に発表される論文を読み込み超高速で膨大な仮説を作成し、繰り返し検証を続けること」。"ひらめきや偶然が生み出す人の大発見に対しＡAIは圧倒的なスピードと量で挑む"のです。既に医療の分野では、人工知能ワトソンが診断 医師に薬変えるよう助言し患者の命救うといった成果も出ています。

　このノーベル賞の記事は悲観的なものも載せており、「人間が本来持つ能力が衰える」(名古屋大学名誉教授の池内了氏)といったものがそう。人類は自動車や飛行機をつくり、行動範囲を飛躍的に広げたものの、その一方で、文明が進んだ国ほど足が弱くなるといった問題が深刻になり、米国では肥満が広がっており、肉体で起こったことが頭脳でも繰り返されかねないとしていました。

　ただ、終わりでは、＜アインシュタインは「人の持つ最も美しく深遠なものは神秘的なナゾへの感覚」という言葉を残した。ＡＩが人知を超えてもナゾを解明したいという好奇心に優劣はない。ＡＩが持ち得ない人間の力は何かを探す旅が始まろうとしている＞と書いています。

　浪人してた東ロボくん、東大を諦める AIの弱点と人間との違いでは、AIの弱点の話も出てきました。また、将棋ソフトボンクラーズの伊藤英紀に煽られた藤井聡太が連勝記録更新 将棋棋士は「AIに奪われる職業」なのか？で出てきたように、とっくにAIに追い越されてしまっていたチェスですらむしろその後盛んになっている感じでした。

　AIのできない仕事は残りますし、AIなしの真剣勝負みたいなところも引き続き注目を集めるでしょう。そういった分野に人がより熱中するということが起きそうです。ただ、最初の弁護士の話で「ＡＩを操れない人はＡＩに淘汰される厳しい時代に入った」とあったように、格差がさらに広がる可能性は否定できません。悲観的すぎる未来は不安煽りだと思いますが、バラ色の未来像までは描けませんね。


●黒人は悪い！人種差別で怪しい人認定 冤罪を生むというAIの問題点

2017/02/19：大麻中毒や、万引きをする人など約10万人の画像データを解析し、顔や体の細かい揺れから怪しい人物を特定するというAIが、あるカジノで導入されたそうです。同様のAIは、空港やイベント会場でも採用されているといいます。

　これを紹介した記事は、 理想社会の落とし穴　公平とは何か 2017/1/30 2:00 日本経済新聞　電子版というもので、AIの公平性の問題を指摘するもの。米国のあるシステムでは過去のデータなどから“公平”に分析すると、白人よりも黒人を怪しいと判断する比率が高いといいます。

　記事では、＜悪いことをしていないのにある日突然、ＡＩに犯罪予備軍と認定され、周囲から白い目で見られる。犯罪が減ったとしても、それは理想の社会なのか＞と疑問を投げかけていました。AIの危険性を指摘するものです。ただ、いろいろと問題を感じてしまう記事でした。


●人間なら人種差別による偏見は起きない？AIより人間が悪い可能性

　記事で一番の問題だと感じたのは、そもそも人間が判断する方が偏見の影響が大きく、今現在大きな問題になっているということです。偏見や差別というのはAIの利用で初めて生じる問題ではない上に、AIより人間の方がまずい場合もあり得るのです。

　例えば、今回出てきた「顔や体の細かい揺れから怪しい人物を特定するというAI」。以前読んだこの手のAIは、人間がやるよりもはるかに正確に怪しい人物を見つけ出すとされていました。つまり、人間が判断するときは、かなり無実の人物を怪しい人だと判断しているのです。こちらの方が問題でしょう。

　そして、これには人間が持つ偏見の影響が大きいです。アメリカで繰り返し起きる黒人問題でのデモは、差別が背景にあるという疑いがあるがためですが、実際、これはデータ的な証拠があります。来日外国人の犯罪は減っている…は本当か？中国人・韓国人・朝鮮人の検挙件数・検挙人員のデータでやったように、アメリカでは黒人の逮捕率が圧倒的に高いことがわかっていました。

　また、人種うんぬんではない話でも、日本の警察官が偏見バリバリで問題ない人を職務質問していることがわかっています。本来、職務質問は最低限度とされていて、むやみに行うことは違法です。しかし、職質されやすいのは汗っかきな人！女性警官が偏見を誇らしげに解説では、「一晩で30人以上に声をかけ、検挙者がゼロの日も珍しくない」とありました。

　これはつまり、無実の人に対して30人も職務質問しているということ。そもそも人間の判断は偏見だらけで、全然正確ではないのです。最悪ですよ、これ。したがって、AIはむしろ不公正さと、偏見の問題を軽くする方向性に働くと思われます。人間の方がダントツでひどいということを、決して忘れてはいけません。


●「バカにAIを使わせるとおかしなことが起きる！」が差別AIの理由

2019/02/22：1つ上に追記していたAIの人種差別の話。なぜ問題になっているかわかりましたわ。簡単に言うと、人間の差別意識で判断された犯罪データをそのまま使ってAIを訓練したため、AIが人種差別などをしまくっていたというもの。偏見の除去を全然考えていないんですね。そりゃどう考えてもダメですわ…。

　MIT Tech Review: 止まらない負の連鎖、米警察の「不正データ問題」が問うAI社会の闇(by Karen Hao　2019.02.21)によると、米司法省は、ニューオリンズ市警察が何度となく合衆国憲法および連邦法に違反していた、と指摘したことがあったといいます。話の流れでわかるように、これは差別の問題です。

　ニューオリンズ市警察は、過剰に、しかも不等な割合で、黒人市民に対して暴力を行使していました。また、人種的少数派や英語を母国語としない人々、LGBTQの人々を標的にしていたともいいます。一方で、女性に対する暴力については適切な対処を怠りました。人種差別と性差別ですね。

　ということで、過去のニューオリンズ市警察の犯罪データは問題だらけでとても正確とは言えません。にも関わらず、彼らはこのデータを元に開発した「予測型取り締まりシステム」を利用。他の地域でもこうした「汚染されたデータ」が使われているとのことで問題大ありです。

　他の道具など何にでも言えることであり、AIに限った問題ではないのですけど、バカに使わせるとおかしなことが起きる…といった感じ。なので、AIが悪いのではなく、結局、人間が悪いんですね。ただ、これはある意味AIの問題点で、デメリットだと言えるかもしれません。


●警察によるAI使用は違法として罰金3000万円…スウェーデンで

2021/02/13：関連しそうなスウェーデンのデータ監視機関が警察によるClearview AI使用は違法と判断 | TechCrunch Japan(2021年2月13日)という記事を発見。スウェーデンのデータ保護機関であるIMYは、顔認識ソフトウェアClearview AIを違法に使用し、同国の犯罪データ法に違反したとして警察当局に罰金25万ユーロ（約3200万円）を科したそうです。

　2020年1月初め、カナダのプライバシー当局はClearviewが人々の写真を顔認識データベースに載せるために人々に知らせることなく、あるいは許可を得ることなく写真を収集し、法律に違反したと判断したとのこと。また、IMYはまた、自身の個人データがClearviewに送られた人に通知するよう命じています。不正にデータを取得したということでしょうか。

　なお、1年前、ニューヨークタイムズ紙は米国拠点のClearview AIが何十億枚という顔写真のデータベースを抱えている、と報じ、ここには、公開されているソーシャルメディアの投稿のスクレイピングや、本人の認識や同意なく扱いに慎重を要する生体データの取り込みなどが含まれたとしていました。やはりそもそもデータの集め方に問題があった感じです。

　この方向性の問題としては、トランプ大統領当選の選挙が有名。1期目のトランプ大統領の陣営は、フェイスブックで行われた研究データを目的外で違法に使用して、選挙活動に利用して当選を有利にしました。当時フェイスブックはトランプ大統領に協力していて、わざわざスタッフも派遣しており、大統領選挙の当選に貢献しています。意外なことにフェイスブックは当初、トランプ大統領派だったんですね。

　このときは目的外利用ですから明確に問題がありましたが、実を言うと、公開されているSNS情報を分析するだけでも、配偶者以上にその人の性格などを知ることが可能だと研究でわかっているんですよ。このおかげでうまくコントロールして選挙で勝てますし、それ以外の悪いこともに利用可能。これはAIとはまた別の方向性でのテクノロジーの問題点ですね。


●人種差別や性差別…AIも差別や偏見を持つ上に正当化される可能性

2022/03/25追記：このページではいろいろなAIの話をやっていますが、その中の＜人種差別で怪しい人認定 冤罪を生むというAIの問題点＞と関係しそうな話をブックマークしていたらリンク切れしていました。＜技術者が警告「AIは偏見持つ」＞(日経ビジネス電子版　2021.3.3)という記事です。

　冒頭では、＜大量のテキストから学習するAIは、人種やジェンダーに関する過去のバイアスを取り込んでしまう＞と書かれており、やはりそういう話ですね。バイアスがない情報を与えれば人間以上の中立な判断ができるでしょうが、結局、使い手や元データが汚染されていると悲惨なことが起きてしまうのです。

＜(引用者注：米国の政治科学者バージニア・ユーバンクス氏の研究の)成果をまとめた著書『オートメーティング・インイクオリティ（自動化する不平等）』（2018年）を読むと、背筋が凍る思いがする。ユーバンクス氏によると、医療や給付金、治安関連の業務で用いられるAIシステムは、官民問わず、偏ったデータと人種的・ジェンダー的なバイアスに基づいて、不安定で有害な判断を下すという＞
https://business.nikkei.com/atcl/NBD/19/world/00336/

　さらに、＜もっと悪いことに、AIシステムは判断に至るまでの思考回路がブラックボックス化されているため、たとえ判断結果が間違っていても、それを確認したり、異議を申し立てたりするのが難しい＞とも指摘。AIが神聖化されることで、差別や偏見が正当化されてしまうおそれもありそうですね。

　グーグルでAIの倫理を研究するチームの共同責任者だったマーガレット・ミッチェルさんらも以下のように同様の指摘。ただ、彼女はグーグルを解雇されています。AIを使った野放図な技術革新の危険性を警告する研究論文を発表しようとしたところ、グーグルの怒りを買ったのではないかと想像されていました。

・論文の中で力点が置かれていたのは、大量のテキストを解析する自然言語処理プラットフォームが、ユーバンクス氏が警告したようなバイアスを持ち得るとの指摘だった。
・「悪意ある者に扱われると、我々のAIシステムも人種差別的・性差別的な判断をしてしまう構造基盤がある」(ミッチェル氏と共同でAI倫理研究チームを率いていたティムニット・ゲブル氏。同様に離職を余儀なくされる)


【本文中でリンクした投稿】
　　■人工知能ワトソンが診断 医師に薬変えるよう助言し患者の命救う
　　■浪人してた東ロボくん、東大を諦める AIの弱点と人間との違い
　　■将棋ソフトボンクラーズの伊藤英紀に煽られた藤井聡太が連勝記録更新 将棋棋士は「AIに奪われる職業」なのか？
　　■来日外国人の犯罪は減っている…は本当か？中国人・韓国人・朝鮮人の検挙件数・検挙人員のデータ
　　■職質されやすいのは汗っかきな人！女性警官が偏見を誇らしげに解説

【その他関連投稿】
　　■生徒「なぜ仕事を奪う研究を？」、AI研究者を責める 新井紀子教授の回答は？
　　■AI(人工知能)で農家の職人技すら不要に グーグルテンサーフローでキュウリの選別や唐揚げの盛り付け
　　■人間にしかできないことは読解力…のはずがAIより悪い中高生たち 実は大人の読解力も怪しい？
　　■AIで仕事がなくなる…は誤解だった 人間の作業を代替するだけで職業そのものを代替するわけではない
　　■ビジネス・仕事・就活・経済についての投稿まとめ

『人工知能が「生命」になるとき』(三宅陽一郎)