Appendix

広告

Entries

AI僧侶好評、裁判官も「もっとAI使え」 冤罪を生むという問題点も


2016/12/31:
●アメリカの裁判官は弁護士に「もっとAI使え」
●AI僧侶が好評、境内を動き回り人々の悩みや問いかけに回答
●ノーベル賞もAIの時代になるか?AIの発達で人間の能力は衰える?
2017/02/19:
●人種差別で怪しい人認定 冤罪を生むというAIの問題点
●人間なら人種差別による偏見は起きない?
2019/02/22:
●バカにAIを使わせるとおかしなことが起きる!
2021/02/13:
●警察によるAI使用は違法として罰金3000万円…スウェーデンで 【NEW】


●アメリカの裁判官は弁護士に「もっとAI使え」

2016/12/31:日経新聞のAI特集を見てみると、どこもかしこもAIという感じで、そんなところでも!という話があります。アメリカでは弁護士がきちんとAIを使っていないとみなされると、裁判官から「ちゃんと使って」と叱られるんだそうな。既に使って当然ということになってきています。
使うか使われるか 公平な新部長の素顔は  :日本経済新聞 2016/11/5 3:30 日本経済新聞 電子版

 米首都ワシントン。大手法律事務所コビントン&バーリングのエドワード・リッピー弁護士は最近、大きな案件ではほぼすべて人工知能(AI)を活用する。ちゃんとAIを使ってください――。資料や証拠が整理されていないと、判事から指導されるからだ。

 米国では弁護士の主要作業の一つ、証拠集めはAIが主役だ。メールなど膨大なデータから学習しながら必要な情報を探す。若手弁護士の仕事だったが今はAIに探したい証拠の特徴を教えるだけ。リッピー氏は「弁護士費用削減で顧客への請求額を2割強減らせた」。

 この事務所では所員教育の柱の一つをAIとした。昇進にはAIを使いこなすことが求められる。AIが代替する弁護士業務もこれから増えていくだろう。AIを操れない人はAIに淘汰される厳しい時代に入った。

●AI僧侶が好評、境内を動き回り人々の悩みや問いかけに回答

 上記のタイトルになっていた「公平な新部長の素顔は」というのは、"社内を巡回しカメラで人や備品の配置を学習。残業や備品状況をチェックする"という部長見習いAIの話。いずれは人事評価して辞令を出してもらうつもりのようです。

 ただ、これよりおもしろかったのは、既に活躍していると別記事であったAI僧侶の話。AIが僧侶とはありがたみがないと言う人もいるでしょうが、まあ、これは人によりけり。"身長60センチのロボット僧侶「賢二」が境内を動き回ると、参観客から「癒やされる」と声が上がる"と好評な様子。

 よりメリットがわかるのは、"人に相談するより気楽といった若者が多く訪れる"という話。ネット通販が登場したときに、実店舗では書いづらい商品が売れたという話がありましたが、むしろ生身の人間じゃないことの利点も多くあります。

 この僧侶AIは、"高僧たちの膨大な説法データを解析し、人々の悩みや問いかけに答え"ているということで、かなりの対応ができそうでした。以下がやり取りの例。ちゃんと会話になっています。

 「うちの女房が怒りっぽくて困る」
 「ただ一緒に生きていくだけさ。離婚はお勧めできないな」

 で、このAI僧侶がどこにいるのか?と言うと、実は日本ではありません。"建立1千年を超す中国・北京の名刹、龍泉寺"でした。先に中国って書くと「どうせ中国レベルでしょ」と思われそうなので、後に持ってきました。


●ノーベル賞もAIの時代になるか?AIの発達で人間の能力は衰える?

 さらに別記事。"ソニーコンピュータサイエンス研究所の北野宏明社長が中心となり進める日米欧のプロジェクト"は、マジでAI自身にノーベル賞を受賞させようというもの。AIの強みは「大量に発表される論文を読み込み超高速で膨大な仮説を作成し、繰り返し検証を続けること」。"ひらめきや偶然が生み出す人の大発見に対しAAIは圧倒的なスピードと量で挑む"のです。既に医療の分野では、人工知能ワトソンが診断 医師に薬変えるよう助言し患者の命救うといった成果も出ています。

 このノーベル賞の記事は悲観的なものも載せており、「人間が本来持つ能力が衰える」(名古屋大学名誉教授の池内了氏)といったものがそう。人類は自動車や飛行機をつくり、行動範囲を飛躍的に広げたものの、その一方で、文明が進んだ国ほど足が弱くなるといった問題が深刻になり、米国では肥満が広がっており、肉体で起こったことが頭脳でも繰り返されかねないとしていました。

 ただ、終わりでは、<アインシュタインは「人の持つ最も美しく深遠なものは神秘的なナゾへの感覚」という言葉を残した。AIが人知を超えてもナゾを解明したいという好奇心に優劣はない。AIが持ち得ない人間の力は何かを探す旅が始まろうとしている>と書いています。

 浪人してた東ロボくん、東大を諦める AIの弱点と人間との違いでは、AIの弱点の話も出てきました。また、将棋ソフトボンクラーズの伊藤英紀に煽られた藤井聡太が連勝記録更新 将棋棋士は「AIに奪われる職業」なのか?で出てきたように、とっくにAIに追い越されてしまっていたチェスですらむしろその後盛んになっている感じでした。

 AIのできない仕事は残りますし、AIなしの真剣勝負みたいなところも引き続き注目を集めるでしょう。そういった分野に人がより熱中するということが起きそうです。ただ、最初の弁護士の話で「AIを操れない人はAIに淘汰される厳しい時代に入った」とあったように、格差がさらに広がる可能性は否定できません。悲観的すぎる未来は不安煽りだと思いますが、バラ色の未来像までは描けませんね。


●人種差別で怪しい人認定 冤罪を生むというAIの問題点

2017/02/19: 理想社会の落とし穴 公平とは何か 2017/1/30 2:00 日本経済新聞 電子版という記事では、AIの公平性の問題みたいな話がありましたが、ちょっと疑問を感じるものでした。

 大麻中毒や、万引きをする人など約10万人の画像データを解析し、顔や体の細かい揺れから怪しい人物を特定するというAIが、あるカジノで導入されたという話。同様のAIは、空港やイベント会場でも採用されています。

 記事が問題視するのは、米国のあるシステムでは過去のデータなどから“公平”に分析すると、白人よりも黒人を怪しいと判断する比率が高いというもの。

 人工知能(AI)の法整備に詳しい慶応大学の新保史生教授は「犯罪者は生まれつき決まっているとの学説もある。そんな考えをもとにしたシステムは深刻な人権侵害を起こす」と指摘。"悪いことをしていないのにある日突然、AIに犯罪予備軍と認定され、周囲から白い目で見られる。犯罪が減ったとしても、それは理想の社会なのか"と疑問を投げかけていました。


●人間なら人種差別による偏見は起きない?

 ただ、いろいろと変な話だと思います。一番の問題は、そもそも人間がやる方が偏見の影響が大きく、今現在大きな問題になっているということ。AIの利用で初めて生じる問題ではない上に、AIより人間の方がまずいのです。

 まず、以前読んだこの手のAIは、人間がやるよりもはるかに正確に怪しい人物を見つけ出すとされていました。つまり、人間が判断するときは、かなり無実の人物を怪しい人だと判断しているのです。こちらの方が問題でしょう。

 そして、これには人間が持つ偏見の影響が大きいです。アメリカで繰り返し起きる黒人問題でのデモは、差別が背景にあるという疑いがあるがためです。実際、これはデータ的な証拠があります。来日外国人の犯罪は減っている…は本当か?中国人・韓国人・朝鮮人の検挙件数・検挙人員のデータでやったように、アメリカでは黒人の逮捕率が圧倒的に高いことがわかっていました。

 また、人種うんぬんではない話でも、日本の警察官が偏見バリバリで問題ない人を職務質問していることがわかっています。本来、職務質問は最低限度とされていて、むやみに行うことは違法です。しかし、職質されやすいのは汗っかきな人!女性警官が偏見を誇らしげに解説では、「一晩で30人以上に声をかけ、検挙者がゼロの日も珍しくない」とありました。

 これはつまり、無実の人に対して30人も職務質問しているということ。そもそも人間の判断は偏見だらけで、全然正確ではないのです。最悪ですよ、これ。

 したがって、AIはむしろ不公正さと、偏見の問題を軽くする方向性に働くと思われます。人間の方がダントツでひどいということを、決して忘れてはいけません。


●バカにAIを使わせるとおかしなことが起きる!

2019/02/22:最後に追記していたAIの人種差別の話。なぜ問題になっているかわかりましたわ。簡単に言うと、人間の差別意識で判断された犯罪データをそのまま使ってAIを訓練したため、AIが人種差別などをしまくっていたというもの。偏見の除去を全然考えていないんですね。そりゃどう考えてもダメですわ…。そもそものスタート地点で間違っています。アホです。

 MIT Tech Review: 止まらない負の連鎖、米警察の「不正データ問題」が問うAI社会の闇(by Karen Hao 2019.02.21)によると、米司法省は、ニューオリンズ市警察が何度となく合衆国憲法および連邦法に違反していた、と指摘したことがあります。

 ニューオリンズ市警察は、過剰に、しかも不等な割合で、黒人市民に対して暴力を行使していました。また、人種的少数派や英語を母国語としない人々、LGBTQの人々を標的にしていました。一方で、女性に対する暴力については適切な対処を怠りました。

 ということで、過去のニューオリンズ市警察の犯罪データは問題だらけでとても正確とは言えません。にも関わらず、彼らはこのデータを元に開発した「予測型取り締まりシステム」を利用。他の地域でもこうした「汚染されたデータ」が使われているとのことで問題大ありです。

 他の道具など何にでも言えることであり、AIに限った問題ではないのですけど、バカに使わせるとおかしなことが起きる…といった感じ。これはある意味AIの問題点で、デメリットだと言えるんでしょうか…。


●警察によるAI使用は違法として罰金3000万円…スウェーデンで

2021/02/13:関連しそうなスウェーデンのデータ監視機関が警察によるClearview AI使用は違法と判断 | TechCrunch Japan(2021年2月13日)という記事を発見。スウェーデンのデータ保護機関であるIMYは、顔認識ソフトウェアClearview AIを違法に使用し、同国の犯罪データ法に違反したとして警察当局に罰金25万ユーロ(約3200万円)を科したそうです。

 2020年1月初め、カナダのプライバシー当局はClearviewが人々の写真を顔認識データベースに載せるために人々に知らせることなく、あるいは許可を得ることなく写真を収集し、法律に違反したと判断したとのこと。また、IMYはまた、自身の個人データがClearviewに送られた人に通知するよう命じています。不正にデータを取得したということでしょうか。

 なお、1年前、ニューヨークタイムズ紙は米国拠点のClearview AIが何十億枚という顔写真のデータベースを抱えている、と報じ、ここには、公開されているソーシャルメディアの投稿のスクレイピングや、本人の認識や同意なく扱いに慎重を要する生体データの取り込みなどが含まれたとしていました。やはりそもそもデータの集め方に問題があった感じです。

 この方向性の問題としては、トランプ大統領当選の選挙が有名。1期目のトランプ大統領の陣営は、フェイスブックで行われた研究データを目的外で違法に使用して、選挙活動に利用して当選を有利にしました。当時フェイスブックはトランプ大統領に協力していて、わざわざスタッフも派遣しており、大統領選挙の当選に貢献しています。意外なことにフェイスブックは当初、トランプ大統領派だったんですね。

 このときは目的外利用ですから明確に問題がありましたが、実を言うと、公開されているSNS情報を分析するだけでも、配偶者以上にその人の性格などを知ることが可能だと研究でわかっているんですよ。このおかげでうまくコントロールして選挙で勝てますし、それ以外の悪いこともに利用可能。これはAIとはまた別の方向性でのテクノロジーの問題点ですね。


【本文中でリンクした投稿】
  ■人工知能ワトソンが診断 医師に薬変えるよう助言し患者の命救う
  ■浪人してた東ロボくん、東大を諦める AIの弱点と人間との違い
  ■将棋ソフトボンクラーズの伊藤英紀に煽られた藤井聡太が連勝記録更新 将棋棋士は「AIに奪われる職業」なのか?
  ■来日外国人の犯罪は減っている…は本当か?中国人・韓国人・朝鮮人の検挙件数・検挙人員のデータ
  ■職質されやすいのは汗っかきな人!女性警官が偏見を誇らしげに解説

【その他関連投稿】
  ■生徒「なぜ仕事を奪う研究を?」、AI研究者を責める 新井紀子教授の回答は?
  ■AI(人工知能)で農家の職人技すら不要に グーグルテンサーフローでキュウリの選別や唐揚げの盛り付け
  ■人間にしかできないことは読解力…のはずがAIより悪い中高生たち 実は大人の読解力も怪しい?
  ■AIで仕事がなくなる…は誤解だった 人間の作業を代替するだけで職業そのものを代替するわけではない
  ■ビジネス・仕事・就活・経済についての投稿まとめ

Appendix

広告

ブログ内 ウェブ全体
【過去の人気投稿】厳選300投稿からランダム表示









Appendix

最新投稿

広告

定番記事

世界一スポーツ選手の平均年収が高いのはサッカーでも野球でもない
チャッカマンは商標・商品名 じゃあ正式名称・一般名称は何?
ジャムおじさんの本名は?若い頃の名前は?バタコさんとの関係は?
ワタミの宅食はブラックじゃなくて超ホワイト?週5月収10万円
朝日あげの播磨屋、右翼疑惑を否定 むしろ右翼に睨まれている?
レーシック難民は嘘くさいしデマ?アメリカの調査では驚きの結果に
赤ピーマンと赤黄色オレンジのパプリカの緑黄色野菜・淡色野菜の分類
アマゾンロッカーってそんなにすごい?日本のコンビニ受け取りは?
就職率100%国際教養大(AIU)の悪い評判 企業は「使いにくい」
ミント・ハッカでゴキブリ対策のはずがシバンムシ大発生 名前の由来はかっこいい「死番虫」
移動スーパーの何がすごいのかわからない 「とくし丸」は全国で約100台
ビジネスの棲み分け・差別化の具体例 異業種対策には棲み分けがおすすめ
主な緑黄色野菜一覧 と 実は緑黄色野菜じゃない淡色野菜の種類
タコイカはタコ?イカ?イカの足の数10本・タコの足8本は本当か?
トンネルのシールドマシンは使い捨て…自らの墓穴を掘っている?
ユリゲラーのポケモンユンゲラー裁判、任天堂が勝てた意外な理由
好待遇・高待遇・厚待遇…正しいのはどれ?間違っているのはどれ?
コメダ珈琲は外資系(韓国系)ファンドが買収したって本当? MBKパートナーズとは?
大塚家具がやばい 転職社員を通報、「匠大塚はすぐ倒産」とネガキャン
不人気予想を覆したアメリカのドラえもん、人気の意外な理由は?

ランダムリンク
厳選200記事からランダムで









アーカイブ

説明

書いた人:千柿キロ(管理人)
サイト説明
ハンドルネームの由来

FC2カウンター

2010年3月から
それ以前が不明の理由