Appendix

広告

Entries

AIの回答で人が死ぬ?毒性ある植物の質問に「甘さあってスッキリ」


 ChatGPTの話をまとめ。<史上最速でユーザー増加のアプリChatGPT、AIゆえの問題点とは?>、<ChatGPTの会話は完全に人間…ただし、回答の正確さは別の問題>、<有名人の身長や年齢を尋ねたら自信満々で全然違う回答…なぜ?>などをまとめています。

 さらにその後、<AIの回答で人が死ぬ?毒性ある植物の質問に「甘さあってスッキリ」>などを追記しました。

2023/05/17追記:
●有名人の身長や年齢を尋ねたら自信満々で全然違う回答…なぜ?
2023/08/23追記:
●AIの回答で人が死ぬ?毒性ある植物の質問に「甘さあってスッキリ」
2024/01/31追記:
●ChatGPTでのレポートは不正?東大・京大・上智大などが見解発表 【NEW】


AI 2041 人工知能が変える20年後の未来




●史上最速でユーザー増加のアプリChatGPT、AIゆえの問題点とは?

2023/02/09:瞬時に人間が書いたようなテキストを生成できるAIツールChatGPTは、質問にも答えてくれるし、数学の宿題も間違いなく解いてくれるし、小説も歌詞も、プログラミングも翻訳もなんでもできる…という夢のような代物。<ChatGPTが史上最速ユーザー拡大サービスに>(GIZMODO / 2023年2月6日 14時0分)によると、ユーザーの増加がすごいそうです。

<スイスの投資銀行UBSがまとめた報告書によると、「このペースで成長しているアプリケーションを過去20年で見たことがない」とし、歴史上で一番急速に成長している消費者向けアプリケーションだろうとのこと。
 (引用者注:2022年11月30日にプロトタイプとして公開され、2023年の)1月の時点ですでに月間のアクティブユーザー数は1億人に達していて、1月末には1億3000万人に。1日のユニークビジター数は1300万人。驚異的です>
<あのTikTokでも、ユーザー数1億人に達するまで9ヶ月かかっていますし、Instagramは2年半かかっています。ChatGPTの急成長がいかほどかは一目瞭然です>
https://news.infoseek.co.jp/article/gizmodo_isnews_265212/

 夢のようなツールですが、問題点もあるようです。記事によると、<不正確な情報があったり、学生がChatGPTで提出物を作ってしまうなどの懸念もたくさんあります>としていました。ここらへんはAIゆえの問題点と言えそうですね。こうした問題点については、今後もう少し情報を集めてみたいと考えています。


●ChatGPTの会話は完全に人間…ただし、回答の正確さは別の問題

2023/04/05追記:他の話をやるつもりでしたが、利用事例を軽くひとつ紹介しておくことに。私が気にしている企業であるリブセンス絡みで転職口コミサイト『転職会議』、ChatGPTのAIを活用した企業口コミの要約情報を提供開始|株式会社リブセンスのプレスリリース(2023年3月23日)というPR記事が出ていたんですよ。

<株式会社リブセンス(本社:東京都港区、代表取締役社長:村上太一、証券コード:6054)は、3月23日(木)、転職口コミサイト『転職会議』(URL:https://jobtalk.jp/)にOpenAIのChatGPTをAPI連携し、ChatGPTなどで使用されているAIであるGPT-3.5を活用した企業口コミの要約情報の提供を開始しました(現在はスマートフォン版サイトのみ対応、後日PC版サイトにも展開予定)。試験導入として、4月3日(月)までの期間、会員登録の有無に関わらず、すべてのユーザーに要約情報を公開します>

 『転職会議』は企業の口コミサイト。なので、ここの場合は、膨大な口コミ情報を短くわかりやすく要約してもらうことに、ChatGPTのAIを利用することを考えたみたいですね。ChatGPTはこういったものは得意でしょう。マイクロソフトの検索サービスBINGでのChatGPTを利用した回答も、同じような発想でやっているものです。

 このBINGを使ってみて、ChatGPTの回答の自然さに驚きました。ただ、注意しなくちゃいけないのは、日本語がうまいからと言って事実を言っているとは限らないこと。ChatGPTの回答はネットサイト情報を組み合わせたものであり、結局、ソースが間違っていれば回答も間違っています。最終的にはやはりソースの真偽を検討する必要があると感じました。


●有名人の身長や年齢を尋ねたら自信満々で全然違う回答…なぜ?

2023/05/17追記:今回の話は、ChatGPTの問題じゃなくてたぶんBING検索の問題だろう…という話です。ただ、AI全般の問題にも通じるであろう話ではあります。また、前回の<ChatGPTの会話は完全に人間…ただし、回答の正確さは別の問題>とも関連する内容の問題なんですよね。

 では、具体的な話へ。BING検索を使っていて戸惑ったグーグル検索との違いに、ユーザーが知りたいことを検索結果のリンク先にアクセスすることなく、別枠でドカーンと表示する…という機能があります。ChatGPTに質問した際も似たような感じで、元ネタにされたウェブサイトにアクセスせずに答えを表示。便利といえば便利です。

 ただ、これ、結構間違っていることがあるんですよ。例えば、芸能人の年齢を調べる…というケース。BINGくんは自信満々で「72歳です」みたいな回答をしてくれるんですが、「なんかやけに若くない?彼女はもっと高齢だよね?」と調べてみると、やはりだいぶ違います。これは古いウェブサイトの情報を拾っているのかもしれません。

 また、私がスポーツ選手の身長をBINGで調べていて驚いたのが、長身であることが予想される選手の身長について「162cm」みたいに明らかに違う値を返してくること。「んなわけねーだろ!」とBINGくんが使った情報源だというサイトを確かめると、検索した選手が確かにメインの内容だけど文中であった身長の記載は別選手のものという内容。どうもこの別人の身長を拾ってきた模様です。(この部分記憶違いあったので2023/05/27訂正)

 これ、ふたつとも明らかに違っていたから気づけたようなもので、微妙な差だったら全然気づきません。そして、しくみ的にはChatGPTでも同様の懸念があるでしょう。前回書いたように、ChatGPTは驚くほど喋りが滑らかですから余計性質が悪いですね。口がうまいばっかりに、デタラメでも信用してしまいそうです。


●AIの回答で人が死ぬ?毒性ある植物の質問に「甘さあってスッキリ」

2023/08/23追記:前回も書いたBING検索で、下手すると命の危険性があるな…と思ったのが、水仙について調べたときの話。私は水仙とニラが似ていて、なおかつ水仙に毒があることを知っていました。で、「水仙って食べた場合、どんな味がするのか?食べたときに気づけるのか?」と気になって、「水仙 味」で検索してみたんですよ。

 すると、BINGくんは「水仙(スイセン)は、甘さを残しながらもスッキリとしていたり、スパイスおよび柑橘系を感じさりする香りを楽しめます」とだけ回答。よく読むと「味」ではなく単に「香り」だけ説明しており、食べる話はしていませんけど、予備知識がなく、なおかつうっかりさんだった場合「食べられるんだ!」と誤解してしまいそうで危険です。

 これ、情報源となった元サイトを見ると、ちゃんと水仙の毒性について言及した上に、水仙の香りを苦手な人がいるといったマイナス面も言及。元を読むと、香りの話中心で、食べる話をしていないこともわかるでしょう。ただ、AIがごく一部だけ切り取ってしまうことで、誤解する確率がアップ。この方向性は根本部分でリスクがありますね。


●ChatGPTでのレポートは不正?東大・京大・上智大などが見解発表

2024/01/31追記:ChatGPTに関して、ChatGPTでリポートは不正? 東大、京大、上智など続々と見解:朝日新聞デジタル(上野創 竹野内崇宏 編集委員・増谷文生2023年4月20日 19時00分)という記事が出ていたのをだいぶ前にブックマークしていました。

 もともとこの手の問題は、ChatGPTが普及する前からあったもの。小中学生の宿題や大学生のレポートだけでなく、よりハイレベルな研究論文に関しても議論を呼んでいました。まだはっきりしておらず混乱しているところなので、現時点での見解を出すというのは良いことですね。

<今月7日の入学式で、こうした生成AIが持つ負の側面を強調したのは、京都大の湊(みなと)長博総長だ。AIの文章には誤った情報が含まれたり、根拠となる資料を正確に引用できなかったりする点を指摘し、「(情報を集める)サーチのみでリサーチ(研究)という検証を欠いているため、学術リポートとしては致命的な問題点がある」と述べた。
 上智大は3月末、リポートや学位論文などの課題について、「本人が作成したものではないので使用を認めない。使用が確認された場合は不正行為に関する処分規定にのっとり、厳格な対応を行う。ただし、教員の許可があれば指示の範囲内で使うことは可とする」と教職員、学生に向けて対応方針を通知した。ただ、通知の末尾では「教育への活用も含め適宜見直しや検討を続ける」と明記した。
 東京大は今月3日、太田邦史理事・副学長名で、生成AIに関する見解をサイトに公表した。出力された文章にウソが含まれている可能性などにも触れ、「使いこなすには(中略)回答を批判的に確認し、適宜修正することが必要」とした。リポートについては「学生本人が作成することを前提としており、生成系AIのみを用いて作成することはできない」とした。>


AI 2041 人工知能が変える20年後の未来




【関連投稿】
  ■AI僧侶好評、裁判官も「もっとAI使え」 冤罪を生むという問題点も
  ■タッチパネル・セルフオーダーで人件費削減 アルバイトを1人減らせる
  ■AIと黒魔術 デマだった独自言語で会話を始めたAI実験中止のニュース
  ■日本は最もロボット・AIに仕事を奪われる国?労働生産性低いためか
  ■タンパク質構造コンテスト謎の歴史的1位、DeepMindのAlphaFoldだった
  ■ビジネス・仕事・就活・経済についての投稿まとめ

Appendix

広告

ブログ内 ウェブ全体
【過去の人気投稿】厳選300投稿からランダム表示









Appendix

最新投稿

広告

定番記事

世界一スポーツ選手の平均年収が高いのはサッカーでも野球でもない
チャッカマンは商標・商品名 じゃあ正式名称・一般名称は何?
ジャムおじさんの本名は?若い頃の名前は?バタコさんとの関係は?
ワタミの宅食はブラックじゃなくて超ホワイト?週5月収10万円
朝日あげの播磨屋、右翼疑惑を否定 むしろ右翼に睨まれている?
レーシック難民は嘘くさいしデマ?アメリカの調査では驚きの結果に
赤ピーマンと赤黄色オレンジのパプリカの緑黄色野菜・淡色野菜の分類
アマゾンロッカーってそんなにすごい?日本のコンビニ受け取りは?
就職率100%国際教養大(AIU)の悪い評判 企業は「使いにくい」
ミント・ハッカでゴキブリ対策のはずがシバンムシ大発生 名前の由来はかっこいい「死番虫」
移動スーパーの何がすごいのかわからない 「とくし丸」は全国で約100台
ビジネスの棲み分け・差別化の具体例 異業種対策には棲み分けがおすすめ
主な緑黄色野菜一覧 と 実は緑黄色野菜じゃない淡色野菜の種類
タコイカはタコ?イカ?イカの足の数10本・タコの足8本は本当か?
トンネルのシールドマシンは使い捨て…自らの墓穴を掘っている?
ユリゲラーのポケモンユンゲラー裁判、任天堂が勝てた意外な理由
好待遇・高待遇・厚待遇…正しいのはどれ?間違っているのはどれ?
コメダ珈琲は外資系(韓国系)ファンドが買収したって本当? MBKパートナーズとは?
大塚家具がやばい 転職社員を通報、「匠大塚はすぐ倒産」とネガキャン
不人気予想を覆したアメリカのドラえもん、人気の意外な理由は?

ランダムリンク
厳選200記事からランダムで









アーカイブ

説明

書いた人:千柿キロ(管理人)
サイト説明
ハンドルネームの由来

FC2カウンター

2010年3月から
それ以前が不明の理由