豚吐露＠wiki

1540_AI_OverReliance

最終更新：2024年06月14日 00:35

Bot(ページ名リンク)

- view

管理者のみ編集可

AI Over-Reliance : AIに関する過信とは？／細川宣啓日本アイ・ビー・エム株式会社

https://www.devfesta.jp
2023-11-21(火) 15:40～16:40

ChatGPT、LLMの台頭とAIの過信について

Over-Reliance：過信

ISO：AIの日本標準を作るお仕事
→プロスペクト理論
　→弊害の研究が進んでない。使えば便利になると思ってるのは日本だけ。
　　→啓蒙

Generative AI(生成系AI)
→実ビジネスで使ったときに弊害を出さないように
　→弊害がある。
　　→回答をもらった人間の行動が大事。

生成系AI：文章、音楽、絵、図面、codeを生成してくれるAI
→AIを使うと1日で、今日本で管理されてる楽曲を倍にできる

stablerefusion リヒュージョン

学習dataになることを国単位で警戒している。
→作業の効率化
　→まとめて：効率が高い
　　→アイデアが見つかったら、誰かがどこかで言ったもの。
　→先輩とのスキル差が縮まる

デメリット

信用できない

→生成：画像→著作権違反にならない保証はない
→出てきた答えが間違ってる
→クリエイターの雇用が減る。
→圧倒的メリットがあるので、デメリットを見ない

コンサル
→作業が多い
　→自分の意見を入れるのに時間がかかる

あなたのスマホの連絡先には何件の電話番号が登録されていますか？

→携帯：電話番号を見なくなる
　→スマホ：Line、SNS利用が優先し、電話帳を使わなくなる。
　　→電話をかけれる相手は何件ですか？

AIを取り入れ、過度に機械に依存すると仕事が増える可能性がある。
→生成系AIで生産性をあげよう→taskが増える可能性がある
　→生成系AIを利用してdocumentを作ると、生成内容を全て検証する必要がある。
→間違ったらダメなところで使ってはいけない。
　→ミスが許されない場所でAIを使って良いのだろうか？96%の確率でガンではありません。で信用していいのか？

リスクと過信
→経営利用：2ndオピニオンでGPT使って経営判断を失敗した人は多い。
→教育：インターネットを利用すると情報が増えるというのは良いが、それを判断する力が無ければ使うのはNG。
　→メリット：っぽいものが作れる
　　→B+程度のリポートは作れる
　→デメリット：創造性、独創性の欠如。
　　→同じ業界の会社がみんな同じAIを使って判断に利用すると、全ての会社の方向性が同じになってしまう。

基本スキル新色
→記憶、計算能力などの低下
批判的思考と問題買い替えうt能力の喪失
→懐疑心の欠如
探索と学習の必要性を軽減
→インターネットの情報探索範囲が狭くなる：インスタント情報
行動の認知と依存関係
曖昧さへの無関心
→二項対立的思考
→直感鈍化

コンサルにGPT使わせると12%多くのtaskを完了した
→専門外のコンサルがGPT使って解決を導くと、導ける可能性19%低下

恋愛にGPT使うと成果は無かった

LLMGPTの利用
→安直な改変を助長する

Over-Reliance
→社説、blog記事は多い

作業は楽になるがcheckの手間は増える
→

ヒューマンマシンミーニング

内容保証してないものに対して、メリットがあると誤認している。

GPT
→あなたができないことを教えてください
→春の花を教えてください
　→梅：梅雨の漢字表記にひっぱられてご学習してる？
→ハノイの塔の解放アルゴリズムを教えて
　→答えてくれない。現在はテンプレ回答。
→論理矛盾を含んだ回答が飛んでくるのだとすると、作業負荷は増える。

回避策
→GPT for All（gpt4all）
localで起動するGPT環境
→自分でGPTを成長させるのに4日程度。
→Javaのからのキャッチブロックとは？

phind
→GPTとアグリゲーター半々

2014 マシンラーニング
2016 Datamanagement
2023 人間とマシンの対話
→内部品質からどう使うか？に