ChatGPT、AIが生成したテキストがウェブに溢れたため、それを学習し「AIカニバリズム」に陥ってしまい、回答精度が落ちている可能性が浮上
最近、ChatGPTの回答のクオリティが落ちているという評判があり、その原因は生成AIが書いたテキストがウェブに溢れ、そこから学習したせいで回答の整合性と品質が落ちるというフィードバックループ（「AIカニバリズム」）に陥っているせいではないか、という推測。https://t.co/wxLLQqq1m3
— Minao Kukita 久木田水生 (@minaokukita) July 16, 2023
運用のコストを下げるために特定の領域に特化してトレーニングされた小さなモデルに分割したからではないかという推測も述べられている。
— Minao Kukita 久木田水生 (@minaokukita) July 17, 2023
この記事への反応
・確かにレベル落ちてると感じていた
それで、回答がおかしいと思って書き方を変えてもう一度リクエストすると、「申し訳ありませんが、前回の回答は誤ってました」と回答してくる
AIは学習して回答の質が落ちることがあるんだな
学習すればするほど正確になると思いこんでいたわ
気をつけよう
・これ結構やばいのでは。
逆に言えば私たちもAIが適当に生成した"一見真実ぽい誤情報"に触れる確率がこの一年くらいでグッと高くなったとも言える
・もし #ChatGPT が最新データを取り込んだ学習であるなら、考察の通りかもしれない。。。
しかし、一般的に利用可能なchatgptは2021年データまでをベースとしているはずであるため、精度が落ちるのは別の要因かと思われます！
・噂話の噂話の噂話…
・狭い業界の自分の業務だとChatGPTの回答がどのウェブサイト見てるか分かるので、ChatGPTがきちんと答えられない事項があったら意地でもウェブに情報流してやるもんかと思ってる。noteの有料記事（1円）とかにすればいいのか。
・AIカニバリズムというのか。
・ミイラ取りがミイラになったってゆーか、マッチポンプのダメなヤツってゆーか。まあ、そこまで最新状況はさすがにまだ学習にフィードバックされてないと思うから、事実だとしたら別の理由だろうけど仮説としては面白いし、何年か後にはマジでそーゆーことも起こり得るのか。。
・あーーーー、なるほどーーーーー
囲碁とかと違って、勝利条件ないもんね。おかしくなっても、AIにもわからないね。
・ひぇ～
SEO対策されまくったGoogle検索のようにならないで欲しい
・関係ないんじゃないかな。
あとでちゃんと読むけど、ChatGPTはだいぶ前に学習を終わらせているわけで…
最近クオリティーが落ちたのはコストを下げるためにモデルサイズを落としてるとか、あとは最近内部で仕様変更があったという話も聞くから、どちらかというとそのへんの可能性が高そう
ChatGPTがこの問題に直面してるかはわからんけど、いずれこの問題は大きくなっていきそうよね
アフィリエイターの俺の個人的感想だがいつか起きる現象だが今は起きてないと思う
ウンコ錬金術
ツイッターのトレンドワードやキーワードの検索上位10サイトを学習させたりできるぞ
それ人間でも同じじゃね
この時点で海賊版って言われる精度だからな、市販品は一次ベースの劣化コピーじゃないと
Twitterとかでタグ一緒だからイラストと実写風を混同してないか？
1日中画像を表示してはなんの画像か延々と答え続けてAIに学習させる仕事ってのがあったけど
そろそろAIと1日中会話し続ける仕事とかも出てきそうだな
ちなみに、画像を学習させる仕事は時給7000円くらいだけど、離職率はめちゃくちゃ高い
顔だけアニメキャラにしたように見える…🤮
規制のしすぎでまともに喋れずに白痴化してるだけ。
実際openAIのapiは従量課金で1日の制限あるけど、前から課金してた人間はgpt4使えるしかなり有能で、このままだとマジで近い将来文章書いたりする仕事も消滅するから社会に急激な悪影響を出さない為にも、ちょっと能力落として様子見するくらいが調度いいよ。
AI批判したい奴はこんな単純な前提条件すら知らずに妄想で語ってるからなｗ
5ちゃんねる死んでツイッターステマばっかやってるけど
ステマ大物漫画家は記事にしないの
やしろあずき
そもそもの原因じゃね？
ChatGPTの現行モデルはリアルタイムに更新するものではありません。２０２１年９月までのデータを学習させておりそれ以降に生成された文章は参照していません。
仮に性能が下がったとするならばそれはAIに関係するものでなくOpenAIのポリシーなどによるものです。
Wiikipedia読んで知った気になってる似非専門家と変わらん
素人感想なんだけど、それなら２０２１年９月までのデータに性能低下につながる原因があるんじゃないの？
と思ってしまう
辞めさせた方がいい
はちまバイトが食べるから大丈夫
その時期にはAIが作った文章なんて殆ど無かったから原因はAIじゃないぞ
カニバリズムよりこれのがピッタシ
最近はもろにAI生成の文章って感じでクオリティ落ちてんなって気がしてたわ
上手い人がAIのせいでどんどんやる気なくしたり、物理的に仕事も減って描かなくなり
若い人は当たり前に「手で描くなんてバカ、AI使えばいい」みたいになるもんな。
早すぎるしポンコツすぎだろ
けど、思ったより影響出るのが早かったな
逆は恐らくないだろうからその違和感のある部分を学習してしまい更に違和感のある文章を生成してる
ってことなのかね
そもそもChatGPTはリアルタイムのネット検索じゃねーよ
データベースも一年以上前のもの
なんで今のネット上が関係あるんだよ
自分で考えて始めてAIと言えるのに今はただの情報のつぎはぎするシステムをAIと呼んでる
どこかの記事で自分がAIに描かせた絵が学習対象にされて「無断で学習させないでください」って特大ブーメランを投げてたAI絵師がいたって話を読んだわ
絵も文章も結局役に立たなそうだな
パターン出力なのが見えてきただけじゃね
泥棒が泥棒に怯えるの草
使われる頻度増えてバレただけだろ
.|-O-O-ヽ |どんどん頭が悪くなる？
(. : )'e'( : . 9)俺みたいだな
.|-O-O-ヽ |
(. : )'e'( : . 9)
それはお前が勝手にAIの定義をねじ曲げてるだけや
本当に劣化してるなら逆に人間のフィードバックで馬鹿になった可能性はあるけど
アホが書いたものを鵜呑みにしてそれを広めてるし
共食いすると脳をやられるもんな
わざとめちゃくちゃ言って違いますって言われたあと最新の情報でそうなっていますと言い返すと申し訳ありませんでしたそのとおりでしたとか言ってくるし
そりゃ情報の精度や知的レベルに雲泥の差がついてくるのは仕方ない
Bot走らせるのも楽だからって爆サイや5chをクロールしてるなオープンAI？
「みんなって？」
「おれだったァァァー！！！」
人間こそエコーチェンバー等でおかしな学習をしているというオチ
私たちの力もどんどん衰えますね。
AIが新たなAIを再生産
これぞシンギュラリティ
色々規制されることが増えたからAI本来の能力がどんどん抑えられようになってきてるだけ
人間の経験を早送りでやってると言えば同じ道を辿ってるだけなんよな
ネットで情報収集した奴がネットに中途半端な記事出して段々ネット検索が使い物にならなくなっていった歴史
互いにカニバルして強い奴が最後まで生き残るバトルロイヤル
データ生成も同じ事で人間も論文を書いては殴り愛の末に勝者が総取りする事で正確さを競ってる
知識盗むなら人間が書いた論文を盗めってんだよAI
無料ってことはそれだけ質が悪くなるってこと
今は知らんけどいずれは、まともにAIを作るならお金を出して学習データを作ってもらわんと駄目なんだよ
AIが出した絵を学習してるからだったりして
AIに真贋を見抜く事は出来なかったか
AI技術がもう法律のない途上国にまで広まってしまった結果、凡人イラストレーターなんかはもう救えないのが確定してるんだけど
AIによるモラルハザードが起き切る前に、上澄みは救える目が残って良かった
いやまぁ今でも凡人は無価値なのが芸術界隈なんだけど
結局人間のやってることを模倣してるだけなので、進化するにしても人間の作った物を与え続けないとならない。
世の中にAIで作った物しか無くなると進化が止まるか、おかしな方向へ行くかだよ。
ググっても一切出てこない単語を吐かれて困惑w
これが答え（嘘）←これを見抜けないから
どんどん馬鹿になっていく。結局統計と確率で答えだしてるから。
人間はあからさまな嘘は分かるでしょ。
AIは分からんから嘘教え放題なんよ。
絵はAIの絵同士で覚えさせる実験すると多分手がぐちゃぐちゃの絵がデフォになるんだろうな。
どのみち駄目だな。使い物にならん。しかもそれだと学習データ開始した瞬間馬鹿になるやん。正誤判定自分出できない時点で結末は決まってた。