フィードバックループは、LLMが狂牛病に似た「モデル崩壊」を経験させる可能性があります

生成的人工知能の世界で興味深い問題が浮上しています。この問題は非常に強力かつ複雑で、生成的AIの範囲を危うくする可能性があります。この問題を深く理解する前に、AIの上昇曲線で予想される障壁がと見なされている それほど重要です。

AIが世界をより効率的にするはずの方法

過去数年間、生成的AIがもたらした利益 世界は大幅に採用が進みました。Fortune 500企業の92％が生成的AIを導入し、GenZの70％がこれらのツールを試しています

生成的AIの普及は非常に広範で、米国の職業の約90％が影響を受け、2025年までに顧客とのやり取りの95％がそれに関わる可能性があります。現在の市場規模は約450億米ドルですが、AIはさらに拡大し、来年には9700万件もの雇用を創出する可能性があります。

AIの可能性は比類がありません、言うまでもなく。200万人以上のソフトウェア開発者がOpenAIのAPI上で開発しており、これらの開発者の多くは、最高のリソースを利用できるはずのFortune 500企業に所属しています。それでも彼らはAPIでの開発を選択しました。

この生成的AIの可能性に対する肯定的な感情は、Deloitteが実施した調査にも反映されており、94％のビジネスエグゼクティブがAIを将来の成功の鍵と考えていることが示されました。

これらすべてのデータと事実から、世界中の多くの人々が将来の成長のために生成的AIを期待していることが明らかです。しかし、AIの成長可能性に挑戦する問題が浮上しています：フィードバックループです。以下のセクションで、この問題をより詳しく検討し、考えられるすべての影響と意味合いを探ります。

フィードバックループとは何か

最も基本的な形では、フィードバックループは悪いものでも有害なものでもありません。これは、AIシステムの出力とそれに対するエンドユーザーの行動を利用して、時間とともにモデルを再訓練し改善するプロセスです。

その性質上、閉ループ（クローズド・ループ）と呼ばれ、プロセスは閉ループ学習と呼ばれます。ここでは、AIが生成した出力と最終的な判断を継続的に比較し、モデルにフィードバックを提供して誤りから学習させます。

しかし、合成データが実際に使用されると、このフィードバックループ学習に問題が生じます。生成的AIモデルの訓練には膨大なデータが必要ですが、データ供給は限られており、これらのモデルは訓練リソースを使い果たす危険があります。

そのため、大手テック企業は将来のAIモデルを訓練するために合成データの活用に熱心です。しかし、合成データにも利点と欠点があります。

合成データの利点と欠点

合成データ（AIが合成したデータ）は多くの利点があります。たとえば、実世界のデータよりも安価であり、さらに重要なのは供給が無限であることです。

データが合成されているため、実在する個人から取得されたものではなく、プライバシーリスクが極めて低くなります。逆に、医療技術やヘルスケア分野で使用される実データはプライバシー侵害のリスクがあります。さらに、合成データの使用がAIの性能向上に寄与した事例もあります。

しかし反対に、過剰に合成データを供給されたAIモデルは機能や潜在能力が制限され、生成的AIモデルの将来のイテレーションに悪影響を及ぼす可能性があります。このリスクは根拠がなくはなく、最近の研究がそれを裏付けています。Rice Universityのデジタル信号処理グループが検証しています。

Rice大学のC. Sidney Burrus電気・コンピュータ工学教授、リチャード・バラニウクは次のように述べています：

「この合成データ訓練が繰り返されると、フィードバックループが形成されます――我々が『自己消費的』または『オートファゴーシス』ループと呼ぶものです。」

合成データが引き起こすフィードバックループの課題

問題の全容を理解するためには、フィードバックループと合成データを同時に検討する必要があります。バラニウク教授は次のように要約しています。「我々のグループはこのようなフィードバックループを広範に研究してきましたが、数世代の訓練を経ても新しいモデルは修復不可能なほど腐敗する可能性があります。この現象は一部で『モデル崩壊』と呼ばれています――最近では大規模言語モデル（LLM）の文脈で同僚らがこの用語を使用しています。我々はむしろ『モデルオートファジー障害（MAD）』という呼称が適切だと考えます。これは狂牛病に例えることができます。」

この比較の関連性を説明すると、狂牛病は牛に致命的な神経変性疾患を引き起こし、人間にも感染した肉を摂取することで同様の病気が発生します。この病気は、屠畜された仲間の残飯を牛に与えるという行為によって広がります。データの残りやプロセス自体から生成されたデータを副産物として再利用する行為が、将来の生成的AIモデルにとっての「感染」になるのです。

この問題を取り上げた研究は『Self-Consuming Generative Models Go MAD』というタイトルです。この研究の重要な点は、DALL‑E、Midjourney、Stable Diffusionといった広く知られたビジュアルAIモデルを対象にした、AIオートファジーに関する初のピアレビュー論文であることです。バラニウク教授は「同様の狂牛病的腐敗問題はLLMでも起きている」と指摘しています。

この問題とそれを駆動する要因を検討した上で、次にその影響と将来の生成的AIモデル開発への影響を考察します。

新鮮なデータ不足がもたらす不健康なAI

影響を受けた、あるいは感染したLLMの根本的な問題は、データが枯渇したAIモデルになることです。新鮮な実データが不足すると、出力は歪み、品質と多様性が失われます。

このシナリオをより分かりやすく視覚的に説明するために、人間の顔をAIで生成するケースを考えてみましょう。段階的なイテレーティブループでデータが供給され続けると、すべての顔が同じ人物に似たものへと収束していく可能性があります。

そのような破壊的可能性の強度は極めて深刻です。、言うまでもなく。バラニウク教授のコメントからもその深刻さが伺えます：

「いくつかの影響は明らかです：十分な新鮮な実データがなければ、将来の生成モデルはMAD（狂牛病）に陥る運命にあります。」

このような破滅的状況に対する治療法はあるのでしょうか？現在、研究者はユーザーがデータの品質を多様性よりも優先する傾向を考慮したサンプリングバイアスパラメータを導入しました。この傾向は「チェリーピッキング」と呼ばれます。良い点は、モデルのイテレーション回数が増えてもデータ品質を保てることですが、代償として多様性の低下が顕著になります。

AIが私たちの未来に与える影響はすでに見えてきています。この潜在力が解き放たれると、多くのステークホルダー、特に新興企業や革新的ビジネスに大きな影響を及ぼすでしょう。

Googleは多様なステークホルダー向けにLLMを提供する先駆的企業の一つです。AI生成フィードの多様性不足は、Googleが今後直面する課題となります。ここではGoogle AIのLLMに関する能力を簡潔に見ていきます。

#1. Google AI

AI分野では、Googleが目標を達成するために2つの事業部門、Googleが提供するサービスがあります。それはGoogle DeepMindとGoogle Cloudです。Google Cloudは、Google DeepMindが開発・テストしたイノベーションをエンタープライズ向けAIプラットフォームに統合し、顧客が生成的AI機能を構築・提供できるようにします。Google Cloudは3つのLLMサービスを提供しています。

• 1つ目はVertex AI上のGenerative AIで、ユーザーはGoogleの大規模生成AIモデルにアクセスし、テスト、チューニング、デプロイが可能です。
• 2つ目はVertex AIエージェントビルダーで、エンタープライズ検索やチャットボット向けに設計されています。オンボーディング、データ取り込み、カスタマイズなどの一般的なタスク用に事前構築されたワークフローが用意されています。
• 3つ目はContact Center AIで、Dialogflow（Googleの会話型AIプラットフォーム）を含むインテリジェントなコンタクトセンターソリューションで、意図ベースとLLM機能の両方を提供します。

しかし、GoogleもAIの公正な利用に関して課題に直面しました。今年5月、GoogleのCEOサンダー・ピチャイは、ユーザーの問い合わせに対して人種的に偏った画像結果を生成したことを認め、同社が誤っていたと明言しました。

GoogleはGeminiの画像生成機能を一時停止し、ソーシャルメディアユーザーがナチスを描写する際に有色人種を誤って表現したことへの批判に対応しました。

我々がここまで引用した研究と同様に、同社は「Geminiの開発に使用された訓練データの制限が原因で問題が生じた」と認めました。

問題の所在をさらに詳しく述べると、サンダー・ピチャイは次のように語っています：

「米国の人口を尋ねるような質問には答えられますが、ウェブ上にある多様な意見を提示したい場合もあります。検索はそれをうまく行います。」

ピチャイによれば、Googleは検索の観点から信頼性が高く高品質な情報を提供することを長年にわたって確保してきました。

財務面では、Alphabet Inc. (GOOG ) （Googleの親会社）は2023年に売上高3,074億ドルを記録し、2022年の2,828億ドルから9％増加しました。営業利益は843億ドルに達し、前年の748億ドルから大幅に上昇しました。営業費用は2,231億ドルに増加したものの、純利益は738億ドルで、2022年の600億ドルを上回りました。

#2. Cohere

この分野で優れた取り組みを行っているもう一つの組織は、トロント拠点のCohereです。特に注目すべきイニシアチブは「Cohere for AI」という非営利研究ラボで、複雑な機械学習課題の解決を目指しています。従来の研究グループとは異なり、Cohere for AIは専任の研究スタッフとオープンサイエンスイニシアチブの支援を組み合わせたハイブリッドラボとして機能しています。同社は世界中の独立研究者とオープンに協力し、最先端のML研究を実施しています。

Cohereのオープンサイエンス研究コミュニティは、研究者、エンジニア、言語学者、社会科学者、そして生涯学習者で構成された交差領域の場で、100か国以上から貢献者が参加しています。

Cohereのモデルには、Aya 23‑8B と Aya 23‑35B といった最先端のアクセス可能な研究LLM、C4AI Command R‑104B と C4AI Command R‑35B（研究アクセスの民主化を目指すモデルウェイト）、そして多言語対応の研究LLMであるAyaが含まれます。

最近、Cohereと富士通は、業界トップクラスの日本語対応能力を備えたエンタープライズAIサービスを共同で開発・提供する戦略的パートナーシップを発表しました。この協業により、両社はグローバル企業のニーズに応える強力なエンタープライズ向け大規模言語モデル（LLM）を構築します。

今年3月、Cohereは最新の資金調達で50億ドルの評価額を目指すと発表しました。資金調達ラウンドで約2億5,000万ドルの調達を目指していると、関係者は語っています。

結論的考え

LLM とそれらが駆動する生成的AIモデルは急速に出現し、進化しています。この領域は大規模で野心的かつ強い志向性を持つ最先端技術を含んでいます。したがって、今後数年間でこの分野への研究投入が大幅に増加することが予想されます。

研究機関、大手テック、教育機関――すべてのステークホルダーがこの領域へのリソース配分を強化しようとしています。このような活動の急増は、さらなる課題を表面化させるでしょう。しかし同時に、コース修正や枠を超えた思考、既存ソリューションの最適化された再構築が進むことも意味します。

人工知能への投資に関するすべてを学ぶには、ここをクリックしてください。