人工知能
コンバージョンAIは技術的プラトー回避の鍵になるかもしれない
Securities.io を Google の優先ソースに追加
コンテンツの需要は着実かつ急激に増加しています。成長率を現実的に把握するために、Adobe (ADBE ) は2,600人の顧客体験およびマーケティング専門家 主要な世界経済にわたる
Adobeが2023年3月に公表した調査結果によると、過去2年間でコンテンツ需要は少なくとも2倍に成長したことが示されています。約3分の2の回答者はコンテンツの将来にさらに楽観的でした。彼らは、今後20時間で需要が5倍から20倍に増加すると予測しています。
この需要に対応するため、企業は新しいコンテンツ制作モデルを採用せざるを得なくなっています。World Federation of Advertisersによると、主要な国際企業の半数以上が社内コンテンツ制作能力を開発しています。しかし、それだけで十分でしょうか？実際、コンバージョンAIはこの課題に立ち向かっています。
コンバージョンAIとは何か？
コンバージョンAIは、人工知能を活用して企業が顧客とより良くコミュニケーションを取り、売上を増やすことを支援するものです。文章、画像、音声などのコンテンツの作成、改善、管理を支援します。これにより、企業はオーディエンスの注意を引きつけ、彼らに響くコンテンツを作成し、体験を向上させることが容易になります。すべてがスマートなAI技術によって実現されます。
現在、企業はConversion AIを利用して、FacebookやGoogle広告のコピー、ウェブサイトコンテンツ、ソーシャル投稿など、さまざまなコンテンツマーケティング目標を達成できます。しかし、コンバージョンAIはどのようにしてこれを可能にしているのでしょうか？その背後にある技術は何でしょうか？そのためには、大規模言語モデル（LLM）について知る必要があります。
大規模言語モデルとは何か？
これは大量のテキストとデータから学習できるAIの一種です。これらのAIモデルは何百億ものデータポイントを処理し、意味のある洞察、戦略、予測を導き出すユースケースがあります。
LLMの誕生（概要）
現代のLLMは2017年、6年前に登場しました。これらのLLMは多数のパラメータを扱えるトランスフォーマーモデルを利用し、迅速に正確な応答を理解・生成します。
4年後の2021年、Stanford Institute for Human-Centered Artificial Intelligenceは「基礎モデル」という用語と概念を提唱しました。この名称は、これらの大規模で影響力のあるモデルが、さらなる最適化やユースケースの基礎として機能することに由来します。LLMの発展に伴い、特に文章形式のコンテンツ生成は大きく変化しました。
LLMの影響
ARK Investの調査によると、過去2年間でLLMの文章品質は大幅に向上しました。これにより、LLMを活用したソリューションへの信頼と導入が増加しています。
その結果、文章コンテンツの執筆コストは劇的に低下しました。過去世紀では実質的に一定で、1,000語あたり約100米ドルでしたが、過去2年間でその料金は0.10米ドル以下まで下がっています。
AIのトレーニング性能が急速に向上するにつれ、パフォーマンスと生産性はさらに改善される見込みです。AI研究者はトレーニングと推論、ハードウェア、モデル設計において革新を続け、性能を向上させつつコストを削減しています。2023年を基準年とした場合、2024年には5倍以上の性能向上が期待されています。
いくつかのアルゴリズム革新により、LLMの文章能力と生産性・性能が向上しました。例えば、人間のフィードバックからの強化学習は大きく貢献しています。プロンプトは最適化され、人間のプロンプトを50%以上上回る成果を出しています。
投機的デコード機能により、特定のモデルで推論が2〜3倍高速化されました。研究者は推論コストの優先順位付けにも積極的で、実際に推論コストは年間約86%のペースで低下しており、トレーニングコストよりも速いです。GPTモデルはFlash Attention 2により、トレーニング速度がほぼ3倍に向上しています。
これらすべての改善と高速な進化が続く中、LLMの利用において潜在的なプラトーが近づいているか、そしてそれを回避できるかどうかの調査も進められています。
2023年が人工知能のブレークアウト年であった理由をこちらで学んでください。
LLMの潜在的プラトーとその回避策
研究者は、LLMがデータ枯渇に陥り、性能が制限される可能性のあるシナリオを検討しています。LLMは継続的に大量のトレーニングデータを供給される必要がありますが、計算能力やトレーニングデータの不足が懸念されています。
Epoch AIの推定によると、書籍や学術論文などの高品質な言語・データソースは2024年までに枯渇する可能性があります。その時点で、未開拓のビジョンデータの大規模セットに頼る必要があります。これらの未利用のビジョンデータには、話された言葉やその他の物理的世界データが含まれます。
研究によれば、年間で30クアドリリオン（30兆）語が話されています。音声からテキストへの生成ツールは、1日あたり80兆語以上の話された言葉を捉えます。さらに、タクシー、トラック、ドローン、その他のロボット車両が大量の物理的世界データや合成データを生成し、一次データを補強しています。これらの未探索データは、比類なき資源としてLLMをプラトーから脱出させる可能性があります。
しかし、性能、生産性、品質の向上は未探索データの発掘だけに限られません。複数の革新的企業が、シナリオ全体を包括的に改善するための取り組みを行っています。
#1. Replit AI
生産性向上に関して、Replit AIは主要な成功事例の一つです。コーディングアシスタントとして、ソフトウェア開発者の生産性と仕事満足度を向上させました。反復的なコーディング作業を排除し、創造的な作業に集中できるよう支援します。
Replit AIはAIコードジェネレーターを統合し、タブ切り替えの必要性を排除して自動補完コード提案を提供し、作業を高速化します。また、Code Context機能により次に書くべき行を適切に提案し、プロジェクトの理解を深めます。さらに、シームレスなエディタ内で問題を自動検出し、修正案を提示します。
総合的に、Replit AIはComplete Code、Generate Code、Edit Code、Explain CodeといったAIコード生成機能を備えた効率的なスイートです。
Replit AIの動力源はLLMです。公開されているコードで訓練され、Replitがチューニングした大規模言語モデルから生成された結果を返します。会話型プロンプトと使用中のプログラミング言語を考慮し、生成されたコードに対する提案や説明を行います。
Replit AIの機能はすべてのユーザーに無料で提供されています。必要なのはReplitアカウントだけです。Replit AIはJavaScriptとPythonコードで最も高いパフォーマンスを発揮しますが、Bash、C、C#、C++、CSS、Go、Java、JavaScript、HTML、PHP、Perl、Python、R、Ruby、Rust、SQLの計16言語をサポートしています。
最新の情報によると、同社は2023年4月に、クラウドサービス拡大とAI開発のリーダーシップを目指し、評価額11.6億米ドルで9,740万米ドルの資金調達を行いました。
#2. Github Copilot
Replit AIに似た別のコーディング支援サービスであるGithub Copilotは、2023年に開発者のコーディング作業の生産性を2.2倍向上させました。Github Copilotはソフトウェア開発ライフサイクル全体でコンテキストに応じた支援を提供します。
消費者満足度調査によると、Github Copilotを使用する開発者は、使用しない開発者に比べて仕事への満足度が最大75%高く、コード作成の生産性が最大55%向上し、品質を損なうことはありません。
Github Copilotは、自然言語テキストと公開リポジトリのコードを含む公開ソースから自己学習します。公開リポジトリに存在するすべての言語で訓練されていますが、リポジトリでの出現頻度が低い言語は効果が低い可能性があります。Github Copilotは個人開発者、フリーランサー、学生、教育者、オープンソースメンテナーが利用できます。
Microsoftのプロダクト担当副社長であるMario Rodriguezによると、GitHub Copilotは好調で、年間1億米ドルの収益を上げています。
#3. MosaicML
MosaicMLはLLMのトレーニングを支援し、ジェネレーティブAIをすべての人に提供するソリューションとして位置付けられ、ユーザーデータ上でモデルをトレーニング・デプロイするために必要なすべてを提供します。MPT Foundationシリーズは、オープンソースモデルと商用ライセンスモデルの両方で動作するアプリケーションへのLLM統合を容易にします。
MosaicMLのトレーニングは、開発者がデータを完全に管理しながらモデルの事前トレーニングやファインチューニングを行えるようにし、S3バケットを指定するだけの単一コマンドでプロセスを簡素化します。このプラットフォームはオーケストレーション、ノード障害、インフラを効率的に処理し、ReplitがMosaic MLを使用してGhostwriter LLMをトレーニングし、1週間以内にトップクラスの結果を示した事例があります。
MosaicMLのアプローチは、任意のクラウド環境でのトレーニングにおいてデータプライバシー、セキュリティ、完全なモデル所有権を重視し、クラウド間のシームレスな移行をサポートする機能を備えています。完全なデータ所有権、ビジネスニーズに応じたコンテンツフィルタリング、既存データパイプラインとのプラグアンドプレイ統合を提供し、クラウドに依存せずエンタープライズで実証済みです。
前年の6月に、Mosaic MLはDatabricksに13億米ドルの取引で買収され、その市場への影響と価値提案が強調されました。
#4. Anthropic
Anthropicの主力製品Claudeは、ClaudeとClaude Instantという2つのモデルで動作します。
ClaudeはAnthropicの最も強力なモデルで、洗練された対話やクリエイティブなコンテンツ生成から詳細な指示まで、幅広いタスクに優れています。複雑な推論、創造性、思慮深い対話、コーディング、詳細なコンテンツ作成が必要なシナリオで高い性能を発揮します。
Claude InstantはClaudeの高速かつ低コスト版で、カジュアルな対話、テキスト分析、要約、文書理解に役立ちます。低コストでの性能が求められる場面で有効で、レイテンシを低減して機能します。
全体として、Claudeは大量のテキスト処理、自然な対話、質問への回答、ワークフローの自動化に適しています。カスタマーサービス、法務、コーチング、検索、バックオフィス業務など、さまざまなユースケースに活用できます。
報告書によると2023年12月下旬、OpenAIの競合と見なされるAnthropicは、184億米ドルの評価額で7億5,000万米ドルの資金調達を検討していると報じられました。
#5. Humata
Humataを使えば、長大な技術論文を簡単にスキップできます。Humata PDF AIは、調査結果の要約、文書の比較、回答の検索を支援します。ファイルサイズ無制限で無制限にアップロード可能です。文書AIの回答には引用が付随し、情報源を追跡できます。
ChatGPTのPDF版のように、満足するまで要約を書き直すことができます。ただし、ChatGPTとは異なり、Humataはファイルと連携し、アップロードされたすべてのファイルを読み取り、文書の内容に基づいて回答を生成します。
2023年10月2日、Humata AIは最新の資金調達ラウンドの成功裏に完了したことを発表しました、GoogleのGradient Ventures、ARK InvestのCathie Wood、M13、その他の著名なエンジェル投資家から350万米ドルを調達しました。
#6. OpenAI
最後に、AIやそのLLM学習、コンテンツ生成機能について議論する際に、OpenAIの言及なしでは語れません。OpenAIは、ディープラーニングと呼ばれる技術を用いて大量のデータでAIシステムを訓練し、生成モデルを構築してきた企業です。
OpenAIはChat、Image、Audioのサービスを提供しています。その自己回帰型言語モデルGPT-3は1750億パラメータで訓練されましたが、ユーザーの意図に従う点でGPT-3を上回る言語モデルも訓練しています。
画像関連製品では、OpenAIの画像生成モデリング研究により、テキストと画像をマッピングするCLIPや、テキスト記述から鮮やかな画像を生成するDALL·Eといった表現モデルが生まれました。
さらに、音声分野でもWhisper、Jukebox、MuseNetといった開発を行っています。Whisperは堅牢な英語音声認識機能を提供し、Jukeboxはさまざまなジャンルやアーティストスタイルの音楽生成を支援します。MuseNetは多様な楽器で完全な楽曲を生成できる深層ニューラルネットワークです。
報告書によると2023年12月下旬、OpenAIは評価額100億米ドル以上で新たな資金調達ラウンドの初期協議を行っていると報じられました。
プラトーを超えて：これからの道筋
人工知能は、コンテンツ生成を極めて短期間で何百万マイルも前進させました。将来は、データと共に成長する計算システムやソフトウェアが手の届かない問題を解決し、より明るく繁栄したものになるでしょう。
あらゆる産業分野が、反復的で時間のかかる知的作業を自動化することで、テクノロジーをより有効に活用できるようになります。GPT-4のようなモデルは生産性を向上させ、オープンソースAIモデルは運用コストを大幅に削減し、効率を根本的に高めます。研究者は、技術的プラトーの回避だけでなく、2030年までに知識労働者の生産性が4倍になると見積もっています。
これは、テクノロジーエコシステムにおける大規模言語モデルの重要性を強調しています。LLMは、ChatGPTのような製品がAIへの一般的理解を確立し、あらゆる言語を話す誰もが利用できるシンプルなチャットインターフェースを提供することを可能にしました。
