人工知能
汎用人工知能：慎重に能力を構築する物語
Securities.io を Google の優先ソースに追加
私たちは人工知能の時代に生きています。2023年の元記事は世界のAI市場を2,400億米ドルと推定し、2030年には7,300億米ドルを超え、年平均成長率が17%を上回るとの予測を紹介していました。これは当時の市場予測であり、将来の売上高が確定していたわけではありません。
AIを取り巻くすべての騒ぎの中で、誰もが注目しているパラダイムはAGI、汎用人工知能です。
AGIとは何で、なぜ関心を集めているのでしょうか。本記事では、2023年の視点から概念、研究の方向性、期待を整理します。
しかし、汎用人工知能に直接飛び込む前に、まず一般的な知能が何を意味するのかを確認してみましょう。
一般知能の輪郭を設定する
一般知能とは、さまざまな目標を達成し、異なる文脈や環境で多様なタスクを実行する能力を意味します。「一般に知的」なシステムは以下を満たさなければなりません：
- 予測できる範囲を大きく超える問題や状況に対処できること
- 得た知識を一般化し、ある問題の文脈から他の文脈へ転移できること
一般知能の厳密な定義や測定方法について、研究者の見解は分かれています。必要な特性を列挙した、普遍的に合意された基準が一つ存在するわけではありません。
AGI研究は、このような幅広い学習能力と問題解決能力を人工のシステムで実現しようとするものです。
AGIの核心仮説
ベン・ゲーツェルは、2014年にJournal of Artificial General Intelligenceに掲載した総説論文「Artificial General Intelligence: Concept, State of the Art, and Future Prospects」で、中心的な仮説を次のように示しました。
「十分に広い範囲、例えば人間レベルの範囲と、強い汎化能力を持つ人工的な知能の創造・研究は、著しく狭い範囲と弱い汎化能力を持つ人工的な知能の創造・研究とは、根本的に質が異なる。」
この考え方では、AGIは適用範囲が広く、新しい状況に知識を一般化する能力が高いものとされます。この仮説は研究上の立場であり、証明済みの自然法則ではありません。
平易にいえば、AGI研究は人間の能力と比較されることも多い、幅広い認知能力の開発を目指します。学習や知識の転移は重要ですが、必要な性能水準は定義によって異なります。
AGIの実現可能性や時期については意見が分かれています。懐疑的な研究者もいれば、より広い能力を開発する研究者もいます。人間に匹敵する一般知能が原理的に不可能だという科学的合意があるわけではありません。
AGIと「強いAI」という概念
IBMの説明では、強いAIは人間並みの知能や自己意識と結び付けられています。ただし、すべてのAGIの定義が意識を要件とするわけではありません。運用上の定義は、幅広い課題での性能や汎化能力に注目することがあります。機械が主観的な体験を持つかどうかは別の論点です。
システムは入力や経験を通じて学習するかもしれませんが、AGIが必ず子どものように出発したり、人間の脳と同じ仕組みで働いたりする必要はありません。研究の目標は主に能力であり、必須の発達経路ではありません。
一般的な比較では、単一の専門課題での性能だけでなく、対応できる課題の広さや、新しい状況に知識を転用する能力が重視されます。
特化型AIは必ずしも一つの反復作業だけに限られず、限定された領域で自律的に動くこともあります。一方、AGIだから人間の指示や監督が不要になるとは限りません。能力、自律性、意識は異なる概念で、一つが別のものを証明するわけではありません。
ゲーツェルの総説は、記号的、創発的、ハイブリッド、普遍主義的という四つの大きな研究方向を区別しています。これは同論文での分類であり、網羅的な一覧や、すべてのAGIに必須の構成ではありません。
記号的アプローチ：世界やシステムの側面を記号で表します。物理的な記号システムは記号を受け取り、生成し、保存し、変更して、行動の選択に利用できます。これは理論的なアプローチであり、知能がこの方法でしか働かないと証明するものではありません。
一部の記号的認知アーキテクチャは、作業記憶と長期記憶、知覚・思考・行動の中央制御を組み合わせます。すべての記号的手法が同じ構成である必要はありません。
創発的アプローチ：下位レベルの非記号的な要素の相互作用から、上位レベルの能力が生まれると考えます。ニューラルネットワークのように、多数の比較的単純な要素の連携から複雑なパターンや機能が現れるという発想です。
ハイブリッドアプローチ：記号的なサブシステムと非記号的なサブシステムを組み合わせ、長所を活用しながら限界を補います。全体として、個々の部分とは異なる能力を持つ可能性があります。
組み合わせは、巨大なサブシンボリックシステムを持つシンボリックサブシステム、または各々がシンボリックとサブシンボリックの性質を持つ小規模エージェントの集合である可能性があります。
普遍主義的アプローチ：非常に一般的な知能の数学モデルから出発し、実用的な近似を研究します。理想モデルの中には計算不可能なものや、現実的でない計算資源を要するものがあります。単に完成済みのアルゴリズムに高性能の機器を与えればよい、という問題ではありません。
さまざまな組織がAI製品を開発し、より広い知能を研究しています。ただし、実用製品があることは、2023年にAGIが実現していた証拠ではありません。OpenAIは、この研究目標を掲げるよく知られた組織の一つです。
AGIに取り組む主要企業
1. OpenAI
ChatGPTで知られるOpenAIは、2023年2月24日のブログ記事で、AGIが全人類に利益をもたらすという目標を説明しました。一般に人間より賢いAIシステムを想定していましたが、これは使命の説明であり、AGIの達成を発表したものではありません。
OpenAIは、システムがAGIに近づくほど開発・展開に慎重になると述べました。InstructGPTとChatGPTは、より制御しやすいシステムへの一歩として挙げられたもので、実現済みのAGIではありませんでした。
ChatGPTとは？
OpenAIは2022年11月30日、言語モデルに基づく対話システムとしてChatGPTを公開しました。質問に答え、メール、作文、プログラムコードなどの作成を支援します。人間らしい応答は、人間と同じ理解や信頼性の証明ではなく、出力に誤りが含まれることもあります。
5つの最高のChatGPT拡張機能のリストはこちらをご覧ください。
InstructGPTとは？
InstructGPTは、人間の実演やフィードバックを使い、指示によりよく従うようOpenAIが訓練したモデルの名称です。言語モデルの特定の開発を指し、あらゆる高度なAIの総称でも、単独でAGIを証明するものでもありません。
OpenAIとChatGPTの当時の数値
2023年10月12日、The Informationは、OpenAIの売上ペースが年換算で13億米ドル、月1億米ドル超となり、夏のペースから約30%増えたと報じました。これとは別にOpenAIは、2023年11月にChatGPTの週間アクティブ利用者が約1億人と発表しました。年換算した売上ペースは、通期の実際の売上高とは異なります。
2023年11月のOpenAI経営危機
当時の取締役会は2023年11月17日、サム・アルトマンCEOを解任し、コミュニケーションで常に率直だったとはいえないと説明しました。これは当時の取締役会の説明であり、独立して認定された結論ではありません。復帰の基本合意は米国時間11月21日、UTCでは22日に公表されました。OpenAIが新たな暫定取締役会とともに正式な復帰を確認したのは11月29日です。
当時の報道では、従業員の大多数がアルトマン氏の復帰がなければ退職すると表明しましたが、全員が署名したという意味ではありません。共同創業者で当時の主任科学者イリヤ・サツケバーは、Xで後悔を表明しました。「取締役会の行動に参加したことを深く後悔しています。OpenAIを傷つけるつもりは決してありませんでした。共に築いたすべてを愛しており、会社を再び一つにするためにできる限りのことをします。」
アルトマン氏の復帰で差し迫った経営危機は収束しましたが、統治や監督の問題がすべて解決したわけではありません。新取締役会は独立した検証や統治の改善も発表しました。
OpenAIがAGI分野で最も注目を集めている一方で、他のプレイヤーも長い間存在しています。DeepMindはその一例で、2010年から活動しています。
2. DeepMind
DeepMindは2010年に設立され、2014年にGoogleに買収されました。2023年4月にはGoogle Brainと統合され、Google DeepMindとなりました。より汎用的な問題解決システムを研究し、科学や社会に役立つ応用を進めようとしています。
DeepMindの運営原則は常に科学を進歩させ、人類に利益をもたらすことです。そのため、人工知能を社会のニーズや期待に応える形で活用したいと考えています。
Moorfieldsとの研究では、検討対象の眼科画像について、専門医と同等の水準で受診・治療の優先度に関する紹介判断を行うモデルが示されました。あらゆる眼疾患の自律診断や医師の代替を証明したものではありません。2018年には自律制御システムがデータセンターの冷却エネルギーを約30%削減したと報告されましたが、施設全体の消費量ではありません。AlphaFoldはタンパク質の三次元構造を予測し、生物学や創薬研究を支援しましたが、機能や薬の開発に関するあらゆる問題を解決したわけではありません。
元記事は資金調達データベースの記録を参照し、2011年2月1日にFounders FundとHorizons Venturesから5,000万米ドルを調達したとの情報を紹介しました。限られた記録だけでは、買収前の資金調達が一度きりだったとは確認できません。完全に監査された資金調達履歴ではありません。
3. Adept
Adeptは2023年3月、General CatalystとSpark Capitalが主導する3億5,000万米ドルのシリーズB調達を発表しました。当時、創業約1年の同社はソフトウェアを操作できるAIを開発していました。元記事は従業員約25人と、初期の実演によるデジタルアシスタントの紹介を記載していました。
Adeptは人間のソフトウェア利用を研究し、文章の指示をコンピューター上の操作に変換しようとしていました。記事は調達後評価額を約10億米ドルと報じています。当時の評価額は現在の評価額でも、AGI実現の証拠でもありません。
共同創業者のデビッド・ルアンは、その目標をシンセサイザーに例えました。音楽家は各楽器を習得しなくても、多くの楽器の音を使えます。Adeptも、一つのAIシステムを通じて同様にソフトウェアを使いやすくしたいと考えていました。
AGI：今後の道筋
人々はAGIの可能性についてさまざまな見解を持っています。ある人はAGIが人類に危険な結果をもたらす可能性があると考え、別の人はAGIが我々が考えるほどの成果を上げられないと考えています。
ディエゴ・クラビャンはノースウェスタン大学教授で、同大学の分析学修士課程の創設者です。元記事では、次の懐疑的な見解が引用されていました。
「人間の脳は数十億のニューロンが非常に興味深く複雑な方法で接続されており、現在の最先端技術は非常に簡単なパターンに従う単純な接続にすぎません。したがって、現在のハードウェアとソフトウェア技術で数百万のニューロンから数十億のニューロンへと移行することは、私には実現できそうにありません。」
Oxford、Yale、AI Impactsに関係する研究者が2016年に実施した調査には、機械学習研究者352人が回答しました。結果は2017年にプレプリントとして公表されました。数値は主観的な確率予測を集約したものであり、確約された期限や「回答者の中央値」ではありません。当時の予測例は次のとおりです。
- 2026年ごろ：調査で定義された水準の学校作文を書く。
- 2027年ごろ：指定された水準でトラックを運転する。すべての運転手が不要になるという意味ではない。
- 2031年ごろ：調査に記載された小売業務を行う。業界全体を代替するという意味ではない。
- 2049年ごろ：ベストセラーを書く。スティーブン・キングは比喩的な比較で、特定の作家に関する予測ではない。
- すべての職業が完全に自動化可能になる時期：集約された50%の確率予測では2016年から約122年後、すなわち2138年ごろ。すべての雇用が実際にその時点で失われるという意味ではない。
AIが最終的にどこへ向かうかを予測するにはまだ早すぎます。しかし、すべての技術と同様に、善にも悪にも利用できます。
2023年2月のブログでサム・アルトマンは、AGI開発を厳しく検討し、重要な判断では市民の意見を聞くべきだと述べました。想定されるリスクについては、次のように記しました。
「世界は現在とは大きく異なるものとなり、リスクは並外れたものになるかもしれません。人間の目的に整合していない超知能AGIは世界に深刻な損害を与える可能性があります。超知能の分野で決定的な優位を持つ独裁的な体制も、同様のことをし得ます。」
DeepMindなどは、より汎用的なAIが科学的発見を支援できるか研究しています。それだけで実証済みのAGIの提供者になるわけではありません。研究、工学、安全保障への将来の影響は不確実で、能力、用途、統治や監督に関する人間の選択に左右されます。
