AIがソーシャルメディアとオンラインの信頼を再構築する

AIコンテンツは至る所にあり、真の人間コンテンツを圧迫し、ソーシャルメディアの風景を完全に変革しています。その影響はプラットフォームを超えて、政治の領域、広範なインターネット、さらには世界経済にまで及んでいます。

では、ソーシャルメディアは死に向かっていると言えるのでしょうか？それでは、見てみましょう。

要約:

AI生成コンテンツは、プラットフォームを合成メディアで氾濫させ、信頼を侵食し、意味のある人間の交流をプライベートで検証可能な空間へとシフトさせることで、ソーシャルメディアを再構築しています。

人間のつながりから合成フィードへ

約40年前、初期のオンライン社会的相互作用が登場し、1970年代後半から1980年代にかけて掲示板システム（BBS）、Usenet、初期フォーラムが始まりました。しかし、最初の認識可能なソーシャルネットワーキングプラットフォームが現れたのは1990年代中盤から後半であり、後に現代のソーシャルメディアとなる基盤を築きました。

21世紀の初めは、Friendster、MySpace、Facebook といったサイトによりソーシャルメディアが広く普及した時期です。この現代のソーシャルメディア時代は、瞬時のグローバル接続を可能にし、人々が関係を維持し、リアルタイムのニュースにアクセスし、共通の関心に基づくコミュニティを構築できるようにしました。

しかし、数十年が経過した現在、AIコンテンツの急増によりソーシャルメディアの姿が変わりつつあります。

従来、ソーシャルメディアの核心的価値はつながりと表現でしたが、これらは自動化された大量生産に取って代わられました。人々のフィードが合成ノイズで支配される中、離脱と不信感が急速に拡大しています。

Instagramの最高幹部によれば、慎重にキュレーションされたグリッドは過去のものとなっています。

Threads上のメッセージで、Instagramの責任者Adam Mosseriは、AIの台頭によりソーシャルメディアサイトの洗練された美学が失われたと警告しました。メイクアップや肌のスムージング、美しい風景、高コントラストの写真はすべて「死んだ」も同然であり、「人々はほとんど個人的な瞬間を共有しなくなった」と彼は述べました。

代わりに、加工されていない「魅力的でないスナップ」がダイレクトメッセージで共有されています。

AI画像の蔓延により、クリエイターはキュレーションされたグリッドやプロフェッショナルな写真スタイルから離れ、より「生の美学」へとシフトせざるを得なくなっています。人々は「本物らしいコンテンツ」を求めており、魅力的な画像は「制作コストが低く、消費が退屈」だと感じられています。

Mosseriは、AIツールの成熟とともに生成できる美学の幅が拡大すると述べ、すでにソーシャルメディアのフィードは「合成すべて」で埋め尽くされつつあり、プラットフォームはAI生成コンテンツの洪水に対応する必要があると指摘しました。

一方、Substack共同創業者兼CEOのChris Bestは、昨年末にAI生成の「スロップ」がインターネットを氾濫させ、「愚かな人々がクリックし続ける」ことになると述べました。

「スロップ」は米国辞典Merriam-Websterが2025年の「年間語」と選び、低品質で大量にAIによって生成されたデジタルコンテンツを指すと定義しています。

ボットインターネットの台頭

スワイプしてスクロール →

データによると、インターネットトラフィックの約3分の1がボット、すなわち人間の行動を模倣する自動化ソフトウェアプログラムから来ています。

これにより、インターネットは主にボット活動とアルゴリズム生成コンテンツで構成され、世界人口を制御するという「デッドインターネット」理論が生まれました。

Redditの共同創業者Alexis Ohanianは、この考えに一定の真実があると信じており、これにより新たなソーシャルメディア時代が出現すると述べました。「ライブ視聴者やライブコンテンツのような生の証拠は、注目を集める上で本当に価値がある」と彼はポッドキャストで語りました。

OpenAIの創業者兼CEO Sam Altmanも昨年X（旧Twitter）で同様の見解を共有し、次のように投稿しました。

「デッドインターネット理論を真剣に考えたことはありませんが、現在は本当に多くのLLMが運営するTwitterアカウントが存在するようです。」

X（旧Twitter）上のボット活動は実際に悪化しています。約10％のXアカウントがボットであると推定され、数百万のユーザーに相当します。

一方、YouTubeのアルゴリズムが新規ユーザーに表示する動画の20％以上が「AIスロップ」であることが判明しました。

実際、調査対象となった15,000の最も人気のあるYouTubeチャンネルのうち、278チャンネルはAI生成コンテンツのみで構成され、合計で2億2100万の登録者と630億以上の視聴回数を獲得し、年間約1億1700万ドルの収益を上げています。

これは特定のプラットフォームに限らず、インターネット全体に当てはまります。

2025年のImperva Bad Botレポートによれば、自動化トラフィックが人間トラフィックを上回り、全インターネットトラフィックの51％を占め、そのうち20％が悪意ある活動を行う「悪質ボット」から来ています。

数か月前、ウィキメディア財団のシニアプロダクトディレクターであるMarshall Millerは、Wikipediaの人間トラフィックが約8％減少していると指摘しました。

この減少は、財団が人間とボットのトラフィックを区別する方法を変更し、実際の読者数を把握し、商業検索やAIツールのためにデータをスクレイピングするサードパーティボットを制限した後に明らかになりました。

「これらの減少は、生成AIとソーシャルメディアが人々の情報検索方法に与える影響を反映していると考えています。特に検索エンジンが直接回答を提供し、若年層がTikTokやYouTubeに頼るようになっていることが要因です」とMillerは述べました。

しかし、これによりWikipediaのコンテンツを書き、編集するコミュニティが縮小する可能性があります。そのため、プラットフォームは検索エンジン、ソーシャルプラットフォーム、LLM、AIチャットボットに対し、サイトへのトラフィックを増やすよう呼びかけています。

ソーシャルメディアプラットフォームがAIコンテンツを増幅させる方法

生成ツールのエコシステムが爆発的に成長した結果、ソーシャルメディアプラットフォームはAI生成コンテンツで溢れています。

例えば、Sora、Midjourney、Pika、Runway、Stable Diffusion といったツールにより、ほぼあらゆる画像や動画を簡単に作成できるようになりました。

増加するソリューションは、視聴回数を増やし、クリエイターレワードプログラムやアフィリエイトリンクで収益化することをさらに容易にしています。これらは自動生成だけでなく、料金を支払ってYouTubeなどのプラットフォームに直接コンテンツを投稿し、単一アカウントで月に100本以上の動画を制作します。これらのソリューションはコンテンツクリエイターになるプロセス全体を自動化することを目指しています。

しかし、それだけではありません。研究者は、プラットフォームが実際にAI生成投稿を促進していることを発見しました。TikTok、Instagram、Meta などのプラットフォームは、ユーザーが外部ソフトウェアなしでビジュアル、スクリプト、既存メディアのリミックスを生成できるネイティブAI機能を提供しています。

特にMetaは、AI生成コンテンツを全面的に受け入れ、独自のスロップを作成しました。2023年にAI搭載プロフィールを導入し、AIキャラクターでプラットフォームを埋める計画を発表しましたが、ユーザーからの大きな反発を受け、昨年AIプロフィールを廃止しました。

一方、InstagramはAIスタジオを立ち上げ、ユーザーが独自のデジタルバージョンを含むカスタムチャットボットを作成できるようにしました。

最近、TikTokはプラットフォーム上に少なくとも13億件のAI生成投稿があり、毎日1億件以上のコンテンツがアップロードされていると明らかにしました。透明性のため、TikTokはAI生成コンテンツにラベルを付け、ユーザーがAIコンテンツの表示量を減らすオプションも提供しています。

しかし、パリ拠点の非営利団体AI Forensicsは、TikTokのAIコンテンツラベルが付いているアカウントは2％未満であることを発見しました。これらは時に数か月間プラットフォームのモデレーションを回避し、TikTokの利用規約で禁止されているコンテンツを投稿しています。

報告書によれば、350以上のAI特化アカウントが43,000件の投稿を行い、1か月で45億回の視聴を獲得しました。研究者は次のように述べています。

「プラットフォーム上で本物の人間と合成AI生成コンテンツの境界が曖昧になることは、ユーザーのフィードにおけるAI生成コンテンツの増加という新たな転換点を示しています。」

自動化の中で本物性は生き残れるか？

かつてはリアルな活動で賑わい、友人が集まり特別な瞬間を共有していたソーシャルネットワークが、今や人工的なエンティティが人間のエンゲージメントをシミュレートし、AI生成コンテンツを公開するゴーストタウンへと変わりつつあります。

それらのユーザーやコンテンツをブロックすれば済むと思うかもしれませんが、ある研究によれば、人々はAIと人間を区別できず、たとえLLMのテーマに精通していても同様です。

この研究は、人間がAI生成コンテンツをどれだけ正確に検出できるかを評価し、テキストが人間によるものと正しく認識されたのはわずか67％で、GPT-4は54％の確率で人間と誤認されました。

InstagramのMosseriによれば、技術が向上するにつれて、ソーシャルプラットフォームはAI生成メディアの識別がますます困難になるでしょう。一つの解決策として、カメラ会社が撮影時に写真に暗号署名を付与し、真実性を証明する方法が考えられます。

Ohanianによれば、ボットの力を緩和する解決策は「検証可能な人間性を持つ次世代のソーシャルメディアの出現を見ること」です。

技術の進歩によりインターネットはエンゲージメント最適化が進み、Bestはそれを「薬物依存」に例え、「さらに加速する」と考えていますが、代替的な未来に対しては依然として希望を抱いています。

「メディアのもう一つの目的は文化です」と彼は付け加えました。「それは人々が本当に求めているものです。」

SubstackのBestによれば、同じ技術は独立クリエイターに「はるかに多くの創造的レバレッジ」を提供する未来を実現できる可能性があります。メディアの真のボトルネックはコンテンツではなく「注意力」です。「注意力が希少資源となった世界に突入した」と彼は述べました。

「私たちは退屈との戦いに勝った」とBestは言い、「良質なコンテンツは極めて希少だ」と付け加えました。

このような中、Wikimedia DeutschlandはWikidata Embedding Projectを立ち上げ、約1億2000万のオープンデータポイントをLLMが利用しやすい形式に変換し、AIシステムが無料で高品質データにアクセスし、精度を向上させることを支援しています。

規制、研究、そして信頼の闘い

AIがインターネットを支配する中、研究者はその影響を理解しようと取り組んでいます。例えば、The Impact of Generative AI on Social Media: An Experimental Studyという研究は、AI支援がコンテンツ生産とユーザー認識に与える影響を調査し、AIツールはコンテンツ量とエンゲージメントを増加させる一方で、品質と本物性の認識を低下させることを発見しました。

彼らの調査結果に基づき、ソーシャルメディアプラットフォーム、政策立案者、ステークホルダーは、ユーザー中心のパーソナライズ、コンテキスト感度の組み込み、直感的なユーザーインターフェースを優先したツール設計を行い、生成AIを倫理的かつ効果的に統合すべきだと提言しました。

研究者はまた、AI生成コンテンツの透明な開示を確保することを推奨しており、他の研究がこの開示が信頼を向上させ、エンゲージメントを損なわないことを示しています。

規制に関しては、世界各国の政府も人工知能の責任ある使用を促進・規制するための措置を講じています。

欧州連合（EU）では、AI法が透明性、リスク分類、高リスクシステムへの義務を中心に据えています。

一方、オンライン安全法（OSA）は、英国の通信規制当局Ofcomに有害または誤解を招くコンテンツの管理を求める広範な権限を付与していますが、政策立案者はAI主導の誤情報に対処するためのアップグレードを求めています。

米国では、ドナルド・トランプ大統領がAIにおける米国のリーダーシップへの障壁を除去する大統領令を発し、同分野での支配的地位を確保する行動計画を公表しました。その後、先月、同大統領はAI企業が規制の負担なしにイノベーションできるようにする全国標準を制定しました。

一方、中国の枠組みはAIコンテンツの生成と配信を規制する上で世界で最も詳細なものの一つです。そのサイバー空間管理局は、AI生成コンテンツに対し、誤情報や詐欺を防ぐために目に見える免責事項と埋め込みメタデータを必須とするラベリングを実施しています。

いくつかの政府はAI生成の偽情報に関してプラットフォームへの調査も推進しています。最近では、ポーランドが欧州委員会に対し、TikTokが不安定と見なすAIコンテンツをホストしていることについて調査を要請しました。

「開示されたコンテンツは、ポーランドおよび欧州連合全体における公共秩序、情報安全、民主的プロセスの完全性に対する脅威をもたらす」とデジタル化副大臣ダリウス・スタンダースキーは委員会への書簡で述べました。「ナラティブの性質、配布方法、合成音声映像素材の使用は、プラットフォームが課された義務に従っていないことを示しています」と付け加えました。

現在、AIに関する政策環境は世界的に新興の課題であり、法域ごとに分散し、生成システムが情報フロー、公共の信頼、民主的議論を再構築する速度に追いつくのに苦慮しています。

AIインフラへの投資

AIの世界で、Palantir Technologies Inc. (PLTR ) はAI駆動のビッグデータ分析に特化して際立っています。

同社はApollo、Gotham、Foundry、Artificial Intelligence Platform（AIP）の4つの主要ソフトウェアプラットフォームを構築しました。Apolloは新機能、設定、セキュリティ更新の提供を調整し、重要システムの継続的運用を保証する制御層です。Gothamはデータセット内のパターンを特定し、Foundryは組織がデータの中央オペレーティングシステムを構築するのを支援します。AIPは大規模言語モデルやその他のAIを組織内で効果的に活用できるようにします。

特に、Palantirのプラットフォームは政府や民間企業によって、偽情報、ボットネット、合成メディア配信の検出に利用されています。これらのツールは複雑な情報エコシステム全体で本物と偽物の行動を識別するために構築されています。

さらに、AI分析は組織や政府が健康・安全の脅威を監視するためにますます利用されています。時価総額4000億ドルのPLTR株は現在174ドルで取引され、過去1年で110%以上上昇しています。EPS（TTM）は0.43、P/E（TTM）は392.56です。

財務面では、Palantirは2025年9月30日終了の第3四半期の売上高が11億8100万ドルで、前年同期比63％、四半期比18％の成長を示し、20年以上の歴史で新たな売上記録を樹立しました。四半期利益は4億7600万ドルでした。

「我々はまだ物事のごく始まりにすぎません。これは始まりであり、第一章の最初の瞬間です。」

– 共同創業者兼CEOのAlex C. Karp、株主への手紙にて

特に米国売上は前年同期比77％、四半期比20％増の8億8300万ドルに達しました。これには米国政府売上が4億8600万ドルで、前年同期比52％、四半期比14％増、米国商業売上が3億9700万ドルで、前年同期比121％、四半期比29％増が含まれます。Karpは米国商業部門を「絶対的なジャガーノート」と呼び、米国経済における世紀最大のビジネスストーリーの一つになると考えています。

この期間中、Palantirの顧客数は前年同期比45％増加しました。一方、調整後のフリーキャッシュフローは5億4000万ドル、GAAPの1株当たり利益は0.18ドル、調整後EPSは0.21ドルでした。四半期末の現金・現金同等物、短期米国財務証券は6.4億ドルでした。

「これらの結果は、AIPを活用してAIレバレッジを複合させる変革的な影響を否定できません」と同社は指摘しました。

2025年第4四半期の売上は13億2700万ドルから13億3100万ドルの間、調整後営業利益は6億9500万ドルから6億9900万ドルの間と予想しています。

2025年通期について、Palantirは売上予想を43億9600万ドルから44億ドルに引き上げ、米国商業売上は少なくとも104％成長し、14億3300万ドルを超えると見込んでいます。一方、調整後営業利益予想は21億5100万ドルから21億5500万ドル、調整後フリーキャッシュフロー予想は19億ドルから21億ドルに引き上げられました。

投資家への要点:

AIコンテンツが人間の注意力よりも速く拡大する中、真正性、モデレーション、信頼を管理するインフラへの需要が高まっており、消費者向けソーシャルプラットフォームを超える長期的な機会を創出しています。

最新のPalantir Technologies Inc.（PLTR）株式ニュース

結論

我々が知っているソーシャルメディアは明らかに終焉を迎えつつあります。かつて人々が関心、思い出、アイデアを本物の形で共有していた場所は、もはや自動化されたコンテンツとボットに支配されています。

AIは前例のない創造的レバレッジと経済的効率性を解き放ちましたが、同時にオンライン交流を意味あるものにしていたシグナルを侵食しています。

ソーシャルメディアの未来は分岐する可能性が高く、一方はエンゲージメント最適化のためのハイパー自動化フィードへ、もう一方は文化、信頼性、文脈をリーチ以上に重視する検証可能な人間空間へと向かうでしょう。

参考文献

<sup>1. Jones, C. R. & Bergen, B. K. 「人々はチューリングテストでGPT-4と人間を区別できない。」 arXivプレプリント arXiv:2405.08007 (2024). https://doi.org/10.48550/arXiv.2405.08007
2. Møller, A. G., Romero, D. M., Jurgens, D. & Aiello, L. M. 「生成AIがソーシャルメディアに与える影響：実験的研究。」 arXivプレプリント arXiv:2506.14295 (2025). https://doi.org/10.48550/arXiv.2506.14295
3. Gamage, D., Sewwandi, D., Zhang, M. & Bandara, A. 「合成コンテンツのラベリング：ソーシャルメディア上のAI生成コンテンツに対する警告ラベルデザインに関するユーザー認識。」 arXivプレプリント arXiv:2503.05711 (2025). https://doi.org/10.48550/arXiv.2503.05711
4. Chen, J., Wang, T., Williams, M., Jordan, N., Shao, M., Zhang, L., & Fussell, S. R. 「ラベル詳細とコンテンツの重要性がソーシャルメディア上のAI生成画像に対するユーザー認識に与える影響の検証。」 arXivプレプリント arXiv:2510.19024 (2025). https://doi.org/10.48550/arXiv.2510.19024</sup> (RDDT ) (META )