人工知能
人工知能（AI）の黎明期における真正性の確保
Securities.io を Google の優先ソースに追加
AIの導入は幅広い分野で進んでいます。本稿で用いた2023年時点の市場予測では、2030年までに市場規模が約3倍になると見込まれていました。
予測では約2,420億米ドルから約7,400億米ドルへの成長が示されていました。AIの主な活用分野は医療、金融、製造、ビジネス・法務サービスなどです。
メディア、娯楽、セキュリティ、小売、エネルギーなどの分野でも、AIが業務の進め方を変えつつあります。
AIの普及に伴い、コンテンツの真正性や出所を確かめることが重要な課題になっています。まず問題の具体例を確認し、その後で対策を紹介します。
AIの普及に伴うコンテンツの真正性の課題
生成AIの強みは、悪用されると問題にもなります。現実的な画像、動画、文章などを作成できるため、本物の記録や人が作ったコンテンツとの区別が難しい場合があります。
信頼できる情報源からの発信に見えても、実際には人を欺くための偽造コンテンツかもしれません。2023年の事例は、こうした危険性を示しています。
ペンタゴン付近の爆発を装った偽画像
2023年5月22日、米国のペンタゴン付近で爆発が起きたという誤った情報が広まりました。建物のそばに黒煙が上がる画像を、青いチェックマーク付きのBloomberg Feedというアカウントなどが共有しました。このアカウントは通信社Bloombergの公式アカウントではありませんでした。爆発は起きておらず、画像はAIで生成された可能性が高いと指摘されました。当時のTwitterでは、米国のウェブ契約で月額8米ドルの有料サービスにより青いチェックマークを取得でき、それが見かけの信頼性を高めた可能性があります。
有料のチェックマークだけで、アカウントと名乗っている報道機関との関係が証明されるわけではありません。この事例は、公人、政府機関、報道機関を装う投稿が急速に広がり、混乱を招く危険を示しました。
多くの利用者が画像を信じる一方、検証した調査者は不自然な細部を指摘しました。
Bellingcatの調査者であるNick Waters は、画像の構造上の不整合に注目しました。
建物の柵と群衆整理用の障壁が不自然に混ざり合っており、人工的な作成や加工を疑う手がかりになっていました。
偽画像は、それでも短時間のうちにSNS内外で混乱を引き起こしました。
画像素材サイトに広がるAI生成のイメージ
Washington Postが2023年に公開した記事は、AI生成の画像素材の問題を取り上げました。Adobe Stockで「Ukraine War」を検索すると、戦争を描く合成画像が1万5,000点以上見つかったと報じています。また、架空のBlack Lives Matterの抗議場面を描いたAI画像も多数ありました。これらは実際の出来事を撮影した報道写真ではありません。
記事は、マウイ島の山火事を描いたAI画像も数十点あったと報じています。一部は報道写真に似ており、本物の出来事の記録と見分けにくいものでした。
本物のニュース映像を装う動画
2023年10月にForbesが公開した記事では、TikTokやYouTubeで知られるKrishna Sahayらが、生成AIなどを使って有名なニュースキャスターを模した動画を作成していたことが紹介されました。大手報道機関の映像に見える体裁が、偽の内容に信頼感を与えていました。
CBS、CNN、BBCなどの記者やキャスターを模した例がありました。ディープフェイクでは、実在する人の顔や声を加工・合成し、本人が実際には発言していないことを話しているように見せます。
Forbesによると、Sahayの動画は数百万人に届いていました。偽のニュース映像では、学校銃乱射事件、テロ、犯罪被害者などに関する不適切な発言を、有名キャスターが語っているように見せていました。
カリフォルニア大学バークレー校教授でディープフェイクの専門家であるHany Faridは、Forbesに対し、ニュースキャスターの知名度と信頼性が偽情報の拡散に利用される危険を指摘しました。
Faridによれば、視聴者は知っているキャスターだけでなく、見慣れたニュース番組の形式にも信頼を寄せがちです。また、顔や声を無断利用される人々の権利を守る必要があると述べました。
ガザの戦争に関連する偽造と文脈のすり替え
2023年には、ガザの戦争に関連して加工されたコンテンツや、誤った文脈で共有される本物の映像も流通しました。コンテンツの検証を行う技術企業CREOpointのCEO、Jean-Claude Goldensteinは問題の拡大を指摘しました。同社は、広く共有される誤解を招くコンテンツの情報を集め、確認作業に役立てていました。Goldensteinは、生成AIによる影響について警告しました。
画像、動画、音声の悪用が、従来以上の規模に拡大する可能性があるというものです。
古い紛争の映像を新しい出来事として流用する投稿もあります。文脈のすり替えは、それだけではAIによるディープフェイクではありませんが、強い感情を引き起こし、誤解を広げるおそれがあります。
誤解を招くコンテンツの作成者は、技術だけでなく、人々の不安や感情に訴える画像や物語を利用することもあります。
プロパガンダの発信者、陰謀論者、テロリスト、詐欺師がこうした道具を悪用する可能性があります。そのため、偽造や被害を抑える対策が必要です。
対策の一つは、コンテンツの出所と改変の有無を確認することです。偽造の検出や無断の模倣を事前に防ぐ研究も進んでいます。以下では、異なる取り組みを紹介します。
AI時代にコンテンツの真正性をどう確かめるか
ソニーのカメラ内デジタル署名技術
Sony Electronicsは2023年11月、AP通信と実施していたカメラ内の真正性証明技術の第2回テストを完了したと発表しました。
この技術は、撮影時にカメラのハードウェアチップでデジタル署名を付け、画像にいわば出生証明を与えます。画像の出所や後の変更を確認する助けになりますが、写っている出来事や付随する説明が真実であることを単独で証明するものではありません。
Sony Electronicsのプレジデント兼COOであるNeal Manowitzは、テストで有用な結果が得られ、より広い提供に向けて開発を続けると述べました。
直近の共同実証実験は2023年10月に完了しました。1か月にわたり、撮影時の認証と関連するワークフローを評価しました。
協力したもう一社は、報道写真の作業で使われるPhoto Mechanicを開発するCamera Bitsです。
Camera Bitsは、メタデータ編集の過程でもカメラのデジタル署名を維持できる技術をPhoto Mechanicに組み込みました。
APの写真部門責任者David Akeは、偽画像や加工画像が誤情報を広げ、正確な報道写真への信頼を損なう懸念を示しました。共同開発は、その課題への対応を支援する取り組みです。
ソニーは当時、Alpha 9 III、Alpha 1、Alpha 7S III向けに、署名とC2PA対応を2024年春のファームウェア更新で提供する計画を示しました。地域により時期が異なり、当初は報道機関の提携先に利用が限られる可能性もあるとしていました。
SONY 価格チャート
Sony Group Corporation (SONY ) について、本稿の執筆時点である2023年には時価総額1,063億5,000万米ドル、PER19.49と記載されていました。ソニーが2023年4月に発表した決算によると、2023年3月期に当たる2022年度の売上高・金融ビジネス収入は約11兆5,398億円でした。
無断の音声クローン作成を防ぐ技術
AIによる音声合成は現実的になり、個人向け音声アシスタントやアクセシビリティを高める通信手段などに役立っています。一方で、他人の声を無断で模倣することにも悪用されます。
セントルイス・ワシントン大学McKelvey School of Engineeringの研究者は、Ning Zhangの指導の下でAntiFakeというツールを開発しました。研究の筆頭著者はZhiyuan Yuです。完成した偽音声を検出するのではなく、公開前の音声を処理して無断の合成を難しくする方法です。
Zhangは、その目的を次のように説明しています。
公開する録音を加工することで、犯罪者が話者の声を複製するために利用しにくくします。
この方法は、攻撃に使われる敵対的AI技術の原理を防御に転用します。
AntiFakeは録音に計算された微小な摂動を加え、音声合成モデルの動作を妨げます。
人には自然に聞こえる状態を保ちながら、モデルが読み取る話者の特徴を変えるよう調整します。
2023年の研究では五つの音声合成システムで試験し、未知の商用システムに対しても95％を超える保護率を報告しました。使いやすさは24人の参加者で評価しました。これは研究条件下の短い音声に関する結果であり、あらゆる音声クローン手法への保証ではありません。
出所の確認を支援するブロックチェーン
OARO Mediaは、同社の説明によると、画像や動画の出所を記録するためにブロックチェーンを利用します。企業、行政機関、個人が確認できるデータの履歴を残すことを目指しています。
2023年に紹介された仕組みでは、利用者がSMSのリンクや保険会社のアプリから携帯端末のカメラを開きます。撮影内容には、利用者、コンテンツ、時刻、GPS位置を含む証明情報が付与されます。保険請求の画像の出所や改変の有無を確認する助けになりますが、画像が示す主張のすべてを証明するものではありません。
情報工作に使われるディープフェイクの検出
Sentinelは、政府、防衛機関、企業による有害な合成コンテンツの検出を支援するサービスを説明していました。同社はEUやエストニアの経済通信省との協力を表明していました。これは既存のコンテンツを分析する方式であり、作成自体を防ぐものではありません。
紹介された四段階の手順では、利用者がウェブサイトやAPIからメディアをアップロードし、システムが分析して加工の可能性を評価します。最後に、結果を視覚的に示します。この評価は検出ツールの出力であり、真正性について誤りのない判断を保証するものではありません。
コンテンツ検証のための技術開発
AIで作られた誤解を招くコンテンツは、現実をゆがめ、暴力的なプロパガンダを広めるために使われるおそれがあります。冗談や注目集めの目的でも、文脈から切り離されると深刻な影響を及ぼす可能性があります。
影響は国家間の関係、企業と顧客の信頼、個人的な人間関係にも及びます。研究者や技術企業は、出所の確認、加工の検出、悪用の予防に取り組んでいます。
ほかにもさまざまな取り組みがあります。Sensityは視覚的な脅威の検出技術を提供し、AIによる加工や合成が疑われるコンテンツを分析するAPIを開発しています。また、Quantum Integrityは、画像や動画の加工を検出するAIベースのソフトウェアサービスを開発しています。
偽造技術は進歩するため、対策も更新し続ける必要があります。出所の記録、技術的な分析、情報源の批判的な検討を組み合わせることが重要です。
