人工知能
人工知能（AI）の黎明期における真正性の確保
Securities.io を Google の優先ソースに追加
AIの導入はあらゆる分野で急速に進んでいます。推計では、今後7年間で市場は3倍に拡大するとされています。
約2420億米ドルの規模から、2030年までにほぼ7400億米ドルに成長すると予想されています。さまざまな業界が業務にAIを取り入れ始めています。これまでに最も活用されている業界は医療、金融、製造、ビジネス・法務サービスなどです。
やや規模は小さいものの、メディア、エンターテインメント、セキュリティ、小売、エネルギーなどの業界でもAIが運用パラダイムを変え始めています。
AI導入が進むにつれて、真正性を確保する課題が重要な問題として浮上しています。 本日の議論は、これらの課題が何であるかを見ていくことから始めます。
AIへの投資についてすべて知りたい方はここをクリックしてください。
Authenticity Challenges in AI Adoption
AIの強みが弱点となって現れています。AIアルゴリズムは、リアルな画像、動画、記事、その他あらゆるマルチメディアコンテンツを生成でき、平均的な視聴者がオリジナルと区別することが極めて困難です。
一般の目には、信頼できる情報源からの真正な情報のように見えるかもしれませんが、実際には悪意あるプロパガンダのために生成された偽コンテンツであることが多いです。最近の出来事が、AI導入拡大のこの側面を露呈しています。
AI-generated Fake Pentagon Explosion Image
2023年5月、米国ペンタゴン付近で爆発が起きたというニュースが掲載されました。その画像はペンタゴンビルの近くの庭から大量の黒煙が立ち上がる様子を示していました。この画像は認証済みのTwitterハンドル、ブルーチェック付きのBloomberg Feedによって共有されました。その後、同様にブルーチェック付きの多数の認証アカウントが画像を拡散しました。しかし、これはAI生成画像であり、多くの人を騙しました。Xが月額8米ドルでブルーチェックを提供するという最近の方針が問題をさらに悪化させました。
誰でも認証アカウントを取得でき、認証アカウントはより多くの可視性を得るため、ニュースは急速に拡散し、公共人物や政府関係者、ニュースサイトのなりすましが懸念され、デジタル領域での混乱と真正性危機を招きました。
一般のソーシャルメディアXユーザーにとっては画像がAI生成であることはほとんど判別できませんでしたが、一部のAI研究者は欠陥や不自然さを指摘できました。
According to Nick Waters, one such AI researcher:
“The ‘unusual’ melding of the fence of the building into the crowd barriers showed that the image could have been artificially made or manipulated.”
しかし、偽造は短時間ながらもソーシャルメディア上で混乱と混沌を生み出すという目的を果たしました。
Thousands of Fake Images on Adobe Stock
According to a report published in the Washington Post, AI-concocted stock images are rampant. A search on Adobe Stock with the term ‘Ukraine War’ resulted in over 15,000 fake images of the conflict. The report also noted a heavy presence of hundreds of AI images of people at Black Lives Matter protests that never happened.
Dozens of AI-generated images were also available for the Maui Wildfires. Many of these images resembled real-life photos captured by photojournalists so closely that fake ones could hardly be separated from the real ones.
The Case of Seemingly Real-Life News Clips
According to another report published by Forbes on AI-generated fakes, Tiktok and YouTube star Krishna Sahay is one among several social media users who are using generative AI to create seemingly real news clips of top anchors from major mainstream news media outlets whose work carries a lot of credibility.
CBSからCNN、BBCまで、これらのニュース機関のアンカーがこのリストに含まれます。これらの動画はディープフェイクとも呼ばれ、強力な生成AIアルゴリズムがアンカー本人のように見え、聞こえる音声映像コンテンツを作り出します。
報告によると、Krishna Sahayだけでも数百万人の視聴者を抱えているそうです。Sahayの動画は、学校銃乱射、テロ攻撃、犯罪攻撃など、センシティブな問題に関するAI操作された偽アンカーの問題のあるコメントを含んでいます。
UCバークレーの深層偽造専門家で教授のHany Faridによれば、これらの動画は既知のニュースアンカーの人気と信頼性を「偽情報を届けるための説得力のある容器」として利用しているとのことです。
Prof. Farid: “In many cases, the anchors are known to viewers and trusted, and even if not, the general news format is familiar and therefore more trusted.” He believes that stopping this menace would require us “to get more serious about protecting the rights of the people whose likeness and voice are being co-opted.”
Deep Fakes from the Gaza War
The Internet also saw a significant invasion of deep fake videos related to the Gaza war. In response to this challenge, Jean-Claude Goldenstein, CEO of CREOpoint, a tech company specializing in AI, has been instrumental in assessing the validity of such content. Recognizing the gravity of the situation, the company has developed a database of the most viral deep fakes that have emerged from Gaza, marking a crucial step in addressing this digital threat.
According to Goldenstein:
“Pictures, video and audio: with generative AI, it’s going to be an escalation you haven’t seen.”
These videos often repurpose content from older conflicts. They seek to generate a strong emotional response by accentuating the intensity of the disaster.
Generative AIを熟知した上で、これらのディープフェイク作成チームには人間心理を理解し、人々の深層的な衝動や不安を狙う専門家が含まれています。
プロパガンダ担当者、陰謀論者、テロリスト、詐欺組織の手に渡ると、偽コンテンツ生成AIツールは最も致命的な武器の一つへと進化します。そのチェックを続ける必要性は日々高まっています。
この増大する脅威に対抗する最も効果的な方法の一つは、情報源の真正性を保証することです。真正性を確保するための研究とソリューション構築は本格的に進行中です。以下にいくつかの実例を示します。
How do you ensure content authenticity in the Age of Artificial Intelligence?
Sony’s In-Camera Authentication Technology
Sony Electronics is about to come up with a novel solution. It has completed the second round of testing of its in-camera authenticity technology in collaboration with the Associated Press.
The purpose of this technology is to empower the clicked images with a birth certificate that will authenticate the content’s origin. More specifically speaking, it will be a machine-based digital signature to be produced inside the camera at the very moment of image capture in the hardware chipset.
According to Neal Manowitz, the President and COO of Sony Electronics, the “in-camera authenticity technology has shown valuable results,” and the company “will continue to push its development towards a wider release.”
Sony Electronics and AP’s joint field test reached its completion in October this year. The purpose of this round of testing was to assess the efficiency of capture authentication and related workflow.
The third collaborator in this project was CameraBits, known for creating the industry-standard workflow tool PhotoMechanic.
The role played by CameraBits in this collaboration involved offering the technology to preserve the camera’s digital signature through the metadata editing process.
According to David Ake, the Director of Photography of the Associated Press, “Fake and manipulated images are a major concern for news organizations. Not only do they contribute to mis- and disinformation, but ultimately, they erode the public’s trust in factual, accurate imagery.”
The in-camera signature and authentication technology will be released as a firmware update in multiple models in the Spring of 2024.
SONY 価格チャート
Sony Group Corporation (SONY ) has a market capitalization of $106.35 billion, a P/E ratio of 19.49, and in 2022, it posted $82.64 billion in revenue.
Technology to Combat Deep Fake Voice Manipulations
AIベースの技術は、リアルな音声合成の開発を促進しました。本来の形では多くの利点があります。個別化された音声アシスタントやアクセシビリティを向上させるコミュニケーションツールの開発に役立ちます。しかし、裏側では多くがディープフェイク動画用の音声作成に悪用されています。
この脅威に対抗するため、Washington UniversityのMcKelvey School of Engineeringに所属するコンピュータサイエンス・エンジニアリング助教授のNing ZhangはAntiFakeというツールを開発しました。これは攻撃後に検出する緩和ツールではなく、問題を根本から防ぐプロアクティブなツールです。
According to Prof. Zhang:
“AntiFake makes sure that when we put voice data out there, it’s hard for criminals to use that information to synthesize our voices and impersonate us.”
高度なサイバー犯罪者と戦うための興味深い取り組みとして、Zhang教授は彼らのコインで返すことを決めました。彼によれば:
“The tool uses a technique of adversarial AI that was originally part of the cybercriminals’ toolbox, but now we’re using it to defend against them.”
AntiFakeの基本的な動作原理は、録音された音声信号をわずかに歪めることです。その歪みは人間の耳には自然に聞こえるように極めて微細に調整されており、AIに対しては全く異なる情報として伝わります。
公開されているデータによると、AntiFakeは95％以上の保護率を示しており、さまざまな層のユーザーに対しても有効であることが証明されています。
Use of Blockchain in Ensuring Authenticity
OARO Media solutions はブロックチェーンの不変性特性を活用し、ディープフェイク脅威に対抗しています。企業、行政機関、個人ユーザーが写真や動画の真正性を検証できる不変のデータトレイルを作成します。
OARO Mediaがユーザーのモバイル端末で動作する仕組みはシンプルながら画期的です。ユーザーはSMSウェブリンクまたは保険会社のアプリを通じてモバイルカメラにアクセスします。次に、視覚コンテンツに対して証明書が発行され、ユーザーID、コンテンツ、タイムスタンプ、GPS座標の改ざん不可能な記録が含まれます。このプロセスは保険業界が請求を認証し、AI生成の偽造と本物を区別するのに役立ちます。
Stopping the Use of Deepfakes as Part of Information Warfare
Sentinelの anti-deepfakeソリューションとサービスは、民主主義国家、国防機関、企業が悪意あるAIコンテンツの影響から資産を保護するのを支援します。同社は欧州連合およびエストニア共和国経済・通信省と提携しています。ただし、これは流通後にディープフェイクを検出する事後対応ソリューションです。
その仕組みは4つのシンプルなステップです。まず、ユーザーはSentinelのウェブサイトまたはAPIを通じてデジタルメディアをアップロードします。Sentinelシステムが自動的にメディアを解析し、AI偽造を検出します。その後、メディアがディープフェイクかどうかの判定を提示します。最後に、プロセスの可視化を通じてユーザーに操作内容を示します。
Ensuring Authenticity Amidst AI: Thriving Innovation Scenario for the Future
AI生成の不正コンテンツは、現実を歪め、悪質なプロパガンダを拡散する強力なツールです。このようなコンテンツは、ジョークやソーシャルメディアの「いいね」目的で作成された場合でさえ、大規模な暴力を煽動する可能性があります。
その影響は、国家間の外交関係からサービス企業とユーザー間のやり取り、さらには個人的な関係に至るまで、信頼の低下を招きます。したがって、世界中の技術研究者や科学者が、無制限の偽コンテンツの危険性を認識したことは前向きなサインです。すでに本稿ではいくつかの取り組みを紹介しました。
まだまだ多くの取り組みがあります。 Sensityは、ビジュアル脅威インテリジェンスプラットフォームを開発しています。そのAPIは既に最新のAIベースの操作・合成技術を検出できるレベルに達しています。別のスタートアップ、 Quantum Integrityは、画像・動画偽造を検出できるSaaS型AIソリューションを提供しています。
サイバー犯罪者は確実に新たな手口を考案し続けます。しかし、多くの企業はそれらを先んじて防ぎ、撃退できるようになるでしょう。イノベーションが着実に進む中で、戦いはもはやダビデ対ゴリラではなくなっています。
