UNITE AI Modeli Yüzleri Referans Almadan Herhangi Bir Deepfake’i Tespit Edebilir

Bilim adamları şimdi AI sorununu kendisiyle çözmeye çalışıyorlar. UC Riverside’dan araştırmacılar, deepfake’lerin ciddi sorununu ele almak için UNITE modelini oluşturdular.

“İnsanlar gördüklerinin gerçek olup olmadığını bilmeyi hak ediyor” dedi Rohit Kundu, UCR’nin Marlan ve Rosemary Bourns Mühendislik Fakültesi’nden bir doktora adayı, quien lideró el papel ‘Towards a Universal Synthetic Video Detector: From Face or Background Manipulations to Fully AI-Generated Content.’ “Ve AI gerçekliği taklit etme konusunda iyileştikçe, biz de gerçeği ortaya çıkarmada iyileşmeliyiz.”

Araştırmacılar, video değiştirme ve Alphabet şirketinin bir parçası olan Google’dan bilim adamlarıyla işbirliği yaparak, sahte içeriği ortaya çıkaran ve video değiştirme tespit eden yeni bir AI modeli geliştirdiler. Çalışma şöyle dedi:

“Yanlış bilginin hızlı yayılması, özellikle seçim gibi kritik dönemlerde, yüz, arka plan ve tam AI tarafından üretilen T2V/I2V içeriği dahil çeşitli değişiklikleri tanımlayabilen genellemeye açık tespit modellerine ihtiyaç olduğunu vurgulamaktadır.”

Model, kısmen değiştirilmiş ve tam sentetik videoları tespit edebiliyor. Diğer geleneksel dedektörlerin yalnızca yüzü odaklandığı yerde, bu model tüm kareleri analiz ediyor, videolarda insan konusu olup olmadığı önemli değil.

Bu, sahte videoların viral hale gelmesini önlemek için gerçeklik kontrolcülerinin, eğitimcilerin, editörlerin, sosyal medya platformlarının ve diğerlerinin kullanabileceği güçlü bir araç yapıyor.

AI ve Sentetik Aşırı Yük Artışı

Yapay Zeka (AI), hayatımızın ve işimizin çeşitli yönlerini devrimleştirme potansiyeline sahiptir.

Otomasyon, veri analizi ve karar verme konularındaki yeteneği, endüstrileri zaten dönüştürmeye başladı ve bu on yılın sonunda küresel ekonomiye trilyonlarca dolar eklemesi bekleniyor.

Pazar araştırma devi IDC’ye göre, AI’nin yükselişi, 2030 yılına kadar küresel ekonomiyi 19.9 trilyon dolar artırması bekleniyor.

McKinsey’nin araştırması, generatif AI’nin değerinin, analiz edilen 63 kullanım durumu boyunca 4.4 trilyon dolar olacağını öngörüyor.

Eski Deepfake Dedektörlerinin Artık Çalışmamasının Nedeni

Son yıllarda AI’deki ilerlemeler, sentetik medyada görülmemiş bir artışa yol açtı.

Tahminlere göre, LinkedIn’deki daha uzun gönderilerin yarısından fazlası şu anda AI tarafından yazılmıştır.

Son olarak, ‘AI çamuru’, düşük kaliteli, kitlesel olarak üretilen AI tarafından oluşturulan içeriği ifade eder.

Ancak en endişe verici olanı, yüzler, videolar veya ses kayıtları gibi AI kullanılarak oluşturulan veya değiştirilen sahte içeriklerdir.

Bugün, bu tür içerik her yerde, İnternet’in her köşesine nüfuz ediyor.

Bu hyper-gerçekçi dijital medya, karışıklık yaratıyor ve yanlış bilgi yayıyor. Ayrıca insanların mahremiyetini ve güvenliğini tehdit ediyor.

Siber suçlular, AI’yi oyunlarını geliştirmek için kullanıyor ve alarm verici bir doğrulukla kimlik avı dolandırıcılığı ve kimlik hırsızlığı yapıyorlar. Kundu’ya göre:

“Bu araçların ne kadar erişilebilir hale geldiği korkutucu. Ortalama becerilere sahip herkes, güvenlik filtrelerini atlayabilir ve ünlü kişilerin asla söylemediği şeyleri söylediği gerçekçi videolar üretebilir.”

Bir olayda, siber suçlular, bir şirketin CFO’su olarak bir Zoom toplantısına katıldı ve bu, 25 milyon dolarlık bir kayba yol açtı.

Bu, sadece başlangıç. Deloitte, böyle olaylardan kaynaklanan dolandırıcılık kayıplarının 2027 yılına kadar ABD’de 40 milyar dolara ulaşacağını öngörüyor.

ABD Hazinesi’nin bir raporu da, “mevcut risk yönetimi çerçevelerinin” AI teknolojisini kapsamak için yeterli olmayabileceğini buldu.

Bununla birlikte, AI içeriğini tespit etmeye ve teknolojinin risklerine karşı korumaya yardımcı olan birçok araç mevcut.

Yeni AI araçlarını ortaya çıkaran aynı şirketler, aynı zamanda sentetik verileri tespit etmeye yardımcı olmak için yollar sunuyor.

2020’de teknoloji devi Microsoft, Video Authenticator’u duyurdu, bu, bir resim veya videoyu analiz ediyor ve medyanın yapay olarak değiştirilip değiştirilmediğini belirlemek için bir güven skoru sağlıyor.

Araç, deepfake’lerin birleştirme sınırını ve insan gözünün tespit edemeyeceği ince solmayı tespit ederek çalışıyor.

O zaman, sahte içeriği tanımlamak ve insanların etkileşimde olduğu medyanın kimliğini doğrulamak için bir teknoloji tanıttı.

Bu, bir yaratıcının içeriğine dijital imzalar ve sertifikalar eklemesine olanak tanıyan bir aracı içeriyordu, bu da içerik içinde meta veri olarak yaşıyordu.

Bir okuyucu, kimlik doğrulama için sertifikaları kontrol edebiliyor ve içerik kimliği için eşleştirebiliyordu.

Teknoloji devi, teknolojinin kısa vadeli faydasını AI çağındaki deepfake’lerin sürekli öğrenen AI tarafından üretildiği konusunda uyardı.

O zaman, Facebook, bir Meta şirketi, yarışmaya başladı, bu, deepfake dedektörü geliştirmek için daha önce erişilemeyen verileri kullanarak bir yarışmaydı.

Birkaç yıl önce, Intel, gerçek zamanlı bir deepfake dedektörü olan FakeCatcher’ı ortaya çıkardı, bu, %96 doğruluk payına sahip olduğunu iddia ediyor.

Araç, yüz ve.landmark algılama algoritmaları için OpenVino’yu kullanarak AI modellerini çalıştırdı,

Gelecek yıl, OpenAI de içerik kimliği ile ilgili araçlar geliştirmeye başladı.

Bu, metin su damgasını içerir, bu, yerel olarak değiştirme karşı etkili ancak küresel olarak değiştirme karşı değil,

ve bu, özellikle yabancı dil konuşanlar gibi grupları orantısız şekilde etkileyebilir.

Bu güncelleme, Wall Street Journal’ın şirketin zaten bir aracı geliştirdiğini bildirdiği ve ChatGPT tarafından üretilen metni “yüksek doğruluk” ile su damgalayan ve tespit eden

Ayrıca, OpenAI, içerik kimliği ve doğrulama standardı olan C2PA (İçerik Kökeni ve Kimliği Koalisyonu) Yönlendirme Komitesine katıldı.

Şirket, tüm hizmetleri tarafından oluşturulan ve düzenlenenen tüm resimlere C2PA meta verilerini ekliyor,

Bu yıl, Google da AI tarafından üretilen metin, resim, ses ve video tespiti için SynthID Dedektörü adlı kendi AI tarafından üretilen içerik tespiti aracını ortaya çıkardı.

Ancak, Google’un aracı yalnızca Google’un kendi AI hizmetleri gibi Gemini, Imagen, Veo ve Lyria kullanarak üretilen içerik için çalışıyor.

Araç, Google’un ürünlerinde bulunan ve algoritmaların tespit edebileceği ancak insanların göremediği benzersiz, makine tarafından okunabilir bir unsur olan “su damgası”nı tanımlıyor.

UNITE’in Çığır Açan Teknolojisine İlişkin Bilgiler

AI teknolojisindeki hızlı ilerleme, AI tarafından oluşturulan içerik tespiti araçlarının da gelişmesini sağlıyor.

Ancak, evrensel bir araç mevcut değil ve herkes tarafından kullanılabilir.

Mevcut deepfake tespiti tekniklerinin odak noktası, özellikle yüz değişiklikleri gibi yüz temelli değişikliklere kayıyor ve teknolojinin ilerlemesi, bunları yetersiz kılıyor.

Metin-den-videya (T2V) ve resim-den-videya (I2V) üreten modellerdeki ilerlemelerle, artık herkes kolayca çok ikna edici, tam olarak AI tarafından üretilen sentetik içerik ve arka plan değişiklikleri oluşturabiliyor.

Bu, bireylerden kurumlara ve hatta ülkelere kadar herkesi ciddi risk altına sokuyor.

Bu bağlamda, önceki deepfake dedektörlerinin yüzlerine olan bağımlılığı, onları günümüzün daha gelişmiş teknoloji dünyasında eskimiş yapıyor.

“Çerçevede yüz yoksa, birçok dedektör çalışmıyor. Ancak yanlış bilgi birçok biçimde gelebilir. Bir sahnenin arka planını değiştirmek, gerçeği kolayca bozabilir.”

– Kundu

Bu nedenle, geleneksel dedektörler yeni manipülasyonlara karşı çalışmıyor,

çünkü yeni sentetik içerik artık tam sahneler ve arka planlar içeriyor ve yüz odaklı tespiti zorlaştırıyor.

Bu, daha esnek bir yaklaşıma ihtiyaç duyuluyor.

Bu soruna çözüm olarak, UC Riverside’dan araştırmacılar UNITE’i tanıttı.

Evrensel Ağ için Sentetik ve Değiştirilmiş Videoları Tanımlama (UNITE) modeli, tam kare değişikliklerini yakalıyor.

“Deepfake’ler gelişti,” dedi Kundu, UC Riverside’da ileri görüş görevleri için temel modelleri kullanmaya odaklanan bir doktora adayı. “Artık sadece yüz değişiklikleri değil, yüzlerden arka planlara kadar tamamen sahte videolar üretiliyor. Sistemimiz hepsini yakalamak için tasarlandı.”

Model, yüzlerin veya insan konularının olmadığı senaryolarda da tespit yeteneklerini genişletiyor ve

ayrıca önceki sistemlerin kaçırdığı ince mekansal ve zamansal tutarsızlıkları ve karmaşık arka plan değişikliklerini tespit edebiliyor.

Yüzleri, arka planları ve hareket desenlerini inceleyerek,

tam video karelerini kapsayan UNITE, yüz içeriğine sadece dayanmak yerine sentetik videoları tanımlayan ilk araçlardan biri sunuyor.

Transformer tabanlı bir derin öğrenme modeli kullanan model,

çquential verileri işlemek için çoklu başlı dikkat mekanizması kullanan bir tür sinir ağıdır.

Burada metin, numerik temsil olarak adlandırılan token’lere dönüştürülür.

Bu mimari, modern dil modellerinin çoğunun temelini oluşturuyor.

Transformer’lar, paralel olarak bilgi işleme yoluyla daha hızlı eğitim ve gelişmiş performans sağlayabiliyor.

UNITE’de, transformer tabanlı mimari, SigLIP-So400M temel modeli aracılığıyla videolardan çıkarılan alan bağımsız özellikler işliyor.

Temel AI çerçevesi SigLIP, belirli bir nesne veya kişiye bağlı olmayan özellikler çıkarıyor.

Yüz ve arka plan değişikliklerine ve metin-videya / resim-videya içeriğine ilişkin sınırlı veri setleri nedeniyle,

ekip, modeli için yenilikçi eğitim stratejileri kullandı.

Bu, standart deepfake verisi ile birlikte görevle alakasız veri kullanarak eğitimi içerir.

Ek olarak, popüler FaceForensics++ veri setine ek olarak,

ekip, karmaşık ortamları simüle eden SAIL-VOS-3D veri setini kullandı,

bu, AI tespiti modellerini eğitmek için faydalı sentetik sahneler sunuyor.

Aslen 3D video nesne segmentasyonu için GTA-V’de tasarlanan bu veri seti,

AI tarafından üretilen medyayı simüle etmeye yardımcı oluyor ve

ekibin modelinin çeşitli sentetik manipülasyonları tespit etme yeteneğini tănglandırıyor.

Google, gerekli veri setlerine ve modeli eğitmek için hesaplamalı kaynaklara erişim sağladı.

Modelin yüzlerde aşırı odaklanmasını azaltmak için,

ekip, video kareleri boyunca çeşitli dikkat dağıtmaya teşvik eden bir dikkat çeşitliliği (AD) kaybı kullandı.

AD kaybı, sınıflandırma modellerinin performansını ölçmek için yaygın olarak kullanılan log loss fonksiyonu olan cross-entropy ile birleştirildi,

modelin çeşitli durumlar boyunca performansını iyileştirmek için.

Sadece cross-entropy (CE) kaybına göre eğitilen modele kıyasla,

gerçek bir insan konusu olan ve değiştirilmiş arka planı veya T2V ve I2V modelleri tarafından üretilen içeriği olan videolarda daha iyi performans gösteriyor.

Dolayısıyla, ekip, AD kaybını tanıttı,

bu, sistemi her karedeki birden fazla görsel bölgeyi izlemeye teşvik ediyor,

böylece ön plan ve arka planın her ikisinden de önemli işaretleri yakalama yeteneğini artırıyor.

AD kaybı, ekibin yaklaşımındaki ana yenilik,

UNITE’i yalnızca AI tarafından üretilen ve arka plan değiştirilen videoları tespit etmekte değil,

ayrıca geleneksel yüz değiştirme içeriğini tespit etmekte de önemli bir gelişme sağlıyor.

Diğer modellerle karşılaştırıldığında, ekip, UNITE’in

yüz ve arka plan değişikliklerine ve tam olarak AI tarafından üretilen T2V/I2V videolarına sahip veri setlerinde

çapraz veri ayarlarında devlet-sanayideki dedektörlerin performansını aştığını buldu,

böylece adaptasyon yeteneğini ve genellemeye açık tespiti gösteriyor.

Gittikçe daha çok dijitalleşen ve otomatikleşen bir dünyada,

UNITE gibi bir sistem, sahte içeriği saptayarak,

AI’nin olumsuz etkilerini hafifletirken,

olumlu etkilerini iş ve yaşamımıza katlayarak,

yararlı bir araç sunuyor.

Şu anda geliştirme aşamasında olan UNITE,

sentetik video tespiti manzarasında değerli bir araç olarak kabul ediliyor.

Yakında, video yanlış bilgisine karşı savunmada kilit bir rol oynaması bekleniyor.

AI Tabanlı Tespiti Yatırıma Almak

AI alanında, Palantir Technologies, AI güçlendirilmiş veri entegrasyonu, desen tanıma ve anormallik tespiti ile biliniyor.

Şirket, dört ana yazılım platformu üzerinden faaliyet gösteriyor: Gotham, Foundry, Apollo ve AIP.

Apollo, kritik sistemlerin sürekli çalışmasını sağlamak için yapılandırma, güvenlik güncellemeleri ve yeni özelliklerin teslimatını koordine eden tek bir kontrol katmanıdır.

Gotham, kullanıcıların veri setleri içinde gizli kalıpları tanımlamasına olanak tanır,

oysa Foundry, etkili varlık ve risk yönetimine olanak tanıyan bir işletim sistemidir.

AIP, şirketlerin LLM’leri ve diğer modelleri tam kontrol ile çalıştırmasına olanak tanır.

Palantir Technologies

Palantir, ABD hükümeti, askeri ve istihbarat ajansları ile derin bağlara sahiptir.

Bu yıl, göçmenlik kayıtlarına AI analizini getirmek için 30 milyon dolarlık bir sözleşme kazandı.

372 milyar dolarlık bir piyasa değerine sahip olan PLTR hisseleri,

AI talebi, büyük perakende ilgisinin artması ve hükümet sözleşmelerinin genişlemesi sayesinde şu anda 157.72’de işlem görüyor ve yıl içi %109.35 artış gösteriyor.

Şirketin TTM EPS’si 0.23, TTM P/E’si 687.90.

Mali olarak, Palantir, 2025’in ilk çeyreğinde gelirini %39 yıl içi artışla 884 milyon dolara çıkardı.

ABD gelirleri %55 yıl içi artışla 628 milyon dolara ulaştı,

bunun 255 milyon doları ABD ticari gelirinden, 373 milyon doları ise ABD hükümeti gelirinden geldi.

Bu dönemde şirket, en yüksek ABD ticari toplam sözleşme değerine ulaştı,

kalan sözleşme değeri 2.32 milyar dolar olarak kaydedildi.

Palantir’in müşteri sayısı, 2025’in ilk çeyreğinde %39 yıl içi artış gösterdi.

Şirketin GAAP kazancı hisse başına 0.08 dolar, düzeltilmiş EPS’si 0.13 dolar olarak kaydedildi.

Nakit, nakit eşdeğerleri ve kısa vadeli ABD Hazine bonoları, çeyrek sonunda 5.4 milyar dolar olarak kaydedildi.

“AI çağındaki modern işletme için işletim sistemini sunuyoruz. Yazılımımızın benimsenmesinde büyük bir değişim yaşıyoruz, özellikle de ABD’de.”

– CEO Alexander C. Karp

Son Palantir Technologies (PLTR) Hisse Haberleri ve Gelişmeleri

Sonuç

Yapay zeka, dünyayı tamamen değiştirdi,

bireyler ve kurumlar, verimliliği artırmak ve karar vermeyi iyileştirmek için teknolojiyi benimsemeye başladılar.

Dünya ekonomisine trilyonlarca dolar katkıda bulunması bekleniyor,

ancak AI’nin geniş kapsamlı benimsenmesi, deepfake’ler ve insanların yanlış bilgilendirilmesi ve dolandırılması için kullanılması gibi riskleri de beraberinde getiriyor.

UNITE gibi araçlar, sahte içeriği tespit ederek,

AI’nin olumsuz etkilerini hafifletirken,

olumlu etkilerini iş ve yaşamımıza katlayarak,

yararlı bir araç sunuyor.

Yapay zeka yatırımı hakkında her şeyi öğrenmek için tıklayınız.

Referanslar:

1. Kundu, R.; Xiong, H.; Mohanty, V.; Balachandran, A.; Roy‑Chowdhury, A. K.; et al. Towards a Universal Synthetic Video Detector: From Face or Background Manipulations to Fully AI‑Generated Content. arXiv preprint arXiv:2412.12278 (2024). https://doi.org/10.48550/arXiv.2412.12278