Yapay Zeka (AI) Çağının Başlangıcında Gerçekliğin Sağlanması

Hayatın her alanında AI benimsenmesi hızla artıyor. Tahminler, pazarın önümüzdeki yedi yıl içinde üç katına çıkmaya hazır olduğunu gösteriyor. 

Yaklaşık 242 milyar ABD doları büyüklüğündeki pazarın 2030 yılına kadar neredeyse 740 milyar ABD dolarına ulaşması bekleniyor. Çeşitli sektörler operasyonlarına AI entegre etmeye başladı. Şimdiye kadar en çok fayda sağlayan sektörler sağlık, finans, üretim, iş ve hukuk hizmetleri vb. 

Daha sınırlı ölçüde, AI medya, eğlence, güvenlik, perakende, enerji gibi sektörlerde operasyonel paradigmaları değiştirmeye başladı. 

AI benimsenmesinin artmasıyla birlikte, gerçekliğin sağlanması sorunu, acil çözüm gerektiren önemli bir mesele haline geldi. Bugünkü tartışmamıza bu zorlukların neler olduğuna bakarak başlıyoruz.

Yapay zekâya yatırım hakkında her şeyi öğrenmek için buraya tıklayın. 

AI Benimsenmesinde Gerçeklik Zorlukları

AI’ın gücü, zayıflığı olarak ortaya çıktı. AI algoritmaları, gerçekçi görüntüler, videolar, makaleler ve ortalama bir izleyicinin orijinaliyle ayırt etmesi son derece zor olabilecek diğer multimedya içerikleri üretebiliyor. 

Ortalama gözle bakıldığında, saygın bir kaynaktan gelen gerçek bilgi gibi görünebilir, ancak gerçekte tam tersine; kötü niyetli propaganda için üretilen sahte içerik olabilir. Son zamanlarda, AI benimsenmesinin bu yönünü ortaya koyan birçok olay gerçekleşti. 

AI Tarafından Üretilen Sahte Pentagon Patlama Görüntüsü

Mayıs 2023’te, Amerika Birleşik Devletleri’nde Pentagon yakınında bir patlama haberi yayınlandı. Görüntü, Pentagon Binası yakınındaki bahçeden çıkan çok sayıda siyah dumanı gösteriyordu. Bu görüntü, mavi tikli doğrulanmış bir Twitter hesabı olan Bloomberg Feed tarafından paylaşıldı. Kısa süre içinde, mavi tikli birçok doğrulanmış hesap da görüntüyü paylaştı. Ancak bu, AI tarafından oluşturulmuş bir görüntüydü ve birçok kişiyi yanılttı. X’in (eski Twitter) mavi tikleri aylık 8 ABD doları karşılığında sunma politikası sorunu daha da artırdı. 

Herhangi birinin doğrulanmış bir hesabı olabildiği ve doğrulanmış hesapların daha fazla görünürlük elde ettiği için haber hızla yayıldı, kamu figürlerinin, hükümet yetkililerinin ve haber sitelerinin taklit edilmesi endişelerini artırdı, dijital alanda kaosa ve gerçeklik krizine yol açtı.

Görüntü, sosyal medya X’in genel kullanıcıları tarafından AI tarafından oluşturulduğu neredeyse fark edilemezken, bazı AI araştırmacıları kusurları veya tutarsızlıkları tespit edebildi. 

Göre Nick Waters, bu tür bir AI araştırmacısı:

“Bina çitinin ‘alışılmadık’ birleştirilmesi, görüntünün yapay olarak oluşturulmuş veya manipüle edilmiş olabileceğini gösterdi.”

Buna rağmen, sahtecilik kısa bir süreliğine de olsa sosyal medyada ve ötesinde kaos ve karışıklık yaratarak amacına ulaştı. 

Adobe Stock’ta Binlerce Sahte Görüntü

Göre bir rapor Washington Post’ta yayınlanan bir rapora göre, AI tarafından oluşturulan stok görüntüler yaygın. Adobe Stock’ta ‘Ukrayna Savaşı’ terimiyle yapılan arama, çatışmanın 15.000’den fazla sahte görüntüsüyle sonuçlandı. Raporda ayrıca, hiç gerçekleşmemiş Black Lives Matter protestolarının yüzlerce AI görüntüsü de yoğun bir şekilde bulunduğu belirtildi. 

Maui Orman Yangınları için de onlarca AI tarafından oluşturulmuş görüntü mevcuttu. Bu görüntülerin birçoğu foto muhabirleri tarafından çekilmiş gerçek fotoğraflara o kadar benziyordu ki sahte olanları gerçeklerden ayırt etmek neredeyse imkânsızdı. 

Görünüşte Gerçek Hayat Haber Klipleri Vakası

Göre Forbes tarafından yayınlanan başka bir rapor, AI tarafından oluşturulan sahte haberler konusunda, TikTok ve YouTube yıldızı Krishna Sahay, büyük ana akım haber medya kuruluşlarından üst düzey sunucuların görünüşte gerçek haber kliplerini oluşturmak için jeneratif AI kullanan birkaç sosyal medya kullanıcısından biridir. 

CBS’den CNN’ye, BBC’ye kadar, bu haber ajanslarının birçok sunucusu bu listeye giriyor. Bu videolar aynı zamanda derin sahte (deep fake) olarak da bilinir; güçlü jeneratif AI algoritmaları, sunucuların kendilerine benzer ses ve görüntü içeren sesli-görsel içerikler oluşturur.

Rapor göre, Krishna Sahay tek başına milyonlarca izleyiciye sahip. Sahay’ın videoları, okul silahlı saldırıları, terör saldırıları, suç saldırıları gibi hassas konularda AI-manipüle edilmiş sahte sunuculara yönelik sorunlu yorumlar içeriyor.

Derin sahte (deep fake) uzmanı ve UC Berkeley profesörü Hany Farid’e göre, bu videolar tanınmış haber sunucularının popülerliğini ve güvenilirliğini “yanıltıcı bir dezenformasyon taşıyıcısı” olarak kullanıyor.

Prof. Farid’e göre: “Birçok durumda, sunucular izleyiciler tarafından bilinir ve güvenir, hatta bilinse bile, genel haber formatı tanıdık olduğu için daha çok güvenilir kabul edilir.” Bu tehdidi durdurmanın, “kendi benzerlikleri ve sesleri kötüye kullanılan kişilerin haklarını korumak” konusunda daha ciddi adımlar atmamızı gerektireceğine inanıyor.

Gazze Savaşı’ndan Derin Sahte (Deep Fake) Videolar

İnternet, Gazze savaşıyla ilgili derin sahte videoların önemli bir istilasını da gördü. Bu zorluğa yanıt olarak, CREOpoint adlı teknoloji şirketinin CEO’su Jean-Claude Goldenstein, bu tür içeriklerin geçerliliğini değerlendirmede önemli bir rol oynadı. Durumun ciddiyetini fark eden şirket, Gazze’den çıkan en çok paylaşılan derin sahte videoların bir veri tabanını oluşturdu; bu, dijital tehditle mücadelede kritik bir adım.

Goldenstein’e göre:

“Görseller, video ve ses: jeneratif AI ile, daha önce görülmemiş bir tırmanış olacak.”

Bu videolar genellikle eski çatışmalardan içerik yeniden kullanır. Felaketin şiddetini vurgulayarak güçlü bir duygusal tepki yaratmayı amaçlar. 

Jeneratif AI’yi içten dışa bilen bu derin sahte oluşturma ekipleri, insan psikolojisini ve insanların en derin dürtülerini ve kaygılarını hedef almayı bilen kişilerden oluşur.

Propagandacılar, komplo teorisyenleri, teröristler veya dolandırıcı örgütler elinde, sahte içerik üreten AI araçları en ölümcül silahlardan biri haline geldi. Bunları kontrol altında tutma ihtiyacı her geçen gün artıyor.

Bu büyüyen tehditle mücadele etmenin en etkili yollarından biri, kaynağın gerçekliğini sağlamak olacaktır. Gerçekliği sağlamak için araştırma ve çözüm geliştirme çabaları tam gaz devam ediyor. İşte birkaç gerçek yaşam örneği.

Yapay Zeka Çağında İçerik Gerçekliğini Nasıl Sağlarsınız?

Sony’nun Kamera İçinde Kimlik Doğrulama Teknolojisi

Sony Electronics, yeni bir çözümle ortaya çıkmak üzere. Associated Press ile iş birliği içinde kamera içinde kimlik doğrulama teknolojisinin ikinci test turunu tamamladı. 

Bu teknolojinin amacı, çekilen görüntülere doğum belgesi ekleyerek içeriğin kaynağını doğrulamaktır. Daha spesifik olarak, görüntünün yakalanma anında donanım çipsetinde üretilen makine tabanlı dijital imza olacaktır.

Sony Electronics Başkanı ve COO’su Neal Manowitz’a göre, “kamera içinde kimlik doğrulama teknolojisi değerli sonuçlar gösterdi” ve şirket “geliştirmeyi daha geniş bir yayına doğru itmeye devam edecek”.

Sony Electronics ve AP’nin ortak saha testi bu yıl Ekim ayında tamamlandı. Bu test turunun amacı, yakalama doğrulama ve ilgili iş akışının verimliliğini değerlendirmekti.

Bu projedeki üçüncü iş birliği ortağı, endüstri standardı iş akışı aracı PhotoMechanic’i geliştiren CameraBits idi.

CameraBits’in bu iş birliğindeki rolü, kamera dijital imzasını metadata düzenleme süreciyle korumak için teknolojiyi sunmaktı.

Associated Press Fotoğraf Direktörü David Ake’ye göre, “Sahte ve manipüle edilmiş görüntüler haber kuruluşları için büyük bir endişe kaynağı. Sadece yanlış bilgi ve dezenformasyona katkı sağlamakla kalmaz, aynı zamanda kamuoyunun doğru, güvenilir görsellere olan güvenini de zedeler.”

Kamera içi imza ve kimlik doğrulama teknolojisi, 2024 ilkbaharında bir dizi modelde firmware güncellemesi olarak yayınlanacak.

Sony Group Corporation’un piyasa değeri 106,35 milyar dolar, F/K oranı 19,49 ve 2022’de 82,64 milyar dolar gelir elde etti.

Derin Sahte Ses Manipülasyonlarıyla Mücadele Teknolojisi

AI tabanlı teknolojiler, gerçekçi ses sentezinde gelişmelere yol açtı. Aslen faydalı amaçlarla kullanılabilen bu teknoloji, kişiselleştirilmiş ses asistanları ve erişilebilirliği artıran iletişim araçları geliştirmeye yardımcı olabilir. Ancak diğer yandan, birçok kişi bu teknolojiyi derin sahte videolar için ses üretmekte kullanıyor. 

Bu tehdide yanıt olarak, Washington Üniversitesi McKelvey Mühendislik Okulu’nda Bilgisayar Bilimleri ve Mühendisliği yardımcı doçenti Ning Zhang, AntiFake adlı bir araç geliştirdi. Bu, saldırı sonrası tespit için bir azaltma aracı değil; sorunu kökten çözmeyi amaçlayan proaktif bir araç.

Prof. Zhang’a göre:

“AntiFake, ses verilerini dışarıya koyduğumuzda, suçluların bu bilgileri seslerimizi sentezlemek ve kimliğimizi taklit etmek için kullanmasını zorlaştırır.”

Siber suçlularla mücadelede ilginç bir adım olarak, Prof. Zhang onları kendi paralarıyla geri ödeyecek. Kendisine göre:

“Araç, başlangıçta siber suçluların araç kutusunun bir parçası olan bir adversarial AI tekniğini kullanıyor, ancak şimdi bunu onlara karşı savunma amaçlı kullanıyoruz.”

AntiFake’in temel çalışma prensibi, kaydedilen ses sinyalini hafifçe bozmak. Bozulmanın doğası o kadar ince ayarlanmış ki, insan kulağına doğru gelirken, AI’ye tamamen farklı bir şey gibi iletilir.

Kamuya açık verilere göre, AntiFake %95’in üzerinde bir koruma oranı gösterdi. Ayrıca, çeşitli nüfus gruplarına erişilebilir olma konusunda da etkinliğini kanıtladı.

Gerçekliği Sağlamada Blockchain Kullanımı

OARO Media solutions blockchain’in değişmezlik özelliklerini kullanarak derin sahte tehdidine karşı mücadele ediyor. İşletmeler, yönetim otoriteleri ve bireysel kullanıcılar için fotoğraf veya videoyu doğrulamak amacıyla değişmez bir veri izi oluşturulmasına yardımcı olur.

OARO Media’nin bir kullanıcının mobil telefonunda çalışması basit ama oyunu değiştirecek kadar etkilidir. Kullanıcı, bir SMS web bağlantısı veya bir sigorta şirketinin uygulaması aracılığıyla telefon kamerasına erişimle başlar. Ardından, görsel içeriğe bir sertifika verilir; bu sertifika, kullanıcı kimliği, içerik, zaman damgası ve GPS koordinatlarının sahte yapılamaz kaydını içerir. Bu süreç, sigorta sektörünün talepleri doğrulamasına ve AI tarafından üretilen sahteleri gerçeklerden ayırmasına yardımcı olur.

Bilgi Savaşının Bir Parçası Olarak Derin Sahte Kullanımını Durdurmak

Sentinel’ın anti-deepfake çözümleri ve hizmetleri, demokratik hükümetlerin, savunma ajanslarının ve işletmelerin kaynaklarını kötü niyetli AI içeriğinin etkilerinden korumalarına yardımcı olur. Avrupa Birliği ve Estonya Cumhuriyeti Ekonomi ve İletişim Bakanlığı ile ortaklık kurmuştur. Ancak bu, dolaşıma girdikten sonra derin sahteyi tespit eden bir saldırı sonrası çözümdür.

Çalışma şekli dört adımlı basit bir akıştır. İlk adımda, kullanıcı dijital medyayı Sentinel’ın web sitesi veya API üzerinden yükler. Sentinel sistemi, medyayı otomatik olarak analiz ederek AI sahteciliğini tespit eder. Ardından, medyanın derin sahte olup olmadığına dair bir karar sunar. Son olarak, sürecin nasıl gerçekleştiğini kullanıcılara göstermek için manipülasyonun bir görselleştirmesini gösterir.

AI Ortamında Gerçekliği Sağlamak: Gelecek İçin Gelişen Yenilik Senaryosu

AI tarafından üretilen sahte içerik, gerçekliği çarpıtmak ve kötü niyetli propaganda yaymak için güçlü bir araçtır. Bu içerik, şaka ya da sosyal medya beğenileri gibi görünüşte zararsız amaçlarla oluşturulsa bile, büyük ölçekli şiddete yol açabilir.

Etkisi, devletler arasındaki diplomatik ilişkilerden hizmet işletmeleri ile kullanıcıları arasındaki etkileşimlere ve hatta kişisel ilişkilere kadar çeşitli alanlarda güvensizliği artırmaya kadar uzanır. Bu nedenle, küresel çapta teknoloji araştırmacıları ve bilim insanlarının kontrolsüz sahte içerik tehlikelerini kabul etmesi olumlu bir işarettir. Bu sorunu ele alan birkaç girişimi zaten vurguladık.

Daha birçoğu var. Sensity, örneğin, görsel tehdit istihbarat platformu geliştiriyor. API’si, en yeni AI tabanlı manipülasyon ve sentez tekniklerini tespit edebiliyor. Başka bir startup, Quantum Integrity, görüntü ve video sahteciliğini tespit edebilen SaaS AI çözümleri geliştirdi.

Siber suçlular kesinlikle yeni aldatma teknikleri geliştirmeye devam edecek. Ancak birçok işletme bunları önceden tahmin edip engelleyebilecek. Yenilik sürekli bir tempoda devam ettikçe, mücadele artık David vs. Goliath gibi olmayacak.

Beş birleşen teknolojiye yatırım hakkında her şeyi öğrenmek için buraya tıklayın.