Daniel Wagner, Q2 Ürün ve Mühendislik Direktörü – Röportaj Serisi

Daniel Wagner, Q2’de Ürün ve Mühendislik Direktörü, yapay zeka, makine öğrenimi, veri platformları, dijital bankacılık ve kurumsal yazılım teslimatı alanlarında deneyime sahip bir teknoloji ve ürün lideridir. Q2’nin Sensibill’i satın almasıyla şirkete katılmadan önce Wagner, Sensibill’de on yılı aşkın bir süre çalışmış, Delivery Manager, Delivery Director, Director of Engineering ve VP of Engineering gibi liderlik pozisyonlarına yükselmiştir. Veri ve AI ekiplerini makine öğrenimi projeleri geliştirmek, büyük finans kurumları için mobil çözümler yönetmek ve en son olarak veri zenginleştirme ve içgörü odaklı bir müşteri veri platformunun mühendisliğini yönlendirmekle sorumlu olmuştur. Kariyerinin erken dönemlerinde Wagner, bir yazılım mühendisi olarak başladığı kariyerinin ardından Capgemini tarafından daha sonra satın alınan uygulama geliştirme şirketi Itelios’un Brezilya operasyonlarını kurmuş ve CEO’su olarak görev yapmıştır. Q2, Sensibill’i 2022 yılında finans kurumları için veri ve makine öğrenimi yeteneklerini güçlendirmek amacıyla satın almıştır.

Q2, bankalar, kredi birlikleri, fintech şirketleri ve alternatif finans sağlayıcılarına dijital bankacılık ve kredi çözümleri sunan bir finans teknolojisi şirketidir. Platformu tüketici, küçük işletme ve ticari bankacılığı kapsar; aynı zamanda dijital onboarding, gömülü finans, ilişki fiyatlandırması, risk ve sahtecilik yönetimi ve veri odaklı kişiselleştirme özelliklerine sahiptir. Q2, ürün portföyü boyunca yapay zekayı giderek daha fazla entegre ediyor; bu araçlar bankacıların verimliliğini artırmak, sahtecilik faaliyetlerini tespit etmek, hesap sahiplerinin deneyimlerini kişiselleştirmek ve finans kurumlarının daha hızlı, veri temelli kararlar almasına yardımcı olmak için tasarlanmıştır. Şirket, daha geniş portföyü içinde 1.000’den fazla finans kurumuna hizmet vermekte ve teknolojisini bu kurumların dijital hizmetlerini modernize edip genişletmelerine yardımcı olan bir altyapı katmanı olarak konumlandırmaktadır.

Q2’deki çalışmalarınız siber dayanıklılığa odaklanıyor ve organizasyonların güvenlik olaylarına nasıl hazırlık yaptığını ve bu olaylardan nasıl kurtulduğunu inceliyor. Finans kurumları, yalnızca bilgi analiz eden değil aynı zamanda eylemde bulunabilen AI ajanlarını dağıtmaya başladıkça, sizi en çok endişelendiren yeni güvenlik riskleri nelerdir?

Siber güvenlik ve sahtecilik önleme, sorunun farklı yönlerini ele alır. Siber güvenlik “sınırı güvence altına almak”tan sorumludur; bu, hesap erişiminin korunması ve temel yazılımın sağlam olması anlamına gelir. Benim çalışmam, birisi zaten bu sınırı aşmış olduğunda devreye girer ve onların iddia ettikleri kişi olup olmadıklarını belirlemeye odaklanır.

AI ajanlarının yükselişiyle, o kapıdan geçen kişi, başkasının yetkisiyle hareket eden bir temsilci olur. En çok endişe duyduğum risk “prompt enjeksiyonu”dur. Bu, bir sahtekarın meşru bir kullanıcının ajanını, kullanıcının hiç yetkilendirmediği ve kullanıcının çıkarına olmayan eylemleri gerçekleştirmeye yönlendirmesidir. Bu, tespit edilmesi zor yeni bir sahtecilik sınırıdır.

Bankalar geleneksel olarak kimlik ve erişim yönetim sistemlerini insanlar, uygulamalar ve hizmet hesapları etrafında inşa etmiştir. Bir AI ajanı artık ayrı bir kimlik olarak muamele görmeli mi ve bu pratikte ne anlama gelir?

En net benzetme, delegeli erişimin zaten olgun bir disiplin olduğu iş bankacılığından gelir. İşletmeler, çalışanlara belirli görevleri yerine getirmeleri için sınırlı erişim verir; örneğin bakiyeleri görüntülemek, ancak hesap sahibinin tam yetkisini vermek zorunda kalmazlar.

Finans kurumları aynı çerçeveyi AI ajanlarına da uygulamalıdır. Bir ajan, bir işletmenin bir insan asistanına yaklaşıklığı gibi, tanımlı ve sınırlı bir rolü olan ayrı bir kimlik olarak ele alınmalıdır. Bu, ajanların başlangıçtan itibaren dar kapsamlı izinlerle kimlik ve erişim yönetimi oluşturulması gerektiği, hesap sahibinin aynı seviyede yetkilendirilmemesi gerektiği anlamına gelir.

Bir AI ajanı bir çalışan ya da müşteri adına hareket ettiğinde, banka tam olarak hangi verilere erişebileceğini, hangi hesaplarla etkileşime girebileceğini ve hangi finansal eylemleri gerçekleştirebileceğini nasıl belirlemelidir?

Varsayılan olarak yalnızca okuma erişimiyle başlayın. Bankacılık zaten bu düzeyde bir ayrıntıyı destekleyecek altyapıya sahiptir; çünkü iş bankacılığı yıllardır bunu gerektirmiştir. Finans kurumları, bir ajanın neyi görebileceği ve neyi yapabileceği konusunda son derece hassas ayarlamalar yapabilir.

Bir işlemi başlatmak ve onaylamak ayrı izinler olarak ele alınabilir ve her iki izin de tutar ya da işlem tipi gibi kriterlerle daha da sınırlanabilir. Birçok kurum, iş hesapları için iki kişilik onay döngülerine dayanır; bu aynı iş akışı doğal olarak ajanlara da uygulanabilir. Bir ajan bir eylemi başlatabilir, ancak nihai onay hesap sahibi tarafından verilmelidir; böylece bilgi görüntülemenin ötesinde her şeyde bir insan sürecin içinde kalır.

En az ayrıcalıklı erişim, bir ajanın bir görevi tamamlamak için birden çok sistemde onlarca adım atması gerektiğinde daha karmaşık hâle gelir. Finans kurumları, ajanlara yeterli yetkiyi verirken aşırı izinler vermekten nasıl kaçınabilir?

Bir ajanın faydalı olması için para hareket etmesi gerekmez. Ajansın sağladığı çoğu değer, bakiye kontrolü, harcama takibi veya trend analizi gibi bilgi toplama ve düzenleme işlevlerinden gelir. Bu, yükseltilmiş izinler gerektirmez ve insanların hesaplarına giriş yapma amacının temelini oluşturur. Para transferi ya da hesap detaylarını değiştirme gibi işlemler, ayrı ve daha sıkı kontrol edilen bir yetki katmanına ait olmalıdır.

Sahtecilik sistemleri, olağandışı oturum açma veya işlem kalıpları gibi şüpheli insan davranışlarını tespit etmek için tasarlanmıştır. Meşru AI ajanları makine hızında çalıştığında ve insan kullanıcı için anormal görünecek davranışlar sergilediğinde sahtecilik tespiti nasıl evrimleşmeli?

Mevcut bazı kontroller, işlem hızını güçlü bir sinyal olarak kullanır. Bu sinyaller, meşru ajanların da hızlı hareket edebileceği bir dünyada yeniden kalibre edilmelidir. Bununla birlikte, davranışsal sinyallerimiz—belirli bir kullanıcı ve belirli bir alıcı için normal olanı inceleyen—hala sahtecilik tespitinde geçerlidir. Finans kurumları, davranışı değerlendirebilir ve kimlik doğrulamasının yanı sıra bunu da kontrol edebilir.

Gelecekte, finans kurumlarının bağlama göre tespit hassasiyetini artırıp azaltma yeteneğine, ayrıca meşru bir kullanıcının ajanını sahte bir saldırganın ajanından ayırmak için gerekli izin ve kayıt mekanizmalarına sahip olmaları gerekecektir.

Bir saldırgan bir AI ajanını ele geçirip talimatlarını manipüle eder ya da onu yetkisiz bir eyleme zorlarsa ne olur? Finans kurumu, meşru otonom bir eylemi bir saldırı sonucu ortaya çıkan bir eylemden nasıl ayırt edebilir?

Bu senaryoda, ajan kullanıcının hiç talep etmediği bir şeyi yapar; genellikle bir prompt enjeksiyonu saldırısının sonucudur. Ancak tespit yaklaşımı temelde değişmez. Hâlâ davranışa bakıyoruz. Kullanıcının alışılmış kalıplarının dışına çıkan bir eylem, insan olsun ya da ajan olsun, işaretlenmesi gereken bir sinyaldir.

Para hareketi, özellikle yüksek riskli bir kullanım senaryosudur. Bankalar zorunlu insan onayını nerede tutmalı ve hangi işlem tipleri ya da tutar eşikleri için otonom ajanların bağımsız hareket etmesine izin verilmemelidir?

Evet, limitler gereklidir. Daha önce belirtildiği gibi, iş bankacılığı AI ajanları için kolayca uyarlanabilecek bir örnek sunar. Geçici onaylar, bir ajanın bir eylemi başlatmasına izin verebilir, ancak insanın bunu gözden geçirip onaylaması gerekir.

Uygulamada, tek tek transferlerin değerine ve bir ajanın belirli bir zaman diliminde başlatabileceği transfer sayısına eşik koymak anlamına gelir. Zorunlu insan onayı sadece para hareketiyle sınırlı kalmamalıdır; örneğin, güvenilir bir alıcı için ödeme detaylarını değiştirmek, fon transferi kadar riskli olabilir.

AI ajanları, fintech şirketleri, satıcılar, müşteriler veya diğer finans kurumları tarafından işletilen diğer ajanlarla giderek daha fazla etkileşime girebilir. Bu durum üçüncü taraf riskini nasıl artırır ve bir banka, finansal iş akışına katılan her ajanı kontrol edemediğinde güveni nasıl tesis edebilir?

Burada iki senaryo vardır. İlkinde, kullanıcı bir ajana hesabına erişim izni verir. Bu ajan, kullanıcının yetkisi altında hareket eder. Kullanıcı, ajanın bir Ajan‑Ajan protokolü çerçevesinde diğer ajanlarla birlikte çalışmasına izin veriyorsa, risk kullanıcı tarafından üstlenilir; her şey kullanıcının yetkilendirmesi altında gerçekleşir ve bankalar sorumluluğu genişletmez.

Risk profili, bir kurum kendi özel ajanını inşa edip işletmeye başladığında değişir. Bu noktada kurum, ajanın davranışından doğrudan sorumlu olur; bu, başka bir tarafın delegeli erişimini onaylamaktan farklıdır. Finans kurumları, bir iş akışına dahil ettikleri her üçüncü taraf ajanı için gerekli incelemeyi yapmalıdır; ancak bu sorumluluğun bir kısmı nihai kullanıcıya da yansır. Müşterinin “kontrol çevresi”, kurumun sorumluluk sınırını belirler.

Yetkilendirilmiş bir AI ajanı hatalı bir karar verip finansal kayıp, veri sızıntısı veya sahte bir işlem oluşturursa, sorumluluk çalışan, finans kurumu, teknoloji sağlayıcı ve ajanın temel modeli arasında nasıl bölüştürülmelidir?

Reg E, elektronik işlemler için tüketici korumasını düzenleyen federal kuralı hâlâ geçerlidir. Bu kural, sahtecilik sorumluluk limitlerini ve bankaların yürüttüğü soruşturma gerekliliklerini belirler. Reg E sayesinde, bir finans kurumunun itiraz edilen bir işlemi araştırma yükümlülüğü ortadan kalkmaz.

Değişen, sorumluluğun temel sorusudur. Bir kullanıcı, bir ajana bilerek erişim yetkisi verdi ve bu ajan hatalı bir karar verdiyse, kurumun kullanıcıya tazminat ödemesi yükümlülüğü, yetkisiz üçüncü taraf sahteciliği durumundan farklıdır.

Özetle, bu yetkinin devredilmesi, kullanıcının bazı riskleri kabul ettiği anlamına gelir. Kurum, hatanın bir yazılımdan kaynaklandığı için hesabın sahibi olan kullanıcıya ait sorumluluğu otomatik olarak üstlenmez.

İleriye bakarak, bankalar ve kredi birlikleri AI ajanlarına hassas veriler, müşteri hesapları ve finansal işlemler üzerinde daha fazla özerklik tanımadan önce hangi güvenlik ve yönetişim temellerini atmalıdır?

En büyük fırsat, iş bankacılığında halihazırda var olan yönetişim modelini kişisel bankacılığa taşımaktır. İş hesapları, çok ayrıntılı izinler, delegeli erişim ve onay iş akışları konusunda yıllara dayanan bir örnek sunar.

Yeni bir ajan yönetişim çerçevesi inşa etmek yerine, bankalar ve kredi birlikleri iş tarafında kanıtlanmış olan kontrol, izin katmanları ve onay yapılarını kişisel hesaplar için uyarlamalıdır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Q2’yi ziyaret etmelidir.