Menjamin Keaslian dengan Kedatangan Kecerdasan Buatan (AI)

Adopsi AI dalam semua aspek kehidupan sedang meningkat pesat. Perkiraan menunjukkan bahwa pasar siap tumbuh tiga kali lipat dalam rentang tujuh tahun ke depan. 

Dari ukuran hampir US$242 miliar, diperkirakan akan tumbuh menjadi hampir US$740 miliar pada tahun 2030. Berbagai industri telah mulai mengintegrasikan AI dalam operasinya. Industri yang paling memanfaatkan AI sejauh ini meliputi kesehatan, keuangan, manufaktur, layanan bisnis & hukum, dll. 

Dalam tingkat yang lebih kecil, AI telah mulai mengubah paradigma operasional di industri seperti media, hiburan, keamanan, ritel, energi, dll. 

Dengan meningkatnya adopsi AI, tantangan memastikan keaslian muncul sebagai isu signifikan yang perlu segera ditangani. Kami memulai diskusi hari ini dengan melihat apa saja tantangan tersebut.

Klik di sini untuk mempelajari semua tentang berinvestasi dalam kecerdasan buatan. 

Tantangan Keaslian dalam Adopsi AI

Apa yang menjadi kekuatan AI justru muncul sebagai kelemahannya. Algoritma AI mampu menghasilkan gambar, video, artikel, dan bentuk konten multimedia lainnya yang sangat realistis sehingga sulit bagi penonton biasa membedakannya dari aslinya. 

Bagi mata kebanyakan orang, hal ini dapat tampak sebagai informasi otentik dari sumber terpercaya, padahal pada kenyataannya bisa berlawanan total: konten palsu yang dibuat untuk propaganda jahat. Beberapa peristiwa telah terjadi baru-baru ini yang mengungkap sisi ini dari peningkatan adopsi AI. 

Gambar Ledakan Pentagon Palsu yang Dihasilkan AI

Pada Mei 2023, berita tentang ledakan di dekat Pentagon di Amerika Serikat dipublikasikan. Gambar tersebut menunjukkan banyak asap hitam keluar dari taman di dekat Gedung Pentagon. Gambar ini dibagikan oleh akun Twitter terverifikasi, Bloomberg Feed, yang memiliki centang biru. Tak lama kemudian, banyak akun terverifikasi dengan centang biru juga membagikan gambar tersebut. Namun, itu adalah gambar yang dihasilkan AI, dan menipu banyak orang. Kebijakan terbaru X yang menjual centang biru dengan biaya US$8 per bulan semakin memperparah masalah.

Karena siapa saja dapat memiliki akun terverifikasi dan akun terverifikasi mendapatkan visibilitas lebih, berita tersebut menyebar cepat, menimbulkan kekhawatiran tentang tokoh publik, pejabat pemerintah, dan situs berita yang dipalsukan, menciptakan kekacauan dan krisis keaslian di ranah digital.

Meskipun gambar tersebut hampir tidak dapat dikenali sebagai hasil AI oleh pengguna umum media sosial X, beberapa peneliti AI dapat mengidentifikasi cacat atau ketidakteraturan. 

Menurut Nick Waters, seorang peneliti AI seperti itu:

“Penggabungan yang tidak biasa antara pagar gedung dengan penghalang kerumunan menunjukkan bahwa gambar tersebut mungkin dibuat atau dimanipulasi secara artifisial.”

Namun, pemalsuan tersebut mencapai tujuannya, meskipun hanya untuk sesaat, dengan menciptakan kekacauan dan kebingungan di media sosial dan sekitarnya. 

Ribuan Gambar Palsu di Adobe Stock

Menurut sebuah laporan dipublikasikan di Washington Post, gambar stok yang dibuat AI bertebaran luas. Pencarian di Adobe Stock dengan istilah ‘Ukraine War’ menghasilkan lebih dari 15.000 gambar palsu tentang konflik tersebut. Laporan tersebut juga mencatat banyaknya ratusan gambar AI orang-orang di protes Black Lives Matter yang tidak pernah terjadi. 

Puluhan gambar yang dihasilkan AI juga tersedia untuk Kebakaran Hutan Maui. Banyak dari gambar ini sangat mirip dengan foto kehidupan nyata yang diambil oleh fotojurnalis sehingga gambar palsu hampir tidak dapat dibedakan dari yang asli. 

Kasus Klip Berita yang Tampak Seperti Kehidupan Nyata

Menurut laporan lain yang dipublikasikan oleh Forbes tentang palsu yang dihasilkan AI, bintang TikTok dan YouTube Krishna Sahay adalah salah satu dari beberapa pengguna media sosial yang menggunakan AI generatif untuk membuat klip berita yang tampak nyata dari pembawa acara utama di outlet berita arus utama yang memiliki kredibilitas tinggi.

Dari CBS hingga CNN hingga BBC, banyak pembawa acara dari agensi berita ini masuk dalam daftar ini. Video-video ini juga dikenal sebagai deep fake, di mana algoritma AI generatif yang kuat membantu menciptakan konten audiovisual yang tampak dan terdengar seperti pembawa acara itu sendiri. 

Menurut laporan tersebut, Krishna Sahay sendiri memiliki audiens jutaan orang. Video Sahay mencakup komentar bermasalah tentang pembawa berita palsu yang dimanipulasi AI pada isu-isu sensitif, seperti penembakan di sekolah, serangan teroris, serangan kriminal, dan lainnya. 

Menurut Hany Farid, seorang pakar deep fake dan profesor di UC Berkeley, video-video ini memanfaatkan popularitas dan kredibilitas pembawa berita terkenal sebagai “kendaraan yang menarik untuk menyebarkan disinformasi”.

Menurut Prof. Farid: “Dalam banyak kasus, pembawa berita dikenal oleh penonton dan dipercaya, dan bahkan jika tidak, format berita umum sudah familiar sehingga lebih dipercaya.” Dia percaya bahwa menghentikan ancaman ini memerlukan kita “menjadi lebih serius dalam melindungi hak orang-orang yang kemiripan dan suaranya dimanfaatkan secara tidak sah.” 

Deep Fake dari Perang Gaza

Internet juga menyaksikan invasi signifikan video deep fake terkait perang Gaza. Menanggapi tantangan ini, Jean-Claude Goldenstein, CEO CREOpoint, sebuah perusahaan teknologi yang berspesialisasi dalam AI, berperan penting dalam menilai keabsahan konten semacam itu. Menyadari beratnya situasi, perusahaan tersebut telah mengembangkan basis data deep fake paling viral yang muncul dari Gaza, menandai langkah penting dalam menangani ancaman digital ini.

Menurut Goldenstein:

“Gambar, video, dan audio: dengan AI generatif, ini akan menjadi eskalasi yang belum pernah Anda lihat.”

Video-video ini sering menggunakan kembali konten dari konflik lama. Mereka berusaha menghasilkan respons emosional yang kuat dengan menekankan intensitas bencana. 

Selain menguasai AI generatif secara menyeluruh, tim pembuat deep fake ini terdiri dari orang-orang yang memahami psikologi manusia dan cara menargetkan impuls serta kecemasan terdalam orang.

Di tangan propagandis, konspirasionis, teroris, atau organisasi penipu, alat AI yang menghasilkan konten palsu telah berkembang menjadi salah satu senjata paling mematikan. Kebutuhan untuk mengendalikannya semakin meningkat setiap harinya. 

Salah satu cara paling efektif untuk melawan ancaman yang berkembang ini adalah memastikan keaslian sumber. Upaya riset dan pengembangan solusi untuk memastikan keaslian sedang berlangsung. Berikut beberapa contoh nyata.

Bagaimana Anda memastikan keaslian konten di Era Kecerdasan Buatan?

Teknologi Otentikasi In-Camera Sony

Sony Electronics akan meluncurkan solusi baru. Mereka telah menyelesaikan putaran kedua pengujian teknologi otentikasi in-camera bekerja sama dengan Associated Press. 

Tujuan teknologi ini adalah memberikan gambar yang diambil sertifikat kelahiran yang akan mengotentikasi asal konten. Lebih spesifik, ini akan menjadi tanda tangan digital berbasis mesin yang dihasilkan di dalam kamera pada saat gambar diambil di chipset perangkat keras.

Menurut Neal Manowitz, Presiden dan COO Sony Electronics, “teknologi otentikasi in-camera telah menunjukkan hasil yang berharga,” dan perusahaan “akan terus mendorong pengembangannya menuju peluncuran yang lebih luas.”

Uji lapangan bersama Sony Electronics dan AP selesai pada bulan Oktober tahun ini. Tujuan putaran pengujian ini adalah menilai efisiensi otentikasi saat pengambilan gambar dan alur kerja terkait.

Kolaborator ketiga dalam proyek ini adalah CameraBits, yang dikenal karena menciptakan alat alur kerja standar industri PhotoMechanic.

Peran CameraBits dalam kolaborasi ini melibatkan penyediaan teknologi untuk mempertahankan tanda tangan digital kamera melalui proses penyuntingan metadata.

Menurut David Ake, Direktur Fotografi Associated Press, “Gambar palsu dan yang dimanipulasi merupakan masalah utama bagi organisasi berita. Tidak hanya berkontribusi pada mis- dan disinformasi, tetapi pada akhirnya, mereka mengikis kepercayaan publik terhadap gambar faktual yang akurat.”

Tanda tangan dan teknologi otentikasi in-camera akan dirilis sebagai pembaruan firmware pada beberapa model pada musim semi 2024.

Sony Group Corporation (SONY ) memiliki kapitalisasi pasar sebesar $106,35 miliar, rasio P/E sebesar 19,49, dan pada tahun 2022, mencatat pendapatan sebesar $82,64 miliar.

Teknologi untuk Melawan Manipulasi Suara Deep Fake

Teknologi berbasis AI mendorong pengembangan sintesis suara realistis. Dalam bentuk aslinya, teknologi ini dapat memberikan banyak manfaat. Ia dapat membantu merancang asisten suara pribadi dan alat komunikasi lain yang meningkatkan aksesibilitas. Namun, di sisi lain, banyak yang menggunakannya untuk membuat suara bagi video deep fake.

Untuk menanggapi ancaman ini, Ning Zhang, asisten profesor ilmu komputer dan teknik di McKelvey School of Engineering, Washington University, telah mengembangkan alat bernama AntiFake. Ini bukan alat mitigasi yang membantu deteksi setelah serangan. Sebaliknya, ini adalah alat proaktif yang bertujuan menghentikan masalah sejak awal.

Menurut Prof. Zhang:

“AntiFake memastikan bahwa ketika kami menyebarkan data suara, sulit bagi penjahat untuk menggunakan informasi tersebut untuk mensintesis suara kami dan meniru kami.”

Dalam langkah menarik untuk melawan penjahat siber canggih, Prof. Zhang memutuskan membalas mereka dengan koin mereka. Menurutnya:

“Alat ini menggunakan teknik AI adversarial yang awalnya merupakan bagian dari kotak peralatan penjahat siber, namun kini kami menggunakannya untuk melawan mereka.”

Prinsip operasi inti AntiFake adalah sedikit mendistorsi sinyal audio yang direkam. Jenis distorsi ini dikalibrasi sangat halus sehingga terdengar normal bagi telinga manusia, namun ditransmisikan sebagai sesuatu yang sepenuhnya berbeda bagi AI.

Menurut data publik yang tersedia, AntiFake menunjukkan tingkat perlindungan lebih dari 95%. Ia juga terbukti efektif dan dapat diakses oleh populasi yang beragam.

Penggunaan Blockchain dalam Menjamin Keaslian

OARO Media solutions memanfaatkan sifat tidak dapat diubah dari blockchain untuk melawan ancaman deep fake. Ini membantu menciptakan jejak data yang tidak dapat diubah bagi bisnis, otoritas pemerintah, dan pengguna individu untuk mengotentikasi foto atau video apa pun.

Cara kerja OARO Media di ponsel pengguna sederhana namun sangat efektif. Pengguna memulai dengan mengakses kamera ponsel melalui tautan web SMS atau aplikasi asuransi. Selanjutnya, sertifikat diterbitkan untuk konten visual, yang mencakup catatan tak dapat dipalsukan tentang ID pengguna, konten, cap waktu, dan koordinat GPS. Proses ini membantu industri asuransi mengotentikasi klaim dan membedakan fiksi yang dihasilkan AI dari yang asli.

Menghentikan Penggunaan Deepfake sebagai Bagian dari Perang Informasi

Sentinel’s solusi dan layanan anti-deepfake membantu pemerintah demokratis, agensi pertahanan, dan perusahaan melindungi sumber daya mereka dari dampak konten AI yang dibuat secara jahat. Mereka telah bermitra dengan Uni Eropa dan Kementerian Urusan Ekonomi dan Komunikasi Republik Estonia. Namun, ini adalah solusi pasca-serangan yang membantu mendeteksi deep fake setelah muncul.

Cara kerjanya adalah alur sederhana empat langkah. Pada langkah pertama, pengguna mengunggah media digital melalui situs web atau API Sentinel. Sistem Sentinel secara otomatis menganalisis media untuk mendeteksi pemalsuan AI. Kemudian memberikan keputusan apakah media tersebut merupakan deep fake atau tidak. Dan akhirnya, untuk memberi tahu pengguna tentang proses tersebut, ditampilkan visualisasi manipulasi.

Menjamin Keaslian di Tengah AI: Skenario Inovasi Berkembang untuk Masa Depan

Konten tidak autentik yang dihasilkan AI adalah alat kuat untuk memutarbalikkan realitas dan menyebarkan propaganda kejam. Konten semacam itu, bahkan ketika dibuat untuk alasan tampak tidak berbahaya seperti lelucon atau likes media sosial, dapat memicu kekerasan berskala besar.

Dampaknya meluas ke peningkatan ketidakpercayaan di berbagai bidang, mulai dari hubungan diplomatik antarnegara hingga interaksi antara perusahaan layanan dan pengguna mereka, bahkan hubungan pribadi. Oleh karena itu, merupakan pertanda positif bahwa peneliti dan ilmuwan teknologi di seluruh dunia telah mengakui bahaya konten palsu yang tidak terkendali. Kami telah menyoroti beberapa inisiatif yang menangani isu ini.

Masih banyak lagi. Sensity, misalnya, sedang mengembangkan platform intelijen ancaman visual. API-nya sudah mampu mendeteksi teknik manipulasi dan sintesis AI terbaru. Startup lain, Quantum Integrity, telah meluncurkan solusi SaaS AI yang dapat mendeteksi pemalsuan gambar dan video. 

Penjahat siber memang akan terus menciptakan teknik baru untuk menipu kita. Namun banyak perusahaan akan mampu mengantisipasi dan menggagalkannya. Dengan inovasi yang terus berlanjut secara stabil, perjuangan bukan lagi David melawan Goliath.

Klik di sini untuk mempelajari semua tentang berinvestasi dalam lima teknologi yang bersatu.