Benturan Antara Kekuatan AI dan Norma Demokratis

Seiring teknologi AI menjadi lebih meluas dan kuat, semakin sulit menemukan keseimbangan antara nilai-nilai demokratis dan kemajuan teknologi. Di satu sisi, belum pernah semudah orang untuk membagikan visi mereka kepada massa.

Namun, AI tidak memiliki pembatas, yang berarti ia terus mendorong batas hampir semua metrik sosial. Berikut cara pengembang AI terus berusaha menciptakan harmoni antara kemampuan AI dan nilai-nilai demokratis, serta mengapa hal itu mungkin tidak dapat dicapai.

Bagaimana AI Mengubah Perlindungan Kebebasan Berekspresi

Kecerdasan buatan telah memberikan dampak yang signifikan pada kebebasan berbicara. Pertama, AI memudahkan orang untuk menciptakan gambaran hidup dari visi mereka dan membagikannya kepada publik melalui media sosial. AI juga menurunkan biaya produksi hampir menjadi nol, memungkinkan organisasi mana pun untuk memperjuangkan tujuan mereka secara virtual.

Alat AI memberikan beberapa manfaat, termasuk kemampuan untuk dengan mudah mengubah dan menyesuaikan pesan mereka agar sesuai dengan demografi tertentu. Selain itu, konten AI sejauh ini dianggap berada di bawah perlindungan Amandemen Pertama. Dengan demikian, hal ini memungkinkan pencipta mengekspresikan diri secara terbuka.

Sebaliknya, AI telah memicu banjir disinformasi. Kini semakin sulit bagi orang untuk membedakan informasi yang berasal dari pakar sejati dan yang dibuat oleh algoritma. Sayangnya, hasilnya adalah erosi kepercayaan pada sistem.

Bagaimana Algoritma Media Sosial Memperkuat Disinformasi AI

Menambah kekacauan, algoritma media sosial dapat mempromosikan deepfake karena seringkali lebih kontroversial, menghasilkan lebih banyak interaksi. Ini menciptakan siklus di mana kebohongan ditampilkan lebih menonjol daripada informasi yang sebenarnya. Sayangnya, tidak ada mandat yang mewajibkan label pada disinformasi AI.

AI dan Partisipasi Warga dalam Sistem Demokratis

Kecerdasan buatan membuka pintu bagi partisipasi yang lebih luas dari warga. Sistemnya mempermudah pemerintah dan warga untuk berkomunikasi ide-ide mereka serta melacak konsensus publik. Selain itu, AI terbukti membantu merangkum legislasi yang kompleks dan membagikan data penting untuk memberi informasi kepada warga.

Risiko Pengawasan AI dan Kekhawatiran Privasi Demokratis

Ada beberapa risiko pengawasan yang diciptakan AI bersamaan dengan mendorong partisipasi. Sistem ini dapat dengan mudah melacak pemilih. Ada sistem AI yang dapat meninjau jejak digital lengkap Anda dan memberikan penilaian tentang pandangan politik Anda berdasarkan aktivitas web Anda.

Selain itu, teknologi ini dapat digunakan untuk menentukan identitas seseorang berdasarkan jejak digital atau preferensinya. Semua alat ini tidak memerlukan surat perintah seperti teknologi sebelumnya. Dengan demikian, potensi penyalahgunaan meningkat.

Peran AI dalam Pemilihan Modern dan Integritas Pemilu

Kecerdasan buatan menawarkan beberapa manfaat bagi proses pemilihan. Pertama, AI memudahkan pemantauan hasil. Sistem AI juga dapat membantu melacak gangguan apa pun berupa intimidasi atau ancaman terhadap pemilih.

Deepfake AI dan Krisis Kepercayaan Politik

Dari semua disinformasi AI yang menyebabkan kekacauan saat ini, masalah utama muncul seputar deepfake. Teknologi ini memungkinkan orang dengan mudah membuat duplikat pejabat publik, profesional industri, atau siapa pun yang mereka inginkan, termasuk kandidat politik.

Sumber – BBC

Deepfake politik terus menimbulkan masalah bagi pejabat dan mengubah informasi yang diterima publik. Masalahnya, tiruan ini hampir tidak dapat dibedakan dari yang asli. Oleh karena itu, hampir semua jenis kelompok yang ingin menimbulkan kekacauan atau menabur benih ketidakpercayaan pada publik telah mengadopsinya.

“Dividen Pembohong” dan Erosi Kepercayaan Publik

Serangan terus-menerus dari deepfake AI memiliki efek tak terduga lainnya — dividen pembohong. Istilah ini merujuk pada suatu insiden yang memiliki fakta dan bukti nyata, namun tetap ditolak oleh pihak yang dituduh sebagai deepfake AI.

Strategi ini merusak kepercayaan pada sistem dan menciptakan situasi di mana orang rata-rata tidak dapat membuat keputusan yang terinformasi. Hal ini juga menghilangkan peluang debat yang wajar, karena semua pihak terpolarisasi pada topik akibat disinformasi.

Contoh Nyata Deepfake AI dalam Pemilihan

Ada beberapa contoh terbaru deepfake yang menyebabkan kekacauan selama pemilihan. Salah satu insiden penting terjadi pada 21 Januari 2024, ketika deepfake panggilan otomatis (robocall) digunakan. Sistem AI tersebut diatur untuk menghubungi Demokrat terdaftar.

Ketika mereka menjawab, suara Deepfake Presiden Joe Biden digunakan untuk mendesak mereka “menyimpan suara mereka untuk November”. Laporan menunjukkan bahwa pesannya dikirim ke 20.000 orang, menyebabkan banyak orang memilih untuk tidak ikut pemilihan sebagaimana pesan tersebut menyatakan.

Ketika laporan tentang robocall tersebut muncul, penyelidikan diluncurkan. Namun, itu sudah setelah pemilihan selesai, dan tidak ada surat suara yang diulang. Situasi ini hanyalah salah satu dari banyak contoh yang menyoroti bahaya intervensi deepfake AI dalam pemilihan.

Skandal Deepfake Pemilihan Slovakia 2023

Contoh lain intervensi AI dalam pemilihan terjadi pada pemilihan Slovakia 2023. Dalam insiden ini, muncul video palsu yang menampilkan pemimpin Progressive Slovakia, Michal Šimečka, membahas kecurangan pemilihan. Video tersebut kemudian diberi label palsu, namun tidak sampai setelah memperoleh jutaan tampilan dan bagikan di TikTok, Facebook, dan Telegram.

Cara Mendeteksi Deepfake AI pada 2026

Mendeteksi deepfake bukanlah tugas yang mudah. Dulu teknologi ini meninggalkan banyak kesalahan, seperti kedipan mata yang tidak alami, pencahayaan aneh, atau bahkan tampilan sinkronisasi bibir. Penelitian menunjukkan manusia seringkali buruk dalam mendeteksi deepfake berkualitas tinggi, seringkali berada pada tingkat kebetulan tergantung pada konteks dan modus.

Salah satu cara untuk menentukan apakah sebuah video adalah deepfake adalah mencari bingkai gambar menggunakan Google untuk menemukan konten asli. Mereka juga akan mencoba menggunakan audio untuk mencari suara yang tidak alami. Dalam beberapa kasus, tidak mungkin mendeteksi deepfake berkualitas tinggi tanpa beberapa alat teknis.

Alat Deteksi Deepfake AI Teratas dan Keterbatasannya

Ironisnya, alat AI adalah pilihan terbaik ketika berusaha menentukan keabsahan sebuah video. Pilihan ini meliputi Deepware Scanner, Reality Defender, Video Authenticator milik Microsoft (MSFT ), dan lainnya.

Protokol ini memiliki algoritma proprietari yang dirancang untuk menemukan ketidaksesuaian piksel atau pola pada bingkai video AI. Sistem ini juga dapat mencocokkan temuan dengan data lokal, memungkinkan mereka mengungkap intervensi AI.

Alat deteksi AI terbaik tidak sempurna, dengan protokol seperti Bio-ID memperoleh skor 98% dalam pengujian terbaru. Fakta bahwa 2% deepfake dapat dibedakan bahkan oleh sistem AI lain menjadi sumber kekhawatiran ke depan.

Literasi Media sebagai Pertahanan terhadap Manipulasi AI

Mungkin cara terbaik melawan deepfake adalah dengan meningkatkan literasi media di antara massa. Secara tegas, perlu ada label wajib yang memudahkan menentukan apakah sebuah video adalah deepfake atau sah.

Mengapa Regulasi Mandiri Big Tech Gagal dalam Tata Kelola AI

Sejarah telah menunjukkan bahwa perusahaan teknologi tidak dapat mengatur diri sendiri. Fokus mereka adalah pada keuntungan dan inovasi. Keinginan ini dapat mengorbankan privasi dan kebenaran. Oleh karena itu, tidak ada skenario di mana perusahaan teknologi dapat secara efektif mencegah deepfake menjangkau pengikut mereka.

Upaya Regulasi AI Pemerintah pada 2026

Karena perusahaan teknologi tidak mampu memberikan perlindungan yang diperlukan terhadap masalah ini, pemerintah mulai mengambil alih. Namun, skenario ini tidak ideal karena pemerintah tidak memahami teknologi dengan cara yang memungkinkan mereka menciptakan perlindungan tanpa menghambat inovasi.

Perusahaan AI vs Pemerintah: Benturan Kebijakan 2026

Kesenjangan antara pemerintah dan penyedia AI mulai meningkat dalam beberapa bulan terakhir. Sementara pembuat undang-undang bersemangat melindungi publik dari deepfake dan disinformasi, militer terus mendorong integrasi penuh alat AI ke dalam persenjataannya.

Keinginan untuk menggunakan teknologi ini sebagai bagian dari rantai pembunuhan telah menimbulkan beberapa perselisihan publik antara perusahaan dan pemerintah AS. Berikut beberapa insiden terbaru, menyoroti risiko dan sisi gelap potensial dari perang AI.

Anthropic vs Departemen Pertahanan AS

Anthropic berada di tengah perselisihan publik dengan Departemen Pertahanan AS mengenai penggunaan model AI Claude mereka. Perselisihan berpusat pada pemberian akses tak terbatas ke AI, yang dapat mengakibatkan sistem tersebut digunakan untuk melakukan pengawasan massal domestik.

Anthropic, yang diluncurkan pada 2021, juga menolak akses penuh karena kekhawatiran tentang keandalan sistem penargetan AI. Kedua batas merah ini ditetapkan oleh CEO perusahaan, Dario Amodei, yang menyebutkan ketidakandalan sebagai kekhawatiran utama.

Batasan yang Diusulkan Anthropic pada Penggunaan AI Militer

Untuk bagian ini, Pentagon berargumen bahwa kontrak Pentagon senilai $200 juta ini harus mencakup akses tanpa pembatasan. Anthropic membuat beberapa konsesi selama perdebatan, termasuk mengizinkan sistem AI digunakan dalam misil dan pertahanan. Mereka bahkan menyatakan bersedia dengan operasi NSA, asalkan tidak mencakup pengawasan massal warga AS.

Mengapa Pentagon Menolak Batasan Anthropic

Namun, hal itu tidak cukup bagi pejabat Pentagon. Tak lama setelah Anthropic menolak klaim tersebut, pemerintahan Trump melarang produk mereka digunakan oleh organisasi federal mana pun. Secara khusus, presiden menyebut produk Anthropic sebagai “risiko keamanan nasional.” Pelaporan seputar perselisihan juga menyebutkan Defense Production Act sebagai alat tekanan potensial, meskipun alasan hukum yang tepat harus dijelaskan dengan hati-hati kecuali dikutip langsung dari perintah.

Manuver ini berarti Anthropic tidak akan dapat memperoleh kontrak militer atau pemerintah ke depan, meninggalkan perusahaan dalam situasi berbahaya di mana mereka harus memilih antara keyakinan inti dan keuntungan.

Bagaimana OpenAI dan xAI Menanggapi Perubahan Pentagon

Pesaing Anthropic, OpenAI, dengan cepat melangkah menggantikan posisi Anthropic, menjanjikan kepatuhan penuh dengan Pentagon. Oleh karena itu, perusahaan menandatangani kesepakatan rahasia dengan pemerintah, yang mencakup penggunaan sah tanpa batas pada sistem AI mereka.

Aplikasi Militer Saat Ini dari Kecerdasan Buatan

Sudah banyak contoh sistem AI yang membantu meningkatkan kecepatan dan skala peperangan. Sistem ini dioptimalkan untuk bekerja bersama dengan semakin banyaknya sistem otonom, seperti teknologi drone kawanan.

Kecerdasan buatan dianggap sebagai pengubah permainan karena dapat menggabungkan masukan dari beragam sensor untuk memberikan penargetan yang lebih cepat dan lebih banyak. AI juga penting dalam sektor logistik dan keuangan militer, di mana ia dapat membantu memastikan pemeliharaan preventif dan tugas penting lainnya tetap tepat waktu.

Penggunaan Sistem Penargetan AI Israel di Gaza

Penggunaan sistem penargetan AI disorot dalam kampanye Gaza Israel. Operasi ini memanfaatkan alat seperti Lavender untuk mencocokkan pergerakan seseorang dengan perilaku militan potensial.

Alat ini memungkinkan tentara Israel melacak dan menargetkan pejuang Hamas tingkat rendah sebelum mengebom mereka di rumah. Secara mencolok, sistem tersebut dilaporkan memiliki tingkat kesalahan 10% menurut personel militer Israel. Namun, angka tersebut sangat diperdebatkan.

Penjelasan Sistem Penargetan AI “Gospel”
Alat AI Israel lain yang disebut Gospel dirancang untuk menyediakan 100 target setiap hari. Ia mencocokkan pergerakan dan data lain untuk menemukan bangunan potensial yang dapat menampung pejuang musuh. Sistem ini sering digunakan bersama program AI “Where’s Daddy” yang memungkinkan pelacakan otonom terhadap personel yang ditandai.

AI dalam Penegakan Hukum: Deteksi Ancaman dan Risiko Privasi

Penggunaan sistem AI dalam penegakan hukum menjadi perdebatan sengit lainnya. Banyak orang terkejut mengetahui bahwa sistem ChatGPT menandai penembak massal Tumbler Ridge Kanada, Jesse Van Rootselaar, sebagai ancaman potensial.

Secara khusus, sistem AI mencatat pelanggaran kebijakan delapan bulan sebelumnya, di mana pengguna berulang kali mengajukan pertanyaan terkait kekerasan senjata. Permintaan tersebut dikirim ke beberapa peninjau manusia, yang mengakibatkan akun diblokir dan pengguna ditandai.

Mengapa Sistem Penandaan AI Sering Gagal Memicu Intervensi

Meskipun ada peringatan keras, perusahaan menyatakan bahwa akun tersebut tidak melewati ambang batas yang mereka anggap sebagai ancaman aktif. Oleh karena itu, otoritas tidak pernah diberitahu. Jika mereka diberitahu, mereka mungkin dapat mewawancarai dan menyelamatkan delapan nyawa pada 10 Februari 2026.

Menariknya, catatan internal perusahaan menunjukkan adanya perdebatan mengenai pemberitahuan kepada otoritas setelah pemblokiran akun. Kemudian terungkap bahwa penembak membuka akun lain yang menghindari pemblokiran sebelum serangannya.

Pejabat pemerintah berargumen bahwa itu adalah tanggung jawab OpenAI untuk memberi tahu otoritas tentang obrolan mencurigakan, dan jika mereka melakukannya, hal itu dapat membantu menyelamatkan nyawa. Sebaliknya, perusahaan menyatakan bahwa mereka akan meningkatkan berbagi data dan waktu respons, menurunkan ambang batas mereka.

Surat Etika AI “Kami Tidak Akan Terbagi”

“Surat Kami Tidak Akan Terbagi” adalah panggilan terbuka bagi karyawan AI untuk secara publik menentang senjata otonom penuh dan pengawasan massal, serta mendorong komitmen keselamatan yang dapat ditegakkan di seluruh industri. Surat tersebut mendesak pengembang AI untuk tidak mendukung senjata otonom penuh atau operasi pengawasan massal dalam bentuk apapun.

Surat ini juga menyusun daftar garis keselamatan bersama yang dirancang untuk mencegah skenario AI tak terkendali. Pedoman ini mencakup hal-hal seperti melibatkan manusia dalam proses pengawasan dan menyetujui setiap aktivitas mematikan. Surat ini juga mendukung transparansi untuk mencegah penyalahgunaan.

Tujuan utama surat ini adalah menciptakan seperangkat standar etika yang dapat diikuti semua perusahaan AI untuk mencegah teknologi membuat hidup menjadi neraka bagi semua orang di planet ini. Surat ini muncul pada titik kritis adopsi AI ketika militer menjadi bergantung pada teknologi ini untuk operasi penargetan dan pengumpulan informasi.

Posisi Perusahaan AI Besar terhadap Penggunaan Pemerintah dan Militer

Ketika Anda meninjau dua skenario yang sangat berbeda ini, Anda dapat melihat bagaimana perusahaan AI terus menggabungkan operasi dengan lembaga pemerintah. Penggabungan ini memerlukan keseimbangan halus antara kemampuan dengan perlindungan dan transparansi untuk mencegah penyalahgunaan. Berikut posisi masing-masing perusahaan saat ini terkait operasi pemerintah.

Geser untuk Menggulung →

Anthropic

Anthropic tetap berpegang pada standar inti mereka, berusaha mempertahankan batas keras pada penargetan otonom dan kasus penggunaan pengawasan massal. Namun, tampaknya mereka membayar mahal untuk kompas moral mereka, karena lembaga federal bergerak untuk membatasi atau menghentikan penggunaan model mereka di lingkungan tertentu.

OpenAI

OpenAI sangat mendukung integrasi pemerintah. Perusahaan ini bersemangat mendapatkan posisi ketika Anthropic kehilangan kontrak Departemen Pertahanan karena berpegang pada misi inti mereka. OpenAI telah setuju untuk menyebarkan model dalam lingkungan pertahanan di bawah kerangka “penggunaan sah”. Perusahaan menyatakan bahwa mereka melarang pengawasan massal domestik dan menuntut tanggung jawab manusia atas penggunaan kekuatan.

xAI

xAI milik Elon Musk telah menjadi pendukung kuat integrasi AI ke dalam doktrin perang. Laporan menunjukkan xAI telah menyatakan kesediaan untuk mendukung penyebaran pemerintah yang bersifat rahasia di bawah istilah “penggunaan sah”, meskipun detail operasional tetap terbatas.

Google

Google (GOOGL ) telah mengalami banyak perdebatan internal mengenai penggunaan sistemnya dalam peperangan. Perusahaan tersebut memiliki lebih dari 300 pekerja inti yang menandatangani surat terbuka yang mendesak penyedia AI menolak kontrak terbuka dengan Pentagon. Namun, Google memiliki kontrak CDAO senilai lebih dari $200 juta, yang berarti mereka berada di bawah tekanan besar untuk menyesuaikan diri.

Berita dan Kinerja Terbaru GOOGLE (GOOGL)

Masa Depan Tata Kelola AI dan Stabilitas Demokratis

Ketika Anda meninjau integrasi sistem AI dalam segala hal mulai dari pemerintah hingga operasi militer, mudah untuk menyadari kebutuhan akan beberapa perlindungan. Sistem ini telah menjadi sangat kuat baik secara teknis maupun sosial. Semoga perusahaan AI menyadari pentingnya pembatasan mereka dan berpegang pada standar etika sebelum terlambat. Saat ini, tampaknya keuntungan akan memenangkan perlombaan ini.

Pelajari tentang perkembangan AI lainnya di sini.