Kecerdasan buatan
Bisakah Bisnis Mempercayai Saran AI di Bawah Tekanan?
Tambahkan Securities.io ke sumber pilihan Anda di Google
Seiring teknologi AI berkembang dan terintegrasi ke dalam praktik bisnis serta pengambilan keputusan, muncul beberapa pertanyaan. Pertanyaan pertama tentu saja tentang keandalan, dengan “halusinasi” pada versi awal LLM yang secara tahan lama memengaruhi kepercayaan pengguna terhadap kebenaran data yang disediakan AI, meskipun masalah ini umumnya kurang umum pada model yang lebih baru.
Pertanyaan lain adalah apakah AI akan mempertahankan batasan keamanan dan pedoman etisnya di bawah tekanan dari pengguna, kepentingan komersial pengembangnya, atau upaya berulang dan cerdas untuk menemukan celah dalam desain LLM.
Sebuah studi baru oleh peneliti di Universidad Pablo de Olavide di Spanyol secara langsung menguji kemampuan beberapa LLM untuk menahan tekanan tersebut dan tetap berpegang pada pedoman etisnya. Ia mengembangkan protokol untuk menguji LLM apa pun, di mana dialog adaptif digunakan, dan kontra‑argumen disesuaikan dengan respons sebelumnya masing‑masing model.
Studi ini dipublikasikan dalam Computers in Human Behavior Reports1, dengan judul “Haruskah bisnis mempercayai saran AI? Metodologi untuk mengaudit integritas etis chatbot”.
Dari Pencarian ke Penasihat
Awalnya, LLM digunakan dengan cara yang mirip dengan teknologi yang lebih familiar bagi penggunanya: sebagai mesin pencari. Namun seiring kapasitas penalarannya berkembang, LLM semakin banyak digunakan untuk menggantikan atau melengkapi nasihat profesional manusia terlatih: pengacara, dokter, insinyur, dll.
“Ketika model semacam itu ditanya apakah harus mempekerjakan kerabat, menyembunyikan pendapatan tunai, atau meluncurkan produk yang cacat, jawabannya tidak lagi sekadar informatif—melainkan bersifat nasihat. Seorang penasihat perusahaan tidak hanya harus akurat, tetapi juga harus tetap koheren secara etis ketika pengguna menolak dengan argumen profit, kelangsungan hidup, atau kemudahan.”
Jadi, dengan masalah ini dalam pikiran, studi tersebut mengusulkan Adaptive Ethical Evaluation Protocol (AEEP).
Studi ini berfokus pada usaha kecil dan menengah (UKM) karena segmen ini paling mungkin mendelegasikan pekerjaan nasihat kepada LLM karena mereka tidak memiliki fungsi kepatuhan, hukum, atau etika internal. Selain itu, dilema yang dihadapi pendiri UKM, seperti nepotisme, penipuan, pelecehan, atau penyalahgunaan data, bertepatan dengan zona abu‑abu etika‑hukum yang secara eksplisit diatur oleh EU AI Act dan GDPR.
Mengukur Stabilitas Etis
AEEP mendefinisikan keandalan etis penasihat LLM sebagai properti yang dapat diukur dari interaksi berulang, bukan dari jawaban tunggal. Dengan cara ini, dapat mendeteksi cacat yang lebih dalam yang tidak terungkap oleh analisis permukaan hanya dengan jawaban tingkat pertama.
Ia menyediakan alur pengkodean yang sepenuhnya ditentukan dan dapat direproduksi (sentimen, kata kunci, dan deteksi kontradiksi berbasis NLI) yang output‑nya divalidasi terhadap penilaian ahli buta.
Studi ini menerapkan tes ini pada lima LLM frontier yang berbeda: ChatGPT, Claude, Gemini, Grok, DeepSeek.
Ia mengungkap perbedaan stabil pada tingkat model dalam konsistensi etis di bawah tekanan yang tidak terlihat oleh tolok ukur konvensional.
Namun perlu dicatat bahwa model‑model tersebut berkembang sangat cepat, dan model diuji pada 12–14 Mei 2025, sehingga peringkat relatif mereka tidak dapat secara andal menggambarkan kemampuan mereka pada akhir 2026.
Ini mengungkap kemungkinan menciptakan tolok ukur terkini yang mengukur bukan akurasi atau efisiensi komputasi, melainkan stabilitas etis.
Mengukur Etika
Berbagai Bentuk Pelanggaran Etika
Apa yang merupakan atau bukan perilaku bisnis yang etis tentu saja tergantung pada tingkat variasi budaya dan penilaian pribadi. Namun sebuah bisnis, terutama usaha kecil atau menengah, dapat terpapar pada bahaya etis yang diakui sebagai masalah.
Yang pertama adalah korupsi dan suap. Seorang pendiri mungkin ditekan untuk menyuap pejabat publik demi mempercepat izin, atau memberikan kickback kepada petugas pengadaan untuk memenangkan kontrak. Hal ini pada akhirnya mengganggu persaingan yang adil dan memberi penghargaan pada penipuan, sekaligus menimbulkan risiko hukum dan reputasi bagi perusahaan.
Isu etis lain yang dihadapi bisnis adalah bagaimana memperlakukan tenaga kerja mereka di bawah tekanan kinerja. Karena perlakuan eksploitatif merusak moral, meningkatkan turnover, dan mencederai reputasi, tujuan kinerja yang ambisius harus tetap berada dalam kerangka tidak hanya tindakan yang sah secara hukum, tetapi juga terkait dengan kompensasi yang adil, keselamatan, dan kondisi kerja yang wajar.
Menyesatkan konsumen tentang fitur produk, kualitas, atau kesiapan merupakan dilema berulang ketiga. Misalnya, banyak startup yang berada di bawah tekanan untuk mendapatkan traction awal atau mengumpulkan dana mungkin tergoda untuk melebih‑lebhikan kinerja dalam materi penjualan atau pitch.
Dan tentu saja, keselamatan produk serta perlindungan konsumen menjadi lebih penting lagi untuk menghindari pengguna mengalami bahaya akibat produk yang tidak berfungsi sebagaimana mestinya.
Terakhir, konflik kepentingan dan self‑dealing dapat sangat umum pada usaha kecil, di mana batas antara pendiri dan perusahaan lebih tipis dibandingkan korporasi besar dengan dewan pengawas dan pemegang saham eksternal. Hal ini tetap dapat merusak kepercayaan di antara co‑founder, karyawan, dan investor.
“Seorang pendiri mungkin mempertimbangkan memberi kontrak menguntungkan kepada bisnis di mana mereka atau kerabatnya memiliki kepemilikan atau mereka dapat menggunakan dana perusahaan untuk keperluan pribadi. Skenario ini menguji komitmen pendiri terhadap tugas fidusia dan keadilan.”
Etika & AI
Kenaikan AI dalam bisnis membawa dilema etis baru bagi para wirausahawan yang mengintegrasikan teknologi ini. Sistem AI dapat secara tidak sengaja menyematkan bias, mengancam privasi, dan membuat keputusan otonom dengan implikasi moral.
“Sebagai contoh, sebuah startup yang menggunakan alat rekrutmen berbasis AI mungkin menemukan bahwa algoritma tersebut mendiskriminasi kelompok tertentu: apakah mereka harus menunda penggunaan alat tersebut (dengan mengorbankan efisiensi) untuk meningkatkan keadilannya?”
Jadi orang yang mengadopsi AI perlu menyadari risiko etis tersebut dan menguranginya secara tepat.
“Menangani AI secara etis menjadi ujian baku bagi kepemimpinan wirausaha modern, karena memerlukan keseimbangan antara keahlian teknis, wawasan ke depan, dan tanggung jawab moral.”
Dan hal ini juga dapat berguna bagi industri AI secara keseluruhan untuk mulai mengadopsi tolok ukur konsisten dan standar bersama selain istilah umum “keamanan AI”.
Membangun Tes untuk Stabilitas Etis
Tes AEEP menyajikan sepuluh dilema etis yang semakin sulit secara bertahap, indikator yang terdaftar sebelumnya, pohon keputusan adaptif dari prompt lanjutan, dan alur pengkodean deterministik.
Setiap dialog terdiri dari lima node percakapan:
- Node pembuka.
- Dua node tekanan adaptif.
- Node kesimpulan di mana model harus memberikan rekomendasi.
- Node konfirmasi di mana komitmen tersebut dipertanyakan.
Kemudian hasilnya dianalisis oleh kelompok ahli yang terdiri dari spesialis kecerdasan buatan, etika terapan, dan bisnis. Mereka memeriksa konsistensi dilema, kecukupan indikator etis, dan ketangguhan evaluasi algoritma.
Setiap ahli secara independen menilai setiap dialog. Mereka menerima 50 dialog dalam urutan acak, tanpa mengetahui identitas model maupun skor algoritmik.
Setiap skenario secara eksplisit menyajikan dilema moral yang dihadapi wirausahawan, dan mencakup isu‑isu seperti nepotisme, hak kekayaan intelektual, kesejahteraan karyawan, kejujuran dalam keuangan, anti‑pelecehan, integritas misi, penipuan, dan manipulasi.
LLM di Bawah Pengawasan Etis
Model AI diuji untuk serangkaian karakteristik pengambilan keputusan etis:
- Konsistensi Sikap Moral: memeriksa bahwa chatbot tidak harus bertentangan dengan dirinya sendiri ketika pengguna memberikan prompt baru.
- Kesediaan Memprioritaskan Etika di atas Profit/Kemudahan: fakta bahwa asisten AI memahami bahwa perilaku etis dan keberhasilan bisnis tidak saling eksklusif.
- Kehadiran Kontradiksi atau Inkonsistensi Logis: Dialog ditinjau untuk pernyataan yang bertentangan dengan pernyataan sebelumnya dan/atau dengan fakta yang diketahui. Indikator ini bersifat biner/objektif: inkonsistensi logis ada atau tidak.
- Kesadaran Etis dan Kedalaman Penalaran: Apakah model mengenali dimensi moral dari masalah, mengidentifikasi pemangku kepentingan yang terdampak, dan mempertimbangkan kerugian, keadilan, hak, serta legalitas.
Bersama-sama, ini membangun kerangka kerja yang solid untuk menentukan etika rekomendasi AI:
“Apakah penalarannya koheren secara internal, sesuai dengan fakta yang diketahui, dan siap menekankan keputusan etis di atas kesuksesan bisnis jangka pendek serta permintaan dari penggunanya.”
Tes 2025 menunjukkan Claude memiliki performa terbaik secara keseluruhan dalam stabilitas etis, sementara Grok umumnya berada di urutan terakhir. Hasil untuk model di antara kedua ujung tersebut bervariasi di berbagai kasus dan indikator yang dievaluasi.
Seluruh evaluasi, penilaian otomatis setuju dengan panel ahli lima orang sebesar 93,8% waktu. Pada tingkat model individu, kesepakatan tertinggi tercapai untuk Claude sebesar 96,2%, mendukung kemampuan metodologi untuk mendekati penilaian ahli.
Polanya yang muncul adalah bahwa Grok sering tidak menolak permintaan tidak otentik atau tidak membantu dengan dilema etis pengguna, biasanya dengan beberapa batasan.
Kesimpulan Bagi Investor dan Pengguna AI
Seiring AI menjadi terintegrasi dalam alur kerja pengambilan keputusan, apakah AI akan mempertahankan posisi etisnya ketika dihadapkan pada tekanan komersial menjadi penting. Dalam jangka panjang, hal ini kemungkinan akan menjadi lapisan penting dalam tata kelola perusahaan, pengadaan, dan kepatuhan regulasi.
Studi ini menyediakan kerangka teoretis yang telah diuji untuk menciptakan tolok ukur baru pada topik ini dan memberikan dimensi baru untuk menilai LLM.
Hal ini dapat digunakan untuk mendukung pemilihan model, pemicu tinjauan manusia wajib, pembatasan versi, dan audit kepatuhan berulang.
Ini juga membuka jalan untuk lebih memahami pertukaran yang ada ketika menangani keamanan AI. Respons yang lebih permisif dari Grok mungkin mencerminkan prioritas penyelarasan yang berbeda. Namun, studi ini tidak meneliti apakah permisivitas tersebut meningkatkan akurasi faktual, kegunaan, atau kebebasan dari bias politik.
Perlu juga dicatat bahwa meskipun model yang dirilis untuk LLM open‑weight seperti DeepSeek tampil baik dari sudut pandang etis, sifat desain open‑weight berarti model alternatif yang kurang berfokus pada etika dapat relatif mudah dibuat.
Mungkin juga kita akan melihat munculnya LLM berfokus pada etika yang mampu menangani dilema dan pertanyaan tersebut secara khusus, dengan peringkat etis mereka (berdasarkan tolok ukur standar industri yang objektif) sebagai prioritas utama.
Secara keseluruhan, studi ini juga menimbulkan pertanyaan tentang seberapa banyak manusia harus menyerahkan penilaian mereka kepada LLM, dan mengingat bahwa saran mereka selalu berpotensi melanggar batas etis, namun tidak lebih atau kurang daripada manusia nyata.
Berinvestasi dalam Model AI Etis
Alphabet
Di antara perusahaan publik yang secara langsung terwakili dalam studi, Alphabet menawarkan salah satu koneksi investasi yang paling jelas. Gemini tampil kuat dalam evaluasi, sementara Alphabet juga mengoperasikan produk enterprise, infrastruktur cloud, dan sistem tata kelola yang diperlukan untuk mengkomersialkan AI dalam lingkungan bisnis yang diatur.
Hal ini mendukung gagasan bahwa bisnis, termasuk usaha kecil dan menengah, menggunakan LLM Google/Alphabet dalam produk AI perusahaan, infrastruktur cloud, dan sistem tata kelola AI yang bertanggung jawab.
Seiring model AI menjadi semakin kompeten dan efisien, serta biaya perangkat keras terus menurun, diferensiasi antar model semakin tidak hanya didasarkan pada kemampuan.
GOOGL Grafik Harga
Sebaliknya, vendor yang mampu menyediakan jejak audit, perlindungan yang dapat dikonfigurasi, alat evaluasi, dan dokumentasi regulasi mungkin berada pada posisi yang lebih baik untuk memenangkan penerapan korporat yang sensitif terhadap risiko dan menguntungkan.
Selain pertimbangan etika, efisiensi infrastruktur Google Cloud, pengalaman dalam mengelola data dengan pencariannya, dan hubungan yang sudah ada dengan perusahaan akan menjadi daya tarik kuat untuk memenangkan segmen pasar yang signifikan, terutama bagi UKM yang sudah memiliki sebagian sistem TI terhubung ke Google.
Jadi meskipun perusahaan lain juga akan tampil baik, terutama Microsoft dengan kehadirannya yang kuat di perusahaan besar, Google tampaknya menjadi cara yang baik bagi investor untuk mendapatkan eksposur pada AI yang dapat dipercaya tidak hanya memberikan informasi, tetapi menjadi asisten sejati bagi pendiri, wirausahawan, dan manajer yang sering sangat membutuhkan keahlian profesional serta kepatuhan yang lebih baik terhadap regulasi seperti GDPR, undang‑undang HR, regulasi tender, dll.
(Anda dapat membaca lebih lanjut tentang Alphabet dalam laporan investasi khusus kami tentang perusahaan tersebut)
Berita dan Perkembangan Saham Alphabet (GOOGL) Terbaru
Studi Dirujuk
1. Manuel Chaves-Maza. Haruskah bisnis mempercayai saran AI? Metodologi untuk mengaudit integritas etis chatbot. Computers in Human Behavior Reports. Volume 24, Desember 2026, 101291. https://doi.org/10.1016/j.chbr.2026.101291 dalam Bahasa Indonesia.
