Conversion AI Mungkin Kunci untuk Menghindari Plateau Teknologi

Permintaan konten mengalami pertumbuhan yang stabil dan tajam. Untuk mendapatkan gambaran realistis tentang tingkat pertumbuhan, Adobe (ADBE ) melakukan survei yang mencakup lebih dari 2,600 profesional pengalaman pelanggan dan pemasaran di seluruh ekonomi global utama. 

Hasil survei, yang dipublikasikan oleh Adobe pada Maret 2023, menunjukkan pertumbuhan permintaan konten setidaknya dua kali lipat selama dua tahun terakhir. Sekitar dua pertiga bahkan lebih optimis tentang masa depan konten. Mereka mengatakan mereka memperkirakan permintaan akan tumbuh antara lima hingga dua puluh kali lipat dalam dua puluh tahun ke depan. 

Memenuhi permintaan ini memaksa perusahaan untuk memilih model produksi konten baru. Menurut World Federation of Advertisers, lebih dari setengah perusahaan internasional besar telah mengembangkan kemampuan produksi konten internal. Tetapi apakah itu cukup? Nah, conversion AI telah menjawab tantangan tersebut. 

Apa itu Conversion AI?

Conversion AI adalah penggunaan kecerdasan buatan untuk membantu bisnis berkomunikasi dengan pelanggan mereka secara lebih baik dan meningkatkan penjualan. Ia melakukannya dengan membantu membuat, memperbaiki, dan mengelola konten seperti tulisan, gambar, dan suara. Hal ini memudahkan perusahaan menarik perhatian audiens, menghasilkan konten yang benar‑benar berbicara kepada mereka, dan meningkatkan pengalaman mereka, semuanya melalui teknologi AI yang cerdas.

Saat ini, perusahaan dapat menggunakan Conversion AI untuk memenuhi berbagai tujuan pemasaran konten, termasuk salinan iklan Facebook dan Google, konten situs web, posting media sosial, dan lainnya. Tetapi bagaimana Conversion AI mewujudkan semua itu? Teknologi apa yang menjadi penggeraknya? Untuk itu, kita perlu mengetahui tentang Model Bahasa Besar atau LLM. 

Apa itu Model Bahasa Besar?

Ini adalah jenis AI yang dapat belajar dari sejumlah besar teks dan data. Ada kasus penggunaan di mana model AI ini dapat menangani ratusan miliar titik data untuk menghasilkan wawasan, strategi, dan proyeksi yang bermakna.

Asal Usul LLM secara Singkat

LLM modern muncul enam tahun yang lalu, pada tahun 2017. LLM ini menggunakan model transformer yang dapat menangani sejumlah besar parameter untuk memahami dan menghasilkan respons yang tepat dengan cepat.

Empat tahun kemudian, pada tahun 2021, Stanford Institute for Human-Centered Artificial Intelligence memperkenalkan istilah dan konsep model fondasi. Nama tersebut berasal dari fakta bahwa model‑model besar dan berdampak ini berfungsi sebagai fondasi untuk optimasi dan kasus penggunaan lebih lanjut. Dengan perkembangan LLM, generasi konten, terutama dalam bentuk tulisan, mengalami perubahan signifikan. 

Dampak LLM

Penelitian ARK Invest menunjukkan bahwa selama dua tahun terakhir, kualitas penulisan LLM telah mengalami peningkatan signifikan. Hal ini meningkatkan kepercayaan dan penerapan solusi berbasis LLM untuk menghasilkan konten. 

Akibatnya, biaya penulisan konten menurun drastis. Selama abad terakhir, biaya tersebut relatif konstan dalam istilah riil, sekitar US$100 per 1.000 kata. Namun dalam dua tahun terakhir, tarif itu turun menjadi US$0,10 bahkan lebih rendah. 

Kinerja dan produktivitas diperkirakan akan terus meningkat seiring kemajuan cepat dalam pelatihan AI. Peneliti AI berinovasi dalam pelatihan dan inferensi, perangkat keras, serta desain model, meningkatkan kinerja sambil menurunkan biaya. Diperkirakan pada 2024 akan tercapai lebih dari lima kali peningkatan kinerja dibandingkan tahun dasar 2023. 

Berbagai inovasi algoritmik telah menghasilkan kemampuan menulis yang superior serta peningkatan produktivitas dan kinerja LLM. Pembelajaran penguatan dari umpan balik manusia, misalnya, sangat membantu. Prompt telah dioptimalkan sehingga mengungguli prompt manusia lebih dari 50%. 

Kemampuan Speculative Decoding mempercepat inferensi dua hingga tiga kali pada model tertentu. Peneliti juga proaktif memprioritaskan biaya inferensi. Upaya mereka menunjukkan hasil di lapangan, dengan biaya inferensi turun hampir 86% per tahun, lebih cepat daripada penurunan biaya pelatihan. Model GPT mencatat hampir tiga kali percepatan pelatihan dengan Flash Attention 2. 

Dengan semua perbaikan dan peningkatan yang terjadi dengan kecepatan roket, penyelidikan juga sedang dilakukan untuk memastikan apakah plateau potensial akan muncul dalam penggunaan LLM dan apakah situasi tersebut dapat dihindari. 

Klik di sini untuk mempelajari mengapa 2023 menjadi tahun terobosan bagi kecerdasan buatan.

Plateau Potensial LLM dan Cara Menghindarinya

Para peneliti sedang meneliti skenario di mana LLM kehabisan data, yang mengakibatkan kinerja terbatas. LLM perlu terus-menerus diberi volume data pelatihan yang besar agar tetap belajar dan berkembang. Namun, daya komputasi dan potensi kekurangan data pelatihan menjadi kekhawatiran. 

Menurut perkiraan Epoch AI, sumber bahasa/data berkualitas tinggi, termasuk buku dan makalah ilmiah, dapat habis pada tahun 2024. Pada saat itu, diperlukan data visi yang belum dieksplorasi secara lebih luas. Data visi yang belum dimanfaatkan ini meliputi kata‑kata yang diucapkan serta jenis data dunia fisik lainnya yang dapat membantu LLM menghindari plateau. 

Penelitian menunjukkan bahwa setiap tahun, tiga puluh kuadriliun kata diucapkan. Generator speech‑to‑text dan alat serupa menangkap lebih dari 80 triliun kata yang diucapkan setiap hari. Selain itu, taksi, truk, drone, dan kendaraan robotik lainnya menghasilkan volume besar data dunia fisik serta data sintetis yang melengkapi data utama. Semua data yang belum dieksplorasi ini dapat menjadi sumber daya tak tertandingi dan membuat LLM menjadi lebih baik. 

Namun, peningkatan kinerja, produktivitas, dan kualitas tidak hanya bergantung pada penemuan tambang data yang belum dieksplorasi. Beberapa perusahaan inovatif berupaya meningkatkan situasi secara menyeluruh. 

#1. Replit AI

Dalam hal meningkatkan produktivitas, Replit AI menjadi salah satu kisah sukses utama. Sebagai asisten pemrograman, ia meningkatkan produktivitas dan kepuasan kerja pengembang perangkat lunak. Ia membantu menghilangkan bagian iteratif dalam pemrograman sehingga pengembang dapat fokus pada bagian kreatif pekerjaan. 

Replit AI memperlancar proses pemrograman dengan mengintegrasikan generator kode AI yang menghilangkan kebutuhan berpindah tab, menawarkan saran kode otomatis untuk kemajuan lebih cepat. Ia meningkatkan pemahaman proyek dengan fungsi Code Context untuk menulis baris selanjutnya yang relevan dan secara proaktif mendeteksi masalah, menyarankan perbaikan langsung dalam antarmuka editor yang mulus.

Secara keseluruhan, Replit AI adalah rangkaian fitur generasi kode AI yang efisien, termasuk Complete Code, Generate Code, Edit Code, dan Explain Code. 

Yang menggerakkan Replit AI adalah LLM. Ia menghasilkan hasil dari model bahasa besar yang dilatih pada kode yang tersedia secara publik dan disesuaikan oleh Replit. Ia mempertimbangkan prompt percakapan serta bahasa pemrograman yang digunakan untuk memberikan saran dan penjelasan pada kode yang dihasilkan. 

Fitur Replit AI tersedia secara gratis untuk semua pengguna. Yang diperlukan hanyalah akun Replit. Replit AI berfungsi optimal dengan kode JavaScript dan Python namun mendukung 16 bahasa, termasuk Bash, C, C#, C++, CSS, Go, Java, JavaScript, HTML, PHP, Perl, Python, R, Ruby, Rust, dan SQL. 

Menurut informasi terbaru yang tersedia, perusahaan mengumpulkan US$97,4 juta dengan valuasi US$1,16 miliar untuk memperluas layanan cloud dan memimpin pengembangan AI pada April 2023. 

#2. Github Copilot

Layanan bantuan pemrograman lain, serupa dengan Replit AI, yang membantu meningkatkan produktivitas pengembang pada tugas pemrograman sebesar 2,2 kali pada tahun 2023 adalah Github Copilot. Github Copilot menawarkan bantuan kontekstual sepanjang siklus hidup pengembangan perangkat lunak. 

Menurut data survei kepuasan konsumen, pengembang yang menggunakan Github Copilot melaporkan kepuasan kerja hingga 75% lebih tinggi dibandingkan yang tidak menggunakannya dan menjadi hingga 55% lebih produktif dalam menulis kode tanpa mengorbankan kualitas. 

Github Copilot melatih dirinya sendiri pada teks bahasa alami dan kode sumber dari sumber yang tersedia secara publik, termasuk kode di repositori publik GitHub. Ia dilatih pada semua bahasa yang muncul di repositori publik. Namun, bahasa dengan representasi lebih sedikit di repositori publik mungkin kurang efektif. Github Copilot dapat digunakan oleh pengembang individu, freelancer, mahasiswa, pendidik, dan pemelihara proyek open‑source.

Menurut pernyataan publik dari VP Produk Microsoft  Mario Rodriguez, GitHub Copilot sedang berkembang pesat dan menghasilkan pendapatan dengan tingkat tahunan $100 juta.

#3. MosaicML

MosaicML membantu melatih LLM, diposisikan sebagai solusi yang membawa AI generatif ke semua orang, menawarkan segala yang dibutuhkan untuk melatih dan menyebarkan model pada data pengguna. Seri MPT Foundation memudahkan integrasi LLM ke dalam aplikasi yang berjalan pada model sumber terbuka maupun berlisensi komersial.

Pelatihan MosaicML memberdayakan pengembang untuk pra‑melatih atau menyempurnakan model dengan kontrol data penuh, menyederhanakan proses menjadi satu perintah yang diarahkan ke bucket S3. Platform ini menangani orkestrasi, kegagalan node, dan infrastruktur secara efisien, seperti yang ditunjukkan oleh penggunaan Mosaic ML oleh Replit untuk melatih LLM Ghostwriter, menghasilkan hasil terdepan dalam seminggu.

Pendekatan MosaicML terhadap pelatihan di lingkungan cloud apa pun menekankan privasi data, keamanan, dan kepemilikan model penuh, dengan fitur yang mendukung transisi mulus antar cloud. Ia menawarkan kepemilikan data penuh, penyaringan konten sesuai kebutuhan bisnis, dan integrasi plug‑and‑play dengan pipeline data yang ada, bersifat cloud‑agnostic dan terbukti di tingkat perusahaan.

Pada bulan Juni tahun sebelumnya, akuisisi Mosaic ML oleh Databricks dalam kesepakatan senilai $1,3 miliar menyoroti dampak pasar yang signifikan dan proposisi nilai mereka.

#4. Anthropic

Produk unggulan Anthropic, Claude, beroperasi pada dua model: Claude dan Claude Instant. 

Claude adalah model paling kuat dari Anthropic yang unggul dalam berbagai tugas, mulai dari dialog canggih dan generasi konten kreatif hingga instruksi terperinci. Ia bekerja baik dalam skenario yang memerlukan penalaran kompleks, kreativitas, dialog mendalam, pemrograman, dan pembuatan konten terperinci. 

Claude Instant — versi Claude yang lebih cepat dan lebih murah — membantu dalam dialog santai, analisis teks, rangkuman, dan pemahaman dokumen. Ia cocok untuk situasi di mana kinerja dengan biaya rendah menjadi kebutuhan. Ia menyelesaikan tugas dengan latensi yang lebih rendah. 

Secara keseluruhan, Claude cocok untuk memproses volume teks besar, melakukan percakapan alami, memberikan jawaban, dan mengotomatisasi alur kerja. Dari layanan pelanggan hingga hukum, pelatihan, pencarian, dan pekerjaan back‑office, Claude dapat diterapkan pada berbagai skenario penggunaan. 

Menurut laporan yang dipublikasikan pada akhir Desember 2023, Anthropic, yang dianggap sebagai pesaing OpenAI, sedang dalam pembicaraan untuk mengumpulkan dana sebesar US$750 juta dengan valuasi US$18,4 miliar. 

#5. Humata

Dengan Humata, pengguna dapat menelusuri makalah teknis panjang dengan mudah. Humata PDF AI membantu merangkum temuan, membandingkan dokumen, dan mencari jawaban. Ia kompatibel dengan file tak terbatas yang diunggah tanpa batas ukuran file. Jawaban AI dokumen disertai sitasi sehingga pengguna dapat melacak asal wawasan.

Karena ia mirip ChatGPT untuk PDF, Humata dapat menulis ulang rangkuman hingga memuaskan. Namun, tidak seperti ChatGPT, Humata dapat bekerja dengan file, membaca setiap file yang diunggah, dan menghasilkan jawaban berdasarkan isi dokumen. 

Pada 2 Oktober 2023, Humata AI mengumumkan keberhasilan penyelesaian putaran pendanaan terbarunya, mengumpulkan US$3,5 juta dari Gradient Ventures milik Google, ARK Invest milik Cathie Wood, M13, dan angel investor terkemuka lainnya untuk putaran seed mereka. 

#6. OpenAI

Akhirnya, tidak ada diskusi tentang AI, pembelajaran LLM‑nya, dan fitur pembuatan konten yang lengkap tanpa menyebut OpenAI, perusahaan yang paling populer dalam membangun model generatif menggunakan teknologi yang disebut deep learning yang memanfaatkan volume data besar untuk melatih sistem AI. 

OpenAI memiliki layanan Chat, Image, dan Audio. GPT‑3‑nya, sebuah model bahasa autoregresif, dilatih dengan 175 miliar parameter. Namun, mereka telah melatih model bahasa yang bahkan lebih baik daripada GPT‑3 dalam menanggapi niat pengguna. 

Di antara produk terkait gambar, riset OpenAI tentang model generatif untuk gambar menghasilkan model representasi seperti CLIP, yang memetakan teks ke gambar agar AI dapat “membaca”, serta DALL‑E, alat untuk menciptakan gambar hidup dari deskripsi teks. 

Terakhir, mereka membuat kemajuan di bidang audio dengan Whisper, Jukebox, dan Musenet. Whisper menawarkan fasilitas pengenalan suara bahasa Inggris yang kuat, sementara Jukebox membantu menghasilkan musik dalam berbagai genre dan gaya artis. MuseNet adalah jaringan saraf dalam yang dapat menghasilkan komposisi musik lengkap dengan beragam instrumen. 

Menurut laporan yang dipublikasikan pada akhir Desember 2023, OpenAI sedang dalam diskusi awal untuk mengumpulkan putaran pendanaan baru dengan valuasi setara atau di atas US$100 miliar.

Melebihi Plateau: Jalan ke Depan 

Kecerdasan buatan telah membantu generasi konten menempuh jarak jutaan mil dalam waktu yang sangat singkat. Masa depan akan lebih cerah dan makmur, di mana sistem komputasi dan perangkat lunak yang tumbuh bersama data akan menyelesaikan masalah yang tidak dapat dipecahkan. 

Sektor ekonomi apa pun akan dapat memanfaatkan teknologi dengan lebih baik melalui otomatisasi semua jenis pekerjaan pengetahuan yang berulang dan memakan waktu. Sementara model seperti GPT‑4 akan meningkatkan produktivitas, model AI sumber terbuka akan menghasilkan penurunan biaya operasional yang drastis dan efisiensi yang sangat meningkat. Peneliti memperkirakan tidak hanya penghindaran plateau teknologi tetapi juga peningkatan empat kali produktivitas pekerja pengetahuan pada tahun 2030. 

Hal ini menegaskan pentingnya Model Bahasa Besar dalam ekosistem teknologi, yang telah memainkan peran krusial dalam semua ini. Ia membantu produk seperti ChatGPT mengkonsolidasikan pemahaman publik tentang AI sekaligus memungkinkan mereka menawarkan antarmuka obrolan sederhana yang dapat digunakan siapa saja yang berbicara dalam bahasa apa pun untuk kepentingan mereka.

Klik di sini untuk mempelajari semua tentang berinvestasi dalam kecerdasan buatan (AI).