AI Open-Weight dan Lokal 2026: gpt-oss, DeepSeek V4, dan Risikonya

AI open-weight adalah model AI yang bobotnya dapat diunduh dan dijalankan sendiri, tanpa harus memanggil layanan awan milik vendor. Sejak OpenAI merilis gpt-oss pada Agustus 2025 dan DeepSeek membuka bobot V4 pada April 2026, menjalankan model besar di server sendiri menjadi pilihan nyata bagi organisasi di Indonesia, lengkap dengan peluang privasi dan risiko keamanannya.

Apa Itu AI Open-Weight dan Mengapa Ramai pada 2026

Istilah AI open-weight berarti bobot (parameter) model dipublikasikan sehingga siapa pun bisa mengunduh, menjalankan, dan menyesuaikannya. Ini tidak sama dengan open source dalam arti penuh: data latih, kode pelatihan, dan proses penyelarasan keselamatan sering tidak ikut dibuka. Lisensi pun bervariasi, dari Apache 2.0 sampai lisensi khusus dengan batasan penggunaan.

Per 29 Oktober 2026, tren ini bergerak cepat. Model yang dulu hanya bisa diakses lewat API kini punya padanan yang bisa dijalankan sendiri melalui perangkat seperti llama.cpp, vLLM, dan Ollama. Bagi tim keamanan, ini mengubah dua hal sekaligus: data tidak harus keluar dari jaringan perusahaan, tetapi tanggung jawab pengamanan model, server, dan unggahan pihak ketiga kini berpindah ke tim Anda sendiri.

gpt-oss: Model Terbuka dari OpenAI

Pada 5 Agustus 2025, OpenAI merilis dua model gpt-oss. Menurut blog Hugging Face yang membahas rilis tersebut, gpt-oss-120b memiliki 117 miliar parameter total dengan 5,1 miliar parameter aktif, dan dapat berjalan pada satu GPU 80 GB berkat kuantisasi MXFP4. Adapun gpt-oss-20b memiliki 21 miliar parameter total dengan 3,6 miliar aktif dan dapat berjalan di memori sekitar 16 GB. Keduanya berbasis mixture-of-experts, berfokus pada penalaran, dan hanya menangani teks.

Lisensinya Apache 2.0 dengan kebijakan penggunaan minimal yang meminta pengguna mematuhi hukum yang berlaku. Runtime yang didukung antara lain Transformers, llama.cpp, dan vLLM, dengan Ollama juga disebut sebagai salah satu implementasi inferensi. Untuk kantor atau laboratorium kampus, varian 20b adalah titik masuk yang realistis karena kebutuhan perangkat kerasnya jauh lebih ringan.

DeepSeek V4: Skala Besar dengan Bobot Terbuka

DeepSeek mengumumkan V4 Preview pada 24 April 2026. Laman pengumuman API DeepSeek menyebut dua varian: DeepSeek-V4-Pro dengan 1,6 triliun parameter total (49 miliar aktif) dan DeepSeek-V4-Flash dengan 284 miliar parameter total (13 miliar aktif). Keduanya mendukung konteks 1 juta token dan mode berpikir maupun non-berpikir.

Soal lisensi, laman pengumuman tidak menyebutkannya, tetapi kartu model DeepSeek-V4-Flash di Hugging Face menyatakan repositori dan bobotnya berlisensi MIT. Kartu model itu juga menyebut opsi penyajian lewat vLLM dan SGLang, serta tautan ke versi terkuantisasi buatan komunitas untuk llama.cpp, Ollama, dan LM Studio. Versi komunitas semacam itu bukan rilis resmi DeepSeek, jadi periksa dulu siapa pengunggahnya. Perlu dicatat, model sebesar ini tetap menuntut perangkat keras server serius; kartu modelnya sendiri tidak memberi angka kebutuhan VRAM, jadi rencanakan kapasitas dari dokumentasi inferensinya, bukan dari asumsi.

Jika Anda baru ingin mencoba pada skala kecil, panduan kami tentang cara menjalankan DeepSeek-R1 secara lokal di PC atau laptop masih relevan untuk konsep dasarnya. Dan penting dibedakan: bobot yang berjalan di mesin Anda tidak sama dengan aplikasi atau API DeepSeek yang dihosting vendor, seperti yang terlihat pada kasus kebocoran data pengguna DeepSeek.

Risiko Keamanan AI Open-Weight dan Model Lokal

Model lokal menghilangkan sebagian risiko, tetapi memunculkan risiko lain. Berikut yang paling relevan bagi tim keamanan.

• Tidak bisa dicabut dari jarak jauh. Vendor API dapat memblokir akun yang menyalahgunakan layanannya. Bobot yang sudah diunduh tidak bisa ditarik kembali, dan pengaman bawaannya dapat dimodifikasi oleh pihak yang menguasai bobot tersebut. Karena itu, pelaku jahat pun dapat memakai model terbuka tanpa pengawasan vendor.
• Rantai pasok model. Bobot, versi terkuantisasi, dan skrip pendukung sering diunggah pihak ketiga. Unduh dari publisher resmi, verifikasi hash bila tersedia, dan perlakukan file model seperti artefak perangkat lunak lain yang masuk ke jaringan Anda.
• Server inferensi yang terekspos. Alat penyaji model sering dijalankan dengan pengaturan bawaan yang longgar. Bahasan celah kritis di platform AI seperti Langflow, Flowise, Ray, dan Ollama menunjukkan bahwa layanan ini perlu diperlakukan seperti layanan produksi: autentikasi, segmentasi jaringan, dan pembaruan rutin.
• Risiko aplikasi di atas model. Model lokal yang dihubungkan ke dokumen internal atau alat otomasi tetap rentan terhadap prompt injection dan kebocoran data. Pelajari kerangkanya di panduan OWASP Top 10 untuk Agentic AI dan LLM.
• Keluaran yang tidak bisa dipercaya begitu saja. Model terbuka juga bisa berhalusinasi atau menghasilkan kode tidak aman. Lisensi terbuka bukan jaminan kualitas atau keamanan.

Peluang: Privasi, Biaya, dan Riset

Bagi organisasi yang mengolah data sensitif, menjalankan model di infrastruktur sendiri membantu mengendalikan lokasi data, jejak audit, dan kepatuhan pada Undang-Undang Pelindungan Data Pribadi. Tidak ada prompt yang dikirim ke pihak ketiga, dan biaya per permintaan menjadi dapat diprediksi setelah investasi awal. Bagi peneliti dan mahasiswa, bobot terbuka memungkinkan eksperimen keamanan model, evaluasi, dan fine-tuning di lingkungan yang terisolasi.

Namun, penghematan tidak otomatis. Biaya GPU, listrik, pemeliharaan, pemantauan, dan tenaga ahli sering diabaikan dalam perbandingan harga dengan API.

Yang Sebaiknya Dilakukan Praktisi dan Organisasi di Indonesia

1. Tentukan dulu kasus penggunaannya, lalu pilih ukuran model sekecil yang masih memadai; jangan mengejar parameter terbesar.
2. Unduh bobot hanya dari sumber resmi, catat versi dan lisensinya, dan baca syarat penggunaannya sebelum dipakai secara komersial.
3. Jalankan server inferensi di jaringan internal, aktifkan autentikasi, batasi akses keluar, dan jangan pernah mengeksposnya langsung ke internet.
4. Pisahkan model dari data sensitif lewat kontrol akses; beri model hanya akses yang benar-benar diperlukan.
5. Masukkan model dan runtime ke inventaris aset, sehingga patch keamanan runtime ikut dipantau.
6. Latih tim agar memahami risiko AI. Ikuti materi di kursus keamanan siber Linuxhackingid untuk fondasi yang menyeluruh.

Pertanyaan yang Sering Diajukan

Apakah AI open-weight sama dengan open source?

Tidak selalu. Open-weight berarti bobot model dapat diunduh, sedangkan open source penuh mencakup kode, data, dan proses pelatihan. Periksa lisensi setiap model secara terpisah.

Apakah model lokal otomatis lebih aman?

Tidak otomatis. Data memang tidak keluar ke vendor, tetapi Anda bertanggung jawab atas server, pembaruan, kontrol akses, dan asal-usul file model.

Berapa kebutuhan perangkat keras untuk gpt-oss-20b?

Menurut blog Hugging Face, varian 20b dapat berjalan dalam memori sekitar 16 GB dengan kuantisasi MXFP4, sedangkan gpt-oss-120b membutuhkan satu GPU 80 GB.

Apakah menjalankan DeepSeek lokal sama dengan memakai aplikasinya?

Tidak. Aplikasi dan API adalah layanan yang dihosting vendor dengan kebijakan datanya sendiri, sedangkan bobot lokal berjalan di mesin Anda.

Kesimpulan

AI open-weight memberi organisasi kendali atas data dan biaya, tetapi memindahkan beban keamanan ke pemakainya. Mulailah dari model kecil, sumber resmi, jaringan terisolasi, dan inventaris yang jelas. Jika Anda ingin tim memahami risiko AI secara praktis, Linuxhackingid menyediakan kursus dan pelatihan yang bisa Anda sesuaikan dengan kebutuhan organisasi.