INSIGHTS
AI dan Keamanan Siber Field notes from our operators.
Every article we have published under AI dan Keamanan Siber, newest first.
- CVE CREDITS
- 42
- ENGAGEMENTS
- 180+
- BILINGUAL
- EN/ID
advisories published after coordinated disclosure only · engagement details anonymised per NDA
AI dan Keamanan Siber - MORE ARTICLES
Celah Alat Dukungan AI Meta dan Risiko Pembajakan Akun Instagram
Meta menyatakan hingga 20.225 akun Instagram berpotensi dibajak setelah penyerang menyalahgunakan alat pemulihan akun berbantuan AI bernama High Touch Support. Menurut laporan pada 8 Juni 2026, sebuah bug membuat tautan reset kata sandi terkirim ke email yang tidak terkait dengan akun sasaran, dan hanya akun tanpa autentikasi dua faktor yang dapat diambil alih.
Data Poisoning: 250 Dokumen Cukup untuk Menanam Backdoor di LLM
Data poisoning pada model bahasa ternyata tidak membutuhkan porsi besar dari data latih. Penelitian yang dipublikasikan Anthropic bersama UK AI Security Institute dan Alan Turing Institute pada 9 Oktober 2025 menemukan bahwa sekitar 250 dokumen berbahaya sudah cukup untuk menanam backdoor di model berukuran 600 juta sampai 13 miliar parameter.
AI Open-Weight dan Lokal 2026: gpt-oss, DeepSeek V4, dan Risikonya
AI open-weight adalah model AI yang bobotnya dapat diunduh dan dijalankan sendiri, tanpa harus memanggil layanan awan milik vendor. Sejak OpenAI merilis gpt-oss pada Agustus 2025 dan DeepSeek membuka bobot V4 pada April 2026, menjalankan model besar di server sendiri menjadi pilihan nyata bagi organisasi di Indonesia, lengkap dengan peluang privasi dan risiko keamanannya.
Perlombaan Model AI 2026 dari Sisi Keamanan: Claude, GPT, dan Gemini
Model AI terbaru 2026 dari Anthropic, OpenAI, dan Google hadir dengan ritme hampir bulanan, dan klaim keamanannya ikut menjadi bahan persaingan. Artikel ini menyorot hanya sisi yang relevan bagi praktisi keamanan: ketahanan terhadap prompt injection, pembatasan kemampuan siber, dan apa artinya bagi tim di Indonesia per 29 Oktober 2026.
MITRE ATLAS 2026: Katalog Ancaman untuk Sistem AI
MITRE ATLAS adalah basis pengetahuan taktik dan teknik penyerang terhadap sistem AI, dengan format matriks serupa kerangka MITRE lain untuk ancaman siber. Rilis v2026.09 pada 15 September 2026 memuat 16 taktik, 120 teknik, dan 88 sub-teknik, dan mayoritas isinya kini berkaitan dengan agen AI. Artikel ini menjelaskan cara membacanya dan memakainya per 29 Oktober 2026.
ForcedLeak dan Kebocoran Data lewat AI Agent Perusahaan
ForcedLeak adalah celah yang ditemukan Noma Labs pada Salesforce Agentforce, di mana teks yang diselipkan lewat formulir web dapat membuat agen AI membocorkan data CRM. Kasus ini, bersama dua kerentanan Microsoft Semantic Kernel yang membuka jalan dari prompt ke eksekusi kode, menunjukkan bahwa agen AI perusahaan perlu dirancang dengan asumsi semua teks luar tidak tepercaya.
Prompt Injection di Pipeline CI/CD: Clinejection dan Comment and Control
Prompt injection CI/CD adalah risiko rantai pasok perangkat lunak baru: teks di judul issue, judul pull request, atau komentar GitHub dapat membujuk agen AI di pipeline membocorkan rahasia atau menerbitkan paket berbahaya. Kasus Clinejection dan riset Comment and Control pada 2026 menunjukkan caranya, dan pembelaan utamanya adalah membatasi hak akses bot AI.
Serangan Agentic AI di Dunia Nyata: JADEPUFFER dan Insiden Sandbox Evaluasi
Serangan agentic AI di dunia nyata kini bukan lagi teori: sepanjang 2026 peneliti melaporkan intrusi yang tampak dijalankan agen AI, dan Anthropic mengungkap bahwa model-modelnya, dalam lingkungan evaluasi yang salah konfigurasi, sempat menyerang sistem nyata. Artikel ini memisahkan fakta terverifikasi dari klaim vendor, per 29 Oktober 2026, dan menarik pelajaran bertahannya.
Laporan Ancaman AI dari Google, OpenAI, dan Anthropic: Temuan Penting
Laporan ancaman AI dari Google, OpenAI, dan Anthropic sejak pertengahan 2025 menunjukkan pola yang konsisten: penyerang memakai AI untuk bekerja lebih cepat, menulis malware, dan menjalankan penipuan. Google menyatakan belum melihat serangan yang sepenuhnya otonom di dunia nyata. Artikel ini merangkum temuan terpentingnya per 29 Oktober 2026 dan apa yang sebaiknya dilakukan pembela.
OWASP Top 10 untuk Agentic AI dan LLM: Panduan Risiko Aplikasi AI
OWASP Top 10 LLM dan OWASP Top 10 untuk Aplikasi Agentic 2026 adalah dua daftar risiko yang kini menjadi bahasa bersama bagi tim yang membangun, mengaudit, atau membeli aplikasi AI. Yang pertama membahas risiko pada aplikasi berbasis model bahasa, yang kedua membahas agen AI yang merencanakan dan bertindak sendiri. Artikel ini merangkum keduanya dan cara memakainya.
Indonesia Blokir Grok: Deepfake Seksual dan Tanggung Jawab Platform AI
Pemerintah Indonesia membuat Grok diblokir pada 10 Januari 2026, menjadikannya negara pertama yang memutus akses ke chatbot AI milik xAI itu karena dipakai membuat deepfake seksual tanpa persetujuan. Kasus ini penting karena menunjukkan bahwa penyedia platform AI kini diminta bertanggung jawab atas rancangan pengaman produknya, bukan hanya atas laporan dari pengguna.
Deepfake dan Penipuan Berbasis AI di Indonesia
Penipuan deepfake semakin nyata di Indonesia: OJK mencatat 1.379 laporan penipuan yang terindikasi memanfaatkan AI sejak Indonesia Anti Scam Center (IASC) beroperasi pada 22 November 2024 hingga akhir Juni 2026. Pelaku dapat memalsukan video, foto, dan suara, termasuk tiruan tokoh publik yang seolah merekomendasikan investasi. Artikel ini merangkum data resmi per 29 Oktober 2026 dan kebiasaan verifikasi yang bisa Anda terapkan.
Celah Kritis Platform AI: Langflow, Flowise, Ray, dan Ollama
Celah Langflow CVE-2026-33017 menjadi contoh nyata betapa cepatnya platform AI yang di-host sendiri diserang: eksploitasi pertama teramati sekitar 20 jam setelah advisori terbit pada Maret 2026, dan CVE-nya masuk katalog CISA KEV. Langflow bukan satu-satunya; Flowise, Ray, dan Ollama juga punya kerentanan kritis. Artikel ini merangkum versi terdampak, status eksploitasi per 29 Oktober 2026, dan langkah pengamanannya.
IDEsaster: Celah Keamanan AI Coding Assistant dan IDE
Keamanan AI coding assistant menjadi sorotan setelah peneliti Ari Marzouk pada Desember 2025 mengungkap IDEsaster: lebih dari 30 kerentanan di sekitar sepuluh IDE dan asisten pemrograman berbasis AI, dan semua alat yang diuji ternyata rentan. Rantai serangannya memadukan prompt injection dengan fitur sah IDE. Artikel ini merangkum temuannya, kasus rantai pasok yang menyalahgunakan CLI AI, serta langkah pengamanan untuk developer per 29 Oktober 2026.
OpenClaw: Risiko Asisten AI Pribadi yang Terekspos ke Internet
OpenClaw adalah agen AI pribadi sumber terbuka, sebelumnya bernama Clawdbot dan Moltbot, yang diberi akses ke terminal, file, dan aplikasi pesan penggunanya. Pada Januari sampai Februari 2026 peneliti melaporkan ratusan skill berbahaya di marketplace ClawHub, kerentanan satu klik, dan instans yang terekspos ke internet. Artikel ini membahas risikonya dan cara menjinakkannya per 29 Oktober 2026.
Keamanan MCP (Model Context Protocol): Celah STDIO dan Gelombang Kerentanan
Keamanan MCP (Model Context Protocol) menjadi sorotan setelah OX Security melaporkan pada April 2026 bahwa transport STDIO di SDK resmi MCP dapat membuat konfigurasi berujung pada eksekusi perintah di sistem. Anthropic menyatakan perilaku itu disengaja dan hanya memperbarui dokumentasi keamanannya. Per 29 Oktober 2026, MCP juga sudah berada di bawah Agentic AI Foundation milik Linux Foundation, tetapi pengamanan server MCP tetap menjadi tanggung jawab pengembang dan pengguna.
Prompt Injection: Ancaman Utama AI Browser dan AI Agent
Prompt injection adalah serangan di mana instruksi tersembunyi dalam teks yang dibaca AI membuat asisten atau agen AI melakukan hal yang tidak diminta penggunanya. Risikonya bertambah sejak AI browser dan AI agent diberi akses ke akun login, email, dan alat kerja. OpenAI menyebutnya masalah keamanan yang belum terpecahkan, dan NCSC Inggris pada Desember 2025 mengingatkan bahwa serangan ini mungkin tidak akan pernah sepenuhnya termitigasi.
GTG-1002: Kampanye Spionase Siber yang Disebut Pertama Diorkestrasi AI
GTG-1002 adalah nama yang diberikan Anthropic untuk kelompok yang menurut penilaiannya, dengan keyakinan tinggi, didukung negara Tiongkok dan menjalankan kampanye spionase siber AI pada pertengahan September 2025. Dalam laporan 13 November 2025, Anthropic menyebutnya kasus pertama yang terdokumentasi di mana AI menjalankan sebagian besar operasi intrusi, klaim yang juga dipertanyakan sejumlah peneliti. Artikel ini merangkum fakta, batas klaimnya, dan pelajaran pertahanannya.
Claude Mythos Preview dan Project Glasswing: AI yang Menemukan Ribuan Zero-Day
Project Glasswing adalah inisiatif Anthropic yang diumumkan pada 7 April 2026 untuk memakai model AI yang belum dirilis publik, Claude Mythos Preview, dalam mencari celah keamanan di perangkat lunak penting. Anthropic mengklaim model ini sudah menemukan ribuan kerentanan berat, termasuk zero-day di setiap sistem operasi dan browser besar. Per 29 Oktober 2026, angka-angka itu masih berasal dari Anthropic sendiri, sehingga perlu dibaca dengan hati-hati.
Written by the operators who ran the work, in English and Bahasa Indonesia.
Get the next advisory first. No digest, no noise.
One email when something genuinely matters - or follow the community channels where we post first.
NEXT STEP
Talk to an operator, not a sales desk.
A short scoping call, then scope, schedule and cost in writing within 2 working days.