AI dalam Cyber Security: Pemanfaatan untuk Pentest dan Pertahanan

AI cyber security berarti dua hal sekaligus: memakai kecerdasan buatan untuk memperkuat pertahanan dan pengujian keamanan, serta mengamankan sistem AI itu sendiri dari penyalahgunaan. Penyerang juga memanfaatkannya, sehingga memahami kedua sisi ini kini menjadi bagian dari kompetensi dasar tim keamanan modern.

Mengapa AI Mengubah Dunia Cyber Security?

Dalam AI cyber security, titik awalnya adalah kenyataan bahwa tim keamanan menghadapi volume log, peringatan, dan kerentanan yang jauh melampaui kapasitas analis manusia. Model bahasa besar (LLM) dan machine learning cocok untuk pekerjaan berbasis pola dan teks: merangkum, mengelompokkan, membandingkan, dan menandai anomali.

Gambaran skalanya terlihat dari laporan IBM Cost of a Data Breach 2026 yang terbit 29 Juli 2026. Menurut IBM, satu dari empat pembobolan berniat jahat sudah melibatkan AI, naik 56 persen dari tahun sebelumnya, dengan biaya rata-rata sekitar 6 juta dolar AS, atau sekitar 1 juta dolar di atas rata-rata global sebesar 4,99 juta dolar. Di sisi lain, organisasi yang memakai AI dan otomasi di operasi keamanannya menekan biaya pembobolan hampir 2 juta dolar. Angka ini bersifat global dan bisa berbeda dengan kondisi organisasi Anda, tetapi arahnya jelas: AI mengubah kecepatan penyerang maupun pembela.

Pemanfaatan AI untuk Pertahanan

• Deteksi anomali. Model mempelajari pola normal lalu menandai penyimpangan pada lalu lintas jaringan, login, atau perilaku pengguna.
• Triase peringatan di SOC. AI membantu mengelompokkan alert yang berulang dan menyusun ringkasan insiden, sehingga analis fokus pada yang paling penting. Konteks platformnya ada di artikel SIEM.
• Prioritas kerentanan. Skor keparahan digabung dengan peluang eksploitasi dan konteks aset untuk menentukan urutan penambalan.
• Analisis dan penulisan laporan. LLM merapikan temuan teknis menjadi bahasa yang dipahami manajemen, dengan pemeriksaan oleh manusia.
• Penyaringan phishing. Klasifikasi isi dan pola email membantu menyaring pesan mencurigakan sebelum sampai ke pengguna.

AI dalam Penetration Testing

Pada penetration testing, AI paling berguna sebagai asisten penguji, bukan pengganti. Kegunaan yang realistis mencakup merangkum hasil pemindaian yang panjang, membantu menyusun catatan dan laporan, menjelaskan kerentanan kepada klien, serta meninjau potongan konfigurasi atau kode untuk mencari kesalahan umum.

Keterbatasannya juga nyata. Model dapat menghasilkan jawaban yang terdengar meyakinkan tetapi keliru, melaporkan temuan palsu, dan tidak memahami batas ruang lingkup kontrak. Karena itu penguji tetap bertanggung jawab memverifikasi setiap temuan, dan seluruh pengujian tetap memerlukan izin tertulis serta aturan keterlibatan yang jelas. Menggunakan AI tidak mengubah status hukum sebuah tindakan: mengakses sistem tanpa hak tetap melanggar Pasal 332 KUHP.

Satu pertimbangan lain adalah kerahasiaan. Data klien, hasil pemindaian, atau potongan kode tidak boleh dimasukkan ke layanan AI publik tanpa kebijakan yang jelas, karena dapat menimbulkan persoalan pelindungan data pribadi seperti yang dibahas pada artikel UU PDP.

Bagaimana Penyerang Memakai AI, dan Cara Menghadapinya

Penyerang memakai AI untuk menyusun pesan penipuan yang lebih meyakinkan, mempercepat riset target, dan mengotomatisasi tugas berulang. Karena itu sinyal lama seperti salah ketik tidak lagi dapat diandalkan sebagai tanda phishing. Pertahanan yang berlaku tetap mendasar:

• Autentikasi dua faktor, sebaiknya yang tahan phishing, untuk akun penting.
• Prosedur verifikasi di luar jalur untuk permintaan transfer dana atau perubahan data sensitif.
• Pelatihan kesadaran keamanan dengan contoh terbaru, termasuk pesan yang terlihat sangat rapi.
• Pemantauan dan respons insiden yang terlatih, sehingga kecepatan penyerang dapat diimbangi.

MITRE ATT&CK versi 20, yang dirilis 13 Oktober 2026, bahkan memasukkan teknik baru terkait AI seperti direct dan indirect prompt injection serta AI-enabled exfiltration. Cara memakai kerangka ini dibahas di artikel MITRE ATT&CK.

Mengamankan Sistem AI Itu Sendiri

Begitu organisasi memasang chatbot, asisten kode, atau agen otomatis, sistem itu menjadi bagian dari permukaan serangan. OWASP Top 10 for LLM Applications edisi 2025 memberi daftar risikonya, antara lain Prompt Injection, Sensitive Information Disclosure, Supply Chain, Data and Model Poisoning, Improper Output Handling, Excessive Agency, System Prompt Leakage, dan Unbounded Consumption.

Dua risiko yang sering diremehkan adalah Excessive Agency, ketika agen AI diberi izin lebih besar dari yang perlu, dan shadow AI, yaitu pemakaian alat AI oleh karyawan di luar pengawasan. IBM melaporkan satu dari lima organisasi pada laporan 2025 mengalami pembobolan yang melibatkan shadow AI dan hanya 37 persen yang punya kebijakan untuk mengelolanya. Prinsip least privilege, validasi output model sebelum dipakai sistem lain, dan kebijakan penggunaan AI yang tertulis adalah langkah awal yang masuk akal.

Untuk tata kelola, NIST menyediakan AI Risk Management Framework dengan fungsi Govern, Map, Measure, dan Manage. NIST juga menerbitkan draf awal Cyber AI Profile (NIST IR 8596) pada 16 Desember 2025 dengan tiga fokus: Secure (mengamankan komponen sistem AI), Defend (pertahanan siber berbantuan AI), dan Thwart (menghadapi serangan siber berbantuan AI). Per Oktober 2026 dokumen itu masih berstatus draf dan dapat berubah.

Pertanyaan yang Sering Diajukan

Apakah AI akan menggantikan penguji penetrasi dan analis keamanan?

Belum ada dasar untuk menyimpulkan itu. AI mempercepat pekerjaan berulang, tetapi penilaian konteks, tanggung jawab hukum, dan komunikasi dengan klien tetap membutuhkan manusia. Peran yang bergeser, bukan hilang.

Apakah menggunakan AI untuk pentest itu legal?

Alatnya tidak ilegal. Yang menentukan legalitas adalah izin atas target. Pengujian terhadap sistem tanpa izin tertulis tetap berisiko pidana, dengan atau tanpa AI.

Bagaimana cara memulai belajar AI untuk keamanan?

Kuasai dulu dasar jaringan, sistem operasi, dan alur pengujian keamanan. Setelah itu coba AI untuk merangkum dan menjelaskan hasil pada lab Anda sendiri, sambil selalu memverifikasi jawabannya.

Apa risiko terbesar memakai AI di perusahaan?

Kebocoran data yang dimasukkan ke layanan eksternal, pemberian izin berlebihan pada agen AI, dan kepercayaan buta terhadap output model. Ketiganya dapat dikurangi dengan kebijakan, pembatasan akses, dan tinjauan manusia.

Kesimpulan

AI memperkuat pembela sekaligus penyerang, dan sistem AI sendiri butuh diamankan. Gunakan AI sebagai pendamping yang diawasi, tetapkan kebijakan penggunaan, dan pertahankan dasar-dasar keamanan yang terbukti. Untuk membekali tim Anda dengan keterampilan ini, Linuxhackingid menyediakan program pelatihan untuk tim dan perusahaan.