Dulu, manusia menciptakan senjata karena takut pada manusia lain. Lalu manusia menciptakan bom nuklir karena takut manusia lain menciptakan bom nuklir lebih dulu.
Sekarang manusia menciptakan artificial intelligence atau akal disebut AI, dan tiba-tiba muncul pertanyaan baru yang sedikit membuat kepala berdenyut yakni bagaimana jika mesin yang kita buat untuk membantu menulis email, tiba-tiba ikut menentukan ke mana rudal harus diarahkan?
Kalau dulu AI dipakai untuk membuat daftar belanja atau menulis dongeng sebelum tidur bagi anak yang rewel, kini ia mulai ikut duduk di meja perang. Dari ruang server yang dingin hingga layar komando militer, algoritma kini ikut mengunyah data intelijen, menjalankan simulasi, bahkan membantu menentukan target.
Dalam beberapa bulan terakhir, kabarnya model AI seperti Claude yang awalnya dibuat oleh perusahaan Anthropic sebagai asisten digital yang sopan dan cerdas, telah digunakan dalam operasi militer Amerika Serikat.
Salah satu laporan menyebutkan, AI itu dipakai untuk menganalisis intelijen dalam serangan terhadap Iran, termasuk membantu mengidentifikasi target dan menjalankan simulasi operasi.
Namun di balik laporan-laporan itu, ada gambaran teknis yang lebih konkret tentang bagaimana AI benar-benar bekerja di medan perang modern.
Komando Pusat Amerika Serikat (US Central Command atau CENTCOM) diketahui secara aktif menggunakan algoritma machine learning untuk membantu menentukan lokasi target yang dianggap bermusuhan di kawasan Timur Tengah.
Kepala Teknologi CENTCOM, Schuyler Moore, pernah mengonfirmasi bahwa sistem AI memainkan peran penting dalam mengidentifikasi lokasi ancaman di wilayah tersebut.
Teknologi yang dipakai bukan sekadar “AI umum” yang suka bercakap-cakap seperti chat bot. Sistem ini menggunakan teknik computer vision yang mampu menganalisis citra satelit dan rekaman drone pengintai secara real time.
Dengan kecepatan yang mustahil dicapai manusia, algoritma ini dapat mendeteksi perubahan kecil di permukaan tanah. Misalnya, peluncur misil yang disembunyikan, kendaraan militer yang baru dipindahkan, hingga fasilitas militer yang baru dibangun.
Bayangkan seorang analis intelijen manusia harus menatap ribuan foto satelit setiap hari. Mesin melakukan itu dalam hitungan detik, tanpa kopi, tanpa keluhan, tanpa perlu libur akhir pekan.
Di sinilah muncul istilah yang agak dingin dalam dunia militer yaitu “kill chain”. Dalam bahasa sederhana, kill chain adalah rangkaian proses dari mendeteksi target hingga menyerangnya.
AI kini dipakai untuk memperpendek rantai itu. Dengan mengotomatisasi pengolahan data intelijen yang sangat besar, waktu yang dibutuhkan untuk menemukan dan melacak target bisa dipangkas drastis.
Artinya, keputusan militer bisa diambil lebih cepat, bahkan sebelum pihak lawan sempat memindahkan posisi.
Dalam beberapa operasi militer Amerika, sistem ini bahkan digunakan dalam operasi yang dikenal dengan nama Operation Epic Fury.
Meski demikian, secara resmi AI tidak diizinkan untuk secara otonom menembakkan senjata atau menyerang target. Setiap rekomendasi target yang dihasilkan oleh sistem AI tetap harus diverifikasi oleh operator manusia sebelum tindakan militer dilakukan.
Secara teoritis, ini disebut prinsip “human in the loop” dimana manusia tetap berada dalam rantai keputusan. Namun seperti biasa dalam sejarah teknologi militer, teori dan praktik sering berjalan dengan kecepatan yang berbeda.
Karena semakin cepat sistem analisis bekerja, semakin besar pula tekanan bagi manusia untuk mengikuti ritme mesin. Ketika algoritma bisa memproses ribuan sinyal intelijen dalam detik, keputusan manusia pun cenderung berubah dari “mempertimbangkan” menjadi “mengonfirmasi”.
Di situlah batas antara keputusan manusia dan keputusan mesin mulai kabur.
Jika semua ini terdengar seperti plot film Hollywood, itu karena kenyataannya memang hampir terlalu dramatis untuk dipercaya. Namun sejarah sering bergerak seperti komedi hitam: kita tertawa dulu, baru kemudian sadar bahwa yang kita tertawakan sebenarnya tragedi.
Masalahnya bukan sekadar AI dipakai dalam perang. Masalahnya adalah kecepatan perubahan itu. Selama bertahun-tahun, perdebatan tentang AI militer hanya berlangsung di ruang seminar akademik.
Para profesor berdiskusi tentang “etika algoritma”, sementara para mahasiswa mencatat sambil mengangguk. Sekarang diskusi itu tiba-tiba keluar dari ruang konferensi dan masuk ke ruang perang.
Para peneliti AI sendiri sebenarnya sudah lama cemas. CEO Anthropic, Dario Amodei, bahkan menetapkan dua garis merah untuk model AI mereka: tidak boleh dipakai untuk pengawasan massal domestik, dan tidak boleh dipakai untuk senjata otonom yang bisa memilih serta menyerang target tanpa kontrol manusia yang berarti.
Kedengarannya sangat masuk akal. Namun dalam politik global, “masuk akal” sering kali kalah oleh “berguna”. Begitu militer menemukan teknologi yang memberi keunggulan strategis, etika sering berubah menjadi catatan kaki.
Sejarah teknologi militer penuh dengan pola yang sama. Ketika pesawat terbang pertama kali ditemukan, orang membayangkan perjalanan udara yang romantis. Tidak lama kemudian, pesawat menjadi pembom. Internet dulu dibayangkan sebagai ruang kebebasan pengetahuan; sekarang ia juga menjadi medan perang siber.
AI tampaknya sedang berjalan di jalur yang sama. Lebih mengkhawatirkan lagi, simulasi perang yang melibatkan AI menunjukkan kecenderungan yang agak menegangkan.
Dalam berbagai eksperimen war game, model AI sering merekomendasikan penggunaan senjata nuklir lebih cepat daripada manusia. Seolah-olah algoritma itu berkata dengan logika dingin: jika opsi itu tersedia dan meningkatkan peluang kemenangan, mengapa tidak?
Di sinilah perbedaan paling besar antara manusia dan mesin. Mesin tidak punya memori malapetaka bom atom Hiroshima yang dijatuhkan Amerika. Mesin tidak punya mimpi buruk tentang Nagasaki. Algoritma hanya melihat angka.
Karena itu banyak ilmuwan pernah berharap ada larangan global terhadap penggunaan AI dalam militer. Namun harapan itu perlahan menguap. Bahkan perusahaan teknologi besar yang dulu berjanji tidak akan membiarkan AI mereka dipakai untuk senjata kini mulai melonggarkan komitmen itu.
Teknologi, seperti air, selalu menemukan jalan ke medan konflik. Dan begitu satu negara menggunakan AI dalam operasi militer secara efektif, negara lain hampir pasti akan mengikuti. Tidak ada negara yang ingin tertinggal dalam perlombaan senjata baru.
Sejarah nuklir memberi pelajaran pahit tentang hal ini. Bom atom pertama dijatuhkan di Jepang pada 1945. Setelah itu dunia memasuki era baru: era di mana umat manusia memiliki kemampuan untuk menghapus dirinya sendiri.
Kini sebagian sejarawan mungkin akan melihat awal militerisasi AI sebagai momen serupa, sebuah garis pembatas antara dunia lama dan dunia baru yang belum sepenuhnya kita pahami.
Masalahnya, bom nuklir setidaknya membutuhkan tombol yang dijaga manusia. AI berpotensi membuat proses keputusan perang menjadi lebih cepat, lebih otomatis, dan dalam beberapa skenario, lebih jauh dari kontrol manusia.
Di situlah kegelisahan terbesar kita. Karena pada akhirnya pertanyaan paling penting bukanlah seberapa pintar AI.
Pertanyaan sebenarnya adalah, siapa yang mengontrolnya? Jika jawabannya adalah militer paling kuat di dunia, maka kita sedang memasuki bab baru dalam sejarah geopolitik, bab di mana algoritma menjadi bagian dari mesin perang.
Dan kalau sejarah mengajarkan sesuatu, itu adalah satu hal sederhana: setiap teknologi yang bisa dipakai untuk perang, pada akhirnya hampir selalu dipakai untuk perang.
Ironinya, manusia menciptakan AI untuk meniru kecerdasannya. Tetapi jika kita tidak hati-hati, AI mungkin justru akan meniru sisi manusia yang paling tua: kecenderungan untuk bertarung.
Maka mungkin masalah terbesar bukanlah mesin yang menjadi terlalu pintar. Masalah sebenarnya adalah manusia yang belum cukup bijak untuk mengendalikannya. Entahlah. (*)
AHMADIE THAHA (Cak AT)
Wartawan Senior
