Ketika kemampuan tumbuh lebih cepat daripada pengawasan
AI (Artificial Intelligence) bukan masalah masa depan. Masalahnya ada pada keputusan yang kita buat hari ini tentang kekuatan yang sedang kita ciptakan. Sebab semakin pintar teknologi, semakin besar bukan hanya kekuatannya. Semakin besar pula tanggung jawab manusia yang mengembangkannya, menggunakannya, dan mengaturnya.
Ada angka yang terlalu besar untuk sekadar menjadi angka: Satu miliar. Angka itu muncul dalam peringatan Bill Gates ketika berbicara di Meet the Press NBC. Gates mengatakan AI, jika jatuh ke tangan yang salah dan tidak dikendalikan, cukup kuat untuk mendorong rangkaian peristiwa yang dapat menyebabkan kematian hingga satu miliar orang. Ia tidak sedang meramalkan bahwa satu miliar manusia pasti akan mati. Ia sedang menggambarkan skala risiko yang menurutnya tidak boleh lagi diperlakukan sebagai fiksi ilmiah. Yang menarik bukan semata angka tersebut. Dalam esainya pada Agustus 2026, Gates—yang selama bertahun-tahun dikenal optimistis terhadap teknologi—mengaku untuk pertama kalinya berharap perkembangan teknologi baru berlangsung lebih lambat agar masyarakat dan pemerintah memiliki waktu mempersiapkan diri. Ia menyoroti tiga kelompok risiko utama: keamanan, pekerjaan, dan perkembangan anak. Dengan demikian, persoalan AI bukan lagi sekadar seberapa pintar mesin.
Persoalannya adalah apa yang terjadi ketika kemampuan tumbuh lebih cepat daripada kemampuan manusia mengawasinya?
Bukan fiksi ilmiah
Selama ini, ancaman AI sering dibayangkan melalui robot yang mengambil alih dunia. Gambaran semacam itu justru membuat persoalan terasa jauh.
Padahal, sebagian risiko AI jauh lebih konkret. Teknologi ini dapat membantu menemukan pola dalam data, menulis kode, menghasilkan gambar dan video, mempercepat penelitian, serta mengotomatisasi pekerjaan. Kemampuan yang sama juga dapat dimanfaatkan untuk serangan siber, penipuan, manipulasi informasi, bahkan penyalahgunaan pengetahuan biologis. Di sinilah paradoks AI muncul: Kemampuan yang membuat AI sangat bermanfaat adalah kemampuan yang sama yang membuat penyalahgunaannya berpotensi semakin berbahaya. Kita tidak sedang berhadapan dengan teknologi yang hanya bisa menghasilkan kebaikan atau keburukan. Kita berhadapan dengan alat yang kekuatannya dapat digunakan untuk keduanya.
Ketika kemampuan jatuh ke tangan yang salah
AI membuat semakin banyak orang mampu melakukan pekerjaan yang sebelumnya hanya dapat dilakukan oleh mereka yang memiliki keahlian khusus. Dalam keadaan normal, itu adalah demokratisasi kemampuan. Tetapi dalam tangan yang berniat jahat, demokratisasi kemampuan dapat berarti demokratisasi daya rusak. Ancaman itu tidak harus menunggu hadirnya “superintelligence”. Deepfake yang semakin meyakinkan, rekayasa sosial, penipuan otomatis, serangan siber, dan manipulasi informasi sudah cukup untuk mengikis kepercayaan. Karena itu, keamanan AI tidak hanya menyangkut apakah sebuah model memberikan jawaban yang salah. Pertanyaan yang lebih penting adalah: apa yang dapat dilakukan seseorang dengan kemampuan yang diberikan model tersebut?
Ketika mesin memasuki ruang kerja
Risiko kedua lebih dekat dengan kehidupan sehari-hari: pekerjaan. Gates memperkirakan AI akan mengambil alih semakin banyak pekerjaan dan bahkan mengusulkan gagasan Human Reserved: jenis pekerjaan atau tugas tertentu yang sengaja tetap menyediakan ruang bagi manusia meskipun secara teknis mesin mampu mengerjakannya. Gagasan ini mengubah cara kita melihat otomatisasi. Selama ini pertanyaannya sederhana: apakah mesin mampu melakukan pekerjaan tersebut? Tetapi kemampuan teknis tidak otomatis berarti pekerjaan itu harus diserahkan kepada mesin. Ada pekerjaan yang nilainya terletak pada efisiensi. Namun ada pula pekerjaan yang mengandung relasi, empati, tanggung jawab, pertimbangan moral, dan pengalaman manusia. Karena itu, masa depan pekerjaan tidak semestinya dibicarakan hanya dalam bahasa produktivitas. Ada persoalan martabat manusia, distribusi manfaat, dan siapa yang memperoleh keuntungan dari produktivitas yang meningkat. Jika AI membuat perusahaan lebih produktif tetapi manfaatnya terkonsentrasi pada pemilik teknologi sementara pekerja kehilangan daya tawar, persoalannya bukan lagi sekadar kemajuan teknologi. Ia menjadi persoalan ekonomi dan sosial.
Ketika anak-anak tumbuh bersama mesin
Risiko ketiga mungkin yang paling halus. Anak-anak tidak hanya menggunakan AI untuk mencari jawaban. Mereka dapat menjadikannya tutor, teman bicara, bahkan tempat mencurahkan persoalan pribadi. Gates memperingatkan bahwa AI berpotensi mengganggu perkembangan anak jika menggantikan proses belajar dan hubungan manusia yang seharusnya mereka bangun.
Ini bukan berarti setiap penggunaan AI oleh anak berbahaya. AI dapat menjadi tutor yang sangat berguna. Ia dapat membantu anak memahami pelajaran, menerjemahkan bahasa, mencari informasi, dan mengeksplorasi minat. Tetapi pendidikan bukan sekadar transfer informasi.
Anak belajar menjadi manusia melalui interaksi dengan manusia lain: melalui perbedaan pendapat, kegagalan, rasa malu, negosiasi, empati, dan pengalaman menghadapi kenyataan bahwa orang lain tidak selalu mengatakan apa yang ingin kita dengar. Mesin dapat memberikan jawaban. Tetapi kehidupan mengajarkan bagaimana hidup bersama jawaban yang tidak selalu sesuai keinginan kita.
Masalahnya mungkin bukan AI, melainkan keterlambatan pengawasan
Di sinilah persoalan governance menjadi penting. Gates kini secara terbuka mengatakan bahwa self-regulation industri tidak cukup. Menurutnya, penegak hukum dan pembuat kebijakan perlu terlibat dalam menentukan pengamanan dan mekanisme pemantauan yang wajib. Logikanya sederhana. Perusahaan memiliki dorongan untuk berinovasi, memenangkan pasar, menarik investasi, dan bergerak lebih cepat daripada pesaing. Itu bukan tuduhan. Itu adalah logika ekonomi.
Masalah muncul ketika kecepatan kompetisi teknologi lebih tinggi daripada kecepatan institusi membangun aturan. Uni Eropa sudah menunjukkan salah satu bentuk pendekatan tersebut melalui AI Act. Untuk pelanggaran tertentu, sanksinya dapat mencapai €35 juta atau 7 persen omzet global tahunan; untuk kewajiban lain, hingga €15 juta atau 3 persen omzet global. Regulasi itu tentu bukan jawaban sempurna.
Namun ia menunjukkan perubahan penting: AI mulai diperlakukan bukan hanya sebagai produk teknologi, melainkan sebagai kekuatan yang membutuhkan tata kelola.
Bahkan orang di dalam industri berbeda pendapat
Perdebatan ini juga tidak hanya datang dari luar industri. Evan Hubinger, peneliti alignment di Anthropic, menyatakan secara pribadi bahwa ia memperkirakan peluang AI membunuh seluruh manusia dalam satu dekade lebih dari 10 persen. Angka tersebut harus ditempatkan secara tepat: itu adalah perkiraan pribadi seorang peneliti, bukan konsensus ilmiah. Sebaliknya, CEO Nvidia Jensen Huang menolak skenario apokaliptik semacam itu dan secara terbuka menyatakan bahwa ia tidak melihat AI memusnahkan manusia pada 2030.
Perbedaan pandangan itu justru penting. Kita tidak perlu sepakat bahwa kiamat AI akan terjadi untuk menganggap serius persoalan keselamatan. Dalam menghadapi risiko yang berpotensi berkonsekuensi sangat besar, ketidakpastian itu sendiri cukup menjadi alasan untuk membangun pengaman.
Paradoks Bill Gates
Di sinilah posisi Gates menjadi menarik. Ia memperingatkan dunia tentang risiko AI. Tetapi pada saat yang sama, Gates Foundation justru memperluas investasi untuk memanfaatkan teknologi tersebut. Pada September 2026, yayasan itu berkomitmen sedikitnya US$1 miliar selama dua tahun untuk memperluas akses terhadap AI dan solusi berbasis AI, terutama dalam kesehatan, pendidikan, dan pertanian. Sebelumnya, Gates Foundation juga memiliki kemitraan US$200 juta selama empat tahun dengan Anthropic untuk mengembangkan perangkat dan public goods berbasis AI.
Mengapa mendanai teknologi yang sekaligus diperingatkan bahayanya?Justru di situlah jawabannya. Gates tidak sedang mengatakan bahwa AI harus dihentikan. Pesannya adalah bahwa manfaat besar membutuhkan pengamanan yang besar pula. Persoalannya bukan memilih antara AI atau manusia. Persoalannya adalah memastikan AI bekerja untuk manusia tanpa membuat manusia kehilangan kendali atas akibatnya.
AI bukan masalah masa depan
Kita tidak harus menunggu bencana untuk mulai mengatur teknologi.
AI tidak perlu dianggap sebagai penyelamat umat manusia. Tetapi ia juga tidak perlu ditakuti sebagai mesin yang pasti akan menghancurkan manusia.
Yang lebih penting adalah keputusan yang dibuat sekarang: seberapa cepat AI dikembangkan, siapa yang boleh menggunakannya, siapa yang mengawasinya, batas apa yang tidak boleh dilanggar, dan siapa yang bertanggung jawab ketika sesuatu berjalan salah.
Perusahaan perlu berinovasi.
Peneliti perlu menguji.
Pemerintah perlu mengatur.
Masyarakat perlu memahami.
Semuanya harus berjalan lebih cepat daripada risikonya. AI bukan masalah masa depan. Masalahnya ada pada keputusan yang kita buat hari ini tentang kekuatan yang sedang kita ciptakan. Sebab semakin pintar teknologi, semakin besar bukan hanya kekuatannya.
Semakin besar pula tanggung jawab manusia yang mengembangkannya, menggunakannya, dan mengaturnya.
Pada akhirnya, ujian terbesar AI bukanlah seberapa pintar mesin yang berhasil kita ciptakan, melainkan seberapa bijak manusia mengendalikan kekuatan yang telah diciptakannya sendiri.
# *Tulisan 1 dari 2 seri “Membaca Kekuatan Teknologi”*
