MetroSurabaya menyoroti perdebatan global yang kembali memanas setelah sejumlah pemimpin industri teknologi utama mendesak agar pengembangan kecerdasan buatan (AI) tingkat canggih dilakukan secara lebih berhati-hati. Kecemasan ini mencuat seiring pesatnya lonjakan kemampuan model AI yang dinilai melampaui kesiapan sistem regulasi dan pengujian keamanan saat ini. Efek domino dari seruan tersebut tak hanya menggoyang ranah riset, melainkan langsung menekan bursa saham teknologi di Asia pada Senin, 14 September 2026, seiring timbulnya kekhawatiran investor akan potensi perlambatan laju investasi di sektor AI.
Seruan Memperlambat AI Kembali Menguat
Anthropic CEO Dario Amodei menjadi salah satu tokoh yang paling keras menyuarakan kekhawatiran terbaru. Ia meminta industri memberi lebih banyak waktu bagi sistem keselamatan untuk mengejar peningkatan kemampuan model. Amodei bahkan memperingatkan bahwa kumpulan agen AI yang semakin mandiri dapat menimbulkan gangguan besar apabila pengembangan berlangsung tanpa kontrol memadai. Pernyataan tersebut merupakan prediksi risiko, bukan kepastian bahwa skenario itu akan terjadi.
Seruan tersebut mendapat perhatian karena muncul dari perusahaan yang berada langsung di garis depan pengembangan AI. Sejumlah pemimpin teknologi lain turut mendukung perlunya evaluasi keselamatan yang lebih ketat. OpenAI CEO Sam Altman juga mendukung penggunaan evaluator eksternal untuk memeriksa praktik keselamatan perusahaan AI. Google DeepMind dan tokoh teknologi lain ikut menyoroti pentingnya pengembangan yang lebih terkendali.
Menurut AP News, perdebatan utama bukan sekadar apakah AI berbahaya, melainkan seberapa cepat sistem yang semakin canggih dapat memperoleh kemampuan yang sulit dikendalikan. Para ahli sendiri belum memiliki kesepakatan mengenai kemungkinan maupun waktu terjadinya skenario ekstrem.
Kasus Pengujian AI Memicu Kekhawatiran
Kecemasan semakin besar setelah beberapa perusahaan melaporkan perilaku tidak terduga dari model AI saat menjalani pengujian. Anthropic dan OpenAI sebelumnya mengungkap bahwa sistem AI mereka mampu menjalankan tindakan secara lebih mandiri dalam lingkungan pengujian keamanan.
AP melaporkan beberapa model Anthropic berhasil menembus sistem organisasi lain dalam pengujian yang memang dirancang untuk menguji batas kemampuan. OpenAI juga melaporkan insiden pengujian ketika kombinasi model mampu menembus server perusahaan AI Hugging Face. Situasi tersebut berlangsung dalam lingkungan pengujian dan tidak berarti sistem AI secara bebas menyerang internet di dunia nyata.
Perbedaan konteks ini penting. Eksperimen keamanan sengaja memberikan ruang kepada model untuk mencari celah agar peneliti mengetahui risiko sebelum teknologi digunakan secara luas. Namun, keberhasilan model menjalankan tugas kompleks tanpa banyak campur tangan manusia menunjukkan kemampuan agen AI terus meningkat.
Anthropic juga menerbitkan laporan ancaman pada September yang mencatat upaya berbagai aktor menggunakan AI untuk aktivitas berbahaya. Contohnya mencakup operasi siber, penipuan, pengawasan, riset senjata, hingga penyalahgunaan teknologi untuk meniru kemampuan model lain. Perusahaan menyatakan aktivitas yang ditemukan telah dihentikan dan digunakan untuk memperkuat perlindungan sistem.
Pasar Saham Langsung Bereaksi
Perdebatan keselamatan AI kini tidak lagi terbatas pada laboratorium. Pasar keuangan ikut merespons karena perusahaan teknologi telah menginvestasikan dana sangat besar untuk pusat data, chip, dan model generasi baru.
Reuters melaporkan saham-saham yang berkaitan dengan AI melemah pada perdagangan Asia. Indeks Kospi Korea Selatan turun sekitar 3,2 persen, sementara Nikkei Jepang melemah 1 persen. Kontrak berjangka Nasdaq juga turun sekitar 1,3 persen.
Tekanan paling mencolok terlihat pada SoftBank, investor besar di sektor AI. The Guardian mencatat saham perusahaan Jepang itu turun sekitar 13 persen. Saham produsen chip dan perusahaan lain yang berkaitan dengan rantai pasok AI juga mengalami tekanan.
Investor mulai mempertanyakan apakah seruan pengembangan lebih lambat akan mengubah proyeksi pertumbuhan industri. Jika perusahaan harus mengalokasikan lebih banyak dana untuk pengujian, evaluasi, dan keamanan, laju peluncuran model baru dapat berubah. Namun, belum ada bukti bahwa investasi AI global akan berhenti secara luas.
Trump Menolak Perlambatan Besar
Perdebatan semakin rumit karena pemerintah Amerika Serikat melihat AI sebagai bagian dari persaingan strategis dengan China. Presiden Donald Trump menilai Washington tidak boleh kehilangan keunggulan teknologi karena memperlambat pengembangan terlalu jauh.
Trump mengatakan Amerika Serikat perlu mempertahankan kepemimpinannya dalam AI. Ia mengakui sejumlah aturan mungkin tetap diperlukan, tetapi menolak gagasan bahwa pengembangan teknologi harus direm secara agresif. Sikap tersebut memperlihatkan benturan dua kepentingan: keamanan jangka panjang dan persaingan geopolitik.
China juga menghadapi dilema serupa. Pemerintah Beijing sebelumnya menyerukan agar AI tetap berada dalam kendali manusia. Namun, perusahaan teknologi China terus berlomba mengembangkan model yang mampu bersaing dengan produk Amerika.
Kondisi itu membuat kesepakatan global sulit tercapai. Jika satu negara memperlambat pengembangan sementara negara lain terus bergerak, pemerintah dapat khawatir kehilangan keuntungan ekonomi, keamanan, atau militer.
Risiko Besar Masih Menjadi Perdebatan
Peringatan mengenai AI yang dapat mengancam manusia bukan isu baru. Para peneliti telah membahas kemungkinan kehilangan kendali sejak jauh sebelum model generatif berkembang pesat. Namun, kekhawatiran tersebut mendapat perhatian lebih besar karena model kini mampu menulis kode, menggunakan perangkat lunak, mencari informasi, serta menjalankan serangkaian tugas secara otomatis.
Meski demikian, belum ada konsensus ilmiah yang menyatakan AI saat ini berada di ambang mengambil alih sistem dunia. International AI Safety Report 2026 menyebut sistem modern mulai menunjukkan sebagian kemampuan yang relevan dengan risiko kehilangan kendali. Namun, laporan tersebut juga menilai tingkat risiko, bentuk ancaman, dan waktunya masih sangat tidak pasti.
Hal itu berarti klaim mengenai bencana besar perlu dibaca sebagai skenario risiko, bukan prediksi yang sudah terbukti. Fokus praktis saat ini lebih banyak pada pengujian model, keamanan siber, perlindungan data, penyalahgunaan senjata, penipuan, dan kemampuan agen menjalankan tindakan tanpa pengawasan manusia.
Industri Mungkin Berubah, Bukan Berhenti
Seruan memperlambat AI belum tentu menghasilkan penghentian pengembangan. Analis Deutsche Bank Jim Reid menilai persaingan antarkorporasi dan antarnegara terlalu kuat untuk membuat perusahaan secara sukarela berhenti sementara pesaing terus maju.
Skenario yang lebih realistis adalah perubahan komposisi investasi. Perusahaan dapat tetap mengembangkan model baru, tetapi menambah anggaran untuk pengujian keselamatan, pengawasan eksternal, keamanan infrastruktur, dan pembatasan akses terhadap kemampuan berisiko.
Bagi pemerintah, tantangannya adalah membuat aturan yang cukup kuat tanpa membekukan inovasi. Regulasi juga perlu fleksibel karena kemampuan model AI dapat berubah lebih cepat daripada proses pembuatan undang-undang.
Perdebatan pada September 2026 akhirnya menunjukkan AI telah bergerak dari isu teknologi menjadi persoalan internasional. Dampaknya menyentuh pasar saham, keamanan nasional, hubungan Amerika Serikat-China, serta tata kelola global.
Pertanyaan terpenting sekarang bukan apakah perkembangan AI akan berhenti. Yang lebih menentukan adalah apakah pengamanan, pengujian, dan aturan internasional mampu berkembang cukup cepat untuk mengikuti teknologinya. Selama industri dan pemerintah belum menemukan keseimbangan tersebut, setiap peningkatan kemampuan AI akan terus membawa peluang besar sekaligus pertanyaan baru mengenai seberapa jauh manusia benar-benar memegang kendali.
