Perlambatan AI adalah Gangguan. Rumah Anda Terbakar.
Jujur saja: industri teknologi akhirnya mengalami momen "datang kepada Yesus" dengan AI, namun hal ini tidak terasa seperti pertobatan yang tulus dan lebih seperti sebuah poros strategis. Tiba-tiba, para arsitek perlombaan AI yang sangat berbahaya ini – para peneliti terkemuka dan pemodal yang mendanai sprint berbahan bakar kafein – menyerukan perlambatan [1]. Mereka berbicara tentang “tata kelola internal”, “kerangka etis”, dan langkah yang “lebih hati-hati”. Dan pasar, yang merupakan barometer sensitif, telah bereaksi, dengan kekhawatiran mengenai keberlanjutan investasi AI yang menyebabkan volatilitas pada saham chip [2].
Ini bukanlah peraturan eksternal; ini adalah "garis patahan" internal yang muncul dari dalam ekosistem AI itu sendiri. Dan sementara C-suite memperdebatkan implikasi filosofis dari kreasi mereka di masa depan, masa kini terus memanas.
Jeda Nyaman
Pertimbangkan waktunya. Selama bertahun-tahun, mantranya adalah "bergerak cepat dan menghancurkan segalanya," atau yang lebih baru, "bergerak cepat dan membangun AGI." Saat ini, dengan model-model yang kuat yang telah diterapkan, dengan lanskap persaingan yang sudah sangat jelas, dan dengan adanya momok regulasi yang nyata dan bermakna, seruan untuk berhati-hati sepertinya tidak ada gunanya. Apakah ini merupakan sebuah kesadaran akan adanya risiko besar, ataukah sebuah manuver yang diperhitungkan untuk mengkonsolidasikan kekuasaan, memperlambat pesaing, dan mengelola persepsi masyarakat sebelum ancaman terjadi?
Sangat mudah untuk memberitakan kehati-hatian ketika Anda telah menguasai pasar dalam hal komputasi, bakat, dan model dasar. Fokus industri yang tiba-tiba pada “evaluasi ulang peta jalan produk, penilaian risiko, dan perencanaan strategis” terdengar mulia, namun juga terdengar seperti cara yang mudah untuk menyelaraskan kembali sumber daya. Hal ini berpotensi memperlambat alternatif sumber terbuka atau pemain kecil yang mungkin menantang raksasa yang sudah mapan dengan mengendalikan akses terhadap sumber daya penting atau mempengaruhi kerangka peraturan. "Kerangka kerja etis" tiba-tiba menjadi hal yang terpenting, bukan ketika model-model tersebut dilatih berdasarkan data yang ada, namun sekarang ketika model-model tersebut sudah cukup kuat untuk benar-benar membentuk kembali masyarakat.
Kekhawatiran yang disuarakan dalam komunitas akademis dan ilmiah, yang memperingatkan bahwa “solusi” AI untuk mengatasi masalah dapat mengancam integritas bidang mereka [3], merupakan indikator nyata betapa dalamnya keprihatinan internal ini. Namun jangan salah mengartikan hal ini sebagai altruisme. Ini bukan tentang dampak AI terhadap lapangan kerja atau infrastruktur; ini tentang kontrol – siapa yang menggunakannya, dan pada kecepatan apa. Perdebatannya bukan pada "haruskah kita membangunnya?" dan lebih banyak lagi tentang "siapa yang dapat memutuskan seberapa cepat kita membangunnya, dan siapa yang mendapat untung?"
Saat Mereka Memperdebatkan Masa Depan, Masa Kini Anda Dikompromikan
Sekarang, mari kita beralih dari kekhawatiran abstrak mengenai keretakan internal AI yang bersifat abstrak dan berwawasan ke depan, ke krisis nyata yang terjadi di jaringan kita saat ini. Sementara para raksasa AI merenungkan jiwa dari mesin mereka, tim operasional Anda berusaha keras untuk mengatasi bencana keamanan siber yang besar.
Kami tidak berbicara tentang ancaman teoretis atau tren umum. Kita berbicara tentang eksploitasi aktif terhadap kerentanan zero-day dalam perangkat lunak dasar perusahaan, yang menghantam infrastruktur penting dengan kekuatan yang sangat besar.
- Ivanti Connect Secure dan Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ini bukan hanya bug; itu luka yang menganga. Kerentanan dalam solusi VPN dan akses jaringan Ivanti ini telah dieksploitasi secara aktif, memungkinkan penyerang melewati otentikasi dan menjalankan perintah jarak jauh. CISA telah mengeluarkan beberapa peringatan, menyoroti risiko kritis bagi organisasi yang mengandalkan sistem ini untuk mengamankan akses jarak jauh [4]. Pertahanan jaringan utama Anda, satu-satunya hal yang Anda andalkan untuk menghentikan penjahat di depan pintu, secara aktif dieksploitasi untuk memberikan penyerang akses mendalam ke jaringan perusahaan yang tak terhitung jumlahnya.
- Cisco IOS XE Web UI (CVE-2023-20198): Tingkat keparahan maksimum. Dieksploitasi secara aktif. Kerentanan ini memungkinkan penyerang yang tidak diautentikasi untuk membuat akun dengan hak istimewa dan mendapatkan kendali penuh atas perangkat Cisco IOS XE yang terpengaruh. Jika penyerang memiliki bidang manajemen infrastruktur jaringan Anda, maka merekalah yang memiliki seluruh jaringan Anda. Permainan berakhir [5].
CISA tidak mengeluarkan “peringatan” untuk bersenang-senang; mereka meneriakkan "api" di teater yang ramai. Ini bukan sekedar ancaman teoretis; mereka secara aktif digunakan untuk mengkompromikan sistem pertahanan dan manajemen inti di seluruh perusahaan global.
Garis Patahan Sebenarnya
Ironisnya begitu kental sehingga Anda bisa memotongnya dengan pisau tumpul. Di satu sisi, ada elit AI yang memperdebatkan implikasi etis dari masa depan yang masih mereka bangun, dan menyerukan perlambatan setelah bertahun-tahun mengalami percepatan yang tidak terkendali. Di sisi lain, kita mempunyai ancaman langsung dan nyata dari teknologi dasar saat ini yang secara aktif runtuh karena beban kerentanan yang belum terselesaikan dan belum ditambal.
"Garis patahan" sebenarnya tidak hanya terjadi pada komunitas AI; ini berada di antara menara gading inovasi dan parit realitas operasional. Hal ini berada di antara diskusi abstrak dan berfokus pada masa depan mengenai “pengaturan mandiri” untuk AI dan kebutuhan mendesak dan nyata akan keamanan dan stabilitas aktual dalam sistem yang kita andalkan saat ini.
Sebagai pimpinan CTO dan teknisi, perhatian kita tidak boleh teralihkan oleh perdebatan filosofis mengenai perlambatan AI. Meskipun diskusi tersebut penting untuk jangka panjang, diskusi tersebut merupakan sebuah kemewahan ketika rumah Anda sedang terbakar. “Evaluasi ulang peta jalan produk” harus dimulai dengan menopang fondasi infrastruktur yang ada saat ini. "Penilaian risiko" perlu memprioritaskan ancaman yang langsung dan dieksploitasi secara aktif yang membahayakan kelangsungan operasional dan integritas data saat ini.
Prioritas industri ini tidak seimbang. Kami membangun benda-benda yang lebih cepat dan berkilau di atas fondasi yang sudah mulai membusuk. Seruan untuk memperlambat AI mungkin merupakan pembicaraan yang penting, namun bagi kita yang berada di lapangan, berurusan dengan Ivanti dan Cisco zero-days, rasanya seperti memperdebatkan warna tirai sementara atapnya runtuh. Fokus pada saat ini. Masa depan bisa menunggu sampai kita tidak mengeluarkan darah secara aktif.
Sumber
[1] Surat Terbuka untuk Menghentikan Eksperimen AI Raksasa — https://futureoflife.org/open-letter-pause-ai-development/ [2] Saham AI melonjak, tetapi beberapa investor mulai gelisah — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Revolusi AI dalam sains: janji dan bahaya — https://www.nature.com/articles/d41586-023-03223-y [4] Pelaku Ancaman yang Memanfaatkan Kerentanan Ivanti Connect Secure dan Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Pelaku Ancaman yang Memanfaatkan Kerentanan UI Web Perangkat Lunak Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a