Perlambatan AI ialah Gangguan. Rumah anda terbakar.
Terus terang: industri teknologi akhirnya mengalami detik "come to Jesus" dengan AI, tetapi rasanya kurang seperti keinsafan yang tulen dan lebih seperti pivot strategik. Tiba-tiba, arkitek perlumbaan AI yang sangat mencabar ini - penyelidik terkemuka dan pembiaya yang membiayai pecut berasaskan kafein mereka - menyeru agar perlahan [1]. Mereka bercakap tentang "tadbir urus dalaman," "rangka kerja etika," dan kadar yang "lebih disengajakan". Dan pasaran, yang pernah menjadi barometer sensitif, telah pun bertindak balas, dengan kebimbangan mengenai kemampanan pelaburan AI yang menyebabkan turun naik dalam saham cip [2].
Ini bukan peraturan luar; ia adalah "garisan kesalahan" dalaman yang muncul dari dalam ekosistem AI itu sendiri. Dan sementara C-suite membahaskan implikasi falsafah ciptaan masa depan mereka, masa kini semakin aktif.
Jeda yang Mudah
Pertimbangkan masa. Selama bertahun-tahun, mantera telah "bergerak pantas dan memecahkan sesuatu," atau lebih baru-baru ini, "bergerak pantas dan membina AGI." Kini, dengan model yang berkuasa telah digunakan, dengan landskap kompetitif yang ditakrifkan secara besar-besaran, dan dengan hantu peraturan sebenar yang bermakna semakin hampir, panggilan untuk berhati-hati berdering sedikit hampa. Adakah ini kebangkitan sebenar kepada risiko yang mendalam, atau gerakan yang dikira untuk menyatukan kuasa, memperlahankan pesaing dan mengurus persepsi awam sebelum garpu padang keluar?
Sangat mudah untuk berwaspada apabila anda telah menjejaki pasaran pada model pengiraan, bakat dan asas. Tumpuan mendadak industri pada "penilaian semula pelan hala tuju produk, penilaian risiko dan perancangan strategik" kedengaran bagus, tetapi ia juga kelihatan seperti cara yang mudah untuk menyelaraskan semula sumber. Ini berpotensi memperlahankan alternatif sumber terbuka atau pemain yang lebih kecil yang mungkin mencabar syarikat gergasi yang telah sedia ada dengan mengawal akses kepada sumber penting atau mempengaruhi rangka kerja kawal selia. "Rangka kerja etika" tiba-tiba diutamakan, bukan semasa model dilatih mengenai data yang dikikis, tetapi kini mereka cukup berkuasa untuk benar-benar membentuk semula masyarakat.
Kebimbangan yang disuarakan dalam komuniti akademik dan saintifik, memberi amaran bahawa "penyelesaian" AI untuk membuka masalah boleh mengancam integriti bidang mereka [3], adalah penunjuk yang jelas tentang kedalaman kebimbangan dalaman ini. Tetapi jangan salahkan ini sebagai altruisme. Ini bukan mengenai kesan AI terhadap pekerjaan atau infrastruktur; ia mengenai kawalan – siapa yang memegangnya, dan pada kadar apa. Perdebatan adalah kurang mengenai "perlukah kita membinanya?" dan lebih lanjut mengenai "siapa yang boleh memutuskan berapa cepat kami membinanya, dan siapa yang untung?"
Semasa Mereka Mendebatkan Masa Depan, Masa Kini Anda Tergugat
Sekarang, mari kita beralih daripada kebimbangan abstrak yang melihat masa depan tentang keretakan dalaman AI kepada krisis segera yang nyata berlaku pada rangkaian kami sekarang. Sementara gergasi AI merenung jiwa mesin mereka, pasukan operasi anda sedang berebut-rebut untuk membendung malapetaka keselamatan siber sepenuhnya.
Kami tidak bercakap tentang ancaman teori atau trend umum. Kami bercakap tentang kelemahan sifar hari yang dieksploitasi secara aktif dalam perisian perusahaan asas, memukul infrastruktur kritikal dengan kekuatan tukul besi.
- Ivanti Connect Secure dan Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ini bukan sahaja pepijat; itu luka ternganga. Kerentanan dalam VPN Ivanti dan penyelesaian akses rangkaian telah dieksploitasi secara aktif, membolehkan penyerang memintas pengesahan dan melaksanakan arahan jauh. CISA telah mengeluarkan pelbagai amaran, menonjolkan risiko kritikal kepada organisasi yang bergantung pada sistem ini untuk akses jauh yang selamat [4]. Pertahanan rangkaian utama anda, satu-satunya perkara yang anda harapkan untuk menghentikan orang jahat di pintu masuk, sedang dieksploitasi secara aktif untuk memberikan penyerang akses mendalam kepada rangkaian perusahaan yang tidak terkira banyaknya.
- UI Web Cisco IOS XE (CVE-2023-20198): Keterukan maksimum. Dieksploitasi secara aktif. Kerentanan ini membolehkan penyerang yang tidak disahkan membuat akaun istimewa dan mendapat kawalan penuh ke atas peranti Cisco IOS XE yang terjejas. Jika penyerang memiliki pesawat pengurusan infrastruktur rangkaian anda, mereka memiliki keseluruhan rangkaian anda. Permainan tamat [5].
CISA tidak mengeluarkan "amaran" untuk keseronokan; mereka menjerit "api" dalam teater yang sesak. Ini bukan sekadar ancaman teori; ia digunakan secara aktif untuk menjejaskan pertahanan teras dan sistem pengurusan merentas perusahaan global.
Garis Kesalahan Sebenar
Ironinya sangat tebal sehingga anda boleh memotongnya dengan pisau yang tumpul. Di satu pihak, kami mempunyai golongan elit AI yang membahaskan implikasi etika masa depan yang masih mereka bina, meminta kelembapan selepas bertahun-tahun pecutan tidak terkawal. Sebaliknya, kami mempunyai ancaman segera dan wujud teknologi asas semasa kami yang secara aktif runtuh di bawah beban kelemahan yang tidak ditangani dan tidak ditambal.
"Garis kerosakan" sebenar bukan hanya dalam komuniti AI; ia adalah antara menara gading inovasi dan parit realiti operasi. Ini adalah antara perbincangan abstrak yang berfokus pada masa hadapan tentang "kawal selia kendiri" untuk AI dan keperluan konkrit segera untuk keselamatan dan kestabilan sebenar dalam sistem yang kami harapkan hari ini.
Sebagai CTO dan kejuruteraan mendahului, kita tidak boleh terganggu oleh perdebatan falsafah tentang kelembapan AI. Walaupun perbincangan itu penting untuk jangka panjang, ia adalah kemewahan apabila rumah anda terbakar secara aktif. "Penilaian semula pelan hala tuju produk" harus dimulakan dengan menyokong asas infrastruktur sedia ada kami yang runtuh. "Penilaian risiko" perlu mengutamakan ancaman segera yang dieksploitasi secara aktif yang menjejaskan kesinambungan operasi dan integriti data hari ini.
Keutamaan industri terpesong. Kami membina benda yang lebih cepat dan berkilat di atas asas yang sedang reput secara aktif. Seruan untuk memperlahankan AI mungkin merupakan perbualan yang perlu, tetapi bagi kita yang berada di lapangan, berurusan dengan Ivanti dan Cisco sifar hari, rasanya seperti membahaskan warna langsir semasa bumbung masuk. Fokus pada masa kini. Masa depan boleh menunggu sehingga kita tidak mengalami pendarahan secara aktif.
Sumber
[1] Surat Terbuka untuk Menjeda Eksperimen AI Gergasi — https://futureoflife.org/open-letter-pause-ai-development/ [2] Saham AI melonjak, tetapi sesetengah pelabur semakin gementar — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Revolusi AI dalam sains: janji dan bahaya — https://www.nature.com/articles/d41586-023-03223-y [4] Ancaman Pelakon Mengeksploitasi Ivanti Connect Secure dan Ivanti Policy Secure Vulnerabilities — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Aktor Ancaman Memanfaatkan Kerentanan UI Web Perisian Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a