Pakaian Keselamatan AI Baharu Maharaja: Semasa Kami Merenung Muse, Yayasan Runtuh
Mari kita teruskan: industri teknologi mempunyai obsesi baharu, dan ia dipanggil "keselamatan AI." Kita semua dijangka menumpukan pada suntikan segera, keracunan model dan penyingkiran data daripada model bahasa yang besar. Sementara itu, infrastruktur digital fizikal yang sebenar yang menyatukan perusahaan kami sedang aktif dibakar oleh serangan bertubi-tubi sifar hari. Insiden baru-baru ini yang melibatkan platform AI utama, menggambarkan cabaran yang lebih luas dalam mendapatkan infrastruktur AI, menyerlahkan dikotomi berbahaya ini [1].
Meta, sebuah syarikat yang terkenal dengan etos "bergerak pantas dan memecahkan sesuatu", telah menghadapi penelitian mengenai kelemahan keselamatan dalam platform AInya. Sebagai contoh, program hadiah pepijat telah menemui kecacatan ketara yang mendedahkan Mesin Maya pengguna. Ini bukan kebocoran data yang halus atau pintasan segera yang bijak, tetapi ralat peringkat infrastruktur asas yang mendedahkan VM pengguna. Ini bukan kerentanan khusus AI esoterik; ini adalah pengasingan VM asas, masalah yang kami fikirkan telah dijinakkan sedekad yang lalu. Ia mewakili pelanggaran privasi dan integriti data yang kritikal, memberi kesan secara langsung kepada pengguna dan berpotensi pelanggan perusahaan yang memanfaatkan infrastruktur AI tersebut.
Jenis kecacatan ini, walaupun benar-benar memberi impak, tidak kelihatan seperti cabaran "keselamatan AI" yang baru dan lebih seperti kegagalan infrastruktur klasik yang memakai topi AI. Ini adalah peringatan bahawa walaupun platform AI yang paling maju dibina pada lapisan pengiraan konvensional, rangkaian dan virtualisasi. Jika lapisan asas itu penuh dengan lubang, tidak kira betapa canggihnya model AI anda; keseluruhan sistem kekal terdedah. Aspek "AI" dalam cerita ini hampir mengganggu, salah arah yang mengalihkan pandangan kita daripada kayu reput di bawah papan lantai yang digilap.
Barrage KEV CISA: Petunjuk Kritikal
Semasa kami sedang sibuk membahaskan implikasi etika chatbots hidup dan nuansa keselamatan AI, CISA menjatuhkan bilangan kerentanan yang dieksploitasi secara aktif yang belum pernah terjadi sebelumnya ke dalam katalog Kerentanan Dieksploitasi (KEV) yang Dikenali. Ini bukan latihan teori. Ini bukan senarai "tampalan suatu hari nanti". Ini ialah senarai "rumah anda terbakar sekarang" segera.
Dalam beberapa minggu kebelakangan ini, CISA telah menambah banyak entri, menjadikan jumlah kelemahan yang dieksploitasi secara aktif kepada jumlah yang mengejutkan dalam tempoh yang singkat [2]. Ini bukan sahaja "keselamatan adalah buruk"; ini adalah krisis sistemik yang semakin meningkat yang memberi kesan kepada perisian perusahaan yang sangat kritikal yang mengendalikan dunia kita.
Pertimbangkan penambahan terbaru pada katalog KEV:
- CVE-2023-46214: Kerentanan pelaksanaan kod jauh Splunk Enterprise (CVSS 9.8) dengan tarikh akhir tampung CISA, menjadikan sistem yang tidak ditambal sangat terdedah.
- CVE-2023-29357: Kerentanan peningkatan keistimewaan Microsoft SharePoint Server, yang menjejaskan tulang belakang intranet korporat yang tidak terkira banyaknya.
- CVE-2023-42824: Kerentanan kernel Apple iOS/iPadOS, sudah dieksploitasi dalam serangan yang disasarkan, menunjukkan bahawa ekosistem terkawal pun tidak boleh ditembusi.
- CVE-2023-30799: Kecacatan pelaksanaan kod jauh MikroTik RouterOS, memberi kesan kepada penghala yang menyambungkan segala-galanya, sering dibiarkan tanpa tampalan di sudut paling dalam rangkaian.
Penambahan pantas ini yang dieksploitasi secara aktif sifar hari merentasi vendor utama - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog - menuntut perhatian segera dan terburu-buru. Ini bukan amaran umum; ia adalah siren yang berbunyi terus pada setiap pasukan IT dan keselamatan. Senarai KEV CISA bukan sekadar cadangan untuk agensi persekutuan; ia adalah amaran kritikal untuk semua organisasi. Abaikan ia dengan bahaya anda.
Ilusi "Keselamatan AI" dan Kos Gangguan
Inilah kebenaran yang tidak selesa: kelemahan asas dalam platform AI dan rentetan CISA KEV adalah aspek yang saling berkaitan bagi masalah yang sama. Kedua-duanya menjerit tentang kerosakan asas dalam keselamatan perisian, tetapi pandangan kolektif industri kami tidak sejajar dengan bahaya. Kami sangat terpikat dengan janji dan bahaya "AI" sehingga kami membiarkan infrastruktur digital asas reput.
"Keselamatan AI" telah menjadi kata kunci, sempadan baharu untuk perunding dan pengurus produk. Tetapi apa sebenarnya? Selalunya, ia hanya keselamatan digunakan pada sistem AI. Ya, AI memperkenalkan vektor serangan baharu dan cabaran unik, tetapi sebahagian besar daripada "keselamatan AI" hanyalah kejuruteraan yang teguh, amalan pengekodan selamat dan penampalan yang rajin – perkara yang sama yang telah kami gagalkan selama beberapa dekad. Isu pengasingan VM yang dinyatakan sebelum ini ialah contoh yang sempurna: kerentanan klasik yang diperkuat oleh kerumitan platform AI.
Kami sedang membina sistem AI yang sangat kompleks di atas asas yang semakin rapuh dan dieksploitasi secara aktif. Ia seperti mereka bentuk kereta pandu sendiri dengan teliti dengan navigasi AI yang canggih, manakala roda terjatuh dan enjinnya berderai. Tumpuan pada "keselamatan AI" selalunya terasa seperti gangguan, mengalihkan sumber dan perhatian daripada kerja biasa, tidak menarik, tetapi sangat kritikal untuk mendapatkan infrastruktur sedia ada.
Adakah kita terlalu sibuk mengejar perkara besar seterusnya sehinggakan kita membiarkan perkara besar semasa terbakar? Jumlah dan keluasan ancaman KEV menunjukkan cabaran sistemik dan mendesak kepada infrastruktur digital asas, berbeza daripada perbincangan sifar hari yang berpusatkan AI sebelumnya. Ini bukan mengenai masa depan AI; ia mengenai keadaan semasa kewujudan digital kita.
Apa Sekarang, CTO?
Untuk petunjuk kejuruteraan dan CTO, mesejnya jelas dan serta-merta:
- Utamakan senarai KEV: Gugurkan semuanya. Tampal kelemahan ini. Amanatkan ia. Menguatkuasakannya. Ini bukan pilihan.
- Jangan terpengaruh dengan gembar-gembur "keselamatan AI" dengan mengorbankan asas-asas: Ya, fahami risiko unik AI, tetapi ingat bahawa kejuruteraan yang teguh, kitaran hayat pembangunan yang selamat dan tampalan bersungguh-sungguh masih merupakan pertahanan terbaik anda. Model AI yang mewah tidak akan menyelamatkan anda jika penyerang memiliki VM asas anda atau pelayan SharePoint anda.
- Melabur dalam keselamatan asas: Ini bermakna lebih daripada sekadar membeli alat keselamatan lain. Ini bermakna melabur dalam orang, proses dan budaya yang menghargai keselamatan sebagai disiplin kejuruteraan teras, bukan renungan. Program hadiah pepijat sangat baik, tetapi ia harus menjadi jaringan keselamatan, bukan strategi keselamatan utama anda.
Insiden yang melibatkan infrastruktur platform AI adalah panggilan bangun, tetapi senarai CISA KEV adalah penggera segera. Kita perlu berhenti mengagumi inisiatif keselamatan AI terkini dan mula menampal lubang pada pertahanan sebenar kita. Masa depan AI adalah menarik, tetapi keadaan keselamatan kita sekarang adalah menakutkan.
Sumber
[1] Keselamatan AI adalah kucar-kacir, dan ia akan menjadi lebih teruk — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog Kerentanan Dieksploitasi Terkenal — https://www.cisa.gov/known-exploited-vulnerabilities-catalog