Ang Bagong AI Security Clothes ng Emperor: Habang Tumitingin Kami sa Muse, Gumuho ang Foundation
Maging direkta tayo: ang industriya ng tech ay may bagong kinahuhumalingan, at ito ay tinatawag na "AI security." Inaasahan nating lahat na tumuon sa agarang pag-iniksyon, pagkalason sa modelo, at pag-exfiltrate ng data mula sa malalaking modelo ng wika. Samantala, ang aktwal, pisikal, digital na imprastraktura na pinagsasama-sama ang ating mga negosyo ay aktibong sinusunog sa pamamagitan ng walang tigil na barrage ng zero-days. Ang isang kamakailang insidente na kinasasangkutan ng isang pangunahing platform ng AI, na naglalarawan ng mas malawak na mga hamon sa pag-secure ng imprastraktura ng AI, ay nagha-highlight sa mapanganib na dichotomy na ito [1].
Ang Meta, isang kumpanyang kilala sa "move fast and break things" etos nito, ay nahaharap sa pagsisiyasat sa mga bahid ng seguridad sa mga AI platform nito. Halimbawa, natuklasan ng isang bug bounty program ang isang malaking depekto na naglalantad sa mga Virtual Machine ng user. Hindi ito isang banayad na pagtagas ng data o isang matalinong prompt bypass, ngunit isang pangunahing error sa antas ng imprastraktura na naglantad sa mga VM ng gumagamit. Ito ay hindi ilang esoteric AI-specific na kahinaan; ito ay pangunahing paghihiwalay ng VM, isang problema na higit na naisip naming napaamo isang dekada na ang nakalipas. Kinakatawan nito ang isang kritikal na paglabag sa privacy at integridad ng data, direktang nakakaapekto sa mga user at potensyal na kliyente ng enterprise na gumagamit ng naturang imprastraktura ng AI.
Ang ganitong uri ng kapintasan, bagama't tunay na nakakaapekto, ay hindi gaanong parang isang nobelang "AI security" na hamon at mas katulad ng isang klasikong pagkabigo sa imprastraktura na may suot na sumbrero ng AI. Ito ay isang paalala na kahit na ang pinaka-advanced na AI platform ay binuo sa mga layer ng conventional compute, networking, at virtualization. Kung ang mga pundasyong layer ay puno ng mga butas, hindi mahalaga kung gaano kahusay ang iyong modelo ng AI; ang buong sistema ay nananatiling mahina. Ang "AI" na aspeto ng kuwentong ito ay halos isang distraction, isang maling direksyon na naglalayo sa ating tingin mula sa mga nabubulok na kahoy sa ilalim ng makintab na mga floorboard.
KEV Barrage ng CISA: Isang Kritikal na Tagapagpahiwatig
Habang abala kami sa pagdedebate sa mga etikal na implikasyon ng mga nakakaramdam na chatbot at ang mga nuances ng kaligtasan ng AI, ibinababa ng CISA ang isang hindi pa nagagawang bilang ng mga aktibong pinagsasamantalahang kahinaan sa Catalog na Kilalang Pinagsasamantalahang Vulnerabilities (KEV). Ito ay hindi isang teoretikal na ehersisyo. Ito ay hindi isang "patch balang araw" na listahan. Ito ay isang kagyat na listahan na "nasusunog ang iyong bahay ngayon".
Sa nakalipas na mga linggo, nagdagdag ang CISA ng maraming mga entry, na dinadala ang kabuuang aktibong pinagsamantalahan na mga kahinaan sa isang nakakagulat na bilang sa isang maikling panahon [2]. Ito ay hindi lamang "masama ang seguridad"; ito ay isang sistematiko, tumitinding krisis na nakakaapekto sa napakakritikal na software ng enterprise na nagpapatakbo sa ating mundo.
Isaalang-alang ang mga kamakailang karagdagan sa KEV catalog:
- CVE-2023-46214: Isang kahinaan sa pagpapatupad ng remote code ng Splunk Enterprise (CVSS 9.8) na may deadline ng patch ng CISA, na ginagawang lubhang masusugatan ang mga hindi na-patch na system.
- CVE-2023-29357: Isang kahinaan sa pagdami ng pribilehiyo ng Microsoft SharePoint Server, na nakakaapekto sa backbone ng hindi mabilang na corporate intranets.
- CVE-2023-42824: Isang kahinaan sa kernel ng Apple iOS/iPadOS, na pinagsamantalahan na sa mga naka-target na pag-atake, na nagpapakita na kahit na ang mga kinokontrol na ecosystem ay hindi malalampasan.
- CVE-2023-30799: Isang depekto sa pagpapatupad ng remote code ng MikroTik RouterOS, na nakakaapekto sa mga router na kumokonekta sa lahat, kadalasang naiiwan nang hindi naka-patch sa pinakamalalim na sulok ng network.
Ang mabilis na pagdaragdag na ito ng aktibong pinagsamantalahan na mga zero-day sa mga pangunahing vendor – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – ay nangangailangan ng agarang, galit na galit na atensyon. Ito ay hindi isang pangkalahatang babala; ito ay isang sirena nang direkta sa bawat IT at security team. Ang listahan ng KEV ng CISA ay hindi lamang isang mungkahi para sa mga pederal na ahensya; isa itong kritikal na babala para sa lahat ng mga organisasyon. Huwag pansinin ito sa iyong panganib.
Ang Ilusyon ng "AI Security" at ang Gastos ng Pagkagambala
Narito ang hindi komportable na katotohanan: ang mga pangunahing pagkakamali sa mga platform ng AI at ang CISA KEV barrage ay magkakaugnay na aspeto ng parehong problema. Pareho silang sumisigaw tungkol sa isang pangunahing pagkasira sa seguridad ng software, ngunit ang sama-samang tingin ng aming industriya ay mapanganib na hindi pagkakatugma. Lubos kaming nabighani sa pangako at panganib ng "AI" na hinahayaan naming mabulok ang pangunahing digital na imprastraktura.
Ang "AI security" ay naging isang buzzword, isang bagong hangganan para sa mga consultant at tagapamahala ng produkto. Pero ano ba talaga? Kadalasan, security lang ang inilalapat sa mga AI system. Oo, ang AI ay nagpapakilala ng mga bagong attack vector at mga natatanging hamon, ngunit ang isang malaking bahagi ng "AI security" ay simpleng mahusay na engineering, secure na mga kasanayan sa pag-coding, at masigasig na pag-aayos - ang parehong bagay na hindi namin nagawa sa loob ng mga dekada. Ang isyu sa paghihiwalay ng VM na binanggit kanina ay isang perpektong halimbawa: isang klasikong kahinaan na pinalaki ng pagiging kumplikado ng isang platform ng AI.
Bumubuo kami ng hindi kapani-paniwalang kumplikadong mga AI system sa ibabaw ng nagiging marupok at aktibong pinagsasamantalahang mga pundasyon. Ito ay tulad ng masusing pagdidisenyo ng isang self-driving na kotse na may advanced na AI navigation, habang ang mga gulong ay nahuhulog at ang makina ay pumuputok. Ang pagtutok sa "AI security" ay kadalasang parang isang distraction, inililihis ang mga mapagkukunan at atensyon mula sa pangmundo, hindi kaakit-akit, ngunit talagang kritikal na gawain ng pag-secure ng umiiral na imprastraktura.
Masyado ba tayong abala sa paghabol sa susunod na malaking bagay na hinahayaan nating masunog ang mga kasalukuyang malalaking bagay? Ang napakaraming dami at lawak ng mga banta ng KEV ay nagpapahiwatig ng isang sistematiko at kagyat na hamon sa pundasyong digital na imprastraktura, na naiiba sa mga nakaraang AI-centric na zero-day na talakayan. Hindi ito tungkol sa kinabukasan ng AI; ito ay tungkol sa kasalukuyang kalagayan ng ating digital na pag-iral.
Ano Ngayon, mga CTO?
Para sa mga engineering lead at CTO, ang mensahe ay malinaw at agaran:
- Priyoridad ang listahan ng KEV: I-drop ang lahat. I-patch ang mga kahinaan na ito. I-utos ito. Ipatupad ito. Ito ay hindi opsyonal.
- Huwag magpakatanga sa "AI security" hype sa kapinsalaan ng mga pangunahing kaalaman: Oo, unawain ang mga natatanging panganib ng AI, ngunit tandaan na ang mahusay na engineering, secure na mga lifecycle ng pag-unlad, at masigasig na pag-patch ang iyong pinakamahusay na depensa. Hindi ka ililigtas ng isang magarbong modelo ng AI kung pagmamay-ari ng isang umaatake ang iyong pinagbabatayan na VM o ang iyong SharePoint server.
- Mamuhunan sa pangunahing seguridad: Nangangahulugan ito ng higit pa sa pagbili ng isa pang tool sa seguridad. Nangangahulugan ito ng pamumuhunan sa mga tao, proseso, at kultura na nagpapahalaga sa seguridad bilang isang pangunahing disiplina sa engineering, hindi isang nahuling pag-iisip. Ang mga programa ng bug bounty ay mahusay, ngunit dapat itong maging isang safety net, hindi ang iyong pangunahing diskarte sa seguridad.
Ang insidente na kinasasangkutan ng AI platform infrastructure ay isang wake-up call, ngunit ang listahan ng CISA KEV ay ang agarang alarma. Kailangan nating ihinto ang paghanga sa pinakabagong mga hakbangin sa seguridad ng AI at simulan ang paglalagay ng mga butas sa ating aktwal na mga depensa. Ang hinaharap ng AI ay kapana-panabik, ngunit ang kasalukuyang estado ng aming seguridad ay nakakatakot.
Mga Pinagmulan
[1] Ang seguridad ng AI ay isang gulo, at ito ay malapit nang lumala — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Kilalang Pinagsasamantalahang Katalogo ng Mga Kahinaan — https://www.cisa.gov/known-exploited-vulnerabilities-catalog