Ny akanjo fiarovana AI vaovao an'ny Emperora: Raha mijery an'i Muse izahay, dia mirodana ny fototra.
Andao hivantana: manana fironana vaovao ny indostrian'ny teknolojia, ary antsoina hoe "fiarovana AI." Andrasana isika rehetra hifantoka amin'ny fanindronana haingana, ny fanapoizinana modely, ary ny fanesorana angona avy amin'ny maodely amin'ny fiteny lehibe. Mandritra izany fotoana izany, ny fotodrafitrasa tena izy, ara-batana, nomerika mampiray ny orinasantsika dia nodorana tamin'ny alàlan'ny tora-pasika tsy an-kijanona nandritra ny aotra andro. Ny zava-nitranga vao haingana izay nahitana sehatra AI lehibe iray, izay maneho ny fanamby midadasika kokoa amin'ny fiarovana ny fotodrafitrasa AI, dia manasongadina ity dichotomy mampidi-doza ity [1].
Meta, orinasa iray fantatra amin'ny etos "mandroso haingana sy manapaka zavatra", dia niatrika fanadihadiana momba ny lesoka fiarovana amin'ny sehatra AI. Ohatra, ny programa bug bounty dia nahitana lesoka lehibe nampiharihary ny mpampiasa Virtual Machines. Tsy fandrotsahana angon-drakitra an-kolaka na fanelanelanana haingana izany, fa fahadisoana fototra amin'ny fotodrafitrasa izay nampiharihary mpampiasa VM. Tsy vulnerability manokana momba ny AI izany; Fitokanana VM fototra io, olana iray noheverinay fa voafolaka folo taona lasa izay. Izy io dia maneho ny fanitsakitsahana ny fiainana manokana sy ny fahamendrehan'ny angon-drakitra, izay misy fiantraikany mivantana amin'ny mpampiasa sy ny mety ho mpanjifa orinasa mampiasa fotodrafitrasa AI toy izany.
Ity karazana lesoka ity, na dia tena misy fiatraikany aza, dia tsy dia toy ny fanamby vaovao "AI Security" ary toy ny tsy fahombiazan'ny fotodrafitrasa mahazatra manao satroka AI. Fampahatsiahivana fa na dia ny sehatra AI mandroso indrindra aza dia miorina amin'ny sosona kajy mahazatra, tambajotra ary virtoaly. Raha feno lavaka ireo sosona fototra ireo, dia tsy maninona na be pitsiny ny maodely AI anao; mbola marefo ny rafitra manontolo. Ny lafiny "AI" amin'ity tantara ity dia saika fanelingelenana, diso lalana izay mampiala ny fijerintsika amin'ireo hazo lo eo ambanin'ny gorodona voavolavola.
Barrage KEV an'ny CISA: Tondro mitsikera
Raha variana miady hevitra momba ny fiantraikan'ny etika amin'ny chatbots sy ny fiovaovan'ny fiarovana AI, ny CISA dia nandatsaka ny vulnerabilities tsy mbola nisy toy izany tao amin'ny katalaogin'ny Known Exploited vulnerabilities (KEV). Tsy fanazaran-tena teorika izany. Tsy lisitra "patch indray andro any" ity. Ity dia lisitra "mirehitra *amin'izao fotoana izao" ny tranonao.
Tao anatin'ny herinandro vitsivitsy, CISA dia nanampy maro ny fidirana, mitondra ny totalin'ny mavitrika trandrahana ho amin'ny isa manaitra ao anatin'ny fotoana fohy [2]. Tsy hoe "ratsy ny fiarovana" fotsiny izany; krizy ara-rafitra sy mihamitombo miantraika amin'ny lozisialin'ny orinasa tena mitsikera izay mitantana ny tontolontsika ity.
Diniho ny fanampim-panazavana vao haingana amin'ny katalaogin'ny KEV:
- CVE-2023-46214: Faharefoan'ny famonoana kaody lavitra an'ny Splunk Enterprise (CVSS 9.8) miaraka amin'ny fe-potoana patch CISA, izay mahatonga ny rafitra tsy voafehy ho tena marefo.
- CVE-2023-29357: Microsoft SharePoint Server tombon-tsoa amin'ny firongatry ny vulnerability, izay misy fiantraikany amin'ny taolam-paty amin'ny intranet orinasa tsy tambo isaina.
- CVE-2023-42824: Faharefoana kernel Apple iOS/iPadOS, efa nohararaotina tamin'ny fanafihana nokendrena, mampiseho fa na dia ny tontolo iainana voafehy aza dia tsy azo trandrahana.
- CVE-2023-30799: Misy lesoka amin'ny famonoana kaody lavitra an'ny MikroTik RouterOS, misy fiatraikany amin'ny router mampifandray ny zava-drehetra, matetika tsy voapetaka any amin'ny zoro lalina indrindra amin'ny tambajotra.
Ity fanampim-panafoanana haingana ity amin'ny fitrandrahana aotra andro manerana ireo mpivarotra lehibe - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog - dia mitaky fifantohana haingana sy mikoropaka. Tsy fampitandremana ankapobeny izany; kiririoka miredareda mivantana any amin'ny ekipan'ny IT sy ny fiarovana. Ny lisitry ny KEV an'ny CISA dia tsy soso-kevitra fotsiny ho an'ny masoivoho federaly; fampitandremana lehibe ho an'ny fikambanana rehetra izany. Aza miraharaha izany amin'ny loza mety hitranga aminao.
Ny fisainan'ny "AI Security" sy ny vidin'ny fanelingelenana
Ity ny fahamarinana mampahazo aina: ny lesoka fototra amin'ny sehatra AI sy ny CISA KEV barrage dia lafiny mifandray amin'ny olana mitovy. Samy mikiakiaka momba ny fahapotehana fototra amin'ny fiarovana ny rindrambaiko izy ireo, saingy mampidi-doza tsy mifanaraka amin'izany ny fijerin'ny indostriantsika. Tena variana amin'ny fampanantenana sy ny loza ateraky ny "AI" izahay ka avelanay ho lo ny fotodrafitrasa nomerika fototra.
Ny "AI Security" dia lasa teny malaza, sisintany vaovao ho an'ny mpanolo-tsaina sy mpitantana ny vokatra. Fa inona tokoa moa izany? Matetika, * fiarovana * fotsiny no ampiharina amin'ny rafitra AI. Eny, mampiditra vectors fanafihana vaovao sy fanamby tsy manam-paharoa ny AI, fa ny ampahany manan-danja amin'ny "fiarovana AI" dia injeniera matanjaka, fomba fanao amin'ny coding azo antoka ary fametahana mazoto - ireo zavatra tsy nahomby nandritra ny am-polony taona maro. Ny olana mitoka-monina VM voalaza teo aloha dia ohatra tonga lafatra: vulnerable mahazatra nohamafisin'ny fahasarotan'ny sehatra AI.
Manangana rafitra AI tena saro-pady izahay eo an-tampon'ireo fototra miha-marefo sy tena trandrahana. Toy ny fandrafetana am-pitandremana fiara mitondra tena miaraka amin'ny navigateur AI mandroso, raha mianjera ny kodia ary mitsambikina ny motera. Ny fifantohana amin'ny "fiarovana AI" matetika dia mahatsapa ho toy ny fanelingelenana, mampivily ny loharanon-karena sy ny saina amin'ny asa mahazatra, tsy mahafinaritra, nefa tena manakiana amin'ny fiarovana ny fotodrafitrasa efa misy.
Sao dia variana amin'ny fanenjehana ny zavatra lehibe manaraka isika ka avelantsika hodorana ny zava-dehibe ankehitriny? Ny habe sy ny sakan'ny fandrahonana KEV dia manondro fanamby rafitra sy maika ho an'ny fotodrafitrasa nomerika fototra, miavaka amin'ny fifanakalozan-kevitra momba ny zero andro teo aloha AI-centric. Tsy momba ny hoavin'ny AI izany; momba ny toe-javatra misy antsika nomerika ankehitriny.
Inona izao, CTOs?
Ho an'ny mpitarika injeniera sy CTO, ny hafatra dia mazava sy eo no ho eo:
- ** Ataovy laharam-pahamehana ny lisitry ny KEV:** Atsaharo ny zava-drehetra. Ampidiro ireto vulnerability ireto. Mandidy azy. Ampiharo izany. Tsy voatery io.
- Aza voafandrika ao anatin'ny “security AI” amin'ny fandaniana ny fototra: Eny, fantaro ny risika tsy manam-paharoan'ny AI, saingy tadidio fa ny injeniera matanjaka, ny tsingerin'ny fampandrosoana azo antoka ary ny fametahana mazoto dia mbola fiarovana tsara indrindra ho anao. Ny maodely AI raitra dia tsy hamonjy anao raha misy mpanafika manana ny VM anao na ny mpizara SharePoint anao.
- Mampiasa vola amin'ny fiarovana fototra: Midika mihoatra noho ny fividianana fitaovana fiarovana hafa fotsiny izany. Midika fampiasam-bola amin'ny olona, dingana ary kolontsaina iray izay manome lanja ny fiarovana ho toy ny fitsipi-pifehezana ara-teknika fototra, fa tsy eritreritra. Tena tsara ny programa bug bounty, saingy tokony ho harato fiarovana izy ireo, fa tsy paikady fiarovana voalohany anao.
Ny zava-nitranga mahakasika ny fotodrafitrasa amin'ny sehatra AI dia antso fanairana, fa ny lisitry ny CISA KEV no fanairana maika. Mila mijanona amin'ny fankasitrahana ireo hetsika fiarovana AI farany isika ary manomboka mametaka ireo lavaka amin'ny fiarovantsika tena izy. Mampientam-po ny hoavin'ny AI, fa mampatahotra ny toetry ny fiarovana antsika ankehitriny.
Loharano
[1] Mikorontana ny fiarovana AI, ary efa hiharatsy izany - https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalaogy vulnerabilities fanta-daza fanta-daza — https://www.cisa.gov/known-exploited-vulnerabilities-catalog