Императордун жаңы AI коопсуздук кийими: Биз Музаны карап жатканыбызда, фонд урайт
Түздөн-түз айталы: технологиялык индустрияда жаңы ынтызарлык бар жана ал "AI коопсуздугу" деп аталат. Биз баарыбыз тез инъекцияга, моделди ууландырууга жана чоң тил моделдеринен маалыматтарды эксфильтрациялоого көңүл бурушубуз керек. Ошол эле учурда, биздин ишканаларды бириктирип турган иш жүзүндө, физикалык, санариптик инфраструктура нөлдүк күндөрдүн тынымсыз тосмолору менен активдүү түрдө күйүп жатат. AI инфраструктурасын камсыздоодогу кеңири көйгөйлөрдү чагылдырган ири AI платформасына байланыштуу жакында болгон окуя бул коркунучтуу дихотомияны баса белгилейт [1].
Мета, өзүнүн "тез кыймылдап, нерселерди сындыруу" этикасы менен белгилүү, AI платформаларындагы коопсуздук кемчиликтерине байланыштуу текшерүүгө туш болду. Мисалы, мүчүлүштүктөрдү сыйлоо программасы колдонуучу Virtual Machines ашкерелеген олуттуу кемчиликти ачты. Бул тымызын маалымат агып кетүү же акылдуу тез айланып өтүү эмес, колдонуучунун VM'лерин ачыкка чыгарган фундаменталдык, инфраструктура деңгээлиндеги ката болчу. Бул AI үчүн кандайдыр бир эзотерикалык аялуу эмес; бул негизги VM изоляциясы, биз он жыл мурун чечкен көйгөй. Бул колдонуучуларга жана AI инфраструктурасын колдонгон потенциалдуу ишкана кардарларына түздөн-түз таасирин тийгизип, купуялуулуктун жана маалыматтардын бүтүндүгүнүн олуттуу бузулушун билдирет.
Кемчиликтин бул түрү, чынында эле, таасирдүү болгону менен, жаңы "AI коопсуздук" чакырыгындай сезилет жана AI шляпасын кийген классикалык инфраструктуранын бузулушуна окшош. Ал тургай эң өнүккөн AI платформалары кадимки эсептөө, тармактык жана виртуалдаштыруу катмарларына курулганын эскертет. Эгерде ошол фундаменталдык катмарлар тешиктерге толсо, AI моделиңиз канчалык татаал экени маанилүү эмес; бүт система аялуу бойдон калууда. Бул окуянын "AI" аспектиси дээрлик алаксытуу, жылмаланган полдун астындагы чириген жыгачтардан биздин көзүбүздү бурган жаңылыштык.
CISAнын KEV Барражы: Критикалык көрсөткүч
Биз аң сезимдүү чатботтордун этикалык кесепеттерин жана AI коопсуздугунун нюанстарын талкуулоо менен алек болуп жатканыбызда, CISA өзүнүн Белгилүү эксплуатацияланган аялуу жерлери (KEV) каталогуна болуп көрбөгөндөй жигердүү пайдаланылган аялуу жерлерди таштоодо. Бул теориялык көнүгүү эмес. Бул "бир күнү жамаачы" тизмеси эмес. Бул шашылыш "үйүңүз күйүп жатат азыр" тизмеси.
Акыркы жумаларда CISA көптөгөн жазууларды кошуп, кыска мөөнөттүн ичинде жигердүү пайдаланылган аялуулардын жалпы санын укмуштуудай санга жеткирди [2]. Бул жөн эле "коопсуздук жаман" эмес; бул биздин дүйнөнү башкарган абдан маанилүү ишкана программалык камсыздоосуна таасирин тийгизген системалуу, күчөгөн кризис.
KEV каталогуна акыркы толуктоолорду карап көрөлү:
- CVE-2023-46214: Splunk Enterprise аралыктан кодду аткаруунун аялуулугу (CVSS 9.8) CISA патчынын акыркы мөөнөтү менен, жаңыртылбаган системаларды өтө аялуу кылат.
- CVE-2023-29357: Сансыз корпоративдик интранеттердин негизине таасир этүүчү Microsoft SharePoint Server артыкчылыктарынын эскалациясынын начардыгы.
- CVE-2023-42824: Apple iOS/iPadOS ядросунун аялуулугу, буга чейин эле максаттуу чабуулдарда пайдаланылган, ал тургай башкарылган экосистемаларга да өтүүгө мүмкүн эмес экенин көрсөтүп турат.
- CVE-2023-30799: MikroTik RouterOS алыстан кодду аткаруудагы мүчүлүштүк, бардыгын туташтырган роутерлерге таасир этет, көбүнчө тармактын эң терең бурчтарында такталбай калат.
Негизги сатуучулар - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog боюнча активдүү колдонулган нөл-күндөрдүн бул тез кошулуусу дароо, катуу көңүл бурууну талап кылат. Бул жалпы эскертүү эмес; бул ар бир IT жана коопсуздук командасына тикелей жаңырган сирена. CISAнын KEV тизмеси жөн гана федералдык агенттиктер үчүн сунуш эмес; бул * бардык* уюмдар учун катуу эскертуу. Өзүңүздүн коркунучуңузга көңүл бурбаңыз.
"AI Коопсуздук" иллюзиясы жана алаксытуунун баасы
Бул жерде ыңгайсыз чындык: AI платформаларындагы негизги кемчиликтер жана CISA KEV тосмолору бир эле көйгөйдүн бири-бири менен байланышкан аспектилери. Экөө тең программалык камсыздоонун коопсуздугунун негизги бузулушу жөнүндө кыйкырып жатышат, бирок биздин тармактын жамааттык көз карашы коркунучтуу түрдө туура эмес. Бизди "AI" убадасы жана коркунучу ушунчалык таң калтыргандыктан, биз фундаменталдык санариптик инфраструктуранын чирип кетишине жол берип жатабыз.
"AI коопсуздугу" кеп-сөзгө айланды, кеңешчилер жана продукт менеджерлери үчүн жаңы чек. Бирок бул эмне, чын эле? Көбүнчө, бул жөн гана * коопсуздук* AI системаларына колдонулат. Ооба, AI чабуулдун жаңы векторлорун жана уникалдуу чакырыктарды сунуштайт, бирок "AI коопсуздугунун" олуттуу бөлүгү жөн гана күчтүү инженерия, коопсуз коддоо практикасы жана тырышчаактык жамаачы - биз ондогон жылдар бою ийгиликсиз болуп келген нерсе. Жогоруда айтылган VM изоляция маселеси эң сонун мисал: AI платформасынын татаалдыгы менен күчөтүлгөн классикалык аялуу.
Биз барган сайын морт жана жигердүү эксплуатацияланган пайдубалдардын үстүнө укмуштуудай татаал AI системаларын куруп жатабыз. Бул дөңгөлөктөрү түшүп, кыймылдаткычы чачыраган AI навигациясы менен өзүн-өзү башкарган унааны кылдаттык менен долбоорлоо сыяктуу. "AI коопсуздугуна" көңүл буруу көп учурда алаксытуу, ресурстарды жана көңүлдү күнүмдүк, көзгө көрүнбөгөн, бирок учурдагы инфраструктураны камсыздоо боюнча өтө маанилүү иштен алаксытуу сыяктуу сезилет.
Биз кийинки чоң нерсенин артынан кууп убара болуп, азыркы чоң нерселердин күйүп кетишине жол берип жатабызбы? KEV коркунучтарынын чоң көлөмү жана кеңдиги AI борборлоштурулган нөл күндүк мурунку талкуулардан айырмаланып, фундаменталдык санариптик инфраструктурага системалуу жана чукул чакырыктарды көрсөтүп турат. Бул AI келечеги жөнүндө эмес; бул биздин санариптик жашообуздун азыркы абалы жөнүндө.
Эми эмне, CTO?
Инженердик жетекчилер жана CTOдор үчүн билдирүү ачык жана дароо:
- KEV тизмесине артыкчылык бериңиз: Баарын таштаңыз. Бул кемчиликтерди оңдоо. Мандат бериңиз. Аны ишке ашыруу. Бул милдеттүү эмес.
- Фундаменттердин эсебинен "AI коопсуздугу" айдыңына кирип кетпеңиз: Ооба, AIнын уникалдуу тобокелдиктерин түшүнүңүз, бирок күчтүү инженерия, коопсуз өнүгүү циклдери жана тырышчаактык жамоо сиздин эң мыкты коргонууңуз экенин унутпаңыз. Эгер чабуулчу негизги VM же SharePoint сервериңизге ээ болсо, кооз AI модели сизди куткара албайт.
- Фундаменталдык коопсуздукка инвестициялоо: Бул башка коопсуздук куралын сатып алуудан да көптү билдирет. Бул адамдарга, процесстерге жана коопсуздукту ойлогон нерсе эмес, негизги инженердик дисциплина катары баалаган маданиятка инвестициялоону билдирет. Мүчүлүштүктөрдү сыйлоо программалары эң сонун, бирок алар сиздин негизги коопсуздук стратегияңыз эмес, коопсуздук тармагы болушу керек.
AI платформасынын инфраструктурасына байланыштуу окуя ойгонуу чакырыгы, бирок CISA KEV тизмеси шашылыш сигнал болуп саналат. Биз акыркы AI коопсуздук демилгелерине суктанууну токтотуп, чыныгы коргонуубуздагы тешиктерди түзө башташыбыз керек. AI келечеги кызыктуу, бирок биздин коопсуздуктун азыркы абалы коркунучтуу.
Булактар
[1] AI коопсуздугу баш аламандык жана ал начарлай турганы турат — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Белгилүү эксплуатацияланган аялуулардын каталогу — https://www.cisa.gov/known-exploited-vulnerabilities-catalog