Կայսրի նոր արհեստական ​​ինտելեկտի անվտանգության հագուստ. Մինչ մենք նայում ենք Մուսային, հիմքը քանդվում է

Կայսրի նոր արհեստական ինտելեկտի անվտանգության հագուստ. Մինչ մենք նայում ենք Մուսային, հիմքը քանդվում է

Եկեք ուղղակի լինենք. տեխնոլոգիական արդյունաբերությունը նոր մոլուցք ունի, և այն կոչվում է «AI անվտանգություն»: Ակնկալվում է, որ մենք բոլորս կկենտրոնանանք արագ ներարկման, մոդելի թունավորման և մեծ լեզվական մոդելներից տվյալների արտազատման վրա: Միևնույն ժամանակ, մեր ձեռնարկությունները միասին պահող իրական, ֆիզիկական, թվային ենթակառուցվածքը ակտիվորեն հրկիզվում է զրոյական օրերի անողոք հեղեղումով: Արհեստական ​​ինտելեկտի հիմնական հարթակի հետ կապված վերջին միջադեպը, որը ցույց է տալիս արհեստական ​​ինտելեկտի ենթակառուցվածքի ապահովման ավելի լայն մարտահրավերները, ընդգծում է այս վտանգավոր երկփեղկությունը [1]:

Meta ընկերությունը, որը հայտնի է իր «արագ շարժվել և կոտրել իրերը» էթոսով, ենթարկվել է վերահսկողության իր AI հարթակներում անվտանգության թերությունների հետ կապված: Օրինակ, bug bounty ծրագիրը բացահայտեց զգալի թերություն, որը բացահայտեց օգտատերերի վիրտուալ մեքենաները: Սա տվյալների նուրբ արտահոսք կամ խելացի արագ շրջանցում չէր, այլ հիմնարար, ենթակառուցվածքի մակարդակի սխալ, որը բացահայտեց օգտագործողի VM-ները: Սա ինչ-որ էզոտերիկ AI-ին հատուկ խոցելիություն չէ. սա VM-ի հիմնական մեկուսացումն է, մի խնդիր, որը մենք հիմնականում կարծում էինք, որ ընտելացրել ենք մեկ տասնամյակ առաջ: Այն ներկայացնում է գաղտնիության և տվյալների ամբողջականության կրիտիկական խախտում՝ ուղղակիորեն ազդելով օգտատերերի և պոտենցիալ ձեռնարկությունների հաճախորդների վրա, որոնք օգտագործում են AI ենթակառուցվածքը:

Այս տեսակի թերությունը, թեև իսկապես ազդեցիկ է, բայց ավելի քիչ նման է «AI անվտանգության» նոր մարտահրավերին և ավելի շատ նման է դասական ենթակառուցվածքի խափանումներին, որոնք կրում են AI գլխարկ: Սա հիշեցում է, որ նույնիսկ ամենաառաջադեմ AI հարթակները կառուցված են սովորական հաշվարկների, ցանցերի և վիրտուալացման շերտերի վրա: Եթե ​​այդ հիմքի շերտերը լցված են անցքերով, ապա կարևոր չէ, թե որքան բարդ է ձեր AI մոդելը. ամբողջ համակարգը մնում է խոցելի։ Այս պատմության «AI» ասպեկտը գրեթե շեղում է, սխալ ուղղորդում, որը հեռացնում է մեր հայացքը հղկված հատակի տախտակների տակ գտնվող փտած փայտերից:

CISA-ի KEV Barrage. A Critical Indicator

Մինչ մենք զբաղված ենք խելացի չաթ-բոտերի էթիկական հետևանքների և AI անվտանգության նրբությունների շուրջ բանավեճով, CISA-ն ակտիվորեն շահագործվող խոցելիությունների աննախադեպ քանակն է թողարկում իր Հայտնի շահագործվող խոցելիությունների (KEV) կատալոգում: Սա տեսական վարժություն չէ: Սա «մի օր կարկատել» ցուցակ չէ: Սա հրատապ «ձեր տունը վառվում է հենց հիմա» ցուցակն է։

Վերջին շաբաթների ընթացքում CISA-ն ավելացրել է բազմաթիվ գրառումներ՝ կարճ ժամանակահատվածում ակտիվորեն շահագործվող խոցելիության ընդհանուր թիվը հասցնելով ապշեցուցիչ թվի [2]: Սա պարզապես «անվտանգությունը վատ է» չէ. սա համակարգային, աճող ճգնաժամ է, որն ազդում է մեր աշխարհը ղեկավարող շատ կարևոր ձեռնարկությունների ծրագրային ապահովման վրա:

Նկատի ունեցեք KEV կատալոգի վերջին լրացումները.

• CVE-2023-46214: Splunk Enterprise-ի հեռակառավարման կոդի կատարման խոցելիություն (CVSS 9.8) CISA կարկատման վերջնաժամկետով, որը չկարկատված համակարգերը դարձնում է խիստ խոցելի:
• CVE-2023-29357: Microsoft SharePoint Server-ի արտոնությունների սրման խոցելիություն, որն ազդում է անթիվ կորպորատիվ ինտրանետների ողնաշարի վրա:
• CVE-2023-42824: Apple iOS/iPadOS միջուկի խոցելիություն, որն արդեն օգտագործվում է նպատակային հարձակումների ժամանակ՝ ցույց տալով, որ նույնիսկ վերահսկվող էկոհամակարգերը անթափանցելի չեն:
• CVE-2023-30799: MikroTik RouterOS-ի հեռակառավարման կոդի կատարման թերություն, որն ազդում է ամեն ինչ միացնող երթուղիչների վրա, որը հաճախ չի կարկատվում ցանցի ամենախորը անկյուններում:

Ակտիվորեն շահագործվող զրոյական օրերի այս արագ կրակի ավելացումը խոշոր վաճառողների կողմից՝ Microsoft, Apple, Splunk, MikroTik, Linux, JFrog, պահանջում է անհապաղ, կատաղի ուշադրություն: Սա ընդհանուր նախազգուշացում չէ. դա ազդանշան է, որն անմիջապես հնչում է ՏՏ և անվտանգության յուրաքանչյուր թիմի վրա: CISA-ի KEV ցուցակը պարզապես առաջարկություն չէ դաշնային գործակալությունների համար. դա կարևոր նախազգուշացում է բոլոր կազմակերպությունների համար: Անտեսեք այն ձեր վտանգի տակ:

«AI անվտանգության» պատրանքը և ուշադրությունը շեղելու արժեքը

Ահա անհարմար ճշմարտությունը. AI պլատֆորմների հիմնարար թերությունները և CISA KEV բարձը նույն խնդրի փոխկապակցված կողմերն են: Նրանք երկուսն էլ բղավում են ծրագրային ապահովման անվտանգության հիմնարար խափանման մասին, սակայն մեր արդյունաբերության հավաքական հայացքը վտանգավոր կերպով սխալ է դասավորված: Մենք այնքան գերված ենք «AI»-ի խոստումով և վտանգով, որ թույլ ենք տալիս փտել հիմնական թվային ենթակառուցվածքը:

«AI անվտանգությունը» դարձել է խոսակցական բառ, նոր սահման խորհրդատուների և արտադրանքի մենեջերների համար: Բայց ի՞նչ է դա, իրոք: Հաճախ դա պարզապես անվտանգություն է կիրառվում AI համակարգերի համար: Այո, AI-ն ներկայացնում է նոր հարձակման վեկտորներ և եզակի մարտահրավերներ, սակայն «AI անվտանգության» մի զգալի մասը պարզապես ամուր ինժեներական, անվտանգ կոդավորման պրակտիկա և ջանասիրաբար կարկատելն է. Նախկինում նշված VM-ի մեկուսացման խնդիրը կատարյալ օրինակ է՝ դասական խոցելիություն, որն ուժեղանում է AI պլատֆորմի բարդությամբ:

Մենք կառուցում ենք աներևակայելի բարդ AI համակարգեր՝ ավելի ու ավելի փխրուն և ակտիվորեն շահագործվող հիմքերի վրա: Դա նման է ինքնակառավարվող մեքենան մանրակրկիտ նախագծմանը, որն ունի առաջադեմ արհեստական ​​ինտելեկտի նավարկություն, մինչդեռ անիվները ընկնում են, իսկ շարժիչը ցրվում է: «AI անվտանգության» վրա կենտրոնացումը հաճախ շեղում է շեղումը՝ շեղելով ռեսուրսներն ու ուշադրությունը գոյություն ունեցող ենթակառուցվածքների ապահովման առօրյա, ոչ դյութիչ, բայց բացարձակապես կարևոր աշխատանքից:

Արդյո՞ք մենք այնքան զբաղված ենք հաջորդ մեծ բանը հետապնդելով, որ թույլ ենք տալիս, որ ներկայիս մեծ բաները այրվեն: KEV սպառնալիքների հսկայական ծավալն ու լայնությունը ցույց են տալիս համակարգային և հրատապ մարտահրավեր հիմնարար թվային ենթակառուցվածքին, որը տարբերվում է AI-ի վրա կենտրոնացած զրոյական օրվա քննարկումներից: Սա արհեստական ​​ինտելեկտի ապագայի մասին չէ. դա մեր թվային գոյության ներկա վիճակի մասին է:

Ինչ հիմա, CTOs?

Ինժեներական առաջատարների և CTO-ների համար հաղորդագրությունը կոշտ և անմիջական է.

1. Առաջնահերթություն տվեք KEV ցուցակին. Թողեք ամեն ինչ: Կարկատել այս խոցելիությունը: Մանդատիր։ Պարտադրել այն: Սա ընտրովի չէ:
2. Մի՛ ընկնեք «AI անվտանգության» հիացմունքի մեջ՝ հաշվի առնելով հիմունքները. Այո, հասկացեք AI-ի եզակի ռիսկերը, բայց հիշեք, որ ամուր ճարտարագիտությունը, անվտանգ զարգացման կյանքի ցիկլերը և ջանասիրաբար շտկելը ձեր լավագույն պաշտպանությունն են: Շքեղ արհեստական ​​ինտելեկտի մոդելը չի ​​փրկի ձեզ, եթե հարձակվողը պատկանում է ձեր հիմքում ընկած VM-ին կամ ձեր SharePoint սերվերին:
3. **Ներդրումներ կատարեք հիմնական անվտանգության մեջ. ** Սա ավելին է նշանակում, քան պարզապես այլ անվտանգության գործիք գնելը: Դա նշանակում է ներդրումներ կատարել մարդկանց, գործընթացների և մշակույթում, որը գնահատում է անվտանգությունը որպես հիմնական ինժեներական կարգապահություն, այլ ոչ թե հետևանք: Bug bounty ծրագրերը գերազանց են, բայց դրանք պետք է լինեն անվտանգության ցանց, այլ ոչ թե ձեր հիմնական անվտանգության ռազմավարությունը:

AI պլատֆորմի ենթակառուցվածքի հետ կապված միջադեպը ահազանգ է, բայց CISA KEV ցուցակը հրատապ ահազանգ է: Մենք պետք է դադարենք հիանալ արհեստական ​​ինտելեկտի անվտանգության ապահովման վերջին նախաձեռնություններով և սկսենք փակել մեր իրական պաշտպանական միջոցների անցքերը: AI-ի ապագան հուզիչ է, բայց մեր անվտանգության ներկա վիճակը սարսափելի է:

Աղբյուրներ

[1] AI անվտանգությունը խառնաշփոթ է, և այն պատրաստվում է վատթարանալ — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Հայտնի շահագործվող խոցելի կատալոգ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog