იმპერატორის ახალი AI უსაფრთხოების ტანსაცმელი: სანამ ჩვენ ვუყურებთ მუზას, ფონდი იშლება
მოდით ვიყოთ პირდაპირი: ტექნოლოგიურ ინდუსტრიას აქვს ახალი აკვიატება და მას "AI უსაფრთხოება" ჰქვია. ჩვენ ყველა მოსალოდნელია, რომ ფოკუსირება მოვახდინოთ სწრაფ ინექციაზე, მოდელის მოწამვლასა და დიდი ენობრივი მოდელებიდან მონაცემთა ექსფილტრაციაზე. იმავდროულად, რეალურ, ფიზიკურ, ციფრულ ინფრასტრუქტურას, რომელიც აერთიანებს ჩვენს საწარმოებს, აქტიურად იკიდებს ცეცხლს ნულოვანი დღეების დაუნდობელი ქარბორბალით. ბოლოდროინდელი ინციდენტი, რომელიც მოიცავს AI-ს ძირითად პლატფორმას, რომელიც ასახავს AI ინფრასტრუქტურის უსაფრთხოების უფრო ფართო გამოწვევებს, ხაზს უსვამს ამ საშიშ დიქოტომიას [1].
Meta, კომპანია, რომელიც ცნობილია თავისი „სწრაფად გადაადგილებით და დაარღვიე ნივთები“ ეთოსით, განიხილება მისი AI პლატფორმების უსაფრთხოების ხარვეზებზე. მაგალითად, შეცდომის სიკეთის პროგრამამ აღმოაჩინა მნიშვნელოვანი ხარვეზი, რომელიც ავლენს მომხმარებლის ვირტუალურ მანქანებს. ეს არ იყო მონაცემთა დახვეწილი გაჟონვა ან ჭკვიანური სწრაფი გვერდის ავლით, არამედ ფუნდამენტური, ინფრასტრუქტურის დონის შეცდომა, რომელმაც გამოავლინა მომხმარებლის VMs. ეს არ არის ეზოთერული ხელოვნური ინტელექტის სპეციფიკური დაუცველობა; ეს არის ძირითადი VM იზოლაცია, პრობლემა, რომელიც ჩვენ მეტწილად გვეგონა, რომ მოგვარებული იყო ათი წლის წინ. ეს წარმოადგენს კონფიდენციალურობისა და მონაცემთა მთლიანობის კრიტიკულ დარღვევას, რაც პირდაპირ გავლენას ახდენს მომხმარებლებზე და პოტენციურად საწარმო კლიენტებზე, რომლებიც იყენებენ AI ინფრასტრუქტურას.
ამ ტიპის ხარვეზი, მართალია, ჭეშმარიტად გავლენიანია, მაგრამ ნაკლებად ჰგავს ახალ გამოწვევას "AI უსაფრთხოების" და უფრო ჰგავს კლასიკურ ინფრასტრუქტურის უკმარისობას ხელოვნური ინტელექტის ქუდის ტარებაზე. ეს არის შეხსენება, რომ ყველაზე მოწინავე AI პლატფორმებიც კი აგებულია ჩვეულებრივი გამოთვლის, ქსელის და ვირტუალიზაციის ფენებზე. თუ ეს საძირკვლის ფენები ხვრელებისაა, არ აქვს მნიშვნელობა რამდენად დახვეწილია თქვენი AI მოდელი; მთელი სისტემა დაუცველი რჩება. ამ ისტორიის „AI“ ასპექტი თითქმის ყურადღების გაფანტვაა, არასწორი მიმართულება, რომელიც აშორებს ჩვენს მზერას გაპრიალებული იატაკის დაფების ქვეშ დამპალი ხისგან.
CISA-ს KEV Barrage: კრიტიკული მაჩვენებელი
მიუხედავად იმისა, რომ ჩვენ დაკავებულები ვართ მგრძნობიარე ჩეთბოტების ეთიკური შედეგებისა და ხელოვნური ინტელექტის უსაფრთხოების ნიუანსების განხილვით, CISA თავის ცნობილ ექსპლუატირებული დაუცველობის (KEV) კატალოგში ჩააგდებს აქტიურად ექსპლუატირებული დაუცველობის უპრეცედენტო რაოდენობას. ეს არ არის თეორიული სავარჯიშო. ეს არ არის „ერთდღიანი პაჩის“ სია. ეს არის გადაუდებელი სია "შენი სახლი იწვის ახლავე".
ბოლო კვირების განმავლობაში, CISA-მ დაამატა მრავალი ჩანაწერი, რითაც მოკლე პერიოდში აქტიური ექსპლუატირებული მოწყვლადობის ჯამური რაოდენობა განსაცვიფრებელ რაოდენობამდე მიიყვანა [2]. ეს არ არის მხოლოდ "უსაფრთხოება ცუდია"; ეს არის სისტემური, მზარდი კრიზისი, რომელიც გავლენას ახდენს ძალიან კრიტიკულ საწარმოს პროგრამულ უზრუნველყოფაზე, რომელიც მართავს ჩვენს სამყაროს.
განიხილეთ ბოლო დამატებები KEV კატალოგში:
- CVE-2023-46214: Splunk Enterprise-ის დისტანციური კოდის შესრულების დაუცველობა (CVSS 9.8) CISA პაჩის ბოლო ვადით, რაც შეუცვლელ სისტემებს ძალიან დაუცველს ხდის.
- CVE-2023-29357: Microsoft SharePoint Server-ის პრივილეგიის ესკალაციის დაუცველობა, რომელიც გავლენას ახდენს უამრავი კორპორატიული ინტრანეტის ხერხემალზე.
- CVE-2023-42824: Apple iOS/iPadOS ბირთვის დაუცველობა, რომელიც უკვე გამოყენებულია მიზანმიმართულ შეტევებში, რაც აჩვენებს, რომ კონტროლირებადი ეკოსისტემებიც კი არ არის შეუღწევადი.
- CVE-2023-30799: MikroTik RouterOS დისტანციური კოდის შესრულების ხარვეზი, რომელიც გავლენას ახდენს მარშრუტიზატორებზე, რომლებიც აკავშირებენ ყველაფერს და ხშირად არ რჩებიან ქსელის ღრმა კუთხეებში.
მსხვილ მომწოდებლებს შორის - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog, აქტიურად ექსპლუატირებული ნულოვანი დღეების ეს სწრაფი დამატება - მოითხოვს დაუყოვნებელ, საშინელ ყურადღებას. ეს არ არის ზოგადი გაფრთხილება; ეს არის სირენა, რომელიც პირდაპირ ურეკავს ყველა IT და უსაფრთხოების გუნდს. CISA-ს KEV სია არ არის მხოლოდ წინადადება ფედერალური სააგენტოებისთვის; ეს არის კრიტიკული გაფრთხილება ყველა ორგანიზაციისთვის. იგნორირება გაუკეთეთ თქვენს საფრთხის ქვეშ.
"AI უსაფრთხოების" ილუზია და ყურადღების გაფანტვის ღირებულება
აქ არის არასასიამოვნო სიმართლე: AI პლატფორმების ფუნდამენტური ხარვეზები და CISA KEV ბარაჟი იგივე პრობლემის ურთიერთდაკავშირებული ასპექტებია. ისინი ორივე ყვირიან პროგრამული უზრუნველყოფის უსაფრთხოების ფუნდამენტურ დარღვევაზე, მაგრამ ჩვენი ინდუსტრიის კოლექტიური მზერა სახიფათოდ არასწორია. ჩვენ იმდენად მოხიბლულნი ვართ "AI"-ს დაპირებითა და საფრთხით, რომ ვაძლევთ ნებადართული ციფრული ინფრასტრუქტურის გაფუჭებას.
"AI უსაფრთხოება" გახდა აბსოლუტური სიტყვა, ახალი საზღვარი კონსულტანტებისა და პროდუქტის მენეჯერებისთვის. მაგრამ რა არის სინამდვილეში? ხშირად, ეს მხოლოდ უსაფრთხოება გამოიყენება AI სისტემებზე. დიახ, AI შემოაქვს თავდასხმის ახალ ვექტორებს და უნიკალურ გამოწვევებს, მაგრამ "AI უსაფრთხოების" მნიშვნელოვანი ნაწილი არის უბრალოდ ძლიერი ინჟინერია, უსაფრთხო კოდირების პრაქტიკა და გულმოდგინე შესწორება - იგივე რამ, რასაც ჩვენ ათწლეულების განმავლობაში ვერ ვახერხებდით. ადრე ნახსენები VM იზოლაციის საკითხი შესანიშნავი მაგალითია: კლასიკური დაუცველობა, რომელიც გაძლიერებულია AI პლატფორმის სირთულით.
ჩვენ ვაშენებთ წარმოუდგენლად რთულ AI სისტემებს სულ უფრო მყიფე და აქტიურად ექსპლუატაციის საფუძვლებზე. ეს ჰგავს თვითმართვადი მანქანის ზედმიწევნით დიზაინს გაფართოებული AI ნავიგაციით, როცა ბორბლები ცვივა და ძრავა ცურავს. „AI უსაფრთხოებაზე“ ფოკუსირება ხშირად იწვევს ყურადღების გაფანტვას, რესურსებისა და ყურადღების გადატანას ამქვეყნიური, არაგლამურული, მაგრამ აბსოლუტურად კრიტიკული სამუშაოდან არსებული ინფრასტრუქტურის დასაცავად.
ნუთუ იმდენად დაკავებული ვართ შემდეგი დიდი საქმის დევნით, რომ ახლანდელ დიდ საქმეებს დავწვათ? KEV საფრთხეების დიდი მოცულობა და სიგანე მიუთითებს სისტემურ და გადაუდებელ გამოწვევაზე ფუნდამენტური ციფრული ინფრასტრუქტურისთვის, რომელიც განსხვავდება წინა AI-ზე ორიენტირებული ნულოვანი დღის დისკუსიებისგან. ეს არ ეხება AI-ს მომავალს; საუბარია ჩვენი ციფრული არსებობის ამჟამინდელ მდგომარეობაზე.
რა ახლა, CTOs?
ინჟინერიის ლიდერებისთვის და CTO-ებისთვის, შეტყობინება მკაფიო და მყისიერია:
- ** KEV სიის პრიორიტეტი: ** ჩამოაგდეთ ყველაფერი. შეასწორეთ ეს დაუცველობა. მანდატი. აღასრულე იგი. ეს არ არის არჩევითი.
- არ ჩაერთოთ "AI უსაფრთხოების" აჟიოტაჟში საფუძვლების ხარჯზე: დიახ, გესმით ხელოვნური ინტელექტის უნიკალური რისკები, მაგრამ გახსოვდეთ, რომ ძლიერი ინჟინერია, უსაფრთხო განვითარების სასიცოცხლო ციკლები და გულმოდგინე შესწორება მაინც თქვენი საუკეთესო დაცვაა. ხელოვნური ხელოვნური ინტელექტის გამორჩეული მოდელი არ გიშველის, თუ თავდამსხმელი ფლობს თქვენს ძირითად VM-ს ან თქვენს SharePoint სერვერს.
- ** ინვესტიცია ფუნდამენტურ უსაფრთხოებაში: ** ეს ნიშნავს უფრო მეტს, ვიდრე უბრალოდ სხვა უსაფრთხოების ინსტრუმენტის შეძენას. ეს ნიშნავს ინვესტირებას ადამიანებში, პროცესებში და კულტურაში, რომელიც აფასებს უსაფრთხოებას, როგორც ძირითად საინჟინრო დისციპლინას და არა შემდგომ ფიქრს. Bug Bounty პროგრამები შესანიშნავია, მაგრამ ისინი უნდა იყოს უსაფრთხოების ბადე და არა თქვენი ძირითადი უსაფრთხოების სტრატეგია.
ინციდენტი, რომელიც ეხება AI პლატფორმის ინფრასტრუქტურას, არის გამოღვიძების ზარი, მაგრამ CISA KEV სია არის გადაუდებელი განგაში. ჩვენ უნდა შევწყვიტოთ აღფრთოვანება ხელოვნური ინტელექტის უსაფრთხოების უახლესი ინიციატივებით და დავიწყოთ ხვრელების გასწორება ჩვენს რეალურ თავდაცვაში. AI-ის მომავალი საინტერესოა, მაგრამ ჩვენი უსაფრთხოების ამჟამინდელი მდგომარეობა საშინელია.
წყაროები
[1] ხელოვნური ინტელექტის უსაფრთხოება არეულობაა და ის გაუარესდება — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] ცნობილი ექსპლუატირებული დაუცველობის კატალოგი — https://www.cisa.gov/known-exploited-vulnerabilities-catalog