ხელოვნური ინტელექტის შენელება ყურადღების გაფანტვაა. შენს სახლს ცეცხლი ეკიდა.
მოდით ვიყოთ პირდაპირ: ტექნოლოგიური ინდუსტრია საბოლოოდ ატარებს მომენტს „იესოსთან მისვლა“ ხელოვნური ინტელექტის გამოყენებით, მაგრამ ის ნაკლებად ნამდვილ მონანიებას ჰგავს და უფრო მეტად სტრატეგიულ საყრდენს ჰგავს. მოულოდნელად, ამ საშინელი ხელოვნური ინტელექტის რბოლის არქიტექტორები - გამოჩენილი მკვლევარები და ფინანსისტები, რომლებიც აფინანსებდნენ მათ კოფეინით გაჯერებულ სპრინტებს - ითხოვენ შენელებისკენ [1]. ისინი საუბრობენ "შიდა მმართველობაზე", "ეთიკურ ჩარჩოებზე" და "უფრო მიზანმიმართულ" ტემპზე. და ბაზარი, ყოველთვის მგრძნობიარე ბარომეტრი, უკვე გამოეხმაურა, შეშფოთება AI ინვესტიციების მდგრადობასთან დაკავშირებით, რაც იწვევს ჩიპების მარაგებში ცვალებადობას [2].
ეს არ არის გარე რეგულაცია; ეს არის შიდა "შეცდომის ხაზი", რომელიც წარმოიქმნება AI ეკოსისტემიდან. და სანამ C-suite კამათობს მათი მომავალი შემოქმედების ფილოსოფიურ შედეგებზე, აწმყო აქტიურად იწვის.
მოსახერხებელი პაუზა
განიხილეთ დრო. წლების განმავლობაში მანტრა იყო "სწრაფად გადაადგილება და ნივთების გატეხვა", ან ახლახანს "სწრაფად გადაადგილება და ააშენე AGI". ახლა, უკვე განლაგებული მძლავრი მოდელებით, კონკურენტული ლანდშაფტით დიდწილად განსაზღვრული, და რეალური, მნიშვნელოვანი რეგულირების სპექტრით, სიფრთხილის მოწოდებები ცოტათი ჟღერს. არის ეს ღრმა რისკების ნამდვილი გაღვიძება, თუ გათვლილი მანევრი ძალაუფლების კონსოლიდაციისთვის, კონკურენტების შენელებისა და საზოგადოების აღქმის სამართავად, სანამ ჩანგლები გამოვა?
ადვილია სიფრთხილის ქადაგება, როცა უკვე ხარ მოქცეული გამოთვლის, ნიჭის და ძირითადი მოდელების ბაზარი. ინდუსტრიის უეცარი ფოკუსირება „პროდუქტის საგზაო რუქების ხელახალი შეფასებაზე, რისკების შეფასებასა და სტრატეგიულ დაგეგმვაზე“ კეთილშობილურად ჟღერს, მაგრამ ის ასევე ჟღერს რესურსების ხელახალი გასწორების მოსახერხებელ გზად. ამან შეიძლება პოტენციურად შეანელოს ღია კოდის ალტერნატივები ან უფრო მცირე მოთამაშეები, რომლებიც შესაძლოა გამოწვევას დაუპირისპირდნენ დამკვიდრებულ გიგანტებს არსებით რესურსებზე წვდომის კონტროლით ან მარეგულირებელ ჩარჩოებზე ზემოქმედებით. „ეთიკური ჩარჩო“ უცებ უმთავრესია, არა მაშინ, როცა მოდელები სწავლობდნენ გაფცქვნილ მონაცემებზე, არამედ ახლა, როცა ისინი საკმარისად ძლიერები არიან საზოგადოების ჭეშმარიტად შესაცვლელად.
აკადემიურ და მეცნიერულ თემებში გამოთქმული შეშფოთება, გაფრთხილება, რომ AI „გადაწყვეტილებმა“ ღია პრობლემებისთვის შეიძლება საფრთხე შეუქმნას მათი სფეროების მთლიანობას [3], არის ამ შინაგანი შეშფოთების სიღრმის აშკარა მაჩვენებელი. მაგრამ არ შევცდეთ ეს ალტრუიზმში. ეს არ ეხება ხელოვნური ინტელექტის ზემოქმედებას სამუშაო ადგილებზე ან ინფრასტრუქტურაზე; საუბარია კონტროლზე – ვინ ფლობს მას და რა ტემპით. დებატები ნაკლებად არის "ავაშენოთ?" და მეტი "ვინ გადაწყვეტს, რამდენად სწრაფად ავაშენებთ მას და ვინ იღებს მოგებას?"
სანამ ისინი კამათობენ მომავალზე, თქვენი აწმყო კომპრომეტირებულია
ახლა მოდით გადავიტანოთ აბსტრაქტული, მომავლის თვალსაზრისი ხელოვნური ინტელექტის შიდა განხეთქილების შესახებ უშუალო, ხელშესახები კრიზისისკენ, რომელიც ვითარდება ჩვენს ქსელებში ახლა. სანამ ხელოვნური ინტელექტის ტიტანები ფიქრობენ თავიანთი მანქანების სულზე, თქვენი ოპერაციული გუნდები ცდილობენ შეაკავონ კიბერუსაფრთხოების სრული კატასტროფა.
ჩვენ არ ვსაუბრობთ თეორიულ საფრთხეებზე ან ზოგად ტენდენციებზე. ჩვენ ვსაუბრობთ აქტიურ ექსპლუატაციაზე ნულოვანი დღის დაუცველობაზე საფუძვლიანი საწარმოს პროგრამულ უზრუნველყოფაში, რომელიც ურტყამს კრიტიკულ ინფრასტრუქტურას ზარბაზნის ძალით.
- Ivanti Connect Secure და Policy Secure (CVE-2023-46805 & CVE-2024-21887): ეს არ არის უბრალოდ შეცდომა; ეს უფსკრული ჭრილობაა. ეს დაუცველობა Ivanti-ს VPN-ში და ქსელში წვდომის გადაწყვეტილებებში აქტიურად იქნა გამოყენებული, რაც საშუალებას აძლევს თავდამსხმელებს აუთენტიფიკაციის გვერდის ავლით და შეასრულონ დისტანციური ბრძანებები. CISA-მ გამოსცა მრავალი გაფრთხილება, რომელიც ხაზს უსვამს კრიტიკულ რისკს ორგანიზაციებისთვის, რომლებიც ეყრდნობიან ამ სისტემებს უსაფრთხო დისტანციური წვდომისთვის [4]. თქვენი ძირითადი ქსელის დაცვა, ის, რასაც ეყრდნობით ცუდი ბიჭების კარიბჭესთან შესაჩერებლად, აქტიურად გამოიყენება თავდამსხმელებისთვის ღრმა წვდომის მინიჭების მიზნით უთვალავ საწარმოს ქსელში.
- Cisco IOS XE Web UI (CVE-2023-20198): მაქსიმალური სიმძიმე. აქტიურად გამოიყენეს. ეს დაუცველობა საშუალებას აძლევს არაავთენტიფიცირებულ თავდამსხმელებს შექმნან პრივილეგირებული ანგარიშები და მიიღონ სრული კონტროლი დაზარალებულ Cisco IOS XE მოწყობილობებზე. თუ თავდამსხმელი ფლობს თქვენი ქსელის ინფრასტრუქტურის მართვის თვითმფრინავს, ისინი ფლობენ თქვენს მთელ ქსელს. თამაში დასრულდა [5].
CISA არ გასცემს "გაფრთხილებებს" გასართობად; ისინი ყვირიან "ცეცხლს" ხალხმრავალ თეატრში. ეს არ არის მხოლოდ თეორიული საფრთხეები; ისინი აქტიურად გამოიყენება გლობალური საწარმოების ძირითადი თავდაცვითი და მართვის სისტემების კომპრომისისთვის.
რეალური ხარვეზის ხაზი
ირონია ისეთი სქელია, რომ შეგიძლია დაჭრა მოსაწყენი დანით. ერთის მხრივ, ჩვენ გვყავს ხელოვნური ინტელექტის ელიტა, რომელიც მსჯელობს მომავლის ეთიკურ შედეგებზე, რომელსაც ისინი ჯერ კიდევ აშენებენ და მოუწოდებს შენელებას წლების განმავლობაში შეუმოწმებელი აჩქარების შემდეგ. მეორეს მხრივ, ჩვენ გვაქვს უშუალო, ეგზისტენციალური საფრთხე იმისა, რომ ჩვენი მიმდინარე ფუნდამენტური ტექნოლოგია აქტიურად იშლება დაუსაბუთებელი, დაუზუსტებელი დაუცველობის სიმძიმის ქვეშ.
ნამდვილი "შეცდომის ხაზი" არ არის მხოლოდ AI საზოგადოებაში; ეს არის ინოვაციების სპილოს ძვლის კოშკსა და ოპერატიული რეალობის თხრილებს შორის. ეს არის აბსტრაქტულ, მომავალზე ორიენტირებულ დისკუსიებს ხელოვნური ინტელექტის „თვითრეგულირების“ და ფაქტობრივი უსაფრთხოებისა და სტაბილურობის დაუყოვნებელ, კონკრეტულ საჭიროებას შორის იმ სისტემებში, რომლებსაც დღეს ვეყრდნობით.
როგორც CTO-ები და ინჟინერია ხელმძღვანელობენ, ჩვენ არ შეგვიძლია თავი დავანებოთ ხელოვნური ინტელექტის შენელების ფილოსოფიურ დებატებს. მიუხედავად იმისა, რომ ეს დისკუსიები მნიშვნელოვანია გრძელვადიან პერსპექტივაში, ისინი ფუფუნებაა, როდესაც თქვენს სახლს აქტიურად ცეცხლი ეკიდება. „პროდუქტის საგზაო რუქების ხელახალი შეფასება“ უნდა დაიწყოს ჩვენი არსებული ინფრასტრუქტურის დანგრეული საფუძვლების გამყარებით. „რისკების შეფასებამ“ უნდა მიენიჭოს პრიორიტეტი დაუყოვნებელი, აქტიურად ექსპლუატირებული საფრთხეები, რომლებიც საფრთხეს უქმნის ოპერაციულ უწყვეტობას და მონაცემთა მთლიანობას დღეს.
ინდუსტრიის პრიორიტეტები გადახრილია. ჩვენ ვაშენებთ უფრო სწრაფ, მბზინავ ნივთებს საძირკველზე, რომელიც აქტიურად ლპება. ხელოვნური ინტელექტის შენელების მოწოდება შესაძლოა აუცილებელი საუბარი იყოს, მაგრამ ჩვენთვის, ვინც ადგილზე ვართ, და საქმე გვაქვს Ivanti-სა და Cisco-ს ნულოვან დღეებთან, ისეთი შეგრძნებაა, როგორც ფარდების ფერის შესახებ კამათი, სანამ სახურავი იშლება. ფოკუსირება აწმყოზე. მომავალს შეუძლია დაიცადოს, სანამ ჩვენ აქტიურად არ სისხლდენა.
წყაროები
[1] ღია წერილი გიგანტური AI ექსპერიმენტების შესაჩერებლად — https://futureoflife.org/open-letter-pause-ai-development/ [2] ხელოვნური ინტელექტის აქციები იზრდება, მაგრამ ზოგიერთი ინვესტორი ნერვიულობს — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] ხელოვნური ინტელექტის რევოლუცია მეცნიერებაში: დაპირებები და საფრთხეები — https://www.nature.com/articles/d41586-023-03223-y [4] საფრთხის მოქმედი პირები, რომლებიც იყენებენ Ivanti Connect Secure-ს და Ivanti Policy-ს უსაფრთხო დაუცველობას — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] საფრთხის მოქმედი პირები, რომლებიც იყენებენ Cisco IOS XE პროგრამული უზრუნველყოფის ვებ UI დაუცველობას — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a