იმპერატორის ახალი AI და Rotting Foundation მის ქვეშ
გახსოვთ, როდესაც AI აპირებდა ყველას გადარჩენას? თურმე, მხსნელები ახლა ტაიმაუტს ითხოვენ. სულ ახლახანს, ჩვენი ხელოვნური ინტელექტის საფუძველზე მომავლის თვით არქიტექტორები - "სასაზღვრო" მკვლევარები და ფინანსური მძიმეწონიანები - ერთობლივად დაარტყეს მუხრუჭებს და მოითხოვდნენ განვითარების შენელებას "უსაფრთხოების მზარდი შეშფოთების" გამო [1]. ბაზარი, ყოველთვის ბლაგვი ინსტრუმენტი, უპასუხა ფილტვების ხველებით: ჩიპების აქციები და AI ძირითადი მოთამაშეები დაეცა [2]. პეკინმა, სავარაუდოდ, დასცინოდა გაფრთხილებებს, ხოლო სეულის ჩიპების გიგანტებმა უარი თქვეს წინასწარ გადახდაზე მომავალი ხელოვნური ინტელექტის განვითარებისთვის [2].
ეს არ არის მხოლოდ ფილოსოფიური დებატები სპილოს ძვლის კოშკისთვის. ეს არის სეისმური ცვლილება, უგუნურობის საჯარო აღიარება ინდუსტრიის ელიტის შიგნით. და გულწრფელად რომ ვთქვათ, ეს ცოტა მეტისმეტად მოსახერხებელია.
AI პაუზა: ალტრუიზმი თუ ძალაუფლების თამაში?
მოდი ვიყოთ ნათელი: როდესაც ადამიანები, რომლებმაც რაკეტა ააშენეს, მოულოდნელად ხვდებიან, რომ დაავიწყდათ პარაშუტები *გაშვების შემდეგ, ეს არ არის ღრმა ეთიკური გამოღვიძების მომენტი. ეს არის დაგვიანებული, თვითმმართველობის ემსახურება scramble. ეს არ არიან თვალებგაფართოებული იდეალისტები; ეს ის ტიტანები არიან, რომლებიც პედალს ლითონს უბიძგებენ, ედევნებიან ექსპონენციალურ ზრდას და ბაზრის დომინირებას. ახლა, როდესაც "გაუთვალისწინებელი შედეგების" აჩრდილი ჩნდება დიდი - და შესაძლოა, უფრო ცინიკურად, იმის გაცნობიერება, რომ არსებული ტემპი არამდგრადია ან რომ მათ უნდა გააძლიერონ თავიანთი ლიდერობა - ისინი კოლექტიური სუნთქვისკენ მოუწოდებენ.
ბაზრის რეაქცია მეტყველებს. ჩიპების აქციების შემცირება არ არის მხოლოდ შიში; საუბარია პოტენციური შენელების უშუალო ფინანსურ შედეგებზე. პეკინის უკანდახევა? მკაფიო სიგნალი იმისა, რომ ეროვნული სტრატეგიული უპირატესობა აჭარბებს უსაფრთხოების აბსტრაქტულ შეშფოთებას. და სეულის ჩიპების მწარმოებლები უარს ამბობენ წინასწარ გადახდაზე? ეს არის კაპიტალის ხმა, რომელიც ეჭვქვეშ აყენებს მოულოდნელად გაურკვეველი მომავლის გრძელვადიან სტაბილურობასა და მომგებიანობას.
ჩვენთვის, CTO და ინჟინერიის ლიდერები, ეს პირდაპირ ითარგმნება ქაოტურ ლანდშაფტში. ველით მარეგულირებელი ინტერვენციების დაჩქარებას, რაც აიძულებს ხელოვნური ინტელექტის პროექტების ხელახლა პრიორიტეტიზაციას. ხელოვნური ინტელექტის "სწრაფად გადაადგილება და ნივთების დაშლა" ეთოსი ოფიციალურად მკვდარია, შეცვალა "ეთიკური AI განვითარების" ფრეიმორების გამაოგნებელი ძიებით, რომელიც პირველივე დღიდან უნდა ყოფილიყო გამომცხვარი. ინვესტიციები უფრო ფრთხილი გახდება, სტრატეგიები გადაინაცვლებს და დიახ, სამუშაო ბაზრები იგრძნობს სიცივეს, რადგან ოქროს ციებ-ცხელება ადგილს უთმობს უფრო გაზომილ და, იმედია, უფრო პასუხისმგებლიან მიდგომას. მაგრამ არ შევცდეთ ეს წმინდა ალტრუიზმში. ეს „პაუზა“ ისევე ეხება კონტროლს და ბაზრის ხელახალი კალიბრაციას, ისევე როგორც ნამდვილ უსაფრთხოებას.
სანამ ტიტანების დებატები, ფონდი იშლება
ახლა, სანამ ხელოვნური ინტელექტის ელიტას აქვს ეგზისტენციალური კრიზისი, მსჯელობს მომავალი სუპერინტელექტის ეთიკის შესახებ, მოდით ვისაუბროთ რეალურ, ახლანდელ და სრულიად კატასტროფულ უსაფრთხოების კრიზისზე, რომელიც ვითარდება ახლა.
ამ კვირაში CISA-მ დაამატა მრავალი ახალი CVE თავის ცნობილ ექსპლუატირებული დაუცველობის კატალოგს [3]. ჩვენ ვსაუბრობთ დადასტურებულ root RCE-ზე Cisco Secure Email Gateway-ში (CVE-2023-20269) [4], CVSS 10.0 ბილიკის გავლაზე GitLab-ში (CVE-2023-2825) [3] და ახლახან შესწორებულ Chrome-ის ნულოვანი დღის [3-4]862 მოთხოვნილების მოთხოვნაზე.
მაგრამ ნამდვილი დარტყმა, რომელიც უსაფრთხოების ყველა პროფესიონალს სიცარიელეში უნდა ყვიროდა, არის ფუნდამენტური ხარვეზების მუდმივი საფრთხე. განვიხილოთ CVE-2021-1647, ადგილობრივი პრივილეგიების ესკალაციის დაუცველობა Microsoft Defender's Malware Protection Engine [5]. ეს არ იყო რაღაც ბუნდოვანი ხარვეზი; მას ჰქონდა საჯარო Proof-of-Concept და აქტიურად გამოიყენებოდა ველურ ბუნებაში, რაც ხაზს უსვამს იმას, თუ როგორ შეიძლება იყოს ჩვენი ციფრული თავდაცვის კრიტიკული კომპონენტები კომპრომეტირებული და დაუცველი გარკვეული პერიოდის განმავლობაში.
დაე, ჩაძიროს. სანამ ჩვენ ვმსჯელობთ ხელოვნური ინტელექტის გრძნობის ეთიკის შესახებ, პროგრამული უზრუნველყოფა, რომელიც შექმნილია ჩვენი ბოლო წერტილების დასაცავად, ჩვენი ციფრული თავდაცვის ფუნდამენტური ფენით, ნაჩვენებია, რომ შეიცავს საჯაროდ ცნობილ, აქტიურად ექსპლუატაციურ ხარვეზებს, რაც თავდამსხმელს საშუალებას აძლევს გაზარდოს პრივილეგიები. ეს ჰგავს კამათს warp drive-ის ფილოსოფიურ შედეგებზე, როცა თქვენი მანქანის მუხრუჭები ფუჭდება და ძრავა ცეცხლშია.
ანგარიში: ერთი და იგივე მონეტის ორი მხარე
ეს არ არის ცალკეული ისტორიები. ისინი ერთი და იგივე ღრმად ნაკლოვანებული მონეტის ორი მხარეა: ტექნიკური ინდუსტრია, რომელიც მუდმივად ანიჭებს უპირატესობას სიჩქარეს, სიახლეს და აღქმულ ინოვაციას, ვიდრე ფუნდამენტური უსაფრთხოება, სტაბილურობა და პასუხისმგებლობა.
ხელოვნური ინტელექტის ლიდერების მოულოდნელი მოწოდება შენელებისკენ არის რეაქტიული, თვითმომსახურების მცდელობა კურსის გამოსწორების * მას შემდეგ, რაც მათ უკვე გაავრცელეს ძლიერი, ცუდად გაგებული სისტემები ველურ სამყაროში. ეს იმის აღიარებაა, რომ მანტრა „იჩქარე და დაარღვიე“ მანტრა, როდესაც გამოიყენება პოტენციურად მსოფლიოს შეცვლის ტექნოლოგიაზე, არ არის მხოლოდ უპასუხისმგებლო, არამედ საშიში.
ნულოვანი დღის შეტევა, განსაკუთრებით კრიტიკული დამცველის დაუცველობა, არის პირდაპირი, მტკივნეული შედეგი იმავე აზროვნების, რომელიც გამოიყენება ფუნდამენტურ IT-ზე. ეს არის კულტურის შედეგი, რომელიც ხშირად განიხილავს უსაფრთხოებას, როგორც შემდგომ აზრს, შესაბამისობის ველს ან ხარჯების ცენტრს, ვიდრე თითოეული პროდუქტისა და სისტემის განუყოფელ, განუყოფელ კომპონენტად. ჩვენ იმდენად დაკავებულები ვართ შემდეგი მბზინავი ობიექტის - შემდეგი LLM-ის, შემდეგი AI აგენტის დევნით, რომ ფეხის ქვეშ მყოფი მიწა გაფუჭდება.
CTO-სთვის და ინჟინერიის ლიდერებისთვის, შეტყობინება მკვეთრი და მყისიერია. შეაჩერე ყველა AI ტრენდის დევნა, რომელიც კვეთს თქვენს არხს. გააორმაგეთ საფუძვლები. მიეცით პრიორიტეტი შესწორება, განსაკუთრებით კრიტიკული, აქტიურად ექსპლუატირებული დაუცველობისთვის, როგორიცაა Cisco-ში, GitLab-ში და მუდმივი საფრთხე, რომელიც ასახულია Defender-ის წარსული LPE-ებით. განახორციელეთ ძლიერი შემარბილებელი ღონისძიებები. მოითხოვეთ თქვენი მოვაჭრეებისგან პასუხისმგებლობა მათი უსაფრთხოების პოზიციისთვის და არა მხოლოდ მათი მახასიათებლების საგზაო რუკაზე.
ბაზრის ვარდნა და გადაუჭრელი ფუნდამენტური უსაფრთხოების საკითხები არ არის მხოლოდ ახალი ამბები. ისინი ანგარიშსწორებაა. ტექნოლოგიური სამყარო, რომელიც არის ძალიან სწრაფი, ზედმეტად დაუფიქრებელი და საბოლოოდ, ძალიან გამოვლენილი. დროა გავიზარდოთ, დავიცვათ ჩვენი საფუძვლები და შემდეგ, მხოლოდ მაშინ, ფრთხილად განვიხილოთ შემდეგი საზღვარი.
წყაროები
[1] სიცოცხლის მომავლის ინსტიტუტი — შეაჩერე გიგანტური AI ექსპერიმენტები: ღია წერილი — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — ხელოვნური ინტელექტის ექსპერტები ითხოვენ შეჩერებას მოწინავე AI სისტემების განვითარებაში — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — ცნობილი ექსპლუატირებული დაუცველობის კატალოგი — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco უსაფრთხოების კონსულტაცია — Cisco Secure Email და Web Manager, Cisco Email Security Appliance და Cisco Web Security Appliance-ის დაუცველობა — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-Xq5 [5] Microsoft Security Response Center — Microsoft Defender ლოკალური პრივილეგიის ესკალაციის დაუცველობა — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647