AI palēnināšanās novērš uzmanību. Jūsu māja deg.
Būsim atklāti: tehnoloģiju nozare beidzot piedzīvo savu “atnāc pie Jēzus” brīdi ar mākslīgo intelektu, taču tas šķiet mazāk kā patiesa nožēla, bet drīzāk kā stratēģisks pagrieziens. Pēkšņi paši šīs satriecošās mākslīgā intelekta sacīkstes arhitekti — ievērojamie pētnieki un finansisti, kas finansēja viņu ar kofeīnu piepildītos sprintus — aicina piebremzēt [1]. Viņi runā par "iekšējo pārvaldību", "ētikas ietvariem" un "apzinātāku" tempu. Un tirgus, kas jebkad ir bijis jutīgais barometrs, jau ir reaģējis ar bažām par AI investīciju ilgtspējību, kas izraisa mikroshēmu krājumu nepastāvību [2].
Tas nav ārējs regulējums; tā ir iekšēja "kļūdas līnija", kas rodas no pašas AI ekosistēmas. Un, kamēr C-suite diskutē par savu nākotnes darbu filozofiskajām sekām, tagadne aktīvi deg.
Ērta pauze
Apsveriet laiku. Gadiem ilgi mantra ir bijusi "pārvietojieties ātri un pārtrauciet lietas" vai nesen - "pārvietojieties ātri un izveidojiet AGI". Tagad, kad jau ir ieviesti jaudīgi modeļi, lielā mērā definēta konkurences ainava un aktuāla, jēgpilna regulējuma rēgs, aicinājumi ievērot piesardzību izskan nedaudz tukši. Vai tā ir patiesa pamošanās uz dziļajiem riskiem vai apzināts manevrs, lai nostiprinātu spēku, palēninātu konkurentus un pārvaldītu sabiedrības uztveri, pirms parādās dakšas?
Ir viegli sludināt piesardzību, ja jau esat ieņēmis aprēķinu, talantu un pamata modeļu tirgu. Nozares pēkšņā koncentrēšanās uz "produktu ceļvežu atkārtotu novērtēšanu, riska novērtēšanu un stratēģisko plānošanu" izklausās cēli, taču tas izklausās arī kā ērts veids, kā pārkārtot resursus. Tas potenciāli varētu palēnināt atvērtā pirmkoda alternatīvas vai mazākus dalībniekus, kas varētu izaicināt jau izveidotos milžus, kontrolējot piekļuvi būtiskiem resursiem vai ietekmējot normatīvos regulējumus. "Ētiskais ietvars" pēkšņi ir vissvarīgākais, nevis tad, kad modeļi tika apmācīti, izmantojot iegūtos datus, bet tagad, kad tie ir pietiekami spēcīgi, lai patiesi pārveidotu sabiedrību.
Akadēmiskajās un zinātniskajās aprindās paustās bažas, brīdinot, ka mākslīgā intelekta "risinājumi" atklātām problēmām var apdraudēt to jomu integritāti [3], ir spilgts rādītājs, kas norāda uz šo iekšējo bažu dziļumu. Bet nesajauksim to ar altruismu. Šeit nav runa par AI ietekmi uz darbavietām vai infrastruktūru; runa ir par kontroli — kurš to pārvalda un kādā tempā. Debates ir mazāk par "vai mums vajadzētu to veidot?" un vairāk par "kurš var izlemt, cik ātri mēs to izveidosim, un kurš gūst peļņu?"
Kamēr viņi debatē par nākotni, jūsu tagadne ir apdraudēta
Tagad pāriesim no abstraktajām, uz nākotni vērstajām bažām par mākslīgā intelekta iekšējo plaisu uz tūlītēju, taustāmu krīzi, kas izvēršas mūsu tīklos patlaban. Kamēr mākslīgā intelekta titāni apdomā savu iekārtu dvēseli, jūsu operatīvās komandas cīnās, lai ierobežotu pilnīgu kiberdrošības katastrofu.
Mēs nerunājam par teorētiskiem draudiem vai vispārējām tendencēm. Mēs runājam par aktīvi izmantotām nulles dienas ievainojamībām pamata uzņēmuma programmatūrā, kas ar vesera spēku skar kritisko infrastruktūru.
- Ivanti Connect Secure un Policy Secure (CVE-2023-46805 un CVE-2024-21887): Tā nav tikai kļūda; tā ir vaļīga brūce. Šīs Ivanti VPN un tīkla piekļuves risinājumu ievainojamības tika aktīvi izmantotas, ļaujot uzbrucējiem apiet autentifikāciju un izpildīt attālās komandas. CISA ir izteikusi vairākus brīdinājumus, uzsverot kritisko risku organizācijām, kuras paļaujas uz šīm sistēmām drošai attālai piekļuvei [4]. Jūsu primārā tīkla aizsardzība, viena lieta, uz kuru paļaujaties, lai apturētu ļaundarus pie vārtiem, tiek aktīvi izmantota, lai nodrošinātu uzbrucējiem dziļu piekļuvi neskaitāmiem uzņēmumu tīkliem.
- Cisco IOS XE tīmekļa saskarne (CVE-2023-20198): Maksimālais nopietnības līmenis. Aktīvi ekspluatēts. Šī ievainojamība ļauj neautentificētiem uzbrucējiem izveidot priviliģētus kontus un iegūt pilnīgu kontroli pār ietekmētajām Cisco IOS XE ierīcēm. Ja uzbrucējam pieder jūsu tīkla infrastruktūras pārvaldības plakne, viņam pieder viss jūsu tīkls. Spēle beigusies [5].
CISA neizdod "brīdinājumus" prieka pēc; viņi kliedz "ugunsgrēks" pārpildītā teātrī. Tie nav tikai teorētiski draudi; tie tiek aktīvi izmantoti, lai apdraudētu galvenās aizsardzības un vadības sistēmas globālos uzņēmumos.
Īstā vainas līnija
Ironija ir tik bieza, ka to varētu sagriezt ar blāvu nazi. No vienas puses, mākslīgā intelekta elite debatē par nākotnes ētiskajām sekām, ko viņi joprojām veido, aicinot pēc gadiem ilgas nekontrolētas paātrināšanas palēnināt. No otras puses, mums ir tūlītēji, eksistenciāli draudi, ka mūsu pašreizējā pamata tehnoloģija aktīvi sabrūk zem nenovērstu, neaizlāpītu ievainojamību smaguma.
Īstā "kļūdas līnija" ir ne tikai AI kopienā; tas atrodas starp inovāciju ziloņkaula torni un operatīvās realitātes ierakumiem. Tas ir starp abstraktām, uz nākotni vērstām diskusijām par mākslīgā intelekta “pašregulāciju” un tūlītēju, konkrētu vajadzību pēc faktiskās drošības un stabilitātes sistēmās, uz kurām šodien paļaujamies.
Tā kā CTO un inženieri vada, mēs nevaram atļauties novērsties no filozofiskajām debatēm par AI palēnināšanos. Lai gan šīs diskusijas ir svarīgas ilgtermiņā, tās ir greznība, kad jūsu māja aktīvi deg. "Produktu ceļvežu atkārtotai novērtēšanai" vajadzētu sākt ar mūsu esošās infrastruktūras brūkošo pamatu nostiprināšanu. "Riska novērtējumos" prioritāte jāpiešķir tūlītējiem, aktīvi izmantotiem apdraudējumiem, kas šobrīd apdraud darbības nepārtrauktību un datu integritāti.
Nozares prioritātes ir šķības. Mēs būvējam ātrākas, spīdīgākas lietas uz pamatiem, kas aktīvi pūst. Aicinājums palēnināt AI varētu būt nepieciešama saruna, taču tiem no mums, kas strādājam ar Ivanti un Cisco nulles dienām, šķiet, ka diskutējam par aizkaru krāsu, kamēr jumts iekrīt. Koncentrējieties uz tagadni. Nākotne var pagaidīt, līdz mēs aktīvi nesāksim asiņot.
Avoti
[1] Atklāta vēstule milzu AI eksperimentu pārtraukšanai — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI krājumi strauji pieaug, bet daži investori kļūst nervozi — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI revolūcija zinātnē: solījumi un briesmas — https://www.nature.com/articles/d41586-023-03223-y [4] Draudu dalībnieki, kas izmanto Ivanti Connect Secure un Ivanti Policy Secure ievainojamības — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Draudu dalībnieki, kas izmanto Cisco IOS XE programmatūras tīmekļa saskarnes ievainojamību — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a