Usporavanje umjetne inteligencije odvlači pažnju. Vaša kuća gori.
Budimo otvoreni: tehnološka industrija konačno doživljava svoj trenutak "dođi Isusu" s umjetnom inteligencijom, ali to manje izgleda kao istinsko pokajanje, a više kao strateški zaokret. Odjednom, sami arhitekti ove vratolomne utrke umjetne inteligencije – istaknuti istraživači i financijeri koji su financirali njihove sprinteve potaknute kofeinom – pozivaju na usporavanje [1]. Oni govore o "unutarnjem upravljanju", "etičkim okvirima" i "promišljenijem" tempu. A tržište, uvijek osjetljivi barometar, već je reagiralo zabrinutošću oko održivosti ulaganja u umjetnu inteligenciju što uzrokuje volatilnost zaliha čipova [2].
Ovo nije vanjska regulacija; to je unutarnja "linija kvara" koja proizlazi iz samog ekosustava umjetne inteligencije. I dok C-suite raspravlja o filozofskim implikacijama svojih budućih kreacija, sadašnjost aktivno gori.
Zgodna pauza
Razmotrite vrijeme. Godinama je mantra bila "brzo se kreći i razbijaj stvari", ili u novije vrijeme "brzo se kreći i izgradi AGI". Sada, s moćnim modelima koji su već implementirani, s konkurentskim krajolikom koji je uvelike definiran i s spektrom stvarne, smislene regulacije koja se nazire, pozivi na oprez zvuče pomalo šuplje. Je li ovo istinsko osvješćivanje dubokih rizika ili proračunati manevar za konsolidaciju moći, usporavanje konkurenata i upravljanje javnom percepcijom prije nego što se pojave vile?
Lako je propovijedati oprez kada ste već osvojili tržište računala, talenta i temeljnih modela. Iznenadni fokus industrije na "ponovnu procjenu planova proizvoda, procjene rizika i strateško planiranje" zvuči plemenito, ali također zvuči kao prikladan način za ponovno usklađivanje resursa. To bi potencijalno moglo usporiti alternative otvorenog koda ili manje igrače koji bi mogli izazvati etablirane divove kontrolirajući pristup bitnim resursima ili utječući na regulatorne okvire. "Etički okvir" odjednom je najvažniji, ne dok su se modeli uvježbavali na prikupljenim podacima, nego sada kada su dovoljno moćni da istinski preoblikuju društvo.
Zabrinutost izražena unutar akademskih i znanstvenih zajednica, upozoravajući da AI "rješenja" za otvorene probleme mogu ugroziti integritet njihovih područja [3], jasan su pokazatelj dubine ove unutarnje zabrinutosti. Ali nemojmo to zamijeniti s altruizmom. Ovdje se ne radi o utjecaju umjetne inteligencije na radna mjesta ili infrastrukturu; radi se o kontroli – tko njome upravlja i kojim tempom. Rasprava je manje o tome "trebamo li ga graditi?" i više o tome "tko odlučuje koliko brzo ćemo to graditi i tko profitira?"
Dok oni raspravljaju o budućnosti, vaša sadašnjost je ugrožena
Sada se okrenimo od apstraktnih, budućih zabrinutosti unutarnjeg rascjepa umjetne inteligencije do trenutne, opipljive krize koja se odvija na našim mrežama upravo sada. Dok titani umjetne inteligencije razmišljaju o duši svojih strojeva, vaši operativni timovi bore se da obuzdaju potpunu kibersigurnosnu katastrofu.
Ne govorimo o teoretskim prijetnjama ili općim trendovima. Govorimo o aktivno iskorištenim ranjivostima nultog dana u temeljnom poslovnom softveru, koje pogađaju kritičnu infrastrukturu snagom malja.
- Ivanti Connect Secure i Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ovo nije samo greška; to je zjapeća rana. Ove ranjivosti u Ivantijevim VPN i rješenjima za pristup mreži aktivno su iskorištene, omogućujući napadačima da zaobiđu autentifikaciju i izvrše udaljene naredbe. CISA je izdao višestruka upozorenja, naglašavajući kritični rizik za organizacije koje se oslanjaju na te sustave za siguran udaljeni pristup [4]. Vaša primarna obrana mreže, jedina stvar na koju se oslanjate da zaustavite negativce na vratima, aktivno se iskorištava kako bi se napadačima omogućio dubinski pristup bezbrojnim poslovnim mrežama.
- Cisco IOS XE Web UI (CVE-2023-20198): Maksimalna ozbiljnost. Aktivno iskorištavan. Ova ranjivost omogućuje neautentificiranim napadačima stvaranje privilegiranih računa i postizanje potpune kontrole nad pogođenim Cisco IOS XE uređajima. Ako napadač posjeduje razinu upravljanja vašom mrežnom infrastrukturom, on posjeduje cijelu vašu mrežu. Igra je gotova [5].
CISA ne izdaje "upozorenja" iz zabave; oni viču "vatra" u prepunom kinu. Ovo nisu samo teoretske prijetnje; oni se aktivno koriste za kompromitiranje temeljnih obrambenih i upravljačkih sustava u globalnim poduzećima.
Prava linija rasjeda
Ironija je toliko gusta da biste je mogli rezati tupim nožem. S jedne strane, imamo AI elitu koja raspravlja o etičkim implikacijama budućnosti koju još uvijek grade, pozivajući na usporavanje nakon godina nekontroliranog ubrzanja. S druge strane, imamo neposrednu, egzistencijalnu prijetnju naše trenutne temeljne tehnologije koja se aktivno raspada pod teretom neriješenih, nezakrpanih ranjivosti.
Prava "linija greške" nije samo unutar AI zajednice; to je između kule od bjelokosti inovacije i rovova operativne stvarnosti. Nalazi se između apstraktnih, na budućnost usmjerenih rasprava o "samoregulaciji" za AI i neposredne, konkretne potrebe za stvarnom sigurnošću i stabilnošću u sustavima na koje se danas oslanjamo.
Kao tehnički direktori i voditelji inženjeringa, ne možemo si dopustiti da nas ometaju filozofske rasprave o usporavanju AI. Iako su te rasprave dugoročno važne, one su luksuz kada vaša kuća aktivno gori. "Ponovna procjena planova proizvoda" trebala bi započeti podupiranjem raspadajućih temelja naše postojeće infrastrukture. "Procjene rizika" trebaju dati prioritet neposrednim, aktivno iskorištavanim prijetnjama koje danas ugrožavaju kontinuitet rada i integritet podataka.
Prioriteti industrije su iskrivljeni. Gradimo brže, sjajnije stvari na temeljima koji aktivno trunu. Poziv na usporavanje umjetne inteligencije mogao bi biti neophodan razgovor, ali za nas na terenu, koji imamo posla s Ivantijem i Ciscom zero-days, čini se kao da raspravljamo o boji zavjesa dok se krov urušava. Usredotočite se na sadašnjost. Budućnost može pričekati dok ne prestanemo aktivno krvariti.
Izvori
[1] Otvoreno pismo za pauziranje ogromnih eksperimenata umjetne inteligencije — https://futureoflife.org/open-letter-pause-ai-development/ [2] Dionice umjetne inteligencije rastu, ali neki investitori postaju nervozni — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI revolucija u znanosti: obećanja i opasnosti — https://www.nature.com/articles/d41586-023-03223-y [4] Akteri prijetnji iskorištavaju ranjivosti Ivanti Connect Secure i Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Akteri prijetnji iskorištavaju ranjivost web sučelja softvera Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a