AI usporavanje je smetnja. Vaša kuća je u plamenu.
Budimo iskreni: tehnološka industrija konačno ima svoj trenutak "dođi Isusu" s umjetnom inteligencijom, ali to manje liči na istinsko pokajanje, a više kao strateški zaokret. Iznenada, sami arhitekti ove vrtoglave AI trke – istaknuti istraživači i finansijeri koji su finansirali njihove sprinteve na bazi kofeina – pozivaju na usporavanje [1]. Oni govore o "unutrašnjem upravljanju", "etičkim okvirima" i "smišljenijem" tempu. A tržište, uvijek osjetljivi barometar, već je reagovalo, zabrinutošću oko održivosti ulaganja u umjetnu inteligenciju, što je uzrokovalo volatilnost zaliha čipova [2].
Ovo nije eksterna regulativa; to je unutrašnja "linija greške" koja izlazi iz samog AI ekosistema. I dok C-suita raspravlja o filozofskim implikacijama njihovih budućih kreacija, sadašnjost aktivno gori.
Zgodna pauza
Uzmite u obzir tajming. Godinama je mantra bila "kreći se brzo i razbijaj stvari", ili u novije vrijeme, "kreći se brzo i gradi AGI". Sada, sa snažnim modelima koji su već raspoređeni, sa konkurentskim pejzažom uvelike definisanim, i sa bauk stvarne, smislene regulacije koja se nazire, pozivi na oprez zvuče pomalo šuplji. Da li je ovo istinsko buđenje za duboke rizike, ili proračunati manevar za konsolidaciju moći, usporavanje konkurenata i upravljanje percepcijom javnosti prije nego što vile izađu?
Lako je propovijedati oprez kada ste već savladali tržište na računima, talentima i osnovnim modelima. Iznenadni fokus industrije na "ponovnu evaluaciju mapa puta proizvoda, procjene rizika i strateškog planiranja" zvuči plemenito, ali isto tako zvuči kao zgodan način za ponovno usklađivanje resursa. Ovo bi potencijalno moglo usporiti alternative otvorenog koda ili manje igrače koji bi mogli izazvati etablirane gigante kontroliranjem pristupa osnovnim resursima ili utjecajem na regulatorne okvire. "Etički okvir" je odjednom najvažniji, ne kada su modeli obučavani na skrapanim podacima, već sada kada su dovoljno moćni da istinski preoblikuju društvo.
Zabrinutost izražena u akademskim i naučnim zajednicama, uz upozorenje da bi AI "rješenja" za otvorene probleme mogla ugroziti integritet njihovih polja [3], oštar su pokazatelj dubine ove interne zabrinutosti. Ali nemojmo ovo zamijeniti za altruizam. Ovdje se ne radi o utjecaju umjetne inteligencije na radna mjesta ili infrastrukturu; radi se o kontroli – ko je koristi i kojim tempom. Debata je manje o tome "trebamo li je izgraditi?" i više o tome "ko odlučuje koliko brzo ćemo ga izgraditi i ko profitira?"
Dok raspravljaju o budućnosti, vaša sadašnjost je ugrožena
Sada, hajde da se okrenemo od apstraktnih zabrinutosti koje gledaju u budućnost o unutrašnjem rascjepu AI na neposrednu, opipljivu krizu koja se odvija na našim mrežama upravo sada. Dok AI titani razmišljaju o duši svojih mašina, vaši operativni timovi se bore da obuzdaju potpunu katastrofu sajber sigurnosti.
Ne govorimo o teoretskim prijetnjama ili općim trendovima. Govorimo o aktivno iskorišćenim ranjivostima nultog dana u osnovnom poslovnom softveru, udarajući kritičnu infrastrukturu snagom čekića.
- Ivanti Connect bezbedan i polisi siguran (CVE-2023-46805 & CVE-2024-21887): Ovo nije samo greška; to je zjapeća rana. Ove ranjivosti u Ivantijevim VPN i rešenjima za pristup mreži su aktivno iskorišćene, omogućavajući napadačima da zaobiđu autentifikaciju i izvrše daljinske komande. CISA je izdala više upozorenja, naglašavajući kritični rizik za organizacije koje se oslanjaju na ove sisteme za siguran daljinski pristup [4]. Vaša primarna mrežna odbrana, jedina stvar na koju se oslanjate da zaustavite loše momke na kapiji, aktivno se iskorištava kako bi se napadačima omogućio dubok pristup bezbrojnim mrežama preduzeća.
- Cisco IOS XE Web UI (CVE-2023-20198): Maksimalna ozbiljnost. Aktivno eksploatisano. Ova ranjivost omogućava neautorizovanim napadačima da kreiraju privilegovane naloge i steknu potpunu kontrolu nad pogođenim Cisco IOS XE uređajima. Ako napadač posjeduje nivo upravljanja vašom mrežnom infrastrukturom, on posjeduje cijelu vašu mrežu. Igra završena [5].
CISA ne izdaje "upozorenja" iz zabave; viču "vatra" u prepunom pozorištu. Ovo nisu samo teorijske prijetnje; oni se aktivno koriste za kompromitovanje osnovnih sistema odbrane i upravljanja širom globalnih preduzeća.
Prava linija rasjeda
Ironija je toliko debela da biste je mogli rezati tupim nožem. S jedne strane, imamo AI elitu koja raspravlja o etičkim implikacijama budućnosti koju još grade, pozivajući na usporavanje nakon godina nekontrolisanog ubrzanja. S druge strane, imamo neposrednu, egzistencijalnu prijetnju naše trenutne temeljne tehnologije koja se aktivno raspada pod teretom neriješenih, nezakrpljenih ranjivosti.
Prava "linija greške" nije samo unutar AI zajednice; to je između kule od slonovače inovacije i rovova operativne stvarnosti. To je između apstraktnih, fokusiranih na budućnost diskusija o "samoregulaciji" za AI i neposredne, konkretne potrebe za stvarnom sigurnošću i stabilnošću u sistemima na koje se danas oslanjamo.
Kao tehnički direktori i inženjeri, ne možemo sebi dozvoliti da nas ometaju filozofske rasprave o usporavanju AI. Iako su ti razgovori važni na duži rok, oni su luksuz kada vaša kuća aktivno gori. „Ponovna evaluacija mapa puta proizvoda“ bi trebala početi sa učvršćivanjem urušenih temelja naše postojeće infrastrukture. "Procjene rizika" moraju dati prioritet neposrednim, aktivno iskorištavanim prijetnjama koje ugrožavaju operativni kontinuitet i integritet podataka danas.
Prioriteti industrije su iskrivljeni. Gradimo brže, sjajnije stvari na temelju koji aktivno truli. Poziv na usporavanje AI možda je neophodan razgovor, ali za one od nas na terenu, koji se bavimo Ivantijem i Cisco nultim danima, to je kao da raspravljamo o boji zavjesa dok se krov urušava. Fokusirajte se na sadašnjost. Budućnost može čekati dok ne budemo aktivno krvarili.
Izvori
[1] Otvoreno pismo za pauziranje ogromnih AI eksperimenata — https://futureoflife.org/open-letter-pause-ai-development/ [2] Dionice umjetne inteligencije rastu, ali neki investitori postaju nervozni — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI revolucija u nauci: obećanja i opasnosti — https://www.nature.com/articles/d41586-023-03223-y [4] Akteri pretnji koji iskorištavaju ranjivosti Ivanti Connect Secure i Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Akteri prijetnji iskorištavaju ranjivost web korisničkog sučelja softvera Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a