AI sulėtėjimas blaško dėmesį. Jūsų namas dega.
Būkime atviri: technologijų pramonė pagaliau išgyvena savo „ateik pas Jėzų“ akimirką su dirbtiniu intelektu, tačiau tai mažiau atrodo kaip tikra atgaila, o labiau kaip strateginis posūkis. Staiga patys šių nutrūktgalviškų AI lenktynių architektai – žymūs tyrinėtojai ir finansininkai, finansavę jų kofeinu varomus sprintus – ragina sulėtinti [1]. Jie kalba apie „vidinį valdymą“, „etines sistemas“ ir „sąmoningesnį“ tempą. Ir rinka, kuri visada buvo jautrus barometras, jau sureagavo susirūpinimu dėl AI investicijų tvarumo, sukeliančio lustų atsargų nepastovumą [2].
Tai nėra išorinis reguliavimas; tai vidinė „gedimo linija“, kylanti iš pačios AI ekosistemos. Ir nors C-suite diskutuoja apie savo ateities kūrinių filosofines pasekmes, dabartis aktyviai dega.
Patogi pauzė
Apsvarstykite laiką. Daugelį metų mantra buvo „judėk greitai ir sulaužyk daiktus“ arba pastaruoju metu „judėk greitai ir kurk AGI“. Dabar, kai jau įdiegti galingi modeliai, iš esmės apibrėžta konkurencinė aplinka ir gresia tikrojo prasmingo reguliavimo šmėkla, raginimai būti atsargiems skamba šiek tiek tuščiaviduriai. Ar tai tikras pabudimas į gilią riziką, ar apgalvotas manevras siekiant konsoliduoti galią, sulėtinti konkurentus ir valdyti visuomenės suvokimą, kol nepasirodys šakės?
Nesunku pamokslauti atsargumo, kai jau užsukote į rinką skaičiavimo, talentų ir pagrindinių modelių srityje. Staigus pramonės dėmesys „pakartotiniam produktų gairių įvertinimui, rizikos vertinimui ir strateginiam planavimui“ skamba kilniai, tačiau taip pat skamba kaip patogus būdas iš naujo suderinti išteklius. Tai gali sulėtinti atvirojo kodo alternatyvas arba mažesnius žaidėjus, kurie galėtų mesti iššūkį įsitvirtinusiems gigantams, kontroliuodami prieigą prie pagrindinių išteklių arba darydami įtaką reguliavimo sistemoms. „Etinė sistema“ staiga tampa itin svarbi ne tada, kai modeliai buvo mokomi remiantis nuskaitytais duomenimis, bet dabar, kai jie pakankamai galingi, kad iš tikrųjų pakeistų visuomenę.
Akademinėse ir mokslo bendruomenėse išreikštas susirūpinimas, perspėjantis, kad dirbtinio intelekto „sprendimai“ atviroms problemoms gali kelti grėsmę jų sričių vientisumui [3], yra ryškus šio vidinio rūpesčio gylio rodiklis. Tačiau nesupainiokime to su altruizmu. Tai ne apie AI poveikį darbo vietoms ar infrastruktūrai; kalbama apie kontrolę – kas ją valdo ir kokiu tempu. Diskusijos yra mažiau apie "ar turėtume jį sukurti?" ir daugiau apie "kas turi nuspręsti, kaip greitai mes ją sukursime, ir kas pelno?"
Kol jie diskutuoja apie ateitį, jūsų dabartis yra pažeista
Dabar pereikime nuo abstrakčių, į ateitį žvelgiančių rūpesčių dėl vidinio AI nesutarimo prie tiesioginės, apčiuopiamos krizės, kuri atsiskleidžia mūsų tinkluose šiuo metu. Kol dirbtinio intelekto titanai apmąsto savo mašinų sielą, jūsų operatyvinės komandos stengiasi suvaldyti visapusę kibernetinio saugumo katastrofą.
Mes nekalbame apie teorines grėsmes ar bendras tendencijas. Kalbame apie aktyviai išnaudotus nulinės dienos pažeidžiamumus pagrindinėje įmonės programinėje įrangoje, smogdami kritinei infrastruktūrai plaktuko jėga.
- Ivanti Connect Secure ir Policy Secure (CVE-2023-46805 ir CVE-2024-21887): Tai ne tik klaida; tai atvira žaizda. Šios „Ivanti“ VPN ir tinklo prieigos sprendimų spragos buvo aktyviai išnaudojamos, todėl užpuolikai gali apeiti autentifikavimą ir vykdyti nuotolines komandas. CISA paskelbė kelis įspėjimus, pabrėždama kritinę riziką organizacijoms, kurios naudojasi šiomis sistemomis saugiai nuotolinei prieigai [4]. Jūsų pagrindinė tinklo apsauga – vienintelis dalykas, kuriuo pasikliaujate, kad sustabdytumėte piktadarius prie vartų, yra aktyviai išnaudojama siekiant suteikti užpuolikams gilią prieigą prie daugybės įmonių tinklų.
- Cisco IOS XE žiniatinklio vartotojo sąsaja (CVE-2023-20198): Didžiausias sunkumas. Aktyviai išnaudojamas. Šis pažeidžiamumas leidžia neautentifikuotiems užpuolikams sukurti privilegijuotas paskyras ir visiškai valdyti paveiktus Cisco IOS XE įrenginius. Jei užpuolikui priklauso jūsų tinklo infrastruktūros valdymo plokštuma, jam priklauso visas jūsų tinklas. Žaidimas baigtas [5].
CISA neteikia „įspėjimų“ dėl pramogos; jie šaukia „ugnis“ sausakimšame teatre. Tai ne tik teorinės grėsmės; jie aktyviai naudojami siekiant pažeisti pagrindines apsaugos ir valdymo sistemas visose pasaulio įmonėse.
Tikroji gedimo linija
Ironija tokia stora, kad galėtumėte ją pjaustyti nuobodu peiliu. Viena vertus, AI elitas diskutuoja apie etines ateities, kurią jie vis dar kuria, pasekmes, ir ragina sulėtinti po daugelio metų nekontroliuojamo pagreitėjimo. Kita vertus, kyla tiesioginė, egzistencinė grėsmė, kad mūsų dabartinė pagrindinė technologija aktyviai byra nuo nepataisytų, nepataisytų pažeidžiamumų svorio.
Tikroji „gedimų linija“ yra ne tik AI bendruomenėje; tai tarp naujovių dramblio kaulo bokšto ir veiklos realybės griovių. Tai yra tarp abstrakčių, į ateitį orientuotų diskusijų apie dirbtinio intelekto „savireguliavimą“ ir neatidėliotiną, konkretų poreikį užtikrinti faktinį saugumą ir stabilumą sistemose, kuriomis šiandien pasitikime.
Kaip CTO ir inžinieriai vadovauja, negalime sau leisti, kad mus blaškytųsi filosofinės diskusijos dėl AI sulėtėjimo. Nors šios diskusijos yra svarbios ilgą laiką, jos yra prabanga, kai jūsų namas aktyviai dega. „Pakartotinis produktų gairių įvertinimas“ turėtų prasidėti nuo griūvančių mūsų esamos infrastruktūros pamatų. „Rizikos vertinimuose“ reikia teikti pirmenybę tiesioginėms, aktyviai išnaudojamoms grėsmėms, kurios kenkia veiklos tęstinumui ir duomenų vientisumui šiandien.
Pramonės prioritetai yra iškreipti. Statome greitesnius, blizgesnius daiktus ant aktyviai pūvančių pamatų. Kvietimas sulėtinti dirbtinį intelektą gali būti būtinas pokalbis, bet tiems iš mūsų, kurie dirbame su Ivanti ir Cisco nulinėmis dienomis, atrodo, tarsi diskutuotume dėl užuolaidų spalvos, kol stogas slenka. Susikoncentruokite į dabartį. Ateitis gali palaukti, kol mes nebekraujuosime.
Šaltiniai
[1] Atviras laiškas pristabdyti milžiniškus AI eksperimentus – https://futureoflife.org/open-letter-pause-ai-development/ [2] AI akcijos sparčiai auga, bet kai kurie investuotojai nervinasi – https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI revoliucija moksle: pažadai ir pavojai – https://www.nature.com/articles/d41586-023-03223-y 4 [5] Grėsmės veikėjai, išnaudojantys Cisco IOS XE programinės įrangos žiniatinklio vartotojo sąsajos pažeidžiamumą – https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a