Noua inteligență artificială a împăratului și fundația putrezită de sub ea
Îți amintești când AI avea să ne salveze pe toți? Se pare că salvatorii cer acum o pauză. Recent, chiar arhitecții viitorului nostru condus de inteligență artificială – cercetătorii „de frontieră” și greii financiari – au lovit în mod colectiv frâna, cerând o încetinire a dezvoltării din cauza „creșterii preocupărilor legate de siguranță” [1]. Piața, care a fost instrumentul contondent, a răspuns tușind un plămân: acțiunile de cipuri și jucătorii importanți ai inteligenței artificiale au căzut [2]. Beijingul, previzibil, a batjocorit avertismentele, în timp ce giganții de cipuri din Seul s-au refuzat la plățile în avans pentru progresele viitoare ale AI [2].
Aceasta nu este doar o dezbatere filozofică pentru turnul de fildeș. Aceasta este o schimbare seismică, o admitere publică a imprudenței din elita industriei. Și sincer, este puțin prea convenabil.
Pauza AI: altruism sau joc de putere?
Să fim clari: când oamenii care au construit racheta realizează brusc că au uitat parașutele după lansare, nu este un moment de trezire etică profundă. Este o luptă cu întârziere, autoservitoare. Aceștia nu sunt idealiști cu ochii mari; aceștia sunt titanii care au apăsat pedala la metal, urmărind creșterea exponențială și dominația pe piață. Acum, cu spectrul „consecințelor neprevăzute” care se profilează – și poate, mai cinic, conștientizarea că ritmul actual este nesustenabil sau că trebuie să-și consolideze conducerea – ei solicită o respirație colectivă.
Reacția pieței este grăitoare. O scădere a stocurilor de cipuri nu înseamnă doar frică; este vorba despre implicațiile financiare imediate ale unei potențiale încetiniri. Respingerea Beijingului? Un semnal clar că avantajul strategic național depășește preocupările abstracte de siguranță. Și producătorii de cipuri din Seul refuză plățile în avans? Acesta este sunetul capitalului care pune sub semnul întrebării stabilitatea și rentabilitatea pe termen lung a unui viitor brusc incert.
Pentru noi, CTO și liderii de inginerie, acest lucru se traduce direct într-un peisaj haotic. Așteptați-vă ca intervențiile de reglementare să se accelereze, forțând o re-prioritizare a proiectelor AI. Ethos-ul „mișcă-te repede și distruge lucrurile” pentru AI a murit oficial, înlocuit de o căutare frenetică a cadrelor de „dezvoltare etică a AI” care ar fi trebuit să fie introduse din prima zi. Investițiile vor deveni mai precaute, strategiile vor pivota și, da, piețele muncii vor simți frigul pe măsură ce goana aurului va face loc unei abordări mai măsurate și, sperăm, mai responsabilă. Dar să nu confundăm asta cu pur altruism. Această „pauză” este atât de mult despre control și recalibrare a pieței, cât este despre siguranță autentică.
În timp ce dezbaterea Titanilor, Fundația se prăbușește
Acum, în timp ce elita AI se confruntă cu criza existențială, dezbatând etica viitoarei superinteligențe, să vorbim despre criza de securitate foarte reală, foarte prezentă și complet catastrofală care se desfășoară chiar acum.
Săptămâna aceasta, CISA a adăugat mai multe CVE-uri noi în catalogul său de vulnerabilități exploatate cunoscute [3]. Vorbim despre un RCE rădăcină confirmat în Cisco Secure Email Gateway (CVE-2023-20269) [4], o traversare a căii CVSS 10.0 în GitLab (CVE-2023-2825) [3] și un Chrome recent patch-at zero-day (CVE-2023) care a cerut atenție imediată [3-4863].
Dar adevăratul pumn în intestin, cel care ar trebui să-l facă pe fiecare profesionist în securitate să țipe în gol, este amenințarea persistentă a defectelor fundamentale. Luați în considerare CVE-2021-1647, o vulnerabilitate locală de escaladare a privilegiilor în Motorul de protecție împotriva malware al Microsoft Defender [5]. Acesta nu era un defect obscur; avea o dovadă publică de concept și a fost exploatat activ în sălbăticie, evidențiind modul în care componentele critice ale apărării noastre digitale pot fi compromise și rămân vulnerabile pentru o perioadă.
În timp ce dezbatem despre etica sensibilității inteligenței artificiale, însuși software-ul conceput pentru a ne proteja punctele finale, stratul de bază al apărării noastre digitale, s-a dovedit că adăpostește defecte cunoscute public, exploatate în mod activ, care permit unui atacator să ridice privilegiile. Este ca și cum te-ai certa despre implicațiile filozofice ale acționării warp în timp ce frânele mașinii tale se defectează și motorul arde.
Socoteala: două fețe ale aceleiași monede
Acestea nu sunt povești separate. Sunt două fețe ale aceleiași monede profund viciate: o industrie tehnologică care a prioritizat constant viteza, noutatea și inovația percepută în detrimentul securității fundamentale, stabilității și responsabilității.
Apelul brusc al liderilor AI pentru o încetinire este o încercare reactivă și egoistă de a corecta cursul după ce au dezlănțuit deja sisteme puternice, prost înțelese în sălbăticie. Este o recunoaștere a faptului că mantra „mișcă-te repede și sparge lucrurile”, atunci când este aplicată unei tehnologii care pot modifica lumea, nu este doar iresponsabilă, ci și periculoasă.
Atacul zero-day, în special vulnerabilitatea critică Defender, este consecința directă și dureroasă a aceleiași modalități aplicate IT-ului de bază. Este rezultatul unei culturi care tratează adesea securitatea ca pe o idee ulterioară, o casetă de selectare a conformității sau un centru de cost, mai degrabă decât o componentă integrală, nenegociabilă a fiecărui produs și sistem. Suntem atât de ocupați să urmărim următorul obiect strălucitor – următorul LLM, următorul agent AI – încât am lăsat chiar pământul de sub picioarele noastre să putrezească.
Pentru CTO și conducătorii de inginerie, mesajul este clar și imediat. Nu mai urmăriți fiecare tendință AI care traversează feedul dvs. Dublați-vă asupra elementelor fundamentale. Prioritizează corecțiile, în special pentru vulnerabilități critice, exploatate activ, cum ar fi cele din Cisco, GitLab și amenințarea persistentă exemplificată de LPE-urile anterioare ale Defender. Implementați măsuri de atenuare robuste. Solicitați responsabilitatea furnizorilor dvs. pentru postura lor de securitate, nu doar pentru foaia de parcurs pentru caracteristici.
Căderea pieței și problemele fundamentale de securitate neabordate nu sunt doar știri. Sunt o socoteală. O lume tehnologică prea rapidă, prea nesăbuită și, în cele din urmă, prea expusă. Este timpul să creștem, să ne asigurăm bazele și apoi, numai atunci, să luăm în considerare cu prudență următoarea graniță.
Surse
[1] Institutul Viitorul Vieții — Întrerupeți experimentele gigant AI: o scrisoare deschisă — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Experții AI solicită pauză în dezvoltarea sistemelor AI avansate — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Catalogul de vulnerabilități exploatate cunoscute — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance și Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Centrul de răspuns de securitate Microsoft — Vulnerabilitatea de escaladare a privilegiilor locale Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647