Încetinirea AI este o distragere a atenției. Casa ta este în flăcări.
Să fim sinceri: industria tehnologică are în sfârșit momentul „veniți la Isus” cu AI, dar se simte mai puțin ca o pocăință autentică și mai mult ca un pivot strategic. Dintr-o dată, chiar arhitecții acestei curse vertiginoase de inteligență artificială – cercetătorii proeminenți și finanțatorii care și-au finanțat sprinturile alimentate cu cafeină – cer o încetinire a vitezei [1]. Ei vorbesc despre „guvernare internă”, „cadre etice” și un ritm „mai deliberat”. Iar piața, care este barometrul sensibil, a reacționat deja, cu preocupări cu privire la sustenabilitatea investițiilor în inteligența artificială care provoacă volatilitate în stocurile de cipuri [2].
Aceasta nu este o reglementare externă; este o „linie de falie” internă care apare din interiorul ecosistemului AI însuși. Și în timp ce C-suite dezbate implicațiile filozofice ale viitoarelor lor creații, prezentul arde activ.
Pauza convenabilă
Luați în considerare momentul. De ani de zile, mantra a fost „mișcă-te repede și sparge lucrurile” sau, mai recent, „mișcă-te rapid și construiește AGI”. Acum, cu modele puternice deja implementate, cu peisajul competitiv în mare măsură definit și cu spectrul unei reglementări reale și semnificative care se profilează, apelurile la prudență sună puțin goale. Este aceasta o trezire reală la riscurile profunde sau o manevră calculată de a consolida puterea, de a încetini concurenții și de a gestiona percepția publicului înainte ca furcile să iasă la iveală?
Este ușor să predici prudență atunci când ai pus deja piața pe piață pe modele de calcul, talent și de bază. Concentrarea bruscă a industriei pe „reevaluarea foilor de parcurs ale produselor, evaluările riscurilor și planificarea strategică” sună nobilă, dar sună și ca o modalitate convenabilă de a realinie resursele. Acest lucru ar putea încetini alternativele open-source sau jucătorii mai mici care ar putea provoca giganții consacrați controlând accesul la resursele esențiale sau influențând cadrele de reglementare. „Cadrul etic” este deodată primordial, nu atunci când modelele erau instruite pe date răzuite, ci acum că sunt suficient de puternice pentru a remodela cu adevărat societatea.
Preocupările exprimate în cadrul comunităților academice și științifice, care avertizează că „soluțiile” AI la problemele deschise ar putea amenința integritatea domeniilor lor [3], sunt un indicator clar al profunzimii acestei preocupări interne. Dar să nu confundăm asta cu altruism. Nu este vorba despre impactul AI asupra locurilor de muncă sau a infrastructurii; este vorba de control – cine îl exercită și în ce ritm. Dezbaterea este mai puțin despre „ar trebui să-l construim?” și mai multe despre „cine decide cât de repede îl construim și cine profită?”
În timp ce ei dezbat viitorul, prezentul tău este compromis
Acum, să trecem de la preocupările abstracte, cu privire la viitor, ale rupturii interne a AI la criza imediată și tangibilă care se desfășoară în rețelele noastre chiar acum. În timp ce titanii AI se gândesc la sufletul mașinilor lor, echipele tale operaționale se luptă pentru a reține o catastrofă totală a securității cibernetice.
Nu vorbim de amenințări teoretice sau de tendințe generale. Vorbim despre vulnerabilitățile zero-day exploatate în mod activ în software-ul de bază pentru întreprinderi, lovind infrastructura critică cu forța unui baros.
- Ivanti Connect Secure și Policy Secure (CVE-2023-46805 & CVE-2024-21887): Aceasta nu este doar o eroare; este o rană căscată. Aceste vulnerabilități din soluțiile VPN și de acces la rețea de la Ivanti au fost exploatate activ, permițând atacatorilor să ocolească autentificarea și să execute comenzi de la distanță. CISA a emis mai multe avertismente, subliniind riscul critic pentru organizațiile care se bazează pe aceste sisteme pentru acces securizat de la distanță [4]. Apărarea ta principală a rețelei, singurul lucru pe care te bazezi pentru a-i opri pe cei răi de la poartă, este exploatat în mod activ pentru a oferi atacatorilor acces profund la nenumărate rețele de întreprindere.
- Interfața de utilizare web Cisco IOS XE (CVE-2023-20198): Severitate maximă. Exploatat activ. Această vulnerabilitate permite atacatorilor neautentificați să creeze conturi privilegiate și să obțină control deplin asupra dispozitivelor Cisco IOS XE afectate. Dacă un atacator deține planul de gestionare al infrastructurii de rețea, acesta deține întreaga rețea. Game over [5].
CISA nu emite „avertismente” pentru distracție; strigă „foc” într-un teatru aglomerat. Acestea nu sunt doar amenințări teoretice; acestea sunt utilizate în mod activ pentru a compromite sistemele de apărare de bază și de management în cadrul întreprinderilor globale.
Linia de eroare reală
Ironia este atât de groasă încât o poți tăia cu un cuțit tocit. Pe de o parte, avem elita AI care dezbate implicațiile etice ale unui viitor pe care încă îl construiesc, cerând o încetinire după ani de accelerare necontrolată. Pe de altă parte, avem amenințarea imediată, existențială, a tehnologiei noastre fundamentale actuală care se prăbușește în mod activ sub greutatea vulnerabilităților nerezolvate, neremediate.
Adevărata „linie de eroare” nu se află doar în comunitatea AI; este între turnul de fildeș al inovației și tranșeele realității operaționale. Este între discuțiile abstracte, axate pe viitor, despre „autoreglementarea” pentru IA și nevoia imediată și concretă de securitate și stabilitate actuală în sistemele pe care ne bazăm astăzi.
În calitate de directori de conducere și de inginerie, nu ne putem permite să fim distrași de dezbaterile filozofice ale încetinirii AI. Deși acele discuții sunt importante pe termen lung, ele sunt un lux atunci când casa ta este activ în flăcări. „Reevaluarea foilor de parcurs ale produselor” ar trebui să înceapă cu susținerea fundațiilor dărâmate ale infrastructurii noastre existente. „Evaluările riscurilor” trebuie să prioritizeze amenințările imediate, exploatate activ, care compromit continuitatea operațională și integritatea datelor azi.
Prioritățile industriei sunt distorsionate. Construim lucruri mai rapide și mai strălucitoare pe o fundație care putrezește activ. Apelul pentru o încetinire a IA ar putea fi o conversație necesară, dar pentru cei dintre noi de pe teren, care avem de-a face cu Ivanti și Cisco zero-days, se simte ca să dezbatem culoarea perdelelor în timp ce acoperișul se prăbușește. Concentrează-te pe prezent. Viitorul poate aștepta până când nu sângerăm activ.
Surse
[1] O scrisoare deschisă pentru a întrerupe experimentele gigantice AI - https://futureoflife.org/open-letter-pause-ai-development/ [2] Acțiunile AI sunt în creștere, dar unii investitori devin nervoși — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Revoluția AI în știință: promisiuni și pericole — https://www.nature.com/articles/d41586-023-03223-y [4] Amenințători care exploatează vulnerabilitățile Ivanti Connect Secure și Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Amenințători care exploatează vulnerabilitatea interfeței de utilizare web a software-ului Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a