It-Tnaqqis tal-AI huwa Distrazzjoni. Id-Dar Tiegħek hija fuq Fire.
Ejja nkunu ċari: l-industrija tat-teknoloġija fl-aħħar qed ikollha l-mument ta '"wasla għal Ġesù" bl-AI, iżda tħossha inqas bħal indiema ġenwina u aktar bħal pern strateġiku. F'daqqa waħda, l-istess periti ta 'din it-tellieqa breakneck AI - ir-riċerkaturi prominenti u l-finanzjaturi li ffinanzjaw l-isprints tagħhom li jaħdmu bil-kaffeina - qed jitolbu għal tnaqqis [1]. Qed jitkellmu dwar "governanza interna", "oqfsa etiċi," u pass "aktar deliberat". U s-suq, li qatt kien il-barometru sensittiv, diġà rreaġixxa, bi tħassib dwar is-sostenibbiltà tal-investimenti tal-IA li jikkawża volatilità fl-istokks taċ-ċippa [2].
Din mhix regolamentazzjoni esterna; hija "linja tal-ħsara" interna li toħroġ minn ġewwa l-ekosistema tal-AI nnifisha. U filwaqt li s-C-suite jiddibatti l-implikazzjonijiet filosofiċi tal-kreazzjonijiet futuri tagħhom, il-preżent qed jaħraq b'mod attiv.
Il-Pawsa Konvenjenti
Ikkunsidra l-ħin. Għal snin sħaħ, il-mantra kienet "imxi malajr u tkisser l-affarijiet," jew aktar reċentement, "imxi malajr u tibni AGI." Issa, b'mudelli b'saħħithom diġà skjerati, bil-pajsaġġ kompetittiv definit fil-biċċa l-kbira, u bl-ispettru ta 'regolamentazzjoni attwali u sinifikanti imminenti, is-sejħiet għall-kawtela ċirku ftit vojta. Din hija qawmien ġenwin għar-riskji profondi, jew manuvra kkalkulata biex tikkonsolida l-poter, tnaqqas il-veloċità tal-kompetituri, u timmaniġġja l-perċezzjoni pubblika qabel ma joħorġu l-pitchforks?
Huwa faċli li tippriedka l-kawtela meta tkun diġà għedt is-suq fuq il-komputazzjoni, it-talent u l-mudelli fundamentali. L-enfasi f'daqqa ta 'l-industrija fuq "rivalutazzjoni ta' pjanijiet direzzjonali tal-prodott, valutazzjonijiet tar-riskju, u ppjanar strateġiku" tinstema 'nobbli, iżda tinstema' wkoll qisha mod konvenjenti biex jerġgħu jiġu allinjati r-riżorsi. Dan jista' potenzjalment inaqqas l-alternattivi ta' sors miftuħ jew atturi iżgħar li jistgħu jisfidaw lill-ġganti stabbiliti billi jikkontrollaw l-aċċess għal riżorsi essenzjali jew jinfluwenzaw oqfsa regolatorji. Il-"qafas etiku" f'daqqa waħda huwa importanti ħafna, mhux meta l-mudelli kienu qed jiġu mħarrġa fuq data mibruxa, iżda issa li huma b'saħħithom biżżejjed biex verament isawru mill-ġdid is-soċjetà.
It-tħassib espress fil-komunitajiet akkademiċi u xjentifiċi, li jwissu li "soluzzjonijiet" tal-AI għal problemi miftuħa jistgħu jheddu l-integrità tal-oqsma tagħhom [3], huma indikatur qawwi tal-profondità ta' dan it-tħassib intern. Imma ejja ma niżbaljawx dan b’altruiżmu. Dan mhux dwar l-impatt tal-AI fuq l-impjiegi jew l-infrastruttura; huwa dwar * kontroll * - min jużah, u b'liema pass. Id-dibattitu huwa inqas dwar "għandna nibnuha?" u aktar dwar "min jiddeċiedi kemm nibnuha malajr, u min jagħmel il-profitti?"
Waqt li Jiddibattu l-Futur, il-Preżent Tiegħek huwa Kompromess
Issa, ejja nimxu mit-tħassib astratt u li jħares lejn il-futur tal-qasma interna tal-AI għall-kriżi immedjata u tanġibbli li qed tiżvolġi fuq in-netwerks tagħna issa. Filwaqt li t-titani tal-AI jaħsbu dwar ir-ruħ tal-magni tagħhom, it-timijiet operattivi tiegħek qed jitħabtu biex ikun fihom katastrofi sħiħa taċ-ċibersigurtà.
Mhux qed nitkellmu dwar theddid teoretiku jew xejriet ġenerali. Qed nitkellmu dwar vulnerabbiltajiet ta' ġurnata żero sfruttati b'mod attiv f'softwer ta' intrapriża fundamentali, li jolqtu infrastruttura kritika bil-forza ta' sledgehammer.
- Ivanti Connect Secure u Policy Secure (CVE-2023-46805 & CVE-2024-21887): Din mhix biss bug; hija ferita gaping. Dawn il-vulnerabbiltajiet fis-soluzzjonijiet ta' aċċess tan-netwerk u VPN ta' Ivanti ġew sfruttati b'mod attiv, li ppermettew lill-attakkanti jevitaw l-awtentikazzjoni u jeżegwixxu kmandi remoti. Is-CISA ħarġet twissijiet multipli, u enfasizzaw ir-riskju kritiku għall-organizzazzjonijiet li jiddependu fuq dawn is-sistemi għal aċċess remot sikur [4]. Id-difiża tan-netwerk primarju tiegħek, l-unika ħaġa li tistrieħ fuqha biex twaqqaf il-ħżiena fil-bieb, qed tiġi sfruttata b'mod attiv biex tagħti lill-attakkanti aċċess profond għal netwerks ta 'intrapriżi bla għadd.
- Cisco IOS XE Web UI (CVE-2023-20198): Severità massima. Sfruttat b'mod attiv. Din il-vulnerabbiltà tippermetti lil attakkanti mhux awtentikati joħolqu kontijiet privileġġjati u jiksbu kontroll sħiħ fuq it-tagħmir Cisco IOS XE affettwat. Jekk attakkant għandu l-pjan ta' ġestjoni tal-infrastruttura tan-netwerk tiegħek, huwa l-proprjetarju tan-netwerk kollu tiegħek. Game over [5].
CISA mhux qed toħroġ "twissijiet" għall-gost; qed jgħajtu “nar” f’teatru iffullar. Dawn mhumiex biss theddid teoretiku; qed jintużaw b'mod attiv biex jikkompromettu d-difiżi ewlenin u s-sistemi ta 'ġestjoni madwar l-intrapriżi globali.
Il-Linja tal-Ħtija Reali
L-ironija hija tant ħoxna li tista' taqtagħha b'sikkina matt. Fuq naħa waħda, għandna l-elite tal-IA tiddibattu l-implikazzjonijiet etiċi ta’ futur li għadhom qed jibnu, u ssejjaħ għal tnaqqis wara snin ta’ aċċelerazzjoni mhux ikkontrollata. Min-naħa l-oħra, għandna t-theddida immedjata u eżistenzjali tat-teknoloġija bażika kurrenti tagħna li qed neżlin b'mod attiv taħt il-piż ta 'vulnerabbiltajiet mhux indirizzati u mhux patched.
Il-"linja tal-ħsara" reali mhix biss fi ħdan il-komunità AI; huwa bejn it-torri tal-avorju tal-innovazzjoni u t-trinek tar-realtà operattiva. Huwa bejn id-diskussjonijiet astratti, iffukati fuq il-futur ta '"awtoregolamentazzjoni" għall-AI u l-ħtieġa immedjata u konkreta għal sigurtà * attwali * u stabbiltà fis-sistemi li niddependu fuqhom illum.
Bħala CTOs u l-inġinerija jwasslu, ma nistgħux naffordjaw li nkunu distratti mid-dibattiti filosofiċi tat-tnaqqis fl-AI. Filwaqt li dawk id-diskussjonijiet huma importanti għat-tul, huma lussu meta d-dar tiegħek tkun attivament fuq in-nar. Ir-"rivalutazzjoni tal-pjanijiet direzzjonali tal-prodotti" għandha tibda billi ssaħħaħ il-pedamenti li qed neżlin tal-infrastruttura eżistenti tagħna. Il-"valutazzjonijiet tar-riskju" jeħtieġ li jagħtu prijorità lit-theddid immedjat u sfruttat b'mod attiv li qed jikkomprometti l-kontinwità operattiva u l-integrità tad-dejta illum.
Il-prijoritajiet tal-industrija huma distorti. Qed nibnu affarijiet aktar mgħaġġla u tleqq fuq pedament li qed jitmermru b'mod attiv. Is-sejħa għal tnaqqis fl-AI tista 'tkun konverżazzjoni meħtieġa, iżda għal dawk minna fuq l-art, li nittrattaw ma' Ivanti u Cisco zero-days, tħoss li niddiskutu l-kulur tal-purtieri waqt li s-saqaf jinżel ġewwa. Iffoka fuq il-preżent. Il-futur jista 'jistenna sakemm ma nkunux qed insaw b'mod attiv.
Sorsi
[1] Ittra Miftuħa biex Twaqqaf Esperimenti Ġganti tal-AI — https://futureoflife.org/open-letter-pause-ai-development/ [2] L-istokks tal-AI qed jogħlew, iżda xi investituri qed isiru nervużi — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Ir-rivoluzzjoni tal-IA fix-xjenza: wegħdiet u perikli — https://www.nature.com/articles/d41586-023-03223-y [4] Atturi ta' Theddid li jisfruttaw il-Vulnerabbiltajiet ta' Ivanti Connect Secure u Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Atturi ta' Theddid li jisfruttaw il-Vulnerabilità tal-Web UI tas-Software ta' Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a