Ralentissement AI a se yon distraksyon. Kay ou an dife.
Se pou nou klè: endistri teknoloji a finalman gen moman "vini jwenn Jezi" ak AI, men li santi l mwens tankou yon repantans otantik ak plis tankou yon pivot estratejik. Menm lè a, achitèk yo nan ras AI sa a kraze brize - chèchè enpòtan yo ak bayeur yo ki te finanse sprints kafeyin yo - ap rele pou yon ralentissement [1]. Yo ap pale de "gouvènans entèn," "kad etik," ak yon vitès "plis ekspre". Ak mache a, tout tan bawomèt sansib la, te deja reyaji, ak enkyetid sou dirab nan envestisman AI ki lakòz volatilité nan aksyon chip [2].
Sa a se pa règleman ekstèn; li se yon "liy fay" entèn ki sòti nan ekosistèm AI li menm. Epi pandan ke C-suit la deba enplikasyon filozofik nan kreyasyon lavni yo, prezan an ap aktivman boule.
Poz la Pratik
Konsidere tan an. Pou ane, mantra a te "deplase vit epi kraze bagay sa yo," oswa pi resamman, "deplase vit ak bati AGI." Koulye a, ak modèl pwisan deja deplwaye, ak jaden flè konpetitif lajman defini, ak spectre nan aktyèl, règleman ki gen sans ap parèt, apèl yo pou prekosyon bag yon ti kras kre. Èske sa se yon reveye otantik nan risk yo pwofon, oswa yon manèv kalkile pou konsolide pouvwa, ralanti konpetitè, ak jere pèsepsyon piblik anvan pitchforks yo soti?
Li fasil pou preche prekosyon lè ou te deja kwense mache a sou kalkil, talan, ak modèl fondasyon. Konsantre toudenkou endistri a sou "re-evalyasyon plan pwodwi, evalyasyon risk, ak planifikasyon estratejik" son nòb, men li tou son tankou yon fason pratik re-aliman resous yo. Sa a ka potansyèlman ralanti altènativ sous louvri oswa pi piti jwè ki ta ka defi gran yo etabli lè yo kontwole aksè a resous esansyèl oswa enfliyanse kad regilasyon. "Kad etik la" se toudenkou esansyèl, pa lè modèl yo te resevwa fòmasyon sou done grate, men kounye a ke yo ap pwisan ase yo vrèman remodel sosyete a.
Enkyetid yo eksprime nan kominote akademik ak syantifik, avèti ke AI "solisyon" pou louvri pwoblèm yo ka menase entegrite nan jaden yo [3], se yon endikatè strik nan pwofondè enkyetid entèn sa a. Men, annou pa fè erè sa a ak altrwism. Sa a se pa sou enpak AI sou travay oswa enfrastrikti; se sou kontwòl – kiyès k ap fè l, ak ki vitès. Deba a se mwens sou "èske nou ta dwe bati li?" ak plis sou "ki moun ki vin deside ki jan vit nou bati li, ak ki pwofi?"
Pandan y ap debat sou avni an, prezan w konpwomèt
Koulye a, ann vire soti nan enkyetid abstrè, ki gade nan lavni nan twoub entèn AI a nan kriz imedya, byen mèb k ap dewoule sou rezo nou yo *kounye a *. Pandan ke titan AI yo reflechi sou nanm machin yo, ekip operasyon ou yo ap goumen pou genyen yon katastwòf sibèsekirite.
Nou pa pale de menas teyorik oswa tandans jeneral. Nou ap pale de vulnérabilités aktivman eksplwate zewo jou nan lojisyèl antrepriz fondasyon, frape enfrastrikti kritik ak fòs la nan yon mato.
- Ivanti Connect Secure ak Policy Secure (CVE-2023-46805 & CVE-2024-21887): Sa a se pa sèlman yon ensèk; se yon blesi ki byen vit. Frape sa yo nan VPN Ivanti ak solisyon aksè rezo yo te aktivman eksplwate, sa ki pèmèt atakè yo kontoune otantifikasyon ak egzekite kòmandman aleka. CISA te bay plizyè avètisman, ki mete aksan sou risk kritik pou òganizasyon ki konte sou sistèm sa yo pou aksè sekirite aleka [4]. Defans rezo prensipal ou a, yon sèl bagay ou konte sou yo pou sispann mechan yo nan pòtay la, se aktivman eksplwate pou bay atakè aksè pwofon nan rezo antrepriz inonbrabl.
- Cisco IOS XE Web UI (CVE-2023-20198): Maksimòm gravite. Aktivman eksplwate. Vilnerabilite sa a pèmèt atakan ki pa otantifye yo kreye kont privilejye epi pran tout kontwòl sou aparèy Cisco IOS XE ki afekte yo. Si yon atakè posede plan jesyon enfrastrikti rezo w la, li posede tout rezo w la. Jwèt sou [5].
CISA pa bay "avètisman" pou plezi; yo ap rele "dife" nan yon teyat ki gen anpil moun. Sa yo se pa sèlman menas teyorik; yo aktivman itilize yo konpwomi defans debaz ak sistèm jesyon atravè antrepriz mondyal yo.
Liy Vrè Fòt la
Iwoni a tèlman epè ou ta ka koupe l ak yon kouto mat. Sou yon bò, nou gen elit AI a ap debat sou enplikasyon etik yon avni yo ap toujou bati, ki mande pou yon ralentissement apre ane akselerasyon san kontwòl. Yon lòt bò, nou genyen yon menas imedyat, ekzistansyal, nan teknoloji fondamantal aktyèl nou an k ap defonse aktivman anba pwa frajilite ki pa abòde, ki pa korije.
Vrè "liy fay la" se pa sèlman nan kominote AI a; li nan ant gwo kay won an kòn elefan nan inovasyon ak tranche yo nan reyalite operasyonèl. Li nan ant diskisyon abstrè, ki konsantre sou lavni sou "oto-règleman" pou AI ak bezwen imedya, konkrè pou reyèl sekirite ak estabilite nan sistèm yo nou konte sou jodi a.
Kòm CTOs ak jeni mennen, nou pa kapab gen mwayen pou nou distrè pa deba filozofik ralentissement AI a. Pandan ke diskisyon sa yo enpòtan pou tèm long la, yo se yon liks lè kay ou a aktivman sou dife. "Re-evalyasyon plan pwodwi" yo ta dwe kòmanse ak konsolide fondasyon enfrastrikti ki egziste deja yo. "Evalyasyon risk yo" bezwen priyorite menas imedya, aktivman eksplwate ki konpwomèt kontinwite operasyonèl ak entegrite done jodi a.
Priyorite endistri yo dekonpoze. Nou ap bati bagay ki pi rapid, ki pi klere sou yon fondasyon ki ap pouri aktivman. Apèl pou yon ralantisman AI ta ka yon konvèsasyon nesesè, men pou moun nan nou ki sou tè a, fè fas ak Ivanti ak Cisco-zewo-jou, li santi l tankou deba koulè a nan rido yo pandan y ap do kay la twou wòch pous Konsantre sou prezan an. Tan kap vini an ka tann jiskaske nou pa aktivman senyen.
Sous
[1] Yon lèt ouvri pou pran yon poz eksperyans AI jeyan — https://futureoflife.org/open-letter-pause-ai-development/ [2] Aksyon AI ap monte, men gen kèk envestisè ki vin nève - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Revolisyon AI nan syans: pwomès ak danje — https://www.nature.com/articles/d41586-023-03223-y [4] Aktè menas k ap eksplwate vilnerabilite Ivanti Connect Secure ak politik Ivanti Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Aktè menas k ap eksplwate vilnerabilite Cisco IOS XE Software Web UI — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a