Nouvo AI Anperè a, ak Fondasyon an pouri anba li
Sonje lè AI te pral sove nou tout? Vire soti, sovè yo kounye a ap mande pou yon tan. Jis dènyèman, achitèk yo nan avni AI-kondwi nou an—chèchè "fwontyè" yo ak pwa lou finansye yo-ansanm frape fren yo, mande yon ralantisman nan devlopman akòz "enkyetid sekirite ogmante" [1]. Mache a, tout tan tout tan enstriman an bouche, reponn pa touse nan poumon: aksyon chip ak gwo jwè AI tonbe [2]. Beijing, prevwa, te pase avètisman yo, pandan y ap gran chip Seoul yo te refize fè peman davans pou avansman AI nan lavni [2].
Sa a se pa sèlman yon deba filozofik pou gwo kay won an kòn elefan. Sa a se yon chanjman sismik, yon admisyon piblik nan ensousyan soti nan elit endistri a. Ak franchman, li se yon ti kras twò pratik.
Poz AI a: Altruism oswa Power Play?
Se pou nou klè: lè moun ki te konstwi fize a toudenkou reyalize yo bliye parachit yo apre lansman, se pa yon moman pwofon reveye etik. Se yon konfli ki an reta, ki sèvi poukont li. Sa yo se pa ideyalis gwo je; sa yo se titan yo ki te pouse pedal la nan metal la, kouri dèyè kwasans eksponansyèl ak dominasyon mache. Koulye a, ak spectre nan "konsekans enprevi" parèt gwo-e petèt, plis sinikman, realizasyon an ke vitès aktyèl la pa dirab oswa ke yo bezwen konsolide plon yo-yo ap rele pou yon souf kolektif.
Reyaksyon mache a ap di. Yon plonje nan aksyon chip se pa sèlman sou pè; se sou enplikasyon finansye imedya yon potansyèl ralentissement. Repouse Beijing la? Yon siyal klè ke avantaj estratejik nasyonal depase enkyetid abstrè sekirite yo. Ak chipmakers Seoul la refize peman davans? Sa a se son an nan kapital kesyone estabilite alontèm ak rentabilité nan yon avni toudenkou ensèten.
Pou nou, CTO yo ak dirijan jeni, sa a tradwi dirèkteman nan yon jaden flè chaotic. Atann entèvansyon regilasyon akselere, fòse yon re-priyorite nan pwojè AI. Ethos "deplase vit epi kraze bagay" pou AI ofisyèlman mouri, ranplase pa yon rechèch éfréné pou kad "devlopman AI etik" ki ta dwe kwit nan premye jou. Envestisman pral vin pi pridan, estrateji yo pral pivote, epi wi, mache travay yo pral santi fredi a kòm prese lò a bay plas nan yon apwòch ki pi mezire, ak èspere ke, plis responsab. Men, annou pa fè erè sa a ak altrwism pi bon kalite. "Poz" sa a se kòm anpil sou kontwòl ak mache re-kalibrasyon kòm li se sou sekirite otantik.
Pandan titan yo deba, fondasyon an kraze
Kounye a, pandan elit AI a ap gen kriz ekzistansyal yo, ap debat sou etik sipè-entèlijans nan lavni, ann pale sou kriz sekirite ki trè reyèl, trè prezan, ak totalman katastwofik k ap dewoule kounye a.
Semèn sa a, CISA te ajoute plizyè nouvo CVE nan katalòg vilnerabilite li te ye yo [3]. Nou ap pale de yon RCE rasin konfime nan Cisco Secure Email Gateway (CVE-2023-20269) [4], yon travèse chemen CVSS 10.0 nan GitLab (CVE-2023-2825) [3], ak yon dènye patched Chrome zewo-jou (CVE-2023-2023) [34] atansyon imedyat.
Men, kout pwen an zantray reyèl, youn nan ki ta dwe fè chak pwofesyonèl sekirite rèl nan anile a, se menas ki pèsistan nan defo fondasyon. Konsidere CVE-2021-1647, yon vilnerabilite lokal ogmantasyon privilèj nan Motè Pwoteksyon Malveyan Microsoft Defender [5]. Sa a pa te kèk defo fènwa; li te gen yon Prèv-of-Konsèp piblik epi li te aktivman eksplwate nan bwa a, mete aksan sou fason eleman kritik nan defans dijital nou an ka konpwomèt epi rete vilnerab pou yon peryòd.
Kite sa koule nan. Pandan n ap debat sou etik AI santiyans, yo montre lojisyèl sa a ki fèt pou pwoteje pwen final nou yo, kouch fondamantal defans dijital nou an, li genyen defo piblikman li te ye, aktivman eksplwate ki pèmèt yon atakè ogmante privilèj yo. Se tankou diskite sou enplikasyon filozofik kondwi chèn pandan fren machin ou yo ap febli epi motè a ap pran dife.
Rekondisyon an: De kote nan menm pyès monnen an
Sa yo pa istwa separe. Yo se de kote nan menm pyès monnen an pwofondman defo: yon endistri teknoloji ki te toujou priyorite vitès, kado, ak inovasyon konnen sou sekirite fondamantal, estabilite, ak responsablite.
Rele toudenkou lidè AI yo pou yon ralentissement se yon tantativ reyaktif, ki sèvi pwòp tèt yo pou korije kou * apre * yo te deja debouche sistèm pwisan, mal konprann nan bwa a. Li se yon admisyon ke mantra "deplase vit epi kraze bagay sa yo", lè yo aplike nan teknoloji potansyèlman chanje mond lan, se pa sèlman irèsponsab, men danjere.
Ofansiv zewo jou a, patikilyèman vilnerabilite kritik Defender la, se konsekans dirèk e douloure menm mantalite sa a aplike nan IT fondasyon. Li se rezilta nan yon kilti ki souvan trete sekirite kòm yon apre panse, yon kaz konfòmite, oswa yon sant pri, olye ke yon eleman entegral, ki pa negosyab nan chak pwodwi ak sistèm. Nou tèlman okipe ap kouri dèyè pwochen objè ki klere—LLM kap vini an, pwochen ajan AI—ke nou kite tè a anba pye nou pouri.
Pou CTO ak jeni mennen, mesaj la se strik e imedya. Sispann kouri dèyè chak tandans AI ki travèse manje ou. Double desann sou fondamantal yo. Priyorite patch, espesyalman pou vilnerabilite kritik, aktivman eksplwate tankou sa yo ki nan Cisco, GitLab, ak menas ki pèsistan yo egzanp pa LPE sot pase Defender a. Aplike alèjman solid. Mande vandè w yo responsabilite pou pozisyon sekirite yo, pa sèlman plan karakteristik yo.
Toubiyon mache a ak pwoblèm sekirite fondasyon ki pa adrese yo se pa sèlman nouvèl. Yo se yon kalkil. Yon mond teknoloji ki twò vit, twò ensousyan, epi finalman, twò ekspoze. Li lè pou nou grandi, sekirize fondasyon nou yo, epi lè sa a, sèlman lè sa a, ak anpil atansyon konsidere pwochen fwontyè a.
Sous
[1] Future of Life Institute — Pause Giant AI Experiments: Yon Lèt Ouvè — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Ekspè AI mande pou yon poz nan devlopman sistèm AI avanse — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Imèl ak Manadjè Entènèt, Cisco Email Security Appliance, ak vilnerabilite Cisco Web Security Appliance — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — Microsoft Defender Local Privilèj Eskalad Vulnerabilite — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647