Ang Bag-ong AI sa Emperador, ug ang Nangadunot nga Pundasyon sa Ilalom Niini
Hinumdomi kung kanus-a luwason kitang tanan sa AI? Mibalik, ang mga manluluwas karon nangayo og timeout. Bag-o lang, ang mismong mga arkitekto sa atong umaabot nga gipatuyok sa AI—ang "frontier" nga mga tigdukiduki ug mga bug-at sa pinansya—kolektibong naigo sa preno, nga nangayo sa paghinay sa pag-uswag tungod sa "nagkadako nga kahingawa sa kaluwasan" [1]. Ang merkado, kanunay nga blunt nga instrumento, mitubag pinaagi sa pag-ubo sa usa ka baga: ang mga stock sa chip ug mga dagkong magdudula sa AI nahulog [2]. Ang Beijing, nga matag-an, nagbiaybiay sa mga pasidaan, samtang ang mga higante sa chip sa Seoul nagdumili sa pagbayad sa una alang sa umaabot nga mga pag-uswag sa AI [2].
Dili lang kini usa ka pilosopikal nga debate alang sa torre nga garing. Kini usa ka seismic nga pagbalhin, usa ka publiko nga pag-angkon sa kawalay-pagtagad gikan sa sulod sa mga elite sa industriya. Ug sa prangka, kini usa ka gamay nga kombenyente.
Ang AI Pause: Altruism o Power Play?
Klarohon nato: sa dihang ang mga tawo nga nagtukod sa rocket kalit nga nakaamgo nga ilang nakalimtan ang mga parachute pagkahuman sa paglansad, kini dili usa ka gutlo sa lawom nga pagkahigmata sa pamatasan. Kini usa ka ulahi, nag-alagad sa kaugalingon nga pag-away. Dili kini mga ideyalista nga lapad ang mata; kini ang mga titans nga nagduso sa pedal sa metal, nga naggukod sa eksponensyal nga pagtubo ug pagdominar sa merkado. Karon, uban ang multo sa "wala damha nga mga sangputanan" nga nag-ung-ong nga dako-ug tingali, labi pa nga kataw-anan, ang pagkaamgo nga ang karon nga lakang dili mapadayon o nga kinahanglan nila nga konsolidahon ang ilang pagpanguna-nanawagan sila alang sa usa ka kolektibo nga gininhawa.
Ang reaksyon sa merkado nagsulti. Ang pagkalusot sa mga chip stock dili lang mahitungod sa kahadlok; kini mahitungod sa diha-diha nga pinansyal nga mga implikasyon sa usa ka potensyal nga paghinay. Ang pagduso sa Beijing? Usa ka tin-aw nga senyales nga ang nasudnon nga estratehikong bentaha labaw sa abstract nga mga kabalaka sa kaluwasan. Ug ang mga chipmaker sa Seoul nagdumili sa pagbayad sa una? Mao kana ang tingog sa kapital nga nangutana sa dugay nga kalig-on ug ganansya sa usa ka kalit nga dili sigurado nga kaugmaon.
Alang kanamo, ang mga CTO ug engineering nanguna, direkta kini nga gihubad ngadto sa usa ka gubot nga talan-awon. Gipaabot nga ang mga interbensyon sa regulasyon nga paspas, nga nagpugos sa usa ka pag-prioritize pag-usab sa mga proyekto sa AI. Ang "move fast and break things" ethos para sa AI opisyal na nga patay, gipulihan sa usa ka mabangis nga pagpangita alang sa "ethical AI development" nga mga frameworks nga kinahanglan nga giluto gikan sa unang adlaw. Ang pagpamuhunan mahimong mas mabinantayon, ang mga estratehiya mag-pivot, ug oo, ang mga merkado sa trabaho mobati sa katugnaw samtang ang pagdali sa bulawan naghatag dalan ngadto sa usa ka mas masukod, ug gilauman, mas responsable, nga pamaagi. Apan dili nato kini masayop nga puro altruismo. Kini nga "pause" sama ra bahin sa pagkontrol ug pag-calibrate pag-usab sa merkado ingon nga kini bahin sa tinuud nga kaluwasan.
Samtang Nagdebate ang Titans, Nahugno ang Pundasyon
Karon, samtang ang AI elite adunay ilang existential nga krisis, nga nagdebate sa etika sa umaabot nga superintelligence, atong hisgutan ang tinuod kaayo, karon kaayo, ug hingpit nga katalagman nga krisis sa seguridad nga nahitabo karon.
Karong semanaha, gidugang sa CISA ang daghang mga bag-ong CVE sa Catalog nga Nailhan nga Gipahimuslan nga Mga Kakulangan [3]. Naghisgut kami bahin sa usa ka nakumpirma nga gamut RCE sa Cisco Secure Email Gateway (CVE-2023-20269) [4], usa ka CVSS 10.0 nga agianan sa agianan sa GitLab (CVE-2023-2825) [3], ug usa ka bag-o nga gi-patch nga Chrome zero-day (CVE-2023-4863) [3] nga nangayo ug atensyon.
Apan ang tinuud nga suntok sa gut, ang usa nga kinahanglan maghimo sa matag propesyonal sa seguridad nga mosinggit sa kahaw-ang, mao ang padayon nga hulga sa mga sayup nga sukaranan. Hunahunaa ang CVE-2021-1647, usa ka lokal nga pagkahuyang sa pagtaas sa pribilehiyo sa Microsoft Defender's Malware Protection Engine [5]. Dili kini usa ka dili klaro nga sayup; kini adunay usa ka publiko nga Proof-of-Concept ug aktibo nga gipahimuslan sa ihalas, nga nagpasiugda kung giunsa ang mga kritikal nga sangkap sa among digital nga depensa mahimong makompromiso ug magpabilin nga huyang sa usa ka panahon.
Pasagdi kana. Samtang nagdebate kami sa pamatasan sa AI sentience, ang software nga gidisenyo aron mapanalipdan ang among mga endpoint, ang sukaranan nga layer sa among digital nga depensa, gipakita nga adunay nahibal-an sa publiko, aktibo nga gipahimuslan nga mga sayup nga nagtugot sa usa ka tig-atake sa pagpataas sa mga pribilehiyo. Kini sama sa paglalis bahin sa pilosopikal nga implikasyon sa warp drive samtang ang preno sa imong awto napakyas ug ang makina nagdilaab.
Ang Pag-ihap: Duha ka Bahin sa Parehas nga Sinsilyo
Dili kini lahi nga mga istorya. Duha sila ka kilid sa parehas nga sayup nga sensilyo: usa ka industriya sa teknolohiya nga kanunay nga nag-una sa katulin, kabag-ohan, ug nahibal-an nga kabag-ohan labaw sa sukaranan nga seguridad, kalig-on, ug responsibilidad.
Ang kalit nga panawagan sa mga lider sa AI alang sa usa ka paghinay usa ka reaktibo, nagserbisyo sa kaugalingon nga pagsulay sa pagkorihir sa kurso * pagkahuman * napagawas na nila ang kusgan, dili kaayo masabtan nga mga sistema sa ihalas. Kini usa ka pag-angkon nga ang "move fast and break things" mantra, kung ipadapat sa potensyal nga makausab sa kalibutan nga teknolohiya, dili lang iresponsable, apan peligroso.
Ang zero-day nga pag-atake, labi na ang kritikal nga pagkahuyang sa Defender, mao ang direkta, masakit nga sangputanan sa parehas nga panghunahuna nga gigamit sa pundasyon nga IT. Resulta kini sa usa ka kultura nga kasagarang nagtagad sa seguridad isip usa ka afterthought, usa ka compliance checkbox, o usa ka cost center, kay sa usa ka integral, non-negotiable component sa matag produkto ug sistema. Busy kaayo mi sa paggukod sa sunod nga sinaw nga butang—ang sunod nga LLM, ang sunod nga AI agent—nga gipasagdan namong madunot ang yuta ilalom sa among mga tiil.
Alang sa mga CTO ug mga nanguna sa engineering, ang mensahe klaro ug dayon. Hunonga ang paggukod sa matag trend sa AI nga motabok sa imong feed. Dobleha ang sukaranan. I-prioritize ang pag-patch, ilabina sa mga kritikal, aktibong gipahimuslan nga mga kahuyangan sama sa Cisco, GitLab, ug ang padayon nga hulga nga gipakita sa nangaging mga LPE sa Defender. Ipatuman ang lig-on nga pagpagaan. Pangayo og tulubagon gikan sa imong mga tigbaligya alang sa ilang postura sa seguridad, dili lang sa ilang feature roadmap.
Ang pagkahugno sa merkado ug ang wala masulbad nga sukaranan nga mga isyu sa seguridad dili lamang mga balita. Sila usa ka pag-ihap. Usa ka tech nga kalibutan nga paspas kaayo, wala’y pagtagad, ug sa katapusan, nahayag kaayo. Panahon na sa pagtubo, pagsiguro sa atong mga pundasyon, ug unya, niadto lang, mabinantayon nga hunahunaon ang sunod nga utlanan.
Mga Tinubdan
[1] Umaabot sa Kinabuhi Institute — Ihunong ang Giant AI nga mga Eksperimento: Usa ka Bukas nga Sulat — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Nanawagan ang mga eksperto sa AI nga mohunong sa pagpauswag sa mga advanced AI system — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Nailhan nga Gipahimuslan nga Katalogo sa Pagkahuyang — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email ug Web Manager, Cisco Email Security Appliance, ug Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647