Ang Bagong AI ng Emperador, at ang Nabubulok na Pundasyon sa Ilalim Nito
Tandaan kung kailan ililigtas tayong lahat ng AI? Lumalabas, humihingi na ngayon ng timeout ang mga tagapagligtas. Kamakailan lamang, ang mismong mga arkitekto ng ating kinabukasan na hinihimok ng AI—ang mga "frontier" na mananaliksik at mga mabigat sa pananalapi—ay sama-samang huminto sa preno, na humihiling ng pagbaba ng bilis sa pag-unlad dahil sa "tumaas na mga alalahanin sa kaligtasan" [1]. Ang merkado, kailanman ang mapurol na instrumento, ay tumugon sa pamamagitan ng pag-ubo ng baga: bumagsak ang mga stock ng chip at mga pangunahing manlalaro ng AI [2]. Mahuhulaan, kinukutya ng Beijing ang mga babala, habang ang mga higanteng chip ng Seoul ay tumanggi sa mga paunang pagbabayad para sa hinaharap na pagsulong ng AI [2].
Ito ay hindi lamang isang pilosopikal na debate para sa ivory tower. Ito ay isang seismic shift, isang pampublikong pag-amin ng kawalang-ingat mula sa loob ng mga piling tao ng industriya. At sa totoo lang, medyo maginhawa ito.
Ang AI Pause: Altruism o Power Play?
Linawin natin: nang ang mga taong gumawa ng rocket ay biglang napagtanto na nakalimutan nila ang mga parachute pagkatapos ng paglulunsad, hindi ito isang sandali ng malalim na etikal na paggising. Ito ay isang nahuhuli, self-serving scramble. Ang mga ito ay hindi dilat na mga idealista; ito ang mga titans na itinutulak ang pedal sa metal, hinahabol ang exponential growth at market dominance. Ngayon, kasama ang multo ng "hindi inaasahang mga kahihinatnan" na nagbabadya ng malaki-at marahil, mas mapang-uyam, ang pagkaunawa na ang kasalukuyang bilis ay hindi mapanatili o na kailangan nilang pagsamahin ang kanilang pangunguna-nanawagan sila para sa isang kolektibong paghinga.
Ang reaksyon ng merkado ay nagsasabi. Ang pagbaba sa mga stock ng chip ay hindi lamang tungkol sa takot; ito ay tungkol sa agarang implikasyon sa pananalapi ng isang potensyal na pagbagal. Pagtulak ng Beijing? Isang malinaw na senyales na ang pambansang estratehikong kalamangan ay higit pa sa mga abstract na alalahanin sa kaligtasan. At ang mga chipmaker ng Seoul ay tumatanggi sa mga paunang pagbabayad? Iyan ang tunog ng kapital na nagtatanong sa pangmatagalang katatagan at kakayahang kumita ng isang biglang hindi tiyak na hinaharap.
Para sa amin, ang mga CTO at engineering ay nangunguna, ito ay direktang nagsasalin sa isang magulong tanawin. Asahan ang mga regulasyong panghihimasok na mapabilis, na pumipilit sa muling pag-priyoridad ng mga proyekto ng AI. Ang "move fast and break things" ethos para sa AI ay opisyal na patay, na pinalitan ng isang galit na galit na paghahanap para sa "ethical AI development" na mga frameworks na dapat ay na-bake in mula sa unang araw. Ang pamumuhunan ay magiging mas maingat, ang mga estratehiya ay pivot, at oo, ang mga merkado ng trabaho ay makaramdam ng lamig habang ang pagdadaloy ng ginto ay nagbibigay daan sa isang mas nasusukat, at sana, mas responsable, diskarte. Ngunit huwag nating ipagkamali na ito ay purong altruismo. Ang "pause" na ito ay tungkol sa kontrol at muling pag-calibrate ng merkado at tungkol sa tunay na kaligtasan.
Habang Nagdedebate ang Titans, Gumuho ang Foundation
Ngayon, habang ang mga elite ng AI ay nagkakaroon ng kanilang eksistensyal na krisis, pinagtatalunan ang etika ng hinaharap na superintelligence, pag-usapan natin ang tunay, napakakasalukuyan, at lubos na sakuna na krisis sa seguridad na nangyayari ngayon.
Sa linggong ito, nagdagdag ang CISA ng maraming bagong CVE sa Catalog na Kilalang Pinagsasamantalahang Vulnerabilities nito [3]. Pinag-uusapan natin ang tungkol sa isang nakumpirmang root RCE sa Cisco Secure Email Gateway (CVE-2023-20269) [4], isang CVSS 10.0 path traversal sa GitLab (CVE-2023-2825) [3], at isang kamakailang na-patch na Chrome zero-day (CVE-2023-4863) [3] na nangangailangan ng atensyon.
Ngunit ang tunay na suntok ng gat, ang isa na dapat magpahiyaw sa bawat propesyonal sa seguridad sa kawalan, ay ang patuloy na banta ng mga pangunahing bahid. Isaalang-alang ang CVE-2021-1647, isang lokal na kahinaan sa pagdami ng pribilehiyo sa Malware Protection Engine ng Microsoft Defender [5]. Ito ay hindi ilang hindi malinaw na kapintasan; mayroon itong pampublikong Proof-of-Concept at aktibong pinagsamantalahan sa ligaw, na itinatampok kung paano maaaring makompromiso ang mga kritikal na bahagi ng aming digital na depensa at manatiling mahina sa loob ng isang panahon.
Hayaang bumagsak iyon. Habang pinagtatalunan namin ang etika ng AI sentience, ang mismong software na idinisenyo upang protektahan ang aming mga endpoint, ang pundasyong layer ng aming digital defense, ay ipinakita na may kilala sa publiko, aktibong pinagsamantalahan na mga depekto na nagbibigay-daan sa isang umaatake na itaas ang mga pribilehiyo. Ito ay tulad ng pagtatalo tungkol sa mga pilosopikal na implikasyon ng warp drive habang ang preno ng iyong sasakyan ay bagsak at ang makina ay nasusunog.
Ang Pagtutuos: Dalawang Gilid ng Parehong Barya
Hindi ito magkakahiwalay na kwento. Ang mga ito ay dalawang panig ng parehong malalim na depektong barya: isang tech na industriya na patuloy na binibigyang-priyoridad ang bilis, bagong bagay, at nakikitang pagbabago kaysa sa pangunahing seguridad, katatagan, at responsibilidad.
Ang biglaang panawagan ng mga pinuno ng AI para sa pagbagal ay isang reaktibo, self-serving na pagtatangka na iwasto ang kurso pagkatapos na kanilang pinakawalan ang makapangyarihan, hindi gaanong nauunawaang mga sistema sa ligaw. Ito ay isang pag-amin na ang "move fast and break things" mantra, kapag inilapat sa potensyal na teknolohiyang nagbabago sa mundo, ay hindi lamang iresponsable, ngunit mapanganib.
Ang zero-day onslaught, lalo na ang kritikal na kahinaan ng Defender, ay ang direkta, masakit na resulta ng parehong mindset na ito na inilapat sa foundational IT. Ito ay resulta ng isang kultura na madalas na itinuturing ang seguridad bilang isang nahuling pag-iisip, isang checkbox sa pagsunod, o isang cost center, sa halip na isang integral, hindi mapag-usapan na bahagi ng bawat solong produkto at system. Masyado kaming abala sa paghabol sa susunod na makintab na bagay—ang susunod na LLM, ang susunod na ahente ng AI—na hinayaan naming mabulok ang mismong lupa sa ilalim ng aming mga paa.
Para sa mga CTO at mga nangunguna sa engineering, ang mensahe ay malinaw at kaagad. Itigil ang paghabol sa bawat trend ng AI na tumatawid sa iyong feed. I-double down ang mga pangunahing kaalaman. Unahin ang pag-patch, lalo na para sa mga kritikal, aktibong pinagsamantalahan na mga kahinaan tulad ng nasa Cisco, GitLab, at ang patuloy na pagbabanta na ipinakita ng mga nakaraang LPE ng Defender. Magpatupad ng matatag na pagpapagaan. Humingi ng pananagutan mula sa iyong mga vendor para sa kanilang postura sa seguridad, hindi lamang ang kanilang tampok na roadmap.
Ang pagbagsak ng merkado at ang hindi natugunan na mga pangunahing isyu sa seguridad ay hindi lamang mga balita. Sila ay isang pagtutuos. Isang tech na mundo na masyadong mabilis, masyadong walang ingat, at sa wakas, masyadong exposed. Oras na para lumaki, i-secure ang ating mga pundasyon, at pagkatapos, noon lang, maingat na isaalang-alang ang susunod na hangganan.
Mga Pinagmulan
[1] Future of Life Institute — I-pause ang Giant AI Experiments: Isang Bukas na Liham — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Nanawagan ang mga eksperto sa AI na huminto sa pagbuo ng mga advanced na AI system — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Kilalang Pinagsasamantalahang Katalogo ng Mga Kahinaan — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email at Web Manager, Cisco Email Security Appliance, at Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — Kahinaan sa Pagtaas ng Pribilehiyo ng Lokal ng Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647