Ang AI Slowdown ay isang Distraction. Nasusunog ang iyong Bahay.
Maging mapurol tayo: ang industriya ng tech ay sa wakas ay nagkakaroon na ng "come to Jesus" na sandali kasama ang AI, ngunit parang hindi ito tunay na pagsisisi at mas parang isang madiskarteng pivot. Biglang, ang mismong mga arkitekto ng break-neck na AI race na ito - ang mga kilalang mananaliksik at ang mga financier na pinondohan ang kanilang mga sprint na may caffeine-fueled - ay nananawagan para sa pagbagal [1]. Pinag-uusapan nila ang tungkol sa "panloob na pamamahala," "mga etikal na balangkas," at isang "mas sinadya" na bilis. At ang merkado, kailanman ang sensitibong barometer, ay nag-react na, na may mga alalahanin tungkol sa pagpapanatili ng mga pamumuhunan ng AI na nagdudulot ng pagkasumpungin sa mga stock ng chip [2].
Hindi ito panlabas na regulasyon; ito ay isang panloob na "fault line" na umuusbong mula sa loob mismo ng AI ecosystem. At habang pinagtatalunan ng C-suite ang mga pilosopikong implikasyon ng kanilang mga likha sa hinaharap, ang kasalukuyan ay aktibong nasusunog.
Ang Maginhawang Pag-pause
Isaalang-alang ang tiyempo. Sa loob ng maraming taon, ang mantra ay "move fast and break things," o mas kamakailan lang, "move fast and build AGI." Ngayon, na may makapangyarihang mga modelo na naka-deploy na, na ang mapagkumpitensyang tanawin ay higit na natukoy, at may multo ng aktwal, makabuluhang regulasyon na nagbabadya, ang mga panawagan para sa pag-iingat ay medyo walang laman. Ito ba ay isang tunay na paggising sa malalim na mga panganib, o isang kalkuladong maniobra upang pagsamahin ang kapangyarihan, pabagalin ang mga kakumpitensya, at pamahalaan ang pampublikong pang-unawa bago lumabas ang mga pitchforks?
Madaling mangaral ng pag-iingat kapag na-corner mo na ang market sa compute, talent, at foundational na mga modelo. Ang biglaang pagtutok ng industriya sa "muling pagsusuri ng mga roadmap ng produkto, pagtatasa ng panganib, at madiskarteng pagpaplano" ay mukhang marangal, ngunit ito rin ay parang isang maginhawang paraan upang muling ihanay ang mga mapagkukunan. Maaari nitong pabagalin ang mga alternatibong open-source o mas maliliit na manlalaro na maaaring hamunin ang mga naitatag na higante sa pamamagitan ng pagkontrol sa pag-access sa mahahalagang mapagkukunan o pag-impluwensya sa mga balangkas ng regulasyon. Ang "etikal na balangkas" ay biglang pinakamahalaga, hindi noong ang mga modelo ay sinanay sa mga nasimot na data, ngunit ngayon na ang mga ito ay sapat na makapangyarihan upang tunay na muling hubugin ang lipunan.
Ang mga alalahanin na ipinahayag sa loob ng akademiko at siyentipikong mga komunidad, na nagbabala na ang "mga solusyon" ng AI sa pagbukas ng mga problema ay maaaring magbanta sa integridad ng kanilang mga larangan [3], ay isang malinaw na tagapagpahiwatig ng lalim ng panloob na alalahanin na ito. Ngunit huwag nating ipagkamali ito bilang altruismo. Hindi ito tungkol sa epekto ng AI sa mga trabaho o imprastraktura; ito ay tungkol sa control – kung sino ang may hawak nito, at sa anong bilis. Ang debate ay mas kaunti tungkol sa "dapat ba nating itayo ito?" at higit pa tungkol sa "sino ang makakapagpasya kung gaano kabilis namin itong binuo, at sino ang kumikita?"
Habang Nagdedebate Sila sa Hinaharap, Nakompromiso ang Iyong Kasalukuyan
Ngayon, mag-pivot tayo mula sa abstract, nakikita sa hinaharap na mga alalahanin ng panloob na lamat ng AI patungo sa agarang, nasasalat na krisis na nangyayari sa ating mga network ngayon. Habang pinag-iisipan ng AI titans ang kaluluwa ng kanilang mga makina, ang iyong mga operational team ay nagsusumikap na maglaman ng isang ganap na sakuna sa cybersecurity.
Hindi namin pinag-uusapan ang mga teoretikal na banta o pangkalahatang uso. Pinag-uusapan natin ang tungkol sa aktibong pinagsamantalahan na mga zero-day na kahinaan sa foundational na software ng enterprise, na tinatamaan ang mga kritikal na imprastraktura gamit ang puwersa ng isang sledgehammer.
- Ivanti Connect Secure at Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ito ay hindi lamang isang bug; ito ay isang nakanganga na sugat. Ang mga kahinaan na ito sa VPN ng Ivanti at mga solusyon sa pag-access sa network ay aktibong pinagsamantalahan, na nagpapahintulot sa mga umaatake na laktawan ang pagpapatunay at magsagawa ng mga malalayong utos. Ang CISA ay naglabas ng maraming babala, na nagbibigay-diin sa kritikal na panganib sa mga organisasyong umaasa sa mga sistemang ito para sa secure na malayuang pag-access [4]. Ang iyong pangunahing pagtatanggol sa network, ang isang bagay na iyong pinagkakatiwalaan upang pigilan ang mga masasamang tao sa gate, ay aktibong pinagsamantalahan upang bigyan ang mga umaatake ng malalim na access sa hindi mabilang na mga network ng enterprise.
- Cisco IOS XE Web UI (CVE-2023-20198): Maximum na kalubhaan. Aktibong pinagsasamantalahan. Ang kahinaan na ito ay nagbibigay-daan sa mga hindi napatotohanan na umaatake na lumikha ng mga privileged account at makakuha ng ganap na kontrol sa mga apektadong Cisco IOS XE device. Kung pagmamay-ari ng isang attacker ang management plane ng iyong network infrastructure, pagmamay-ari nila ang iyong buong network. Tapos na ang laro [5].
Ang CISA ay hindi naglalabas ng "mga babala" para sa kasiyahan; sumisigaw sila ng "apoy" sa isang masikip na sinehan. Ang mga ito ay hindi lamang mga teoretikal na banta; aktibong ginagamit ang mga ito upang ikompromiso ang mga pangunahing depensa at sistema ng pamamahala sa mga pandaigdigang negosyo.
Ang Tunay na Fault Line
Ang kabalintunaan ay napakakapal na maaari mong putulin ito ng isang mapurol na kutsilyo. Sa isang panig, mayroon kaming AI elite na pinagtatalunan ang mga etikal na implikasyon ng isang hinaharap na itinatayo pa rin nila, na humihiling ng pagbagal pagkatapos ng mga taon ng hindi napigilang pagbilis. Sa kabilang banda, mayroon kaming agarang, umiiral na banta ng aming kasalukuyang pundasyong teknolohiya na aktibong gumuguho sa ilalim ng bigat ng hindi natugunan, hindi natatakpan na mga kahinaan.
Ang tunay na "fault line" ay hindi lamang sa loob ng AI community; ito ay nasa pagitan ng ivory tower ng inobasyon at ang trenches ng operational reality. Nasa pagitan ito ng abstract, nakatuon sa hinaharap na mga talakayan ng "self-regulation" para sa AI at ang agarang, kongkretong pangangailangan para sa aktwal na seguridad at katatagan sa mga system na aming pinagkakatiwalaan ngayon.
Habang nangunguna ang mga CTO at engineering, hindi natin kayang magambala ng mga pilosopikal na debate ng paghina ng AI. Habang ang mga talakayang iyon ay mahalaga para sa pangmatagalang panahon, ang mga ito ay isang luho kapag ang iyong bahay ay aktibong nasusunog. Ang "muling pagsusuri ng mga roadmap ng produkto" ay dapat magsimula sa pagtaguyod sa mga gumuguhong pundasyon ng ating umiiral na imprastraktura. Kailangang bigyang-priyoridad ng "mga pagtatasa ng peligro" ang mga agarang, aktibong pinagsasamantalahang mga banta na nakakakompromiso sa pagpapatuloy ng pagpapatakbo at integridad ng data ngayon.
Ang mga priyoridad ng industriya ay baluktot. Gumagawa kami ng mas mabilis, mas makintab na mga bagay sa isang pundasyon na aktibong nabubulok. Ang tawag para sa isang pagbagal ng AI ay maaaring isang kinakailangang pag-uusap, ngunit para sa amin sa lupa, na nakikipag-usap sa Ivanti at Cisco zero-days, ito ay parang pagdedebate sa kulay ng mga kurtina habang ang bubong ay nahuhulog. Tumutok sa kasalukuyan. Maaaring maghintay ang hinaharap hanggang sa hindi tayo aktibong dumudugo.
Mga Pinagmulan
[1] Isang Bukas na Liham para I-pause ang Giant AI Experiment — https://futureoflife.org/open-letter-pause-ai-development/ [2] Ang mga stock ng AI ay tumataas, ngunit ang ilang mamumuhunan ay kinakabahan — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Ang rebolusyon ng AI sa agham: mga pangako at panganib — https://www.nature.com/articles/d41586-023-03223-y [4] Pananakot na mga Aktor na Sinasamantala ang Ivanti Connect Secure at Ivanti Policy Secure Vulnerabilities — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Mga Aktor ng Banta na Nagsasamantala sa Kahinaan sa Web UI ng Cisco IOS XE Software — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a