Ang AI Slowdown kay usa ka Distraction. Nasunog ang imong Balay.
Magprangka ta: ang industriya sa tech sa katapusan adunay "come to Jesus" nga higayon kauban ang AI, apan gibati kini nga dili sama sa tinuud nga paghinulsol ug labi pa sa usa ka estratehikong pivot. Sa kalit lang, ang mismong mga arkitekto niining lumba sa AI - ang bantog nga mga tigdukiduki ug ang mga financier nga nagpundo sa ilang mga sprint nga gipaandar sa caffeine - nanawagan alang sa paghinay [1]. Naghisgot sila bahin sa "internal nga pagdumala," "etikal nga mga balangkas," ug usa ka "mas tinuyo" nga lakang. Ug ang merkado, nga kanunay nga sensitibo nga barometer, nag-reaksyon na, nga adunay mga kabalaka bahin sa pagpadayon sa mga pamuhunan sa AI nga hinungdan sa pagkasunud sa mga stock sa chip [2].
Dili kini eksternal nga regulasyon; kini usa ka internal nga "fault line" nga mitumaw gikan sa sulod sa AI ecosystem mismo. Ug samtang ang C-suite nagdebate sa pilosopikal nga mga implikasyon sa ilang umaabot nga mga binuhat, ang karon aktibo nga nagdilaab.
Ang Sayon nga Paghunong
Tagda ang panahon. Sulod sa mga katuigan, ang mantra mao ang "move fast and break things," o mas bag-o pa, "move fast and build AGI." Karon, uban sa gamhanan nga mga modelo nga na-deploy na, uban sa kompetisyon nga talan-awon nga kadaghanan gihubit, ug uban sa multo sa aktuwal, makahuluganon nga regulasyon nga nagsingabot, ang mga panawagan alang sa pag-amping nagbag-o nga gamay. Kini ba usa ka tinuud nga pagkahigmata sa lawom nga mga peligro, o usa ka kalkulado nga maniobra aron makonsolida ang gahum, mapahinay ang mga kakompetensya, ug pagdumala sa panan-aw sa publiko sa wala pa mogawas ang mga pitchforks?
Sayon nga mag-amping kung na-corner na nimo ang merkado sa compute, talento, ug pundasyon nga mga modelo. Ang kalit nga pagtutok sa industriya sa "re-evaluation sa mga roadmaps sa produkto, risk assessments, ug strategic planning" daw halangdon, apan kini ingon og usa ka sayon nga paagi sa pag-align sa mga kapanguhaan. Mahimo kini nga makapahinay sa bukas nga gigikanan nga mga alternatibo o gagmay nga mga magdudula nga mahimong mohagit sa natukod nga mga higante pinaagi sa pagkontrol sa pag-access sa hinungdanon nga mga kapanguhaan o pag-impluwensya sa mga balangkas sa regulasyon. Ang "etikal nga balangkas" kalit nga labing hinungdanon, dili sa dihang ang mga modelo gibansay sa gikiskis nga datos, apan karon nga sila adunay igo nga gahum aron tinuud nga mabag-o ang katilingban.
Ang mga kabalaka nga gipahayag sulod sa akademiko ug siyentipikanhong mga komunidad, nagpasidaan nga ang "mga solusyon" sa AI sa pag-abli sa mga problema mahimong maghulga sa integridad sa ilang mga uma [3], usa ka lig-on nga timailhan sa giladmon niining internal nga kabalaka. Apan dili nato kini masayop nga altruismo. Dili kini bahin sa epekto sa AI sa mga trabaho o imprastraktura; kini mahitungod sa pagkontrol – kinsa ang naggamit niini, ug sa unsang paagiha. Ang debate dili kaayo mahitungod sa "kinahanglan ba natong tukuron kini?" ug dugang pa bahin sa "kinsa ang makahukom kung unsa ka paspas ang among pagtukod niini, ug kinsa ang nakaganansya?"
Samtang Nagdebate Sila sa Umaabot, Nakompromiso ang Imong Present
Karon, atong i-pivot gikan sa abstract, tan-awon sa umaabot nga mga kabalaka sa internal rift sa AI ngadto sa diha-diha, mahikap nga krisis nga nahitabo sa atong mga network karon. Samtang ang mga AI titans namalandong sa kalag sa ilang mga makina, ang imong operational nga mga team nag-scramble nga adunay usa ka hingpit nga katalagman sa cybersecurity.
Wala kami maghisgot bahin sa teoretikal nga mga hulga o kinatibuk-ang uso. Naghisgot kami bahin sa aktibong gipahimuslan nga zero-day vulnerabilities sa foundational enterprise software, nga naigo sa kritikal nga imprastraktura gamit ang kusog sa sledgehammer.
- Ivanti Connect Secure ug Policy Secure (CVE-2023-46805 & CVE-2024-21887): Dili lang kini bug; kini usa ka nagnganga nga samad. Kini nga mga kahuyangan sa VPN ni Ivanti ug mga solusyon sa pag-access sa network aktibong gipahimuslan, nga nagtugot sa mga tig-atake sa paglaktaw sa pag-authenticate ug pagpatuman sa hilit nga mga sugo. Ang CISA nagpagula og daghang mga pasidaan, nga nagpasiugda sa kritikal nga risgo sa mga organisasyon nga nagsalig niini nga mga sistema alang sa luwas nga hilit nga pag-access [4]. Ang imong panguna nga depensa sa network, ang usa ka butang nga imong gisaligan aron mapahunong ang mga daotan sa ganghaan, aktibo nga gipahimuslan aron mahatagan ang mga tig-atake sa lawom nga pag-access sa dili maihap nga mga network sa negosyo.
- Cisco IOS XE Web UI (CVE-2023-20198): Maximum nga kagrabe. Aktibo nga gipahimuslan. Kini nga pagkahuyang nagtugot sa dili tinuod nga mga tig-atake sa paghimo og mga pribilihiyo nga mga account ug makakuha og hingpit nga kontrol sa mga apektadong Cisco IOS XE nga mga himan. Kung tag-iya sa usa ka tig-atake ang eroplano sa pagdumala sa imong imprastraktura sa network, sila ang tag-iya sa imong tibuuk nga network. Natapos ang dula [5].
Ang CISA wala mag-isyu og "mga pasidaan" alang sa kalingawan; nagsinggit sila og "kalayo" sa usa ka puno nga teatro. Dili lang kini teoretikal nga mga hulga; sila aktibong gigamit sa pagkompromiso sa kinauyokan nga mga depensa ug mga sistema sa pagdumala sa tibuok kalibotanong mga negosyo.
Ang Tinuod nga Linya sa Sala
Ang irony baga kaayo nga mahimo nimong putlon kini gamit ang dull nga kutsilyo. Sa usa ka bahin, kami adunay AI elite nga nagdebate sa etikal nga implikasyon sa usa ka umaabot nga ilang gitukod pa, nga nanawagan alang sa usa ka paghinay pagkahuman sa mga tuig nga wala makontrol nga pagpadali. Sa pikas bahin, kita adunay diha-diha, naglungtad nga hulga sa atong kasamtangan nga pundasyon nga teknolohiya nga aktibong nahugno ubos sa kabug-at sa wala masulbad, wala'y padulngan nga mga kahuyangan.
Ang tinuod nga "fault line" dili lang sulod sa AI community; kini sa taliwala sa garing nga torre sa kabag-ohan ug sa mga kanal sa operational kamatuoran. Taliwala kini sa abstract, naka-focus sa umaabot nga mga diskusyon sa "self-regulation" para sa AI ug ang diha-diha, konkretong panginahanglan alang sa aktuwal nga seguridad ug kalig-on sa mga sistema nga atong gisaligan karon.
Ingon nga nanguna ang mga CTO ug inhenyeriya, dili kami makahimo nga mabalda sa mga pilosopikal nga debate sa paghinay sa AI. Samtang kana nga mga panaghisgot hinungdanon alang sa taas nga termino, kini usa ka kaluho kung ang imong balay aktibo nga nasunog. Ang "re-evaluation sa mga roadmaps sa produkto" kinahanglan magsugod sa pagpalig-on sa mga nahugno nga pundasyon sa atong kasamtangan nga imprastraktura. Ang "pagsusi sa risgo" kinahanglan nga unahon ang diha-diha, aktibong gipahimuslan nga mga hulga nga nagkompromiso sa pagpadayon sa operasyon ug integridad sa datos karon.
Ang mga prayoridad sa industriya nabali. Nagtukod kami og mas paspas, mas sinaw nga mga butang sa pundasyon nga aktibo nga nangadunot. Ang panawagan alang sa usa ka paghinay sa AI mahimo’g usa ka kinahanglan nga panag-istoryahanay, apan alang sa amon sa yuta, nga nag-atubang sa Ivanti ug Cisco nga zero-days, gibati kini sama sa pagdebate sa kolor sa mga kurtina samtang ang atop nagkubkob. Focus sa karon. Ang umaabot mahimong maghulat hangtod nga dili na kami aktibo nga nagdugo.
Mga Tinubdan
[1] Usa ka Bukas nga Sulat aron Ihunong ang Giant AI nga mga Eksperimento — https://futureoflife.org/open-letter-pause-ai-development/ [2] Ang mga stock sa AI nagkataas, apan ang pipila ka mga tigpamuhunan nakulbaan - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Ang rebolusyon sa AI sa siyensya: mga saad ug peligro — https://www.nature.com/articles/d41586-023-03223-y [4] Mga Hulagway nga Nagpahimulos sa Ivanti Connect Secure ug Ivanti Policy Secure Vulnerabilities — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Mga Hulagway nga Nagpahimulos sa Cisco IOS XE Software Web UI Vulnerability — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a