Mae'r Arafiad AI yn Wrthdyniad. Mae Eich Tŷ ar Dân.
Gadewch i ni fod yn blwmp ac yn blaen: mae'r diwydiant technoleg o'r diwedd yn cael ei foment "ddod at Iesu" gydag AI, ond mae'n teimlo'n llai fel edifeirwch gwirioneddol ac yn debycach i golyn strategol. Yn sydyn, mae union benseiri’r ras AI arloesol hon - yr ymchwilwyr amlwg a’r arianwyr a ariannodd eu sbrintiau llawn caffein - yn galw am arafu [1]. Maen nhw'n sôn am "lywodraethu mewnol," "fframweithiau moesegol," a chyflymder "mwy bwriadol". Ac mae'r farchnad, erioed y baromedr sensitif, eisoes wedi ymateb, gyda phryderon am gynaliadwyedd buddsoddiadau AI yn achosi anweddolrwydd mewn stociau sglodion [2].
Nid rheoleiddio allanol mo hwn; mae'n "llinell fai" fewnol sy'n dod i'r amlwg o'r tu mewn i'r ecosystem AI ei hun. Ac er bod y C-suite yn dadlau goblygiadau athronyddol eu creadigaethau yn y dyfodol, mae'r presennol yn llosgi'n weithredol.
Y Saib Cyfleus
Ystyriwch yr amseriad. Am flynyddoedd, mae'r mantra wedi bod yn "symud yn gyflym ac yn torri pethau," neu'n fwy diweddar, "symud yn gyflym ac adeiladu AGI." Nawr, gyda modelau pwerus eisoes wedi'u defnyddio, gyda'r dirwedd gystadleuol wedi'i diffinio i raddau helaeth, a'r bwgan o reoleiddio gwirioneddol, ystyrlon ar y gorwel, mae'r galwadau am rybudd ychydig yn wag. A yw hyn yn ddeffroad gwirioneddol i'r risgiau dwys, neu'n symudiad cyfrifol i atgyfnerthu pŵer, arafu cystadleuwyr, a rheoli canfyddiad y cyhoedd cyn i'r pitchforks ddod allan?
Mae'n hawdd bod yn ofalus pan fyddwch chi eisoes wedi cornelu'r farchnad ar fodelau cyfrifiadurol, talent a sylfaen. Mae ffocws sydyn y diwydiant ar "ail-werthuso mapiau ffordd cynnyrch, asesiadau risg, a chynllunio strategol" yn swnio'n fonheddig, ond mae hefyd yn swnio fel ffordd gyfleus o ail-alinio adnoddau. Gallai hyn o bosibl arafu dewisiadau amgen ffynhonnell agored neu chwaraewyr llai a allai herio’r cewri sefydledig drwy reoli mynediad at adnoddau hanfodol neu ddylanwadu ar fframweithiau rheoleiddio. Mae'r "fframwaith moesegol" yn sydyn yn hollbwysig, nid pan oedd y modelau'n cael eu hyfforddi ar ddata wedi'u crafu, ond nawr eu bod yn ddigon pwerus i ail-lunio cymdeithas yn wirioneddol.
Mae pryderon a leisiwyd o fewn cymunedau academaidd a gwyddonol, sy'n rhybuddio y gallai "atebion" AI i broblemau agored fygwth cyfanrwydd eu meysydd [3], yn ddangosydd amlwg o ddyfnder y pryder mewnol hwn. Ond gadewch i ni beidio â chamgymryd hyn am anhunanoldeb. Nid yw hyn yn ymwneud ag effaith AI ar swyddi neu seilwaith; mae'n ymwneud â rheolaeth – pwy sy'n ei reoli, ac ar ba gyflymder. Mae'r ddadl yn llai am "a ddylem ni ei adeiladu?" a mwy am "pwy sy'n cael penderfynu pa mor gyflym rydyn ni'n ei adeiladu, a phwy sy'n elwa?"
Tra Maen Nhw'n Dadlau'r Dyfodol, Mae Eich Presennol Mewn Cyfaddawd
Nawr, gadewch i ni edrych ar bryderon haniaethol rhwyg mewnol AI yn y dyfodol i'r argyfwng diriaethol uniongyrchol sy'n datblygu ar ein rhwydweithiau * ar hyn o bryd*. Tra bod y titans AI yn myfyrio ar enaid eu peiriannau, mae eich timau gweithredol yn sgrialu i gynnwys trychineb seiberddiogelwch llawn.
Nid ydym yn sôn am fygythiadau damcaniaethol na thueddiadau cyffredinol. Rydyn ni'n sôn am wendidau dim-diwrnod sydd wedi'u hecsbloetio'n weithredol mewn meddalwedd menter sylfaenol, gan daro seilwaith hanfodol gyda grym gordd.
- Ivanti Connect Diogel a Pholisi Diogel (CVE-2023-46805 & CVE-2024-21887): Nid byg yn unig yw hwn; mae'n glwyf enfawr. Mae'r gwendidau hyn yn VPN Ivanti a datrysiadau mynediad rhwydwaith wedi cael eu hecsbloetio'n weithredol, gan ganiatáu i ymosodwyr osgoi dilysu a gweithredu gorchmynion o bell. Mae CISA wedi cyhoeddi rhybuddion lluosog, gan dynnu sylw at y risg hollbwysig i sefydliadau sy’n dibynnu ar y systemau hyn ar gyfer mynediad diogel o bell [4]. Mae eich amddiffyniad rhwydwaith sylfaenol, yr un peth rydych chi'n dibynnu arno i atal y dynion drwg wrth y giât, yn cael ei ecsbloetio'n weithredol i roi mynediad dwfn i ymosodwyr i rwydweithiau menter di-rif.
- ** Cisco IOS XE Web UI (CVE-2023-20198):** Difrifoldeb mwyaf. Cael ei hecsbloetio'n weithredol. Mae'r bregusrwydd hwn yn caniatáu i ymosodwyr heb eu dilysu greu cyfrifon breintiedig a chael rheolaeth lawn dros ddyfeisiau Cisco IOS XE yr effeithir arnynt. Os yw ymosodwr yn berchen ar awyren rheoli seilwaith eich rhwydwaith, nhw sy'n berchen ar eich rhwydwaith cyfan. Gêm drosodd [5].
Nid yw CISA yn cyhoeddi "rhybuddion" am hwyl; maen nhw'n sgrechian "tân" mewn theatr orlawn. Nid bygythiadau damcaniaethol yn unig yw’r rhain; maent yn cael eu defnyddio'n weithredol i gyfaddawdu amddiffynfeydd craidd a systemau rheoli ar draws mentrau byd-eang.
Y Llinell Ffawtiau Gwirioneddol
Mae'r eironi mor drwchus y gallech ei dorri â chyllell ddiflas. Ar un ochr, mae gennym yr elît AI yn trafod goblygiadau moesegol dyfodol y maent yn dal i'w adeiladu, gan alw am arafu ar ôl blynyddoedd o gyflymu heb ei wirio. Ar y llaw arall, mae bygythiad dirfodol, uniongyrchol ein technoleg sylfaenol gyfredol yn mynd ati i ddadfeilio o dan bwysau gwendidau heb fynd i'r afael â nhw.
Nid yw'r "llinell fai" go iawn yn y gymuned AI yn unig; mae rhwng tŵr ifori arloesi a ffosydd realiti gweithredol. Mae rhwng y trafodaethau haniaethol, sy'n canolbwyntio ar y dyfodol o "hunan-reoleiddio" ar gyfer AI a'r angen diriaethol, uniongyrchol am * wir* ddiogelwch a sefydlogrwydd yn y systemau rydyn ni'n dibynnu arnyn nhw heddiw.
Fel CTOs ac arweinwyr peirianneg, ni allwn fforddio i gael ein tynnu sylw gan y dadleuon athronyddol yr arafu AI. Er bod y trafodaethau hynny’n bwysig ar gyfer y tymor hir, maent yn foethusrwydd pan fydd eich tŷ ar dân. Dylai'r "ailwerthuso mapiau ffyrdd cynnyrch" ddechrau gyda chryfhau sylfeini dadfeiliedig ein seilwaith presennol. Mae angen i'r "asesiadau risg" flaenoriaethu'r bygythiadau uniongyrchol y manteisir arnynt ac sy'n peryglu parhad gweithredol a chywirdeb data heddiw.
Mae blaenoriaethau'r diwydiant wedi'u gogwyddo. Rydyn ni'n adeiladu pethau cyflymach, mwy disglair ar sylfaen sy'n pydru. Efallai y bydd yr alwad am arafu AI yn sgwrs angenrheidiol, ond i'r rhai ohonom ar lawr gwlad, sy'n delio â Ivanti a Cisco sero-days, mae'n teimlo fel dadlau lliw y llenni tra bod yr ogofâu to yn canolbwyntio ar y presennol. Gall y dyfodol aros nes nad ydym yn gwaedu'n weithredol.
Ffynonellau
[1] Llythyr Agored i Seibio Arbrofion AI Cawr — https://futureoflife.org/open-letter-pause-ai-development/ [2] Mae stociau AI yn cynyddu i'r entrychion, ond mae rhai buddsoddwyr yn mynd yn nerfus - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Y chwyldro AI mewn gwyddoniaeth: addewidion a pheryglon — https://www.nature.com/articles/d41586-023-03223-y [4] Actorion Bygythiad sy'n Camfanteisio ar Bolisi Ivanti Connect Secure a Ivanti yn Sicrhau Gwendidau - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Actorion Bygythiad yn Manteisio ar Fregusrwydd UI Gwe Meddalwedd Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a