AI Newydd yr Ymerawdwr, a'r Sefydliad Pydru oddi tano
Cofiwch pan oedd AI yn mynd i achub ni i gyd? Troi allan, y gwaredwyr yn awr yn gofyn am seibiant. Yn ddiweddar, fe wnaeth union benseiri ein dyfodol a yrrir gan AI - yr ymchwilwyr “ffiniol” a phwysau ariannol trwm - daro’r breciau gyda’i gilydd, gan fynnu arafiad mewn datblygiad oherwydd “pryderon diogelwch cynyddol” [1]. Ymatebodd y farchnad, erioed yr offeryn di-fin, trwy besychu ysgyfaint: cwympodd stociau sglodion a chwaraewyr AI mawr [2]. Roedd Beijing, yn ôl pob tebyg, wedi dychryn gyda'r rhybuddion, tra bod cewri sglodion Seoul yn talu ymlaen llaw am ddatblygiadau AI yn y dyfodol [2].
Nid dadl athronyddol ar gyfer y tŵr ifori yn unig yw hon. Mae hwn yn newid seismig, cyfaddefiad cyhoeddus o fyrbwylltra o fewn elitaidd y diwydiant. Ac a dweud y gwir, mae ychydig yn rhy gyfleus.
Y Saib AI: Allgaredd neu Chwarae Pŵer?
Gadewch i ni fod yn glir: pan fydd y bobl a adeiladodd y roced yn sylweddoli'n sydyn eu bod wedi anghofio'r parasiwtiau *ar ôl * lansio, nid yw'n foment o ddeffroad moesegol dwys. Mae'n sgramblo hwyr, hunanwasanaethol. Nid delfrydwyr llygaid llydan mo'r rhain; dyma'r titans sydd wedi bod yn gwthio'r pedal i'r metel, gan fynd ar drywydd twf esbonyddol a goruchafiaeth y farchnad. Nawr, gyda bwgan “canlyniadau annisgwyl” ar y gorwel - ac efallai, yn fwy sinigaidd, y sylweddoliad bod y cyflymder presennol yn anghynaladwy neu fod angen iddynt atgyfnerthu eu harweiniad - maen nhw'n galw am anadl ar y cyd.
Mae ymateb y farchnad yn drawiadol. Nid yw gostyngiad yn y stoc sglodion yn ymwneud ag ofn yn unig; mae'n ymwneud â goblygiadau ariannol uniongyrchol arafu posibl. Gwthiad Beijing yn ôl? Arwydd clir bod mantais strategol genedlaethol yn trechu pryderon diogelwch haniaethol. A gwneuthurwyr sglodion Seoul yn gwrthod taliadau ymlaen llaw? Dyna sŵn cyfalaf yn cwestiynu sefydlogrwydd a phroffidioldeb hirdymor dyfodol ansicr sydyn.
I ni, y CTOs ac arweinwyr peirianneg, mae hyn yn trosi'n uniongyrchol i dirwedd anhrefnus. Disgwyl i ymyriadau rheoleiddio gyflymu, gan orfodi ail-flaenoriaethu prosiectau AI. Mae'r ethos "symud yn gyflym a thorri pethau" ar gyfer AI wedi marw'n swyddogol, wedi'i ddisodli gan chwiliad gwyllt am fframweithiau "datblygiad AI moesegol" a ddylai fod wedi'u pobi o'r diwrnod cyntaf. Bydd buddsoddiad yn dod yn fwy gofalus, bydd strategaethau’n colyn, ac ie, bydd marchnadoedd swyddi’n teimlo’r oerfel wrth i’r rhuthr aur ildio i ddull mwy pwyllog, a mwy cyfrifol gobeithio. Ond gadewch i ni beidio â chamgymryd hyn am anhunanoldeb pur. Mae'r "saib" hwn yn ymwneud cymaint â rheolaeth ac ail-raddnodi'r farchnad ag y mae'n ymwneud â diogelwch gwirioneddol.
Tra bod Dadl y Titans, mae'r Sylfaen yn Crymbl
Nawr, tra bod yr elitaidd AI yn cael eu hargyfwng dirfodol, gan drafod moeseg goruchwyliaeth yn y dyfodol, gadewch i ni siarad am yr argyfwng diogelwch real iawn, presennol iawn, a hollol drychinebus sy'n datblygu * ar hyn o bryd*.
Yr wythnos hon, ychwanegodd CISA nifer o CVEs newydd at ei gatalog Known Exploited Vulnerabilities [3]. Rydyn ni'n sôn am RCE gwraidd wedi'i gadarnhau ym Mhorth E-bost Diogel Cisco (CVE-2023-20269) [4], llwybr CVSS 10.0 yn GitLab (CVE-2023-2825) [3], a diwrnod sero Chrome a glytiwyd yn ddiweddar (CVE-2023-4863) [3].
Ond y dyrnu perfedd go iawn, yr un a ddylai wneud i bob gweithiwr diogelwch proffesiynol sgrechian i'r gwagle, yw bygythiad parhaus diffygion sylfaenol. Ystyriwch CVE-2021-1647, bregusrwydd dwysáu braint leol ym Mheiriant Diogelu Malware Microsoft Defender [5]. Nid rhyw ddiffyg aneglur oedd hyn ; roedd ganddo Brawf-Cysyniad cyhoeddus a chafodd ei ecsbloetio’n weithredol yn y gwyllt, gan amlygu sut y gall cydrannau hanfodol ein hamddiffyniad digidol gael eu peryglu a pharhau i fod yn agored i niwed am gyfnod.
Gadewch i hynny suddo i mewn. Wrth i ni drafod moeseg teimlad AI, dangoswyd bod yr union feddalwedd a ddyluniwyd i amddiffyn ein pwyntiau terfyn, haen sylfaenol ein hamddiffyniad digidol, yn cynnwys diffygion sy'n hysbys yn gyhoeddus ac sy'n cael eu hecsbloetio'n weithredol sy'n caniatáu i ymosodwr ddyrchafu breintiau. Mae fel dadlau am oblygiadau athronyddol gyriant ystof tra bod brêcs eich car yn methu a'r injan ar dân.
Y Cyfrif: Dwy Ochr i'r Un Darn
Nid yw'r rhain yn straeon ar wahân. Maent yn ddwy ochr i'r un darn arian diffygiol iawn: diwydiant technoleg sydd wedi blaenoriaethu cyflymder, newydd-deb, ac arloesi canfyddedig yn gyson dros ddiogelwch, sefydlogrwydd a chyfrifoldeb sylfaenol.
Mae galwad sydyn arweinwyr AI am arafu yn ymgais adweithiol, hunanwasanaethol i unioni'r cwrs * ar ôl * maen nhw eisoes wedi rhyddhau systemau pwerus, nad ydyn nhw'n cael eu deall yn dda, i'r gwyllt. Mae'n gyfaddefiad bod y mantra "symud yn gyflym a thorri pethau", o'i gymhwyso i dechnoleg a allai newid y byd, nid yn unig yn anghyfrifol, ond yn beryglus.
Yr ymosodiad dim diwrnod, yn enwedig bregusrwydd hanfodol yr Amddiffynnwr, yw canlyniad uniongyrchol, poenus yr un meddylfryd a gymhwysir at TG sylfaenol. Mae'n ganlyniad diwylliant sy'n aml yn trin diogelwch fel ôl-ystyriaeth, blwch gwirio cydymffurfiaeth, neu ganolfan gost, yn hytrach nag elfen annatod, na ellir ei thrafod, o bob cynnyrch a system unigol. Rydyn ni mor brysur yn mynd ar drywydd y gwrthrych sgleiniog nesaf - yr LLM nesaf, yr asiant AI nesaf - fel ein bod ni wedi gadael i'r union dir o dan ein traed bydru.
Ar gyfer CTOs ac arweinwyr peirianneg, mae'r neges yn un amlwg ac uniongyrchol. Rhoi'r gorau i fynd ar drywydd pob tuedd AI sy'n croesi'ch porthiant. Dwbl i lawr ar y pethau sylfaenol. Blaenoriaethu clytio, yn enwedig ar gyfer gwendidau critigol y mae pobl yn eu hecsbloetio'n weithredol fel y rhai yn Cisco, GitLab, a'r bygythiad parhaus a amlygwyd gan LPEs Defender yn y gorffennol. Gweithredu mesurau lliniaru cadarn. Mynnwch atebolrwydd gan eich gwerthwyr am eu hosgo diogelwch, nid dim ond eu map ffordd nodwedd.
Nid eitemau newyddion yn unig yw cwymp y farchnad a'r materion diogelwch sylfaenol nad ydynt yn cael sylw. Maent yn cyfrif. Byd technoleg sy'n rhy gyflym, yn rhy fyrbwyll, ac yn olaf, yn rhy agored. Mae'n bryd tyfu i fyny, sicrhau ein sylfeini, ac yna, dim ond wedyn, ystyried yn ofalus y ffin nesaf.
Ffynonellau
[1] Sefydliad Dyfodol Bywyd - Saib Arbrofion AI Cawr: Llythyr Agored - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Arbenigwyr AI yn galw am oedi wrth ddatblygu systemau AI uwch - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Catalog Gwendidau Camfanteisio hysbys — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Rheolwr E-bost a Gwe Diogel, Offer Diogelwch E-bost Cisco, a Gwendidau Offer Diogelwch Gwe Cisco — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Canolfan Ymateb Diogelwch Microsoft - Bregusrwydd Cynnydd Breintiau Lleol Microsoft Defender - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647