AI-ya Nû ya Qeyser, û Weqfa Rottingê li binê wê
Bînin bîra xwe kengê AI dê me hemûyan xilas bike? Derket holê ku, rizgarker niha demekî dixwazin. Di van demên dawî de, mîmarên paşeroja me ya AI-ê-rêveber - lêkolînerên "sînor" û giranên darayî - bi hev re li ser frenan xistin, ji ber "fikirên ewlehiyê yên zêde" [1] di pêşveçûnê de hêdîbûnek xwestin. Sûk, her dem amûra bêaqil, bi kuxîna pişikê bersiv da: stokên çîpê û lîstikvanên sereke yên AI-ê daketin [2]. Pekînê, bi pêşbînî, tinazên xwe bi hişyariyan kir, dema ku dêwên çîpên Seoul ji dravdanên pêşîn ên ji bo pêşkeftinên AI-ê yên paşerojê nerazî bûn [2].
Ev ne tenê nîqaşek felsefî ya ji bo birca fîlan e. Ev guheztinek erdhejê ye, pejirandinek gelemperî ya bêhişmendiya ji hundurê elîta pîşesaziyê. Û bi rastî, ew hinekî pir hêsan e.
Rawestandina AI: Altruîzm an Lîstika Hêz?
Werin em zelal bin: gava ku kesên ku roket çêkirine ji nişka ve pê dihesin ku wan piştî avêtinê paraşût ji bîr kirine, ew ne demek şiyarbûna exlaqî ya kûr e. Tevliheviyek derengmayî ye, ji xwe re xizmet dike. Ev ne îdealîstên çavbirçî ne; ev tîtan in ku pedal ber bi metalê ve dikişînin, li dû mezinbûna berbiçav û serdestiya bazarê digerin. Naha, digel ku xewna "encamên nediyar" mezin xuya dike - û dibe ku, bi cindîtir, têgihîştina ku leza heyî nedomdar e an ku ew hewce ne ku pêşengiya xwe xurt bikin - ew banga hilmek kolektîf dikin.
Reaksiyona bazarê diyar e. Kêmbûna stokên çîpê ne tenê tirs e; ew li ser bandorên darayî yên bilez ên hêdîbûnek potansiyel e. Piştgiriya Pekînê? Nîşanek zelal e ku berjewendiya stratejîk a neteweyî li ser fikarên ewlehiyê yên razber radibe. Û çipçêkerên Seulê dravdana pêşîn red dikin? Ew dengê sermayê ye ku îstîqrara demdirêj û sûdmendiya paşerojek ji nişka ve nediyar dipirse.
Ji bo me, CTO û pêşengên endezyariyê, ev rasterast vediguhere perestgehek kaotîk. Li bendê bin ku destwerdanên birêkûpêk bileztir bibin, û zorê bidin ku ji nû ve pêşînîkirina projeyên AI-yê. Etosa "bi lez tevbigerin û tiştan bişkînin" ji bo AI-ê bi fermî mirî ye, li şûna lêgerînek hovane ya çarçoveyên "pêşkeftina AI-ya exlaqî" ya ku diviyabû ji roja yekem ve bihata çêkirin. Veberhênanî dê hişyartir bibe, stratejî dê bizivirin, û erê, bazarên kar dê sermayê hîs bikin ji ber ku zêra zêr rê dide nêzîkatiyek bêtir pîvandî, û hêvîdarim, berpirsiyartir. Lê bila em vê yekê bi altruîzma safî şaş nekin. Ev "sekinandin" bi qasî kontrolkirin û ji nû ve-kalîbrkirina bazarê hem jî li ser ewlehiya rastîn e.
Dema ku Nîqaşên Titans, Weqf hilweşe
Naha, dema ku elîta AI-yê qeyrana xwe ya hebûnê heye, li ser etîka îstîxbarata pêşerojê nîqaş dikin, bila em li ser qeyrana ewlehiyê ya pir rast, pir heyî, û bi tevahî karesatek ku niha derdikeve biaxivin.
Vê heftê, CISA gelek CVE-yên nû li kataloga Xezaliyên Kêmkirî yên Naskirî zêde kir [3]. Em li ser RCE-ya pejirandî ya di Cisco Secure Email Gateway (CVE-2023-20269) [4], rêgezek CVSS 10.0 li GitLab (CVE-2023-2825) [3], û Chrome-ya sifir-roja (3-4862) ya nû ya patchedkirî (3-3-4862) baldariyek sifir-roja (3-4862) ya nû hatî patched dipeyivin.
Lê gurçika rastîn, ya ku divê her pisporê ewlehiyê bikeve nav valahiyê, xetereya domdar a xeletiyên bingehîn e. CVE-2021-1647, qelsiyek zêdekirina îmtiyaza herêmî ya di Motora Parastina Malware ya Microsoft Defender de [5] binihêrin. Ev ne kêmasiyek ne diyar bû; ew xwediyê delîlek têgînek giştî bû û bi awayekî çalak li çolê hate îstismar kirin, ronî dike ku çawa hêmanên krîtîk ên berevaniya meya dîjîtal dikare were tawîz kirin û ji bo heyamekê xeternak bimîne.
Bila ew têkeve hundur. Dema ku em li ser etîka hestiyariya AI-ê nîqaş dikin, nermalava ku ji bo parastina xalên me yên dawiya me hatî çêkirin, qata bingehîn a berevaniya meya dîjîtal, hate xuyang kirin ku xeletiyên gelemperî yên naskirî, bi aktîvî îstismarkirî yên ku destûrê dide êrîşkerek îmtiyazan bilind dike, digire. Ew mîna nîqaşkirina li ser encamên felsefî yên ajotina warp e dema ku frenên gerîdeya we têk diçin û motor dişewite.
Hesabkirin: Du Aliyên Heman Pereyê
Ev ne çîrokên cihê ne. Ew du aliyên heman pereyê kûr û xelet in: pîşesaziyek teknolojiyê ya ku bi domdarî lez, nûbûn, û nûbûniyê li ser ewlekariya bingehîn, aramî û berpirsiyariyê pêşanî daye.
Banga ji nişka ve ya rêberên AI-ê ji bo hêdîbûnê hewildanek reaktîf, xwe-xizmetkar e ji bo rastkirina qursê piştî ku wan berê pergalên hêzdar, kêm-fêmkirî berbi çolê vekir. Ew pejirandî ye ku mantraya "zû tevbigerin û tiştan bişkînin", dema ku li ser teknolojiya potansiyel-guhêrbar a cîhanê were sepandin, ne tenê ne berpirsiyar e, lê xeternak e.
Êrîşa roja sifir, nemaze qelsiya krîtîk ya Defender, encama rasterast, bi êş a heman hişmendiyê ye ku li ser IT-ya bingehîn tê sepandin. Ew encamek çandek e ku bi gelemperî ewlehiyê wekî ramanek paşerojê, qutiya kontrolê ya lihevhatinê, an navendek lêçûn digire, ji bilî pêkhateyek yekgirtî, ne-negotî ya her hilber û pergalê. Em ew qas mijûl in ku li dû çîçekê din ê biriqandî - LLM-a paşîn, nûnerê AI-ê yê din - ku me hişt ku axa di bin lingên xwe de biqelişe.
Ji bo CTO û pêşengên endezyariyê, peyam hişk û tavilê ye. Li dû şopandina her meyldariya AI-ê ya ku xwarina we derbas dibe rawestin. Li ser esasan du qat bikin. Patchkirinê, nemaze ji bo qelsiyên krîtîk, yên aktîf ên mîna yên Cisco, GitLab, û xetereya domdar ku ji hêla LPE-yên paşîn ên Defender ve têne nimûne kirin, bidin pêş. Kêmasiyên xurt pêk bînin. Ji firoşkarên xwe ji bo pozîsyona ewlehiya wan, ne tenê nexşeya rê ya taybetmendiya wan, berpirsiyariyê bixwazin.
Hilweşîna sûkê û pirsgirêkên ewlekariya bingehîn ên bêserûber ne tenê nûçe ne. Ew hesabek in. Cîhanek teknolojiyê ku pir bilez, pir bêhiş, û di dawiyê de, pir eşkere ye. Wext e ku em mezin bibin, bingehên xwe ewle bikin, û dûv re, tenê hingê, bi hişyarî li ser sînorê paşîn bifikirin.
Çavkanî
[1] Enstîtuya Pêşerojê ya Jiyanê - Ceribandinên AI-ê Giant Pause: Nameyek Vekirî - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Pisporên AI banga rawestandina pêşveçûna pergalên pêşkeftî yên AI-yê dikin - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Kataloga Qelsiyên Keşnaskirî yên Naskirî - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Şêwirmendiya Ewlekariya Cisco - Rêvebirê E-name û Malperê ya Ewlekar Cisco, Amûra Ewlekariya E-nameyê Cisco, û Qelsiyên Amûra Ewlekariya Web Cisco - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-Qs [5] Navenda Bersiva Ewlekariya Microsoft - Xerabiya Zêdekirina Taybetmendiya Herêmî ya Microsoft Defender - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647