Te AI Hou a te Emepera, me te Puawai pirau kei raro iho
Kia mahara ki te wa e haere ana a AI ki te whakaora ia tatou katoa? Ka huri, kei te tono nga kaiwhakaora inaianei mo te waahi. No tata nei, ko nga kaitoi o to tatou wa kei te heke mai na te AI-ko nga kairangahau "tuatahi" me nga taumahatanga putea - i pa katoa ki te aukati, e kii ana kia whakahekehia te whakawhanaketanga na te "te piki haere o te awangawanga haumaru" [1]. Ko te maakete, ko te taputapu puhoi tonu, i whakautu ma te maremare i te huhu: ka hinga nga rakau maramara me nga kaitoro AI nui [2]. Ko Beijing, e kiia ana, i tawai ki nga whakatupatotanga, i te wa e paopao ana nga tangata nunui o Seoul ki nga utu o mua mo nga mahi whakamua AI a meake nei [2].
Ehara tenei i te tautohe whakaaro whakaaro noa mo te pourewa rei. He hurihanga ruia tenei, he urunga a te iwi mo te poauautanga mai i nga rangatira o te umanga. A he pono, he watea rawa.
Te AI Pause: Altruism or Power Play?
Kia marama: ka mohio nga tangata nana i hanga te roketi kua wareware ratou ki nga parachute i muri i te whakarewatanga, ehara tenei i te wa mo te oho matatika. He tohe tomuri, he mahi nanakia. Ehara enei i te hunga whai kanohi whanui; Ko nga titans enei e pana ana i te pedal ki te whakarewa, e whai ana i te tipu taupuke me te mana o te maakete. Inaianei, me te ahua o nga "huanga ohorere" kei te piki haere - a, ko te mea nui ake, ko te mohio kei te kore e tau te tere o naianei, kei te hiahia ranei ratou ki te whakakotahi i o raatau kaiarahi - kei te karanga ratou mo te manawa tahi.
Kei te korero te tauhohenga o te maakete. Ko te whakaheke i nga rakau maramara ehara i te wehi noa; he mea e pa ana ki nga paanga o te putea o te hekenga. Te peke a Beijing? He tohu maamaa ko te painga rautaki o te motu ka nui ake i nga awangawanga haumaru. A ko nga kaihanga maramara o Seoul e whakakahore ana i nga utu o mua? Koira te tangi o te whakapaipai e patai ana mo te pumau mo te wa roa me te whai hua o te ahua ohorere.
Ki a matou, ko nga CTO me nga miihini e arahi ana, ka huri tika tenei ki te whenua rangirua. Ko te tumanako kia tere ake nga wawaotanga a-ture, e akiaki ana i te whakaraupapatanga o nga kaupapa AI. Ko te tikanga "neke tere me te wawahi i nga mea" mo AI kua mate, kua whakakapia e te rapu hikaka mo nga anga "whakawhanaketanga AI matatika" me tunua mai i te ra tuatahi. Ka kaha ake te tupato ki te haumi, ka pivou nga rautaki, ae, ka rongo nga maakete mahi i te makariri i te wa e kaha ake ana te wiwi koura ki te ine, me te tumanako, ka nui ake te kawenga. Engari kaua e pohehe tenei mo te altruism parakore. Ko tenei "tatari" he mea nui mo te mana whakahaere me te whakatikatika i te maakete ano mo te haumaru pono.
I te Taupatupatu a nga Titans, Ka Moangi Te Tuapapa
Inaianei, i te wa e raru ana te hunga rangatira o AI, e tautohetohe ana mo nga tikanga o te maaramatanga a meake nei, me korero tatou mo te tino raruraru haumarutanga o naianei, tino kino rawa atu kei te puta * inaianei*.
I tenei wiki, ka taapirihia e CISA nga CVE hou ki tana raarangi Whakaraeraetanga Whakaraerae E mohiotia ana [3]. Kei te korero matou mo te RCE pakiaka kua whakapumautia i roto i te Cisco Secure Email Gateway (CVE-2023-20269) [4], he CVSS 10.0 te huarahi ara i GitLab (CVE-2023-2825) [3], me te Chrome i tata tonu ki te kore-ra (CVE-2023-4863) [3] te aro nui ki a au.
Engari ko te tino whiu, ko te mea kia hamama katoa nga tohungatanga haumarutanga, ko te riri tonu o nga hapa o te turanga. Whakaarohia te CVE-2021-1647, he whakaraeraetanga whakaraerae whakaraeraetanga o te rohe i roto i te Miihini Tiaki Malware a Microsoft Defender [5]. Ehara tenei i te koha pouri; he Tohu-o-Aria a te iwi, a he kaha te whakamahi i roto i te mohoao, e whakaatu ana me pehea e taea ai te whakaraerae i nga waahanga nui o to maatau whakamarumaru mamati me te noho whakaraerae mo tetahi wa.
Kia uru mai tena. I a tatou e tautohetohe ana mo nga tikanga o te whakaaro o AI, ko te tino rorohiko i hangaia hei tiaki i o tatou pito mutunga, te paparanga turanga o to tatou whakamarumaru mamati, kua whakaatuhia ki te pupuri i nga hapa e mohiotia ana e te iwi whanui, e kaha ana te whakamahi e taea ai e te kaitukino te whakanui i nga mana. He rite ki te tautohetohe mo nga tikanga whakaaro o te puku weriweri i te wa e ngoikore ana nga perei o to motuka, kei te ahi te miihini.
Te Whakatau: E rua nga taha o te Moni Kotahi
Ehara enei i nga korero motuhake. E rua nga taha o te putea tino he: he ahumahi hangarau e aro nui ana ki te tere, te hou, me te whakaaro hou mo te haumarutanga, te pumau, me te kawenga.
Ko te karanga ohorere a nga kaihautu AI mo te puhoitanga he ngana ki te whakatika i nga akoranga i muri iho kua tukuna e ratou nga punaha kaha, kaore i te maarama ki te mohoao. He whakaaetanga ko te mantra "neke tere me te wawahi i nga mea" ka pa ana ki nga hangarau ka huri pea i te ao, ehara i te mea karekau noa, engari he kino.
Ko te whakaekenga kore-ra, otira ko te whakaraeraetanga a Defender, ko te hua tika, te mamae o tenei whakaaro ano i whakamahia ki te turanga IT. Ko te hua o te ahurea e whakaaro nui ana ki te haumarutanga, he pouakataki tautukunga, he pokapu utu ranei, kaua ki tetahi waahanga kore-whakawhitiwhiti o ia hua me te punaha kotahi. Kei te pukumahi matou ki te whai i te mea kanapa e whai ake nei—te LLM e whai ake nei, te kaihoko AI e whai ake nei—kua waiho e matou te whenua i raro i o matou waewae kia pirau.
Mo nga CTO me nga kaiarahi miihini, he maamaa, he tere tonu te korero. Kati te whai i nga ahuatanga AI e whakawhiti ana i to whangai. Tuhia ki runga i nga kaupapa taketake. Me matua whakaraerae, ina koa mo nga whakaraeraetanga whakaraerae e tino kaha ana, penei i era i Cisco, GitLab, me te riri mau tonu e whakaatuhia ana e nga LPE o mua a Defender. Whakatinana i nga mahi whakaheke pakari. Tonoa te kawenga takohanga mai i o kaihoko mo o raatau noho haumaru, kaua ko ta raatau mahere huarahi.
Ko te hinganga o te maakete me nga take haumarutanga taketake kaore i te whakatauhia ehara i te mea korero noa. He tatau ratou. He ao hangarau he tere rawa, he poauau rawa, ka mutu, kua kitea rawatia. Kua tae ki te wa ki te tipu ake, ki te whakapumau i o tatou turanga, katahi ano, katahi ka ata whakaaro ki te rohe e whai ake nei.
Puna
[1] Future of Life Institute — Pause Giant AI Experiments: He Reta Tuwhera — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Ka karanga nga tohunga AI kia okioki ki te whakawhanake i nga punaha AI matatau - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Putumōhio Whakaraeraetanga Whakaraerae I mohiotia — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Tohutohu Haumarutanga Cisco — Kaiwhakahaere Email Haumaru me te Kaiwhakahaere Tukutuku Cisco, Cisco Email Haumarutanga Appliance, me Cisco Web Security Appliance Whakaraeraetanga — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Te Pokapū Whakautu Haumarutanga Microsoft — Whakaraeraetanga Whakaraeraetanga Whakaraeraetanga Whakaaetanga Paetata a Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647