AI-и нави император ва бунёди пӯсидаи зери он
Дар хотир доред, ки кай AI ҳамаи моро наҷот медод? Маълум шуд, ки начотдихандахо холо аз вакт талаб мекунанд. Ба наздикӣ, худи меъморони ояндаи мо, ки ба AI асос ёфтааст - муҳаққиқони "сарҳадӣ" ва вазнҳои молиявӣ - якҷоя тормозро пахш карданд ва талаб карданд, ки сустшавии рушд аз сабаби "афзоиши нигарониҳои амниятӣ" [1]. Бозор, ҳамеша асбоби кунд, бо сулфаи шуш посух дод: саҳмияҳои чипҳо ва бозигарони асосии AI афтид [2]. Пекин, пешгӯӣ, ин огоҳиҳоро масхара кард, дар ҳоле ки бузургҷуссаҳои чипи Сеул аз пардохтҳои пешакӣ барои пешрафти ояндаи AI даст кашиданд [2].
Ин танҳо як баҳси фалсафӣ барои бурҷи устухони фил нест. Ин як тағирёбии сейсмикӣ, эътирофи оммавии беэҳтиётӣ аз дохили элитаи саноат аст. Ва ошкоро, он каме қулай аст.
Таваққуфи AI: Альтруизм ё бозӣ Power?
Биёед равшан гуем: вакте ки одамоне, ки ракетаро сохтанд, ногахон фах-миданд, ки пас аз* партоб парашютхоро фаромуш кардаанд, ин лахзаи бедории амики ахлокй нест. Ин як ҷанҷолест, ки дер карда, ба худ хизмат мекунад. Инҳо идеалистҳои калончашм нестанд; ин титанҳо ҳастанд, ки педальро ба металл тела дода, афзоиши экспоненсиалӣ ва бартарияти бозорро таъқиб мекарданд. Ҳоло, бо фарорасии "оқибатҳои ғайричашмдошт" - ва шояд, ба таври ҷиддӣ, дарки он, ки суръати кунунӣ устувор нест ё онҳо бояд пешсафи худро мустаҳкам кунанд - онҳо ба як нафаси дастаҷамъона даъват мекунанд.
Вокуниши бозор нишон медиҳад. Камшавии саҳмияҳои чип танҳо дар бораи тарс нест; сухан дар бораи оқибатҳои молиявии фаврии сустшавии эҳтимолӣ меравад. Боздошти Пекин? Нишонаи равшани он, ки бартарии стратегии миллӣ нигарониҳои абстрактии бехатариро бартарӣ медиҳад. Ва чипсозони Сеул аз пардохти пешаки худдорӣ мекунанд? Ин садои сармоя аст, ки суботи дарозмуддат ва даромаднокии ояндаи ногаҳон номуайянро зери шубҳа мегузорад.
Барои мо, CTOs ва роҳбарони муҳандисӣ, ин бевосита ба манзараи бесарусомонӣ табдил меёбад. Интизор шавед, ки мудохилаҳои танзимкунанда суръат бахшанд ва маҷбур мешаванд, ки аз нав афзалият додани лоиҳаҳои AI. Этоси "тез ҳаракат кунед ва чизҳоро вайрон кунед" барои AI расман мурдааст ва ҷои онро бо ҷустуҷӯи хашмгин барои чаҳорчӯбаҳои "ривоҷи ахлоқии AI", ки бояд аз рӯзи аввал пухта мешуданд, иваз кард. Сармоягузорӣ эҳтиёткортар хоҳад шуд, стратегияҳо тағир хоҳанд ёфт ва бале, бозорҳои корӣ сардиро эҳсос хоҳанд кард, зеро шитоби тилло ба равиши бештар андозагирӣ ва умедворем, ки масъулиятноктар мешавад. Аммо биёед инро бо алтруизми холис хато накунем. Ин "танаффус" ҳамон қадар дар бораи назорат ва калибровкаи бозор аст, зеро он дар бораи бехатарии ҳақиқӣ аст.
Ҳангоме ки Титанҳо баҳс мекунанд, Бунёд хароб мешавад
Ҳоло, дар ҳоле ки элитаи AI бӯҳрони мавҷудияти худро аз сар мегузаронад, дар бораи ахлоқи олии иктишофии оянда баҳс мекунад, биёед дар бораи бӯҳрони хеле воқеӣ, ҳозира ва комилан фалокатбори амниятӣ, ки ҳоло * ба амал меояд, сӯҳбат кунем.
Дар ин ҳафта, CISA ба каталоги осебпазирии маълуми истисморшавандаи худ якчанд CVE-ҳои навро илова кард [3]. Мо дар бораи решаи тасдиқшудаи RCE дар Gateway Cisco Secure Email (CVE-2023-20269) [4], гузариши роҳи CVSS 10.0 дар GitLab (CVE-2023-2825) [3] ва ба наздикӣ часпондашуда дар Chrome рӯзи сифр (CVE-486) ба таваҷҷӯҳи он [3-4862] таваҷҷуҳ дорем.
Аммо зарбаи воқеии рӯда, он чизе, ки бояд ҳар як касби амниятиро ба холигоҳ дод, таҳдиди доимии камбудиҳои бунёдӣ аст. CVE-2021-1647, осебпазирии густариши имтиёзҳои маҳаллӣ дар Муҳаррики Муҳофизати нармафзори зараровар Microsoft Defenderро баррасӣ кунед [5]. Ин ягон камбудии норавшан набуд; он Исботи оммавии Консепсия дошт ва дар ваҳшӣ фаъолона истифода мешуд ва таъкид мекунад, ки чӣ гуна ҷузъҳои муҳими дифои рақамии мо метавонанд осеб диданд ва то муддате осебпазир боқӣ монанд.
Бигзор он ғарқ шавад. Ҳангоме ки мо дар бораи ахлоқи эҳсосоти сунъӣ баҳс мекунем, худи нармафзоре, ки барои ҳифзи нуқтаҳои ниҳоии мо тарҳрезӣ шудааст, қабати асосии дифои рақамии мо нишон дода шудааст, ки камбудиҳои ба таври оммавӣ маълум ва фаъолона истифодашавандаро дар бар мегирад, ки ба ҳамлагар имкон медиҳанд имтиёзҳоро баланд бардорад. Ин мисли баҳс дар бораи оқибатҳои фалсафии гардонандаи чарх дар ҳолест, ки тормози мошини шумо аз кор мебарояд ва муҳаррики шумо оташ мегирад.
Ҳисоб: Ду тарафи як танга
Ин ҳикояҳои ҷудогона нестанд. Онҳо ду паҳлӯи ҳамон тангаи амиқ камбудиҳоянд: як саноати технологӣ, ки пайваста суръат, навоварӣ ва навовариро бар амнияти бунёдӣ, субот ва масъулият авлавият медод.
Даъвати ногаҳонии роҳбарони AI барои сустшавӣ як кӯшиши реактивӣ ва худхоҳона барои ислоҳи курс аст * пас аз* онҳо аллакай системаҳои пурқувват ва суст фаҳмидашударо ба ваҳшӣ кушоданд. Ин иқрор аст, ки мантраи "тез ҳаракат кунед ва чизҳоро вайрон кунед", вақте ки ба технологияи эҳтимолан тағир додани ҷаҳон истифода мешавад, на танҳо бемасъулият, балки хатарнок аст.
Ҳамлаи сифррӯза, бахусус осебпазирии интиқодии Defender, натиҷаи мустақим ва дардноки ҳамин тафаккурест, ки ба IT бунёдӣ истифода мешавад. Ин натиҷаи фарҳангест, ки аксар вақт амниятро ҳамчун як чизи баъдӣ, қуттии мувофиқат ё маркази хароҷот баррасӣ мекунад, на ҷузъи ҷудонашаванда ва ғайримустақими ҳар як маҳсулот ва система. Мо ба таъқиби объекти дурахшони навбатӣ - LLM-и навбатӣ, агенти навбатии AI - чунон банд ҳастем, ки мо замини зери пои худро пӯсидаем.
Барои CTOs ва роҳбарони муҳандисӣ, паём дақиқ ва фаврӣ аст. Аз таъқиби ҳар як тамоюли AI, ки канали шуморо убур мекунад, бас кунед. Асосҳоро дучанд кунед. Ба ямоқи авлавият диҳед, махсусан барои осебпазирии интиқодӣ ва фаъолона истифодашаванда, ба монанди онҳое, ки дар Cisco, GitLab ва таҳдиди доимие, ки аз ҷониби LPE-ҳои гузаштаи Defender мисол шудаанд. Татбиқи қатъии коҳишдиҳанда. Аз фурӯшандагонатон барои ҳолати бехатарии худ масъулиятро талаб кунед, на танҳо харитаи роҳ.
Тағйирёбии бозор ва масъалаҳои амниятии бунёдӣ танҳо як хабар нестанд. Онҳо ҳисобанд. Ҷаҳони технологӣ, ки хеле зуд, хеле бепарво ва ниҳоят, хеле фош аст. Вакти он расидааст, ки ба воя расем, пойдевори худро мустахкам кунем ва баъд танхо баъд сархади ояндаро эхтиёткорона ба назар гирем.
Сарчашмаҳо
[1] Институти Ояндаи Ҳаёт - Таваққуфи таҷрибаҳои бузурги AI: Номаи кушод - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Коршиносони AI даъват мекунанд, ки дар таҳияи системаҳои пешрафтаи AI таваққуф кунанд - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Каталоги маълуми осебпазирии истисморшаванда — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Advisory Security — Cisco Secure Email ва Web Manager, Cisco Email Security Appliance ва Cisco Web Security Appliance осебпазирӣ — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce- [5] Маркази вокуниш ба амнияти Microsoft — осебпазирии густариши имтиёзҳои маҳаллии Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647