Сустшавии AI як парешон аст. Хонаи шумо оташ аст.
Биёед рӯирост бигӯем: саноати технологӣ дар ниҳоят лаҳзаи "ба назди Исо омадан"-и худро бо AI дорад, аммо он камтар ба тавбаи ҳақиқӣ ва бештар ба як нуқтаи стратегӣ монанд аст. Ногаҳон, худи меъморони ин мусобиқаи сунъии сунъӣ - муҳаққиқони маъруф ва маблағгузороне, ки спринтҳои бо кофеин пуркардашударо маблағгузорӣ мекарданд, ба сустшавӣ даъват мекунанд [1]. Онҳо дар бораи "идоракунии дохилӣ", "чаҳорчӯби ахлоқӣ" ва суръати "барқасдона бештар" ҳарф мезананд. Ва бозор, ҳамеша барометри ҳассос, аллакай бо нигарониҳо дар бораи устувории сармоягузориҳои AI, ки боиси ноустувории саҳмияҳои чип мегардад, вокуниш нишон додааст [2].
Ин танзими беруна нест; он як "хати хато"-и дохилӣ аст, ки аз дохили худи экосистемаи AI ба вуҷуд меояд. Ва дар ҳоле, ки сюитаи C дар бораи оқибатҳои фалсафии офаридаҳои ояндаи онҳо баҳс мекунад, ҳозира фаъолона сӯзонда мешавад.
Таваққуфи қулай
Вақтро баррасӣ кунед. Дар тӯли солҳо, мантра "тез ҳаракат кунед ва чизҳоро вайрон кунед" ё ба наздикӣ "тез ҳаракат кунед ва AGI созед" буд. Ҳоло, бо моделҳои пуриқтидор, ки аллакай ҷойгир шудаанд, бо манзараи рақобатӣ ба таври васеъ муайяншуда ва бо фарорасии танзими воқеӣ ва пурмаъно, даъватҳо барои эҳтиёт каме холӣ мешаванд. Оё ин бедории ҳақиқӣ ба хатарҳои амиқ аст ё як манёври ҳисобшуда барои муттаҳид кардани қудрат, суст кардани рақибон ва идоракунии дарки ҷомеа пеш аз баромадани қубурҳо?
Вақте ки шумо аллакай бозорро дар бораи ҳисоббарор, истеъдод ва моделҳои бунёдӣ қарор додаед, огоҳӣ додан осон аст. Таваҷҷуҳи ногаҳонии соҳа ба "аз нав баҳодиҳии харитаҳои роҳи маҳсулот, арзёбии хатарҳо ва банақшагирии стратегӣ" олиҷаноб аст, аммо он инчунин як роҳи мувофиқи дубора ҳамоҳанг кардани захираҳо ба назар мерасад. Ин метавонад эҳтимолан алтернативаҳои кушодаасос ё бозигарони хурдтарро суст кунад, ки тавассути назорати дастрасӣ ба захираҳои муҳим ё таъсиррасонӣ ба чаҳорчӯбаи танзимкунанда ба бузургҷуссаҳои муқарраршуда шубҳа кунанд. "Чорчӯбаи ахлоқӣ" ногаҳон муҳим аст, на вақте ки моделҳо дар бораи маълумотҳои кандашуда таълим дода мешуданд, балки ҳоло, ки онҳо барои таҷдиди воқеии ҷомеа кофӣ тавоноанд.
Нигарониҳое, ки дар ҷомеаҳои академӣ ва илмӣ садо дода, ҳушдор медиҳанд, ки “ҳалли” мушкилоти кушодаи AI метавонад ба якпорчагии соҳаҳои онҳо таҳдид кунад [3], нишондиҳандаи равшани умқи ин нигаронии дохилӣ мебошад. Аммо биёед инро бо алтруизм хато накунем. Ин дар бораи таъсири AI ба ҷойҳои корӣ ё инфрасохтор нест; сухан дар бораи назорат — кй ва бо кадом суръат. Баҳс дар бораи "оё мо бояд онро созем?" ва бештар дар бораи "кӣ қарор медиҳад, ки мо онро то чӣ андоза зуд созем ва кӣ фоида меорад?"
Ҳангоме ки онҳо дар бораи оянда баҳс мекунанд, ҳозираи шумо зери хатар аст
Акнун биёед аз нигарониҳои абстрактӣ ва ба оянда нигаронидашудаи ихтилофи дохилии AI ба бӯҳрони фаврӣ ва воқеӣ, ки дар шабакаҳои мо ҳозир ба амал меояд, биравем. Ҳангоме ки титанҳои AI дар бораи ҷони мошинҳои худ фикр мекунанд, гурӯҳҳои амалиётии шумо барои даргиронидани як фалокати пурраи киберамният мубориза мебаранд.
Мо дар бораи таҳдидҳои назариявӣ ё тамоюлҳои умумӣ сухан намегӯем. Мо дар бораи осебпазирии фаъоли сифрӣ дар нармафзори бунёдии корхона сухан меронем, ки ба инфрасохтори муҳим бо қувваи болға зарба мезанад.
- Ivanti Connect Secure ва Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ин танҳо як хато нест; ин захми холист. Ин осебпазириҳо дар ҳалли VPN ва дастрасии шабакаҳои Иванти фаъолона истифода шуда, ба ҳамлагарон имкон медиҳад, ки аутентификатсияро гузаранд ва фармонҳои дурдастро иҷро кунанд. CISA чанд огоҳинома интишор кардааст, ки хатари муҳимро барои созмонҳое, ки ба ин системаҳо барои дастрасии амни дурдаст такя мекунанд, таъкид мекунанд [4]. Муҳофизати шабакаи ибтидоии шумо, як чизест, ки шумо барои боздоштани бачаҳои бад дар назди дарвоза ба он такя мекунед, барои дастрасии амиқ ба ҳамлагарон ба шабакаҳои бешумори корхона фаъолона истифода мешавад.
- ** Cisco IOS XE Web UI (CVE-2023-20198):** Шиддати ҳадди аксар. Фаъолона истисмор карда мешавад. Ин осебпазирӣ ба ҳамлагарони номаълум имкон медиҳад, ки ҳисобҳои имтиёзнок эҷод кунанд ва аз болои дастгоҳҳои зарардидаи Cisco IOS XE назорати пурра ба даст оранд. Агар ҳамлакунанда соҳиби ҳавопаймои идоракунии инфрасохтори шабакаи шумо бошад, онҳо тамоми шабакаи шумо доранд. Бозӣ ба охир расид [5].
CISA барои фароғат "огоҳӣ" намедиҳад; дар театри серодам «оташ» фарьёд мезананд. Инҳо танҳо таҳдидҳои назариявӣ нестанд; онҳо барои вайрон кардани системаҳои асосии дифоъ ва идоракунӣ дар корхонаҳои ҷаҳонӣ фаъолона истифода мешаванд.
Хатти ҳақиқии хато
Ирон чунон ғафс аст, ки шумо метавонед онро бо корди кундзанӣ буред. Аз як тараф, мо элитаи AI дорем, ки оқибатҳои ахлоқии ояндаеро, ки онҳо ҳоло ҳам бунёд мекунанд, баҳс мекунанд ва пас аз солҳо суръатбахшии беназоратро ба сустшавӣ даъват мекунанд. Аз тарафи дигар, мо таҳдиди фаврӣ ва мавҷудияти технологияи бунёдии * ҷорӣ дорем, ки зери вазни осебпазириҳои ҳалнашуда ва ислоҳнашуда фаъолона хароб мешавад.
"Хати хато" танҳо дар дохили ҷомеаи AI нест; он дар байни бурҷи фил аз навоварӣ ва хандакҳои воқеияти амалиётӣ аст. Он дар байни мубоҳисаҳои абстрактӣ ва ба оянда нигаронидашудаи "худтанзимкунӣ" барои AI ва ниёзҳои фаврии мушаххас барои амният ва субот дар системаҳое, ки мо имрӯз ба онҳо такя мекунем, мебошад.
Азбаски CTOs ва муҳандисӣ роҳбарӣ мекунанд, мо наметавонем аз баҳсҳои фалсафии сустшавии AI парешон шавем. Гарчанде ки ин муҳокимаҳо барои муддати тӯлонӣ муҳиманд, вақте ки хонаи шумо фаъолона оташ мегирад, онҳо айшу ишрат мебошанд. "Арзёбии дубораи харитаҳои роҳи маҳсулот" бояд аз таҳкими таҳкурсии харобшудаи инфрасохтори мавҷудаи мо оғоз шавад. "Арзёбии хатарҳо" бояд ба таҳдидҳои фаврӣ ва фаъолона истифодашаванда, ки ба муттасилии амалиёт ва якпорчагии додаҳо халал мерасонанд, афзалият диҳанд.
Афзалиятҳои соҳа нобаробар мебошанд. Мо чизҳои тезтар ва дурахшонтарро дар таҳкурсие месозем, ки фаъолона пӯсида истодааст. Даъват ба сустшавии AI метавонад як сӯҳбати зарурӣ бошад, аммо барои онҳое, ки мо дар рӯи замин бо Иванти ва Сиско дар сифр рӯз сарукор дорем, он мисли баҳс дар бораи ранги пардаҳо ҳангоми ғорҳои сақф дарун аст. Таваҷҷӯҳ ба ҳозира. Оянда метавонад интизор шавад, то даме ки мо фаъолона хунравӣ накунем.
Сарчашмаҳо
[1] Мактуби кушод барои таваққуфи таҷрибаҳои азими AI - https://futureoflife.org/open-letter-pause-ai-development/ [2] Саҳмияҳои AI афзоиш меёбанд, аммо баъзе сармоягузорон асабонӣ мешаванд — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Инқилоби AI дар илм: ваъдаҳо ва хатарҳо - https://www.nature.com/articles/d41586-023-03223-y [4] Фаъолони таҳдид, ки осебпазирии Ivanti Connect Secure ва Ivanti Policyро истифода мебаранд — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Фаъолони таҳдид, ки осебпазирии нармафзори Cisco IOS XE Web UI-ро истифода мебаранд — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a