ЯИ әкренлеге - читкә юнәлтү. Сезнең йортыгыз утта.
Әйдәгез, технология индустриясе, ниһаять, ЯИ белән "Гайсә янына" килә, ләкин ул чын тәүбә кебек түгел, ә стратегик үзәк кебек. Кинәт, бу өзек AI бәйгесенең архитекторлары - күренекле тикшерүчеләр һәм кофеин белән эшләнгән спринтларны финанслаучы финанслаучылар акрынрак булырга чакыралар [1]. Алар "эчке идарә", "этик нигезләр" һәм "белә торып" темплар турында сөйләшәләр. Theәм базар, һәрвакыт сизгер барометр, чип запасларында үзгәрүчәнлек китереп чыгаручы ЯИ инвестицияләренең тотрыклылыгы турында борчылып, инде реакция ясады [2].
Бу тышкы көйләү түгел; бу ЯИ экосистемасының эчендә барлыкка килгән эчке "хаталар сызыгы". C-сюита киләчәк иҗатының фәлсәфи нәтиҗәләре турында бәхәсләшсә дә, хәзерге вакытта актив янып тора.
Уңайлы пауза
Вакытны карап чыгыйк. Еллар дәвамында мантра "тиз хәрәкәтләнү һәм әйберләрне сындыру", яисә күптән түгел "тиз хәрәкәт итү һәм AGI төзү". Хәзер, көчле модельләр урнаштырылган, көндәшлеккә сәләтле ландшафт белән, һәм актуаль, мәгънәле көйләү тамашачысы белән, сак булырга чакырулар бераз буш яңгырый. Бу тирән хәвеф-хәтәрләр өчен чын уяну, яисә хакимиятне берләштерү, көндәшләрне әкренләтү, питчорклар чыкканчы җәмәгатьчелекнең карашын идарә итү өчен исәпләнгән маневрмы?
Базарны исәпләү, талант һәм нигез модельләренә туплагач, сак булырга вәгазьләү җиңел. Тармакның кинәт "продукт юл карталарын яңадан бәяләү, рискны бәяләү, стратегик планлаштыру" игътибары яхшы яңгырый, ләкин ресурсларны яңадан тигезләү өчен уңайлы ысул кебек тоела. Бу ачык ресурслы альтернативаларны яисә кечерәк уенчыларны акрынайтырга мөмкин, алар мөһим ресурсларга керү мөмкинлеген контрольдә тотып яки норматив базага йогынты ясап, гигантларга каршы торырга мөмкин. "Этик база" кинәт иң мөһиме, модельләр кырылган мәгълүматлар буенча өйрәтелгәндә түгел, ә хәзер алар җәмгыятьне үзгәртеп корырлык дәрәҗәдә көчле.
Академик һәм фәнни җәмгыятьләр эчендә яңгыраган борчылулар, проблемаларны чишү өчен ЯИ "чишелешләре" үз өлкәләренең бөтенлегенә куркыныч тудырырга мөмкин дип кисәтәләр, бу эчке борчылу тирәнлегенең төп күрсәткече. Ләкин моны альтруизм өчен ялгышмыйк. Бу ЯИның эш яки инфраструктурага йогынтысы турында түгел; бу * контроль * турында - аны кем куллана, нинди темпта. Фикер алышу "без аны төзергә тиешме?" һәм "без аны никадәр тиз төзибез, кем табыш ала?" турында күбрәк.
Киләчәк турында бәхәсләшкәндә, сезнең хәзергегез бозылган
Хәзер, әйдәгез, абстракт, киләчәк карашлы ЯИның эчке бүленешеннән безнең челтәрләрдә ачыла торган тиз, сизелерлек кризиска игътибар итик. ЯИ титаннары үз машиналарының җаны турында уйланганда, сезнең оператив коллективлар кибер-куркынычсызлык катастрофасын булдырырга тырышалар.
Без теоретик куркынычлар яки гомуми тенденцияләр турында сөйләшмибез. Без төп предприятия программаларында актив кулланылган нуль көнендәге зәгыйфьлекләр турында, критик инфраструктура белән чана баласы көче белән сөйләшәбез.
- ** Иванти тоташу куркынычсызлыгы һәм политик куркынычсызлык (CVE-2023-46805 & CVE-2024-21887): ** Бу хата гына түгел; бу буш яра. Ивантиның VPN һәм челтәргә керү чишелешендәге бу зәгыйфьлекләр актив кулланылды, һөҗүм итүчеләргә аутентификацияне узып китәргә һәм ерак командаларны башкарырга мөмкинлек бирде. CISA берничә кисәтү ясады, ерактан керү өчен бу системаларга таянган оешмаларга критик куркынычны күрсәтте [4]. Сезнең төп челтәр оборонасы, начар кешеләрне капка төбендә туктатыр өчен, сез һөҗүм итүчеләргә сансыз предприятие челтәрләренә тирән керү өчен актив кулланыла.
- ** Cisco IOS XE Веб UI (CVE-2023-20198): ** Максималь авырлык. Актив кулланыла. Бу зәгыйфьлек расланмаган һөҗүм итүчеләргә өстенлекле счетлар ясарга һәм Cisco IOS XE җайланмалары белән тулы контроль алырга мөмкинлек бирә. Әгәр дә һөҗүмче сезнең челтәр инфраструктурасы белән идарә итү самолетына ия булса, алар сезнең бөтен челтәрегезгә ия. Уен [5].
CISA күңел ачу өчен "кисәтүләр" бирми; халык күп театрда "ут" кычкыралар. Бу теоретик куркыныч кына түгел; алар глобаль предприятияләр арасында төп оборона һәм идарә итү системаларын бозу өчен актив кулланыла.
Чын хаталар сызыгы
Ирония шулкадәр калын, сез аны пычак белән кисә аласыз. Бер яктан, бездә ЯИ элитасы бар, алар әле төзегән киләчәкнең этик нәтиҗәләре турында бәхәсләшәләр, еллар дәвамында тикшерелмәгән тизләнештән соң акрын булырга чакыралар. Икенче яктан, безнең * агымдагы * төп технологиянең тиз, экзистенциаль куркынычы бар, чистартылмаган, җибәрелмәгән зәгыйфьлек авырлыгы астында.
Чын "хаталар сызыгы" ЯИ җәмгыятендә генә түгел; ул фил сөягеннән инновация манарасы белән оператив чынбарлык окоплары арасында. Бу ЯИ өчен "үз-үзеңне көйләү" турында абстракт, киләчәккә юнәлтелгән дискуссияләр һәм без бүген таянган системаларда * фактик * куркынычсызлык һәм тотрыклылык өчен тиз, конкрет ихтыяҗ арасында.
КТО һәм инженерлык әйдәп барганда, без ЯИ акрынлыгының фәлсәфи бәхәсләре белән читкә китә алмыйбыз. Бу дискуссияләр озак вакытка мөһим булса да, сезнең йортыгыз актив янгач, алар бик рәхәт. "Продукт юл карталарын яңадан бәяләү" безнең булган инфраструктураның җимерелгән нигезләрен саклаудан башланырга тиеш. "Тәвәккәллекне бәяләү" оператив өзлексезлекне һәм мәгълүмат бөтенлеген * бозучы тиз, актив кулланылган куркынычларга өстенлек бирергә тиеш.
Тармакның өстенлекләре шик астына алынган. Без актив рәвештә черегән нигездә тизрәк, ялтыравыклы әйберләр төзибез. ЯИны акрынайту чакыруы кирәкле сөйләшү булырга мөмкин, ләкин җирдәге кешеләр өчен, Иванти һәм Cisco нуль көннәре белән эш иткәндә, түбә куышлары булганда пәрдәләр төсе турында бәхәсләшкән кебек тоела. Хәзерге вакытта игътибар итегез. Киләчәк без актив кан киткәнче көтә ала.
Чыганаклар
[1] Гигант ЯИ экспериментларын туктату өчен ачык хат - https://futureoflife.org/open-letter-pause-ai-development/ [2] ЯИ акцияләре арта, ләкин кайбер инвесторлар дулкынланалар - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Фәндә ЯИ революциясе: вәгъдәләр һәм куркынычлар - https://www.nature.com/articles/d41586-023-03223-y ] [5] Cisco IOS XE программа тәэминаты веб UI көчсезлеген кулланган актерлар - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a