Императорның яңа ЯИ, һәм аның астындагы черү фонды
Хәтерлисеңме, ЯИ безнең барыбызны кайчан коткарырга җыена? Коткаручылар хәзер вакытны сорыйлар. Күптән түгел, безнең ЯИ белән идарә итүче киләчәкнең архитекторлары - "чик" тикшерүчеләре һәм финанс авыр авырлыклары - тормозны бергә сугтылар, "куркынычсызлык проблемалары көчәю" аркасында үсешнең тизләнүен таләп иттеләр [1]. Базар, үпкә йөткерү белән җавап бирде: чип запаслары һәм төп ЯИ уенчылары егылды [2]. Пекин, алдан әйтелгәнчә, кисәтүне мыскыл итте, ә Сеулның чип гигантлары киләчәктә ЯИ алгарышлары өчен алдынгы түләүләргә каршы тордылар [2].
Бу фил сөяге манарасы өчен фәлсәфи бәхәс кенә түгел. Бу сейсмик смена, тармакның элитасы эчендә битарафлыкны халык алдында тану. Дөресен генә әйткәндә, бу бик уңайлы.
ЯИ паузасы: Альтруизм яки көч уйнау?
Аңлашыйк: ракета ясаган кешеләр кинәт парашютларны * җибәргәннән соң онытканнарын аңлагач, бу тирән этик уяну мизгеле түгел. Бу үз-үзенә хезмәт итү. Бу киң күзле идеалистлар түгел; болар - педальне металлга этәргән, экспоненциаль үсешне һәм базар өстенлеген куып барган титаннар. Хәзер, "көтелмәгән нәтиҗәләр" тамашачысы зур, һәм, мөгаен, тагын да кыенрак, хәзерге темпның тотрыксыз булуын яки әйдәп баруларын ныгытырга кирәклеген аңлап, алар коллектив сулыш алырга чакыралар.
Базарның реакциясе сөйли. Чип запасларына төшү курку турында гына түгел; Бу потенциаль акрынлыкның финанс нәтиҗәләре турында. Пекин? Милли стратегик өстенлек абстракт куркынычсызлык проблемаларыннан өстен сигнал. Seoulәм Сеулның чип җитештерүчеләре алдан түләүдән баш тарта? Бу капитал тавышы, озак вакытлы тотрыклылыкны һәм кинәт билгесез киләчәкнең рентабельлеген шик астына куя.
Безнең өчен КТО һәм инженерия әйдәп бара, бу турыдан-туры хаотик пейзажга тәрҗемә ителә. ЯИ проектларына өстенлек бирергә мәҗбүр итеп, җайга салу интервенцияләрен көтегез. ЯИ өчен "тиз хәрәкәтләнү һәм әйберләрне бозу" этикасы рәсми рәвештә үле, беренче көннән үк пешерелергә тиеш булган "этик ЯИ үсеше" рамкаларын эзләү белән алыштырыла. Инвестицияләр тагын да сакчылрак булачак, стратегияләр төпләнәчәк, һәм әйе, эш базарлары салкынлыкны сизәчәк, чөнки алтын чабыш тагын да үлчәнгән, өметлерәк, җаваплырак. Ләкин моны чиста альтруизм өчен ялгышмыйк. Бу "пауза" контроль һәм базарны калибрлау турында, чын куркынычсызлык турында.
Титаннар бәхәсләшкәндә, Фонд җимерелә
Хәзер, ЯИ элитасы үзләренең экзистенциаль кризисы кичергәндә, киләчәк интеллектуаль этика турында бәхәсләшкәндә, әйдәгез хәзерге вакытта * булган бик реаль, бик хәзерге һәм бөтенләй катастрофик куркынычсызлык кризисы турында сөйләшик.
Бу атнада, CISA үзенең билгеле эксплуатацияләнгән көчсезлекләр каталогына берничә яңа CVE өстәде [3]. Без Cisco куркынычсыз электрон почта шлюзында (CVE-2023-20269) расланган тамыр RCE турында сөйләшәбез, GitLab (CVE-2023-2825) [3], һәм күптән түгел ябылган Chrome нуль көнендә (CVE-2023-4863) [3].
Ләкин чын эчәк сугу, һәрбер куркынычсызлык профессионалын бушка кычкырырга тиеш, төп кимчелекләрнең өзлексез куркынычы. CVE-2021-1647, Microsoft Defender'ның зарарлы программаларны саклау двигателендәге җирле өстенлекнең зәгыйфьлеген карагыз [5]. Бу ниндидер аңлаешсыз кимчелек түгел иде; ул ачык исбатлау концепциясенә ия иде һәм кырда актив кулланылды, безнең санлы оборона компонентларының ничек бозылырга һәм берникадәр вакыт зәгыйфь булып кала алуын күрсәтте.
Бу AI батырлыгы этикасы турында бәхәсләшкәндә, безнең соңгы нокталарыбызны саклау өчен эшләнгән программа тәэминаты, санлы оборонаның төп катламы, һөҗүм итүчегә өстенлекләрне күтәрергә мөмкинлек бирүче, ачык кулланылган кимчелекләрне саклап калу өчен күрсәтелде. Бу машинаның тормозы эшләмәгәндә һәм двигатель янып торганда, саклагычның фәлсәфи нәтиҗәләре турында бәхәсләшкәнгә охшаган.
Хисаплау: Бер тиеннең ике ягы
Бу аерым хикәяләр түгел. Алар бер үк тирән кимчелекле тәңкәләрнең ике ягы: тизлекне, яңалыкны, төп куркынычсызлык, тотрыклылык һәм җаваплылык өстендә инновацияне өстен күргән технология индустриясе.
ЯИ лидерларының кинәт акрынлыкка чакыруы - реактив, үз-үзенә хезмәт итү омтылышы * алар инде көчле, начар аңлашылган системаларны кыргыйларга чыгарганнан соң. Бу "тиз хәрәкәтләнү һәм әйберләрне сындыру" мантрасы, дөньяны үзгәртә торган технологиядә кулланылганда, җавапсыз гына түгел, куркыныч та булуын тану.
Нульле көнлек һөҗүм, аеруча критик Саклаучы зәгыйфьлеге, төп IT-ка кулланылган шул ук фикернең туры, газаплы нәтиҗәсе. Бу культураның нәтиҗәсе, еш кына куркынычсызлыкны уйлану, туры килү пункты яки бәя үзәге итеп карый, һәрбер продукт һәм системаның аерылгысыз, сөйләшеп булмый торган компоненты түгел. Киләсе ялтыравыклы әйберне - киләсе LLM, киләсе ЯИ агентын куып чыгару белән мәшгульбез, аяк астындагы җирне череп җибәрдек.
КТО һәм инженерлык лидерлары өчен хәбәр бик тиз һәм шунда ук. Сезнең тасма аша үткән һәр ЯИ тенденциясен куып чыгаруны туктатыгыз. Фундаментларга икеләтә төш. Пачингка өстенлек бирегез, аеруча критик, актив кулланылган зәгыйфьлекләр өчен, Cisco, GitLab, һәм Дефендерның үткән LPE-ларында күрсәтелгән өзлексез куркыныч. Нык йомшартуны тормышка ашырыгыз. Аларның үзенчәлекле юл картасын гына түгел, куркынычсызлык позициясе өчен сатучылардан җаваплылык таләп итегез.
Базарның җимерелүе һәм чишелмәгән төп куркынычсызлык проблемалары яңалыклар гына түгел. Алар хисап. Бик тиз, артык игътибарсыз, һәм, ниһаять, бик ачык булган технология дөньясы. Upсәргә, нигезләребезне сакларга, аннары, * шул вакытта гына *, саклык белән киләсе чикне карарга вакыт.
Чыганаклар
[1] Тормыш институтының киләчәге - Гигант ЯИ экспериментларын пауза итегез: Ачык хат - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - ЯИ белгечләре алдынгы ЯИ системаларын үстерүдә паузага чакыралар - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Билгеле кулланылган көчсезлекләр каталогы - https://www.cisa.gov/known-exploited-vulnerabilities-catalog ] ]