Императордун жаңы AI жана анын астындагы чириген фонд
AI баарыбызды куткара турган учур эсиңиздеби? Көрсө, куткаруучулар азыр тайм-аут сурап жатышат. Жакында эле, биздин AI башкарган келечегибиздин архитекторлору - "чек арадагы" изилдөөчүлөр жана финансылык оор салмактагылар - биргелешип тормозду басып, "коопсуздуктун күчөшүнөн" [1] өнүгүүнү басаңдатууну талап кылышты. Базар, ар дайым курч инструмент болуп, өпкөнү жөтөлүү менен жооп берди: чип акциялары жана негизги AI оюнчулары кулады [2]. Пекин, болжолдуу түрдө, эскертүүлөрдү шылдыңдады, ал эми Сеулдун чип гиганттары келечектеги AI жетишкендиктери үчүн алдын ала төлөмдөрдөн баш тартышты [2].
Бул пилдин сөөгүнөн жасалган мунара үчүн жөн гана философиялык талкуу эмес. Бул сейсмикалык жылыш, тармактын элитасынын ичинен ойлонбогондугун коомчулуктун моюнга алуусу. А чынын айтсам, бул өтө эле ыңгайлуу.
AI паузасы: Альтруизмби же Power Play?
Ачык айталы: ракетаны жасаган адамдар парашюттарды * учурулгандан кийин унутуп калганын капысынан түшүнгөндө, бул терең этикалык ойгонуунун учуру эмес. Бул кечиктирилгис, өз кызыкчылыгын көздөгөн күрөш. Булар көздөрү жайнаган идеалисттер эмес; Бул экспоненциалдык өсүштү жана рыноктун үстөмдүгүн кууп, педалды металлга түртүп келген титандар. Эми, "күтүлбөгөн кесепеттер" коркунучу чоң болуп турганда, балким, тагыраак айтканда, азыркы темп туруктуу эмес экенин же лидерликти бекемдеши керек экенин түшүнүү менен, алар жамааттык дем алууга чакырып жатышат.
Базардын реакциясы айтып жатат. Чиптин бир аз түшүүсү коркуу гана эмес; бул потенциалдуу басаңдоонун дароо финансылык кесепеттери жөнүндө. Пекиндин артка чегиниби? Улуттук стратегиялык артыкчылык абстракттуу коопсуздук маселелеринен ашып түшөөрүнүн ачык белгиси. Ал эми Сеулдун чипмейкерлери алдын ала төлөмдөрдөн баш тартып жатабы? Бул капысынан белгисиз келечектин узак мөөнөттүү туруктуулугуна жана кирешелүүлүгүнө шек келтирген капиталдын үнү.
Биз үчүн, CTO жана инженердик жетекчилер, бул түздөн-түз башаламан пейзажга айланат. Жөнгө салуу чараларын тездетип, AI долбоорлоруна кайра артыкчылык берүүгө мажбурлоону күтүңүз. AI үчүн "тез кыймылдоо жана нерселерди сындыруу" этикасы расмий түрдө өлүп калды, анын ордуна биринчи күндөн баштап иштелип чыгышы керек болгон "Этикалык AI өнүктүрүү" алкактарын издөө менен алмаштырылды. Инвестициялар этиятыраак болуп, стратегиялар өзгөрөт жана ооба, жумуш базарлары суукту сезет, анткени алтындын ылдамдыгы кыйла өлчөнгөн жана жоопкерчиликтүү мамилеге өтөт. Бирок муну таза альтруизм деп жаңылбайлы. Бул "тыныгуу" контролдоо жана рынокту кайра калибрлөө, ошондой эле чыныгы коопсуздук жөнүндө.
Титандар талашып жатканда, Фонд урайт
Эми, AI элитасы өздөрүнүн экзистенциалдык кризисин баштан кечирип, келечектеги суперинтеллекттин этикасын талкуулап жатканда, келгиле, азыр * болуп жаткан чыныгы, азыркы жана толугу менен катастрофалык коопсуздук кризиси жөнүндө сүйлөшөлү.
Ушул аптада CISA өзүнүн Белгилүү эксплуатацияланган аялууларынын каталогуна бир нече жаңы CVE кошту [3]. Биз Cisco Secure Email Gateway (CVE-2023-20269) [4] ичинде тастыкталган түпкү RCE, GitLab ичиндеги CVSS 10.0 жол өтмөгү (CVE-2023-2825) [3] жана жакында жаңыланган Chrome нөл күндүк (CVE-4822) көңүл бурган [3-4822] талабы жөнүндө айтып жатабыз.
Бирок чыныгы ичеги соккусу, ар бир коопсуздук профессионалын боштукка кыйкырып жибериши керек, бул фундаменталдык кемчиликтердин туруктуу коркунучу. CVE-2021-1647, Microsoft Defenderдин кесепеттүү программалардан коргоо кыймылдаткычындагы жергиликтүү артыкчылыктын начарлоосун карап көрөлү [5]. Бул кандайдыр бир бүдөмүк кемчилик болгон эмес; ал коомдук Proof-of-Concept'ге ээ болгон жана жапайы жаратылышта жигердүү пайдаланылган, бул биздин санариптик коргонуубуздун маанилүү компоненттеринин бузулушуна жана белгилүү бир мезгилге чейин аялуу бойдон кала берерин баса белгилеген.
Биз AI сезимталдыкынын этикасын талкуулап жатканыбызда, биздин акыркы чекиттерибизди коргоо үчүн иштелип чыккан программалык камсыздоо, санариптик коргонуубуздун негизги катмары, чабуулчуга артыкчылыктарды көтөрүүгө мүмкүндүк берген жалпыга белгилүү, жигердүү пайдаланылган кемчиликтерди камтыган. Бул сиздин унааңыздын тормозу иштебей, кыймылдаткычы күйүп жаткан маалда бурмалоонун философиялык кесепеттери жөнүндө талашкан сыяктуу.
Эсеп: Бир тыйындын эки бети
Бул өзүнчө окуялар эмес. Алар бир эле терең кемчилиги бар тыйындын эки тарабы: ылдамдыкты, жаңычылдыкты жана инновацияны фундаменталдык коопсуздукка, туруктуулукка жана жоопкерчиликке ырааттуу артыкчылык берген технологиялык индустрия.
AI лидерлеринин күтүлбөгөн жерден жайлоо чакырыгы - бул алар жапайы жаратылышка күчтүү, начар түшүнүктүү системаларды чыгаргандан кийин * курстарды оңдоого болгон реактивдүү, өзүнө кызмат кылуучу аракети. Бул "тез кыймылдап, нерселерди сындыр" мантрасы дүйнөнү өзгөртө турган технологияга карата колдонулганда, жоопкерчиликсиз эле эмес, кооптуу экенин моюнга алуу.
Нөл күндүк чабуул, өзгөчө Defenderдин сындуу аялуулугу, түпкү IT үчүн колдонулган ушул эле ой жүгүртүүнүн түздөн-түз, азаптуу кесепети. Бул көп учурда коопсуздукту ар бир продукттун жана системанын ажырагыс, талашсыз компоненти эмес, кийинчерээк ойлонулган, шайкештикти белгилөө кутучасы же чыгым борбору катары караган маданияттын натыйжасы. Биз кезектеги жаркыраган объектти - кийинки LLMди, кийинки AI агентин - кууп чыгуу менен ушунчалык алек болуп жатабыз, ошондуктан биз бутубуздун астындагы жердин чирип кетишине жол бердик.
CTO жана инженердик жетекчилер үчүн билдирүү ачык жана дароо. Түрмөктү кесип өткөн ар бир AI трендинин артынан түшүүнү токтотуңуз. Негиздерди эки эсе азайтыңыз. Өзгөчө Cisco, GitLab сыяктуу критикалык, жигердүү пайдаланылган кемчиликтер жана Defenderдин мурунку LPEлери мисал кылган туруктуу коркунучтар үчүн жаңыртууга артыкчылык бериңиз. Күчтүү жумшартууларды ишке ашыруу. Сатуучуларыңыздан алардын жол картасы гана эмес, коопсуздук абалы үчүн жоопкерчиликти талап кылыңыз.
Рыноктун кулашы жана чечилбеген фундаменталдык коопсуздук маселелери жөн эле жаңылыктар эмес. Алар эсеп болуп саналат. Өтө тез, өтө ойлонбогон жана акыры өтө ачыкталган технология дүйнөсү. Чоңоюп, пайдубалыбызды бекемдеп, анан андан кийин кийинки чекти этияттык менен карап чыгууга убакыт келди.
Булактар
[1] Жашоонун келечеги институту — Гигант AI эксперименттерин тындыруу: Ачык кат — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI эксперттери өнүккөн AI системаларын иштеп чыгууну тыныгууга чакырышат — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Белгилүү эксплуатацияланган аялуулардын каталогу — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email жана Web Manager, Cisco Email Security Appliance жана Cisco Web Security Appliance аялуулары — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce- [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation осалдыгы — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647