AI жайлоосу – алаксытуу. Сиздин үйүңүз өрттөнүп жатат.
Ачык айталы: технологиялык индустрия акыры AI менен "Исага келүү" учурун өткөрүп жатат, бирок ал чындап өкүнүү сыяктуу эмес, стратегиялык бурулуш сыяктуу сезилет. Күтүлбөгөн жерден, AI жарышынын архитекторлору - белгилүү изилдөөчүлөр жана алардын кофеин менен спринттерин каржылаган финансисттер - жайлоону талап кылышууда [1]. Алар "ички башкаруу", "этикалык негиздер" жана "акылдуураак" темп жөнүндө айтып жатышат. Ал эми рынок, ар дайым сезгич барометр, буга чейин AI инвестицияларынын туруктуулугуна тынчсыздануу менен реакция кылып, чип запастарынын өзгөрмөлүүлүгүн пайда кылган [2].
Бул тышкы жөнгө салуу эмес; бул AI экосистемасынын өзүнөн келип чыккан ички "кемчилик сызыгы". Ал эми C-суитасы алардын келечектеги жаратууларынын философиялык кесепеттерин талкуулап жатканда, азыркы учур активдүү күйүп жатат.
Ыңгайлуу пауза
Убакытты карап көрөлү. Көп жылдар бою мантра "тез кыймылдап, нерселерди сындырыңыз" же жакында эле "тез кыймылдап, AGI түзүңүз". Азыр, күчтүү моделдер мурунтан эле орнотулган, атаандаштык ландшафты негизинен аныкталган жана реалдуу, маңыздуу жөнгө салуу кыялы менен, этият болууга чакырыктар бир аз көңдөй болуп калды. Бул чындап эле терең коркунучтарга ойгонуубу же бийликти консолидациялоо, атаандаштарды басаңдатуу жана айрылар чыга электе коомдук кабылдоону башкаруу үчүн эсептелген маневрби?
Эсептөө, талант жана негиздүү моделдер боюнча рынокту бурчка буруп койгонуңузда, этияттык менен кабар айтуу оңой. Өнөр жайдын күтүлбөгөн жерден "продукциянын жол карталарын кайра баалоого, тобокелдиктерди баалоого жана стратегиялык пландаштырууга" көңүл бурушу асыл угулат, бирок бул ресурстарды кайра тегиздөөнүн ыңгайлуу жолу сыяктуу угулат. Бул негизги ресурстарга жетүү же ченемдик укуктук базага таасир этүү аркылуу белгиленген гиганттарга каршы чыгышы мүмкүн болгон ачык булак альтернативаларын же кичине оюнчуларды жайлатышы мүмкүн. "Этикалык алкак" күтүлбөгөн жерден маанилүү болуп саналат, моделдер кырылып алынган маалыматтар боюнча үйрөтүлүп жатканда эмес, бирок азыр алар коомду чындап өзгөртүү үчүн жетиштүү күчтүү.
Ачык көйгөйлөргө AI "чечимдери" алардын тармактарынын бүтүндүгүнө коркунуч келтириши мүмкүн деп эскерткен академиялык жана илимий коомчулуктардагы тынчсыздануулар [3] бул ички тынчсыздануунун тереңдигинин ачык көрсөткүчү. Бирок муну альтруизм деп жаңылбайлы. Бул AIнын жумушка же инфраструктурага тийгизген таасири жөнүндө эмес; бул башкаруу жөнүндө – аны ким жана кандай темпте башкарат. Талаш-тартыш азыраак "аны курушубуз керекпи?" жана "биз аны канчалык тез курабыз жана ким пайда табат?"
Алар келечекти талашып жатканда, сенин азыркы учуруң бузулат
Эми, келгиле, AIнын ички жаракасынын абстракттуу, келечекти караган тынчсыздануусунан биздин тармактарда * азыр* болуп жаткан дароо, сезилерлик кризиске буралы. AI титандары өз машиналарынын жан-дүйнөсү жөнүндө ойлонуп жатканда, сиздин оперативдүү топторуңуз киберкоопсуздуктун толук кандуу катастрофасын камтуу үчүн күрөшүп жатышат.
Биз теориялык коркунучтар же жалпы тенденциялар жөнүндө сөз кылып жаткан жокпуз. Биз фундаменталдык ишкананын программалык камсыздоосунда жигердүү пайдаланылган нөл күндүк алсыздыктар жөнүндө сөз кылып жатабыз, алар критикалык инфраструктурага балканын күчү менен сокку урду.
- Ivanti Connect Secure жана Policy Secure (CVE-2023-46805 & CVE-2024-21887): Бул жөн эле ката эмес; бул жараат. Ивантинин VPN жана тармакка кирүү чечимдериндеги бул алсыздыктар жигердүү пайдаланылып, чабуулчулар аутентификацияны айланып өтүүгө жана алыскы буйруктарды аткарууга мүмкүндүк берет. CISA коопсуз аралыктан кирүү үчүн бул системаларга таянган уюмдар үчүн олуттуу коркунучту баса белгилеген бир нече эскертүүлөрдү берди [4]. Сиздин негизги тармактык коргонууңуз, сиз дарбазадагы жаман адамдарды токтотуу үчүн таянган нерсеңиз, чабуулчуларга сансыз ишкана тармактарына терең кирүү мүмкүнчүлүгүн берүү үчүн жигердүү пайдаланылууда.
- Cisco IOS XE Web UI (CVE-2023-20198): Максималдуу оордук. Активдүү эксплуатацияланган. Бул кемчилик аутентификацияланбаган чабуулчуларга артыкчылыктуу эсептерди түзүүгө жана жабыркаган Cisco IOS XE түзмөктөрүн толук көзөмөлдөөгө мүмкүндүк берет. Эгер чабуулчу сиздин тармактык инфраструктураңыздын башкаруу учагына ээ болсо, алар сиздин бүт тармагыңыздын ээси болот. Оюн бүттү [5].
CISA көңүл ачуу үчүн "эскертүүлөрдү" бербейт; алар жык толгон театрда «от» деп кыйкырып жатышат. Бул жөн гана теориялык коркунучтар эмес; алар жигердүү дүйнөлүк ишканаларда негизги коргонуу жана башкаруу системаларын бузуу үчүн колдонулат.
Чыныгы ката сызыгы
Ирония ушунчалык жоон болгондуктан, сиз аны бүдөмүк бычак менен кесип алсаңыз болот. Бир жагынан, бизде AI элитасы алар дагы эле куруп жаткан келечектин этикалык кесепеттерин талкуулап, бир нече жылдар бою текшерилбеген тездетүүдөн кийин жайлоону талап кылууда. Башка жагынан алганда, бизде * учурдагы * фундаменталдык технологиябыздын дароо, экзистенциалдык коркунучу бар, дарексиз, жамаачыланбаган аялуулардын салмагы астында жигердүү кыйрап жатат.
Чыныгы "кемчилик сызыгы" AI коомчулугунда гана эмес; ал инновациянын пил сөөгүнөн жасалган мунарасы менен оперативдүү реалдуулуктун траншеяларынын ортосунда. Бул AI үчүн "өзүн-өзү жөнгө салуу" жөнүндө абстрактуу, келечекке багытталган талкуулар менен биз таянган системалардагы * иш жүзүндөгү * коопсуздуктун жана туруктуулуктун дароо, конкреттүү зарылдыгынын ортосунда.
КТОлор жана инженерия жетектегендиктен, биз AI жайлоосунун философиялык талаштарына алаксып кете албайбыз. Бул талкуулар узак мөөнөттүү маанилүү болгону менен, үйүңүз күйүп жаткан кезде алар люкс болуп саналат. "Өнүмдүн жол карталарын кайра баалоо" биздин инфраструктурабыздын кыйраган пайдубалын бекемдөөдөн башталышы керек. "Тобокелдиктерди баалоодо" оперативдүү үзгүлтүксүздүктү жана маалыматтардын бүтүндүгүн бүгүнкү күндө бузуп жаткан дароо, активдүү колдонулган коркунучтарга артыкчылык берүү керек.
Тармактын артыкчылыктары кыйшайган. Биз жигердүү чирип жаткан пайдубалдын үстүнө тезирээк, жалтырак нерселерди куруп жатабыз. AIны басаңдатуу чакырыгы зарыл сүйлөшүү болушу мүмкүн, бирок Иванти жана Сиско нөл күндөрү менен иш алып барган биз үчүн бул чатырдын үңкүрлөрү кирип жатканда пардалардын түсүн талкуулагандай сезилет. Азыркыга көңүл буруңуз. Келечек биз активдүү кан жок болмоюнча күтө алат.
Булактар
[1] Гигант AI эксперименттерин токтотуу үчүн ачык кат — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI акциялары өсүп жатат, бирок кээ бир инвесторлор тынчсызданып жатышат — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Илимдеги AI революциясы: убадалар жана коркунучтар — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure жана Ivanti Policy Secure аялуу жерлерин пайдаланып жаткан коркунуч актерлору — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE Программасынын Веб UI аялуулугун пайдаланып жаткан коркунуч актерлору — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a