Новата вештачка интелигенција на императорот и гнилината фондација под неа
Се сеќавате кога вештачката интелигенција требаше да не спаси сите? Се испостави, спасителите сега бараат тајмаут. Неодамна, самите архитекти на нашата иднина водена од вештачката интелигенција - „граничните“ истражувачи и финансиските големи тегови - колективно удрија на сопирачките, барајќи забавување на развојот поради „ескалацијата на безбедносните грижи“ [1]. Пазарот, секогаш тапиот инструмент, одговори со кашлање на белите дробови: акциите на чипови и главните играчи на вештачка интелигенција паднаа [2]. Пекинг, очекувано, се потсмеваше на предупредувањата, додека гигантите со чипови во Сеул се откажаа од предвремените плаќања за идните напредувања на вештачката интелигенција [2].
Ова не е само филозофска дебата за кулата од слонова коска. Ова е сеизмичка промена, јавно признание за непромисленост од елитата на индустријата. И искрено, тоа е малку премногу погодно.
Паузата на вештачката интелигенција: алтруизам или моќна игра?
Да бидеме појасни: кога луѓето кои ја изградиле ракетата одеднаш сфаќаат дека ги заборавиле падобраните по лансирањето, тоа не е момент на длабоко етичко будење. Тоа е задоцнета, самопослужувачка борба. Овие не се идеалисти со ококорени очи; тоа се титаните кои ја туркаа педалата кон металот, бркајќи експоненцијален раст и доминација на пазарот. Сега, кога сеништето на „непредвидени последици“ се наѕира - а можеби, поцинично, сознанието дека сегашното темпо е неодржливо или дека треба да го консолидираат своето водство - тие повикуваат на колективен здив.
Реакцијата на пазарот е говорна. Намалувањето на акциите на чипови не е само страв; се работи за непосредните финансиски импликации од потенцијалното забавување. Отпорот на Пекинг? Јасен сигнал дека националната стратешка предност ги надминува апстрактните безбедносни грижи. И производителите на чипови во Сеул одбиваат да плаќаат однапред? Тоа е звукот на капиталот кој ја доведува во прашање долгорочната стабилност и профитабилноста на ненадејно неизвесната иднина.
За нас, CTO и инженерските води, ова директно се преведува во хаотичен пејзаж. Очекувајте регулаторните интервенции да се забрзаат, принудувајќи повторно приоритизирање на проектите за вештачка интелигенција. Етосот „движете се брзо и разбијте ги работите“ за вештачката интелигенција е официјално мртов, заменет со френетична потрага по рамки за „етички развој на вештачката интелигенција“ што требаше да се впие уште од првиот ден. Инвестициите ќе станат повнимателни, стратегиите ќе се вртат, и да, пазарите на труд ќе почувствуваат студ, бидејќи златната треска отстапува место за померен, и се надеваме, поодговорен пристап. Но, да не го погрешиме ова со чист алтруизам. Оваа „пауза“ е исто толку за контрола и рекалибрација на пазарот, колку и за вистинска безбедност.
Додека дебатата за Титаните, Фондацијата се распаѓа
Сега, додека елитата на вештачката интелигенција ја има својата егзистенцијална криза, дебатирајќи за етиката на идната суперинтелигенција, ајде да зборуваме за многу реална, многу присутна и крајно катастрофална безбедносна криза што се развива во моментов.
Оваа недела, CISA додаде повеќе нови CVE во својот каталог на познати експлоатирани ранливости [3]. Зборуваме за потврден root RCE во Cisco Secure Email Gateway (CVE-2023-20269) [4], преминување на патеки CVSS 10.0 во GitLab (CVE-2023-2825) [3] и неодамна закрпен Chrome нула-ден [-CVE-862, барана од нула-ден [-CVE-862].
Но, вистинскиот удар во стомакот, оној што треба да го натера секој безбедносен професионалец да вреска во празнината, е постојаната закана од основните недостатоци. Размислете за CVE-2021-1647, локална ранливост за ескалација на привилегии во моторот за заштита од малициозен софтвер на Microsoft Defender [5]. Ова не беше некоја нејасна маана; имаше јавен Доказ за концепт и беше активно експлоатиран во дивината, нагласувајќи како критичните компоненти на нашата дигитална одбрана можат да бидат компромитирани и да останат ранливи одреден период.
Оставете го тоа да потоне. Тоа е исто како да се расправате за филозофските импликации на воп возењето додека сопирачките на вашиот автомобил откажуваат и моторот гори.
Пресметката: Две страни на иста паричка
Ова не се посебни приказни. Тие се две страни на иста монета со длабоки недостатоци: технолошка индустрија која постојано дава приоритет на брзината, новитетите и перцепираните иновации пред основната безбедност, стабилност и одговорност.
Ненадејниот повик на лидерите на вештачката интелигенција за забавување е реактивен, самопослужен обид за поправка на курсот откако тие веќе ќе пуштат моќни, слабо разбрани системи во дивината. Тоа е признание дека мантрата „движете се брзо и крши ги работите“, кога се применува на технологијата што потенцијално го менува светот, не е само неодговорна, туку и опасна.
Нападот на нултиот ден, особено критичната ранливост на Defender, е директна, болна последица на истиот начин на размислување применет на основната ИТ. Тоа е резултат на култура која често ја третира безбедноста како последователна мисла, поле за избор на усогласеност или центар за трошоци, наместо како интегрална компонента за секој производ и систем за која не може да се преговара. Толку сме зафатени со бркање на следниот сјаен објект - следниот LLM, следниот агент со вештачка интелигенција - што дозволивме самата земја под нашите стапала да скапува.
За CTO и инженерски води, пораката е остра и непосредна. Престанете да го бркате секој тренд на вештачка интелигенција што ја надминува вашата активност. Двојно намалете ги основите. Дајте приоритет на крпењето, особено за критичните, активно експлоатирани пропусти како оние во Cisco, GitLab и постојаната закана како пример од минатите LPE на Defender. Спроведување на силни ублажувања. Побарајте одговорност од вашите продавачи за нивната безбедносна положба, а не само за нивната карта на карактеристики.
Падот на пазарот и нерешените основни безбедносни прашања не се само вести. Тие се пресметка. Технолошки свет кој е премногу брз, премногу невнимателен и конечно, премногу изложен. Време е да пораснеме, да ги обезбедиме нашите темели и тогаш, само тогаш, внимателно размислете за следната граница.
Извори
[1] Институт Future of Life — Паузирајте ги џиновските експерименти со вештачка интелигенција: отворено писмо — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Експертите за вештачка интелигенција повикуваат на пауза во развојот на напредни системи за вештачка интелигенција - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Познат каталог на искористени ранливости — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance, и Cisco Web Security Appliance Appliance — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-rese-a-s [5] Центар за одговор за безбедност на Microsoft — Ранливост за зголемување на локалната привилегија на Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647