황제의 새로운 AI, 그리고 그 아래에는 썩어가는 재단
AI가 언제 우리 모두를 구하려 했는지 기억하시나요? 알고 보니 구세주들은 이제 타임아웃을 요구하고 있습니다. 최근에는 AI 기반 미래의 설계자들인 "선도적인" 연구자와 금융 거물급 인사들이 집단적으로 브레이크를 밟고 "점증하는 안전 문제"로 인해 개발 속도를 늦출 것을 요구했습니다[1]. 무뚝뚝한 도구였던 시장은 기침으로 반응했습니다. 칩 주식과 주요 AI 플레이어가 폭락했습니다 [2]. 예상대로 베이징은 경고를 비웃었고, 서울의 거대 반도체 기업들은 미래의 AI 발전에 대한 선지불을 꺼렸습니다[2].
이것은 단순히 상아탑에 대한 철학적 논쟁이 아닙니다. 이는 업계 엘리트 내부의 무모함을 공개적으로 인정하는 엄청난 변화입니다. 그리고 솔직히 좀 너무 편리해요.
AI 일시 중지: 이타주의인가 아니면 파워 플레이인가?
분명히 말씀드리자면, 로켓을 만든 사람들이 발사 이후 낙하산을 잊어버렸다는 것을 갑자기 깨달았을 때, 그것은 심오한 윤리적 각성의 순간이 아닙니다. 뒤늦은 이기적인 쟁탈전입니다. 이들은 눈을 크게 뜨고 있는 이상주의자가 아닙니다. 이들은 기하급수적인 성장과 시장 지배력을 추구하며 한계까지 페달을 밟고 있는 거인입니다. 이제 "예상치 못한 결과"가 커질 것이라는 망령이 커지고 있으며 아마도 더 냉소적으로 현재 속도가 지속 가능하지 않거나 선두를 공고히 해야 한다는 인식이 커지면서 그들은 집단적인 호흡을 요구하고 있습니다.
시장의 반응이 말해주고 있다. 칩 주식의 하락은 단지 두려움에 관한 것이 아닙니다. 잠재적인 둔화로 인한 즉각적인 재정적 영향에 관한 것입니다. 베이징의 반발? 국가의 전략적 이점이 추상적인 안전 문제보다 우선한다는 분명한 신호입니다. 그리고 서울의 칩 제조사들은 선불 지불을 거부하고 있습니까? 그것은 갑자기 불확실한 미래의 장기적인 안정성과 수익성에 의문을 제기하는 자본의 소리입니다.
CTO와 엔지니어링 책임자인 우리에게 이는 혼란스러운 환경으로 직접적으로 해석됩니다. 규제 개입이 가속화되어 AI 프로젝트의 우선순위가 다시 지정될 것으로 예상됩니다. AI에 대한 "빠른 움직임과 파괴" 정신은 공식적으로 사라졌으며, 첫날부터 구현되어야 했던 "윤리적 AI 개발" 프레임워크에 대한 열광적인 검색으로 대체되었습니다. 투자는 더욱 조심스러워지고, 전략은 중심이 될 것이며, 골드러시가 보다 신중하고 책임감 있는 접근 방식으로 바뀌면서 고용 시장은 냉담함을 느낄 것입니다. 그러나 이것을 순수한 이타주의로 오해하지 말자. 이 "일시 중지"는 진정한 안전에 관한 것만큼이나 통제 및 시장 재조정에 관한 것입니다.
타이탄즈가 논쟁을 벌이는 동안 재단은 무너졌습니다
이제 AI 엘리트들이 실존적 위기를 겪고 미래 초지능의 윤리에 대해 토론하는 동안 지금 펼쳐지고 있는 매우 현실적이고 현재적이며 완전히 파국적인 보안 위기에 대해 이야기해 보겠습니다.
이번 주에 CISA는 알려진 악용 취약점 카탈로그[3]에 여러 개의 새로운 CVE를 추가했습니다. 우리는 Cisco Secure Email Gateway(CVE-2023-20269)[4]에서 확인된 루트 RCE, GitLab(CVE-2023-2825)[3]의 CVSS 10.0 경로 탐색, 최근 패치된 Chrome 제로데이(CVE-2023-4863)[3]에 대해 이야기하고 있으며 즉각적인 주의가 필요했습니다.
그러나 모든 보안 전문가가 허공에 비명을 지르게 만드는 진짜 직감은 근본적인 결함의 지속적인 위협입니다. Microsoft Defender 맬웨어 방지 엔진[5]의 로컬 권한 상승 취약점인 CVE-2021-1647을 생각해 보세요. 이것은 모호한 결함이 아니었습니다. 이는 공개 개념 증명을 보유하고 있으며 야생에서 적극적으로 악용되어 디지털 방어의 중요한 구성 요소가 어떻게 손상되고 일정 기간 동안 취약한 상태로 유지될 수 있는지를 강조했습니다.
AI 감각의 윤리에 대해 토론하는 동안 디지털 방어의 기본 계층인 엔드포인트를 보호하도록 설계된 바로 그 소프트웨어에는 공격자가 권한을 상승시킬 수 있도록 공개적으로 알려지고 적극적으로 악용되는 결함이 있는 것으로 나타났습니다. 그것은 자동차의 브레이크가 고장나고 엔진에 불이 붙은 상태에서 워프 드라이브의 철학적 의미에 대해 논쟁하는 것과 같습니다.
심판: 동전의 양면
이것은 별개의 이야기가 아닙니다. 근본적인 보안, 안정성, 책임보다 속도, 참신함, 인지된 혁신을 지속적으로 우선시하는 기술 산업이라는 심각한 결함이 있는 동전의 양면입니다.
AI 리더들의 갑작스러운 속도 저하 요청은 강력하고 잘 이해되지 않은 시스템을 이미 출시한 후* 경로를 수정하려는 반응적이고 이기적인 시도입니다. 잠재적으로 세상을 바꿀 수 있는 기술에 "빠르게 움직여 사물을 깨뜨린다"는 주문이 무책임할 뿐만 아니라 위험하다는 점을 인정하는 것입니다.
제로데이 맹공격, 특히 중요한 Defender 취약점은 기본 IT에 적용된 동일한 사고 방식의 직접적이고 고통스러운 결과입니다. 이는 보안을 모든 단일 제품 및 시스템의 협상 불가능한 필수 구성 요소가 아닌 사후 고려 사항, 규정 준수 확인란 또는 비용 센터로 간주하는 문화의 결과입니다. 우리는 다음 번 빛나는 물체, 즉 다음 LLM, 다음 AI 에이전트를 쫓느라 너무 바빠서 발 밑의 땅마저 썩게 만들었습니다.
CTO와 엔지니어링 책임자에게 메시지는 명확하고 즉각적입니다. 피드를 가로지르는 모든 AI 트렌드를 쫓는 것을 중단하세요. 기본을 두 배로 강화하세요. 특히 Cisco, GitLab 및 Defender의 과거 LPE에서 예시된 지속적인 위협과 같이 심각하고 적극적으로 악용되는 취약점에 대해 패치 적용의 우선순위를 지정합니다. 강력한 완화를 구현합니다. 기능 로드맵뿐만 아니라 보안 상태에 대한 공급업체의 책임도 요구하십시오.
시장의 하락과 해결되지 않은 근본적인 보안 문제는 단순한 뉴스 항목이 아닙니다. 그것은 계산이다. 너무 빠르고, 너무 무모하고, 결국 너무 노출된 기술 세계. 이제 성장하고 기초를 확보한 다음 그때에만 조심스럽게 다음 개척지를 고려해야 할 때입니다.
소스
[1] Future of Life Institute — 거대 AI 실험 일시 중지: 공개 서한 — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI 전문가들은 고급 AI 시스템 개발 중단을 촉구 — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — 알려진 악용 취약점 카탈로그 — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco 보안 권고 - Cisco Secure Email and Web Manager, Cisco Email Security Appliance 및 Cisco Web Security Appliance 취약점 - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft 보안 대응 센터 — Microsoft Defender 로컬 권한 상승 취약점 — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647