AI 둔화는 주의를 산만하게 합니다. 당신의 집에 불이 붙었습니다.
직설적으로 말하자면, 기술 산업은 마침내 AI를 통해 "예수께로 나아오는" 순간을 맞이하고 있지만 진정한 회개라기보다는 전략적 전환점처럼 느껴집니다. 갑자기, 이 맹렬한 AI 경쟁의 설계자, 즉 카페인을 연료로 하는 스프린트에 자금을 지원한 저명한 연구원과 금융가들이 경기 둔화를 요구하고 있습니다[1]. 그들은 "내부 거버넌스", "윤리적 프레임워크", "보다 신중한" 속도에 대해 이야기하고 있습니다. 그리고 언제나 민감한 지표인 시장은 이미 AI 투자의 지속 가능성에 대한 우려로 칩 주식의 변동성을 유발하는 반응을 보였습니다[2].
이는 외부 규제가 아닙니다. 이는 AI 생태계 자체 내에서 나타나는 내부 "단층선"입니다. 최고 경영진이 미래 창조물의 철학적 의미에 대해 토론하는 동안 현재는 활발하게 불타고 있습니다.
편리한 일시정지
타이밍을 고려하십시오. 수년 동안 "빠르게 움직여서 문제를 해결하라" 또는 최근에는 "빠르게 움직여 AGI를 구축하라"는 모토가 있었습니다. 이제 강력한 모델이 이미 배포되고, 경쟁 환경이 광범위하게 정의되고, 실제적이고 의미 있는 규제가 다가오고 있는 상황에서 주의에 대한 요구는 다소 공허하게 들립니다. 이것이 심각한 위험에 대한 진정한 깨달음입니까, 아니면 갈퀴가 나오기 전에 권력을 강화하고 경쟁업체의 속도를 늦추며 대중의 인식을 관리하기 위한 계산된 책략입니까?
컴퓨팅, 인재, 기본 모델 분야에서 이미 시장을 장악했다면 주의를 기울이기 쉽습니다. 업계가 갑자기 "제품 로드맵 재평가, 위험 평가 및 전략 계획"에 초점을 맞추는 것은 고귀하게 들리지만 리소스를 재조정하는 편리한 방법처럼 들립니다. 이로 인해 필수 리소스에 대한 액세스를 제어하거나 규제 프레임워크에 영향을 미쳐 기존 거대 기업에 도전할 수 있는 오픈 소스 대안이나 소규모 플레이어의 속도가 잠재적으로 느려질 수 있습니다. "윤리적 프레임워크"는 모델이 스크랩된 데이터로 훈련될 때가 아니라 이제 사회를 진정으로 재구성할 수 있을 만큼 강력해지면서 갑자기 중요해졌습니다.
문제를 해결하기 위한 AI "솔루션"이 해당 분야의 무결성을 위협할 수 있다고 경고하면서 학계 및 과학 커뮤니티 내에서 제기된 우려는 이러한 내부 우려의 깊이를 극명하게 보여주는 지표입니다. 그러나 이것을 이타주의로 오해하지 말자. 이는 AI가 일자리나 인프라에 미치는 영향에 관한 것이 아닙니다. 그것은 통제에 관한 것입니다. 누가 그것을 휘두르고 어떤 속도로 휘두르는가입니다. 논쟁은 "우리가 그것을 구축해야 하는가?"에 관한 것이 아닙니다. 그리고 "우리가 얼마나 빨리 구축할지 누가 결정하고, 누가 이익을 얻나요?"에 대해 자세히 알아보세요.
그들이 미래에 대해 토론하는 동안 당신의 현재는 위태롭게 됩니다
이제 AI 내부 균열에 대한 추상적이고 미래 지향적인 우려에서 지금 네트워크에서 펼쳐지는 즉각적이고 실질적인 위기로 전환해 보겠습니다. AI 거인들이 기계의 영혼을 고민하는 동안 운영 팀은 전면적인 사이버 보안 재앙을 막기 위해 안간힘을 쓰고 있습니다.
우리는 이론적 위협이나 일반적인 추세에 대해 말하는 것이 아닙니다. 우리는 기본 기업 소프트웨어에서 적극적으로 악용되는 제로데이 취약점에 대해 이야기하고 있으며 큰 망치의 힘으로 중요한 인프라에 타격을 가하고 있습니다.
- Ivanti Connect 보안 및 정책 보안(CVE-2023-46805 및 CVE-2024-21887): 이는 단순한 버그가 아닙니다. 그것은 벌어진 상처입니다. Ivanti의 VPN 및 네트워크 액세스 솔루션에 있는 이러한 취약점이 활발히 악용되어 공격자가 인증을 우회하고 원격 명령을 실행할 수 있게 되었습니다. CISA는 보안 원격 액세스를 위해 이러한 시스템에 의존하는 조직에 대한 심각한 위험을 강조하면서 여러 차례 경고를 발표했습니다[4]. 공격자들이 수많은 기업 네트워크에 심층 액세스할 수 있도록 하기 위해 공격자들을 막기 위해 의존하는 기본 네트워크 방어가 적극적으로 악용되고 있습니다.
- Cisco IOS XE 웹 UI(CVE-2023-20198): 최대 심각도. 적극적으로 악용됩니다. 이 취약점을 통해 인증되지 않은 공격자가 권한 있는 계정을 생성하고 영향을 받는 Cisco IOS XE 장치에 대한 모든 권한을 얻을 수 있습니다. 공격자가 네트워크 인프라의 관리 플레인을 소유한 경우 전체 네트워크를 소유하게 됩니다. 게임 종료 [5].
CISA는 재미삼아 "경고"를 발령하는 것이 아닙니다. 그들은 붐비는 극장에서 "불이야"라고 외치고 있습니다. 이는 단지 이론적인 위협이 아닙니다. 이는 글로벌 기업 전반의 핵심 방어 및 관리 시스템을 손상시키는 데 적극적으로 사용되고 있습니다.
실제 단층선
아이러니는 너무 두꺼워서 무딘 칼로도 잘라낼 수 있습니다. 한쪽에서는 AI 엘리트들이 그들이 아직 구축하고 있는 미래의 윤리적 의미에 대해 토론하면서 수년간의 확인되지 않은 가속 이후 둔화를 요구하고 있습니다. 다른 한편으로는 현재 기반 기술이 해결되지 않고 패치되지 않은 취약점의 무게로 인해 적극적으로 무너지고 있다는 즉각적이고 실존적인 위협이 있습니다.
실제 "단층선"은 AI 커뮤니티에만 있는 것이 아닙니다. 그것은 혁신의 상아탑과 운영 현실의 참호 사이에 있습니다. 이는 AI에 대한 "자율 규제"에 대한 추상적이고 미래 지향적인 논의와 오늘날 우리가 의존하는 시스템의 실제 보안 및 안정성에 대한 즉각적이고 구체적인 요구 사이에 있습니다.
CTO와 엔지니어링 리더로서 우리는 AI 둔화에 대한 철학적 논쟁에 주의가 산만해질 수 없습니다. 이러한 논의는 장기적으로 중요하지만 집에 불이 붙었을 때는 사치입니다. "제품 로드맵 재평가"는 기존 인프라의 무너진 기반을 강화하는 것부터 시작되어야 합니다. "위험 평가"에서는 현재 운영 연속성과 데이터 무결성을 손상시키는 즉각적이고 적극적으로 악용되는 위협에 우선순위를 두어야 합니다.
업계의 우선순위는 왜곡되어 있습니다. 우리는 활발하게 썩고 있는 기초 위에 더 빠르고 빛나는 것을 만들고 있습니다. AI 속도 저하를 요청하는 것은 꼭 필요한 대화일 수 있지만 Ivanti와 Cisco 제로데이를 다루는 현장에 있는 우리에게는 지붕이 무너지는 동안 커튼 색상에 대해 토론하는 것처럼 느껴집니다. 현재에 집중하세요. 미래는 우리가 적극적으로 피를 흘리지 않을 때까지 기다릴 수 있습니다.
소스
[1] 거대 AI 실험을 일시 중지하기 위한 공개 서한 — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI 주식이 급등하고 있지만 일부 투자자들은 불안해하고 있습니다 — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] 과학에서의 AI 혁명: 약속과 위험 — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure 및 Ivanti Policy Secure 취약점을 악용하는 위협 행위자 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE 소프트웨어 웹 UI 취약점을 악용하는 위협 행위자 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a