AI mới của Hoàng đế và Tổ chức mục nát bên dưới nó
Bạn có nhớ khi nào AI sẽ cứu tất cả chúng ta không? Hóa ra, những vị cứu tinh hiện đang yêu cầu thời gian chờ. Mới gần đây, chính các kiến trúc sư của tương lai do AI định hướng của chúng ta—các nhà nghiên cứu ở “tiền tuyến” và các đối thủ nặng ký về tài chính—đã cùng nhau phanh lại, yêu cầu giảm tốc độ phát triển do “mối lo ngại về an toàn ngày càng gia tăng” [1]. Thị trường, vốn là một công cụ cùn, đã phản ứng bằng cách ho sặc sụa: cổ phiếu chip và những công ty AI lớn sụt giảm [2]. Có thể dự đoán được, Bắc Kinh đã chế giễu những cảnh báo này, trong khi những gã khổng lồ về chip của Seoul lại ngần ngại trả trước cho những tiến bộ AI trong tương lai [2].
Đây không chỉ là một cuộc tranh luận triết học về tháp ngà. Đây là một cơn địa chấn, một sự thừa nhận công khai về sự liều lĩnh của giới tinh hoa trong ngành. Và thành thật mà nói, nó hơi quá thuận tiện.
Sự tạm dừng của AI: Lòng vị tha hay trò chơi quyền lực?
Hãy nói rõ: khi những người chế tạo tên lửa đột nhiên nhận ra rằng họ đã quên những chiếc dù sau khi phóng, đó không phải là khoảnh khắc thức tỉnh đạo đức sâu sắc. Đó là một cuộc tranh giành muộn màng và có lợi cho bản thân. Đây không phải là những người theo chủ nghĩa lý tưởng có đôi mắt mở to; đây là những người khổng lồ đã và đang đẩy mạnh kim loại, theo đuổi sự tăng trưởng theo cấp số nhân và thống trị thị trường. Giờ đây, với bóng ma về "những hậu quả không lường trước được" đang ngày càng lớn - và có lẽ, cay độc hơn, khi nhận ra rằng tốc độ hiện tại là không bền vững hoặc rằng họ cần củng cố vị trí dẫn đầu của mình - họ đang kêu gọi một hơi thở tập thể.
Phản ứng của thị trường đang nói lên điều đó. Sự sụt giảm của cổ phiếu chip không chỉ là nỗi sợ hãi; đó là về những tác động tài chính trước mắt của sự suy thoái tiềm tàng. Sự phản kháng của Bắc Kinh? Một tín hiệu rõ ràng rằng lợi thế chiến lược quốc gia sẽ vượt qua những lo ngại về an toàn trừu tượng. Và các nhà sản xuất chip của Seoul từ chối thanh toán trả trước? Đó là âm thanh của vốn đặt câu hỏi về sự ổn định lâu dài và lợi nhuận của một tương lai đột ngột không chắc chắn.
Đối với chúng tôi, các CTO và trưởng nhóm kỹ thuật, điều này trực tiếp biến thành một khung cảnh hỗn loạn. Mong đợi các biện pháp can thiệp theo quy định sẽ tăng tốc, buộc phải tái ưu tiên các dự án AI. Đặc tính "di chuyển nhanh và phá vỡ mọi thứ" đối với AI đã chính thức bị khai tử, thay vào đó là cuộc tìm kiếm điên cuồng các khuôn khổ "phát triển AI có đạo đức" lẽ ra phải được áp dụng ngay từ ngày đầu tiên. Đầu tư sẽ trở nên thận trọng hơn, các chiến lược sẽ xoay vòng, và vâng, thị trường việc làm sẽ cảm thấy ớn lạnh khi cơn sốt vàng nhường chỗ cho một cách tiếp cận đo lường hơn và hy vọng là có trách nhiệm hơn. Nhưng chúng ta đừng nhầm lẫn điều này với lòng vị tha thuần túy. Việc "tạm dừng" này nhằm mục đích kiểm soát và điều chỉnh lại thị trường cũng như liên quan đến sự an toàn thực sự.
Trong khi tranh luận về các Titan, Tổ chức sụp đổ
Bây giờ, trong khi giới tinh hoa AI đang gặp phải cuộc khủng hoảng hiện sinh của họ, tranh luận về đạo đức của siêu trí tuệ nhân tạo trong tương lai, hãy nói về cuộc khủng hoảng an ninh rất thực tế, rất hiện tại và cực kỳ thảm khốc đang diễn ra ngay bây giờ.
Tuần này, CISA đã thêm nhiều CVE mới vào danh mục Các lỗ hổng bị khai thác đã biết [3]. Chúng ta đang nói về RCE gốc đã được xác nhận trong Cổng email bảo mật của Cisco (CVE-2023-20269) [4], đường truyền CVSS 10.0 trong GitLab (CVE-2023-2825) [3] và một lỗ hổng zero-day của Chrome được vá gần đây (CVE-2023-4863) [3] cần được chú ý ngay lập tức.
Nhưng cú đấm thực sự, thứ có thể khiến mọi chuyên gia bảo mật phải hét lên trong vô vọng, lại là mối đe dọa dai dẳng từ những sai sót cơ bản. Hãy xem xét CVE-2021-1647, một lỗ hổng leo thang đặc quyền cục bộ trong Công cụ bảo vệ phần mềm độc hại của Microsoft Defender [5]. Đây không phải là một sai sót khó hiểu nào đó; nó có Bằng chứng khái niệm công khai và được khai thác rộng rãi, nêu bật cách các thành phần quan trọng trong hệ thống phòng thủ kỹ thuật số của chúng ta có thể bị xâm phạm và vẫn dễ bị tổn thương trong một thời gian.
Hãy để điều đó chìm vào. Trong khi chúng ta đang tranh luận về đạo đức của khả năng nhận biết AI, chính phần mềm được thiết kế để bảo vệ các điểm cuối của chúng ta, lớp nền tảng của hệ thống phòng thủ kỹ thuật số của chúng ta, đã được chứng minh là chứa chấp những lỗ hổng được biết đến rộng rãi và được khai thác tích cực cho phép kẻ tấn công nâng cao các đặc quyền. Nó giống như tranh luận về ý nghĩa triết học của việc lái xe dọc trong khi phanh ô tô của bạn bị hỏng và động cơ đang bốc cháy.
Sự tính toán: Hai mặt của một đồng xu
Đây không phải là những câu chuyện riêng biệt. Chúng là hai mặt của cùng một đồng tiền có nhiều thiếu sót: một ngành công nghệ luôn ưu tiên tốc độ, tính mới và nhận thức được sự đổi mới hơn là tính bảo mật, sự ổn định và trách nhiệm cơ bản.
Lời kêu gọi đột ngột của các nhà lãnh đạo AI về việc giảm tốc độ là một nỗ lực phản ứng, tự phục vụ nhằm điều chỉnh hướng đi sau khi họ đã đưa các hệ thống mạnh mẽ, kém hiểu biết vào thế giới hoang dã. Phải thừa nhận rằng câu thần chú "di chuyển nhanh và phá vỡ mọi thứ", khi áp dụng cho công nghệ có khả năng thay đổi thế giới, không chỉ vô trách nhiệm mà còn nguy hiểm.
Cuộc tấn công dữ dội zero-day, đặc biệt là lỗ hổng nghiêm trọng của Defender, là hậu quả trực tiếp và đau đớn của lối suy nghĩ tương tự được áp dụng cho CNTT nền tảng. Đó là kết quả của một nền văn hóa thường coi bảo mật là điều cần suy nghĩ lại, hộp kiểm tuân thủ hoặc trung tâm chi phí, thay vì là một thành phần không thể thiếu, không thể thương lượng của mỗi sản phẩm và hệ thống. Chúng ta quá bận rộn theo đuổi vật thể sáng bóng tiếp theo—LLM tiếp theo, đặc vụ AI tiếp theo—đến nỗi chúng ta đã để cho mặt đất dưới chân mình mục nát.
Đối với CTO và trưởng nhóm kỹ thuật, thông điệp này rất rõ ràng và ngay lập tức. Hãy ngừng theo đuổi mọi xu hướng AI xuất hiện trên nguồn cấp dữ liệu của bạn. Nhân đôi các nguyên tắc cơ bản. Ưu tiên vá lỗi, đặc biệt là đối với các lỗ hổng nghiêm trọng, được khai thác tích cực như lỗ hổng trong Cisco, GitLab và mối đe dọa dai dẳng được minh họa bởi các LPE trước đây của Defender. Thực hiện các biện pháp giảm thiểu mạnh mẽ. Yêu cầu nhà cung cấp của bạn chịu trách nhiệm về tình hình bảo mật của họ chứ không chỉ lộ trình tính năng của họ.
Sự sụt giảm của thị trường và các vấn đề an ninh cơ bản chưa được giải quyết không chỉ là tin tức. Họ là một sự tính toán. Một thế giới công nghệ quá nhanh, quá liều lĩnh và cuối cùng là quá lộ liễu. Đã đến lúc trưởng thành, củng cố nền tảng của chúng ta và sau đó, chỉ khi đó, hãy thận trọng xem xét biên giới tiếp theo.
Nguồn
[1] Viện Tương lai của Cuộc sống - Tạm dừng các thí nghiệm AI khổng lồ: Thư ngỏ - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Các chuyên gia AI kêu gọi tạm dừng phát triển các hệ thống AI tiên tiến — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Danh mục các lỗ hổng bị khai thác đã biết — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Tư vấn bảo mật của Cisco — Trình quản lý web và email bảo mật của Cisco, Thiết bị bảo mật email của Cisco và Các lỗ hổng bảo mật trong thiết bị bảo mật web của Cisco — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Trung tâm phản hồi bảo mật của Microsoft — Lỗ hổng nâng cao đặc quyền cục bộ của Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647