AI Baharu Maharaja, dan Asas Reput Di Bawahnya
Ingat bila AI akan menyelamatkan kita semua? Ternyata, penyelamat kini meminta tamat masa. Baru-baru ini, arkitek masa depan yang didorong oleh AI kami—penyelidik "sempadan" dan syarikat berwajaran tinggi kewangan—secara kolektif menekan brek, menuntut perlambatan dalam pembangunan disebabkan oleh "kebimbangan keselamatan yang semakin meningkat" [1]. Pasaran, yang sentiasa menjadi instrumen tumpul, bertindak balas dengan batuk: saham cip dan pemain AI utama jatuh [2]. Beijing, boleh diramalkan, mengejek amaran itu, manakala gergasi cip Seoul menolak bayaran pendahuluan untuk kemajuan AI masa hadapan [2].
Ini bukan sekadar perdebatan falsafah untuk menara gading. Ini adalah anjakan seismik, pengakuan awam tentang kecuaian dari kalangan elit industri. Dan terus terang, ia agak terlalu mudah.
Jeda AI: Altruisme atau Main Kuasa?
Mari kita jelaskan: apabila orang yang membina roket tiba-tiba menyedari bahawa mereka terlupa payung terjun selepas pelancaran, ia bukan momen kebangkitan etika yang mendalam. Ia adalah perebutan yang terlewat dan mementingkan diri sendiri. Mereka ini bukan idealis yang terbeliak mata; ini adalah raksasa yang telah mendorong pedal ke logam, mengejar pertumbuhan eksponen dan penguasaan pasaran. Kini, dengan momok "akibat yang tidak dijangka" semakin besar—dan mungkin, lebih sinis, kesedaran bahawa kadar semasa tidak mampan atau bahawa mereka perlu menyatukan petunjuk mereka—mereka meminta nafas kolektif.
Reaksi pasaran memberitahu. Penurunan dalam saham cip bukan hanya tentang ketakutan; ia mengenai implikasi kewangan segera daripada potensi kelembapan. Penolakan Beijing? Isyarat jelas bahawa kelebihan strategik negara mengatasi kebimbangan keselamatan yang abstrak. Dan pembuat cip Seoul menolak pembayaran pendahuluan? Itulah bunyi modal yang mempersoalkan kestabilan jangka panjang dan keuntungan masa depan yang tiba-tiba tidak menentu.
Bagi kami, CTO dan ketua kejuruteraan, ini diterjemahkan terus ke dalam landskap huru-hara. Jangkakan campur tangan kawal selia untuk mempercepatkan, memaksa keutamaan semula projek AI. Etos "bergerak pantas dan pecahkan perkara" untuk AI secara rasminya telah mati, digantikan dengan pencarian terburu-buru untuk rangka kerja "pembangunan AI beretika" yang sepatutnya telah digunakan sejak hari pertama. Pelaburan akan menjadi lebih berhati-hati, strategi akan berputar, dan ya, pasaran pekerjaan akan merasai kedinginan kerana tergesa-gesa emas memberi laluan kepada pendekatan yang lebih terukur, dan diharapkan, lebih bertanggungjawab. Tetapi jangan salahkan ini sebagai altruisme tulen. "Jeda" ini adalah tentang kawalan dan penentukuran semula pasaran seperti juga tentang keselamatan tulen.
Semasa Titans Berdebat, Yayasan Runtuh
Sekarang, sementara golongan elit AI mengalami krisis kewujudan mereka, membahaskan etika superintelligence masa depan, mari kita bercakap tentang krisis keselamatan yang sangat nyata, sangat terkini dan benar-benar bencana yang berlaku sekarang.
Minggu ini, CISA menambah berbilang CVE baharu pada katalog Kerentanan Dieksploitasi yang Diketahui [3]. Kita bercakap tentang RCE akar yang disahkan dalam Cisco Secure Email Gateway (CVE-2023-20269) [4], lintasan laluan CVSS 10.0 dalam GitLab (CVE-2023-2825) [3] dan Chrome sifar hari (CVE-2023-4863) baru-baru ini ditampal yang memerlukan perhatian immedia.
Tetapi pukulan usus sebenar, yang sepatutnya membuat setiap profesional keselamatan menjerit ke dalam kekosongan, adalah ancaman berterusan kelemahan asas. Pertimbangkan CVE-2021-1647, kelemahan peningkatan keistimewaan tempatan dalam Enjin Perlindungan Malware Microsoft Defender [5]. Ini bukan satu kecacatan yang tidak jelas; ia mempunyai Bukti Konsep awam dan dieksploitasi secara aktif di alam liar, menonjolkan cara komponen kritikal pertahanan digital kami boleh terjejas dan kekal terdedah untuk satu tempoh.
Biarkan perkara itu meresap. Semasa kami membahaskan etika sentimen AI, perisian yang direka untuk melindungi titik akhir kami, lapisan asas pertahanan digital kami, telah ditunjukkan untuk menyembunyikan kelemahan yang diketahui umum dan dieksploitasi secara aktif yang membolehkan penyerang meningkatkan keistimewaan. Ia seperti mempertikaikan tentang implikasi falsafah pemacu meledingkan semasa brek kereta anda rosak dan enjin terbakar.
Perhitungan: Dua Sisi Syiling Yang Sama
Ini bukan cerita yang berasingan. Mereka adalah dua sisi dari syiling yang sangat cacat yang sama: industri teknologi yang secara konsisten mengutamakan kelajuan, kebaharuan dan inovasi yang dirasakan berbanding keselamatan asas, kestabilan dan tanggungjawab.
Seruan tiba-tiba pemimpin AI untuk memperlahankan adalah percubaan yang reaktif dan mementingkan diri sendiri untuk membetulkan kursus selepas mereka telah melancarkan sistem yang berkuasa dan kurang difahami ke alam liar. Ini adalah pengakuan bahawa mantra "bergerak pantas dan memecahkan sesuatu", apabila digunakan pada teknologi yang berpotensi mengubah dunia, bukan sahaja tidak bertanggungjawab, tetapi berbahaya.
Serangan sifar hari, terutamanya kelemahan Defender yang kritikal, adalah akibat langsung dan menyakitkan daripada pemikiran yang sama yang digunakan pada IT asas. Ini adalah hasil daripada budaya yang sering menganggap keselamatan sebagai pertimbangan, kotak pilihan pematuhan atau pusat kos, dan bukannya komponen penting yang tidak boleh dirundingkan bagi setiap produk dan sistem. Kami sangat sibuk mengejar objek berkilat seterusnya—LLM seterusnya, ejen AI seterusnya—sehinggakan kami membiarkan tanah di bawah kaki kami reput.
Bagi CTO dan peneraju kejuruteraan, mesejnya jelas dan serta-merta. Berhenti mengejar setiap aliran AI yang melintasi suapan anda. Gandakan asasnya. Utamakan tampalan, terutamanya untuk kelemahan kritikal yang dieksploitasi secara aktif seperti yang terdapat di Cisco, GitLab dan ancaman berterusan yang ditunjukkan oleh LPE masa lalu Defender. Laksanakan mitigasi yang teguh. Tuntut kebertanggungjawaban daripada vendor anda untuk postur keselamatan mereka, bukan hanya peta jalan ciri mereka.
Kemerosotan pasaran dan isu keselamatan asas yang tidak ditangani bukan sekadar berita. Mereka adalah perhitungan. Dunia teknologi yang terlalu pantas, terlalu melulu, dan akhirnya, terlalu terdedah. Sudah tiba masanya untuk membesar, memastikan asas kita, dan kemudian, selepas itu, berhati-hati mempertimbangkan sempadan seterusnya.
Sumber
[1] Institut Kehidupan Masa Depan — Jeda Eksperimen AI Gergasi: Surat Terbuka — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Pakar AI meminta jeda dalam pembangunan sistem AI lanjutan — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Katalog Kerentanan Dieksploitasi Terkenal — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Penasihat Keselamatan Cisco — Pengurus E-mel dan Web Cisco Secure, Perkakas Keselamatan E-mel Cisco dan Kerentanan Perkakas Keselamatan Web Cisco — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Pusat Tindak Balas Keselamatan Microsoft — Kerentanan Peningkatan Keistimewaan Tempatan Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647