İmparatorun Yeni Yapay Zekası ve Altındaki Çürüyen Temel
Yapay zekanın hepimizi kurtaracağı zamanı hatırlıyor musun? Anlaşılan o ki, kurtarıcılar artık bir mola istiyor. Kısa bir süre önce, yapay zeka odaklı geleceğimizin mimarları, yani "öncü" araştırmacılar ve finans dünyasının önde gelenleri, "artan güvenlik endişeleri" nedeniyle geliştirmede bir yavaşlama talep ederek topluca frene bastı [1]. Her zaman kör bir araç olan piyasa, ciğerlerini öksürerek karşılık verdi: çip stokları ve büyük yapay zeka oyuncuları düşüşe geçti [2]. Tahmin edilebileceği gibi Pekin uyarılarla alay ederken, Seul'ün çip devleri gelecekteki yapay zeka ilerlemeleri için ön ödeme konusunda tereddüt etti [2].
Bu sadece fildişi kuleye dair felsefi bir tartışma değil. Bu sarsıcı bir değişim, sektörün seçkinlerinin pervasızlığının kamuoyu tarafından kabul edilmesidir. Ve açıkçası biraz fazla kullanışlı.
Yapay Zeka Duraklaması: Fedakarlık mı, Güç Oyunu mu?
Açık olalım: Roketi yapan insanlar fırlatıldıktan sonra paraşütleri unuttuklarını aniden fark ettiklerinde, bu derin bir etik uyanış anı değildir. Bu gecikmiş, kendi kendine hizmet eden bir mücadele. Bunlar gözü açık idealistler değil; bunlar, katlanarak büyümenin ve pazar hakimiyetinin peşinde koşan, pedalı metale doğru iten titanlardır. Şimdi, "öngörülemeyen sonuçlar" hayaletinin ufukta belirmesiyle ve belki de daha alaycı bir şekilde, mevcut gidişatın sürdürülemez olduğunun veya liderliğini pekiştirmeleri gerektiğinin farkına varılmasıyla birlikte, kolektif bir nefes alma çağrısında bulunuyorlar.
Piyasanın tepkisi çok açık. Çip stoklarındaki düşüş sadece korkuyla ilgili değil; potansiyel bir yavaşlamanın acil mali sonuçlarıyla ilgilidir. Pekin'in geri itmesi mi? Ulusal stratejik avantajın soyut güvenlik endişelerinin önüne geçtiğine dair açık bir işaret. Peki Seul'ün çip üreticileri ön ödemeyi reddediyor mu? Bu, aniden belirsizleşen bir geleceğin uzun vadeli istikrarını ve karlılığını sorgulayan sermayenin sesi.
Bizim için, CTO'lar ve mühendislik liderleri için bu, doğrudan kaotik bir manzaraya dönüşüyor. Yapay zeka projelerinin yeniden önceliklendirilmesini zorlayacak şekilde düzenleyici müdahalelerin hızlanmasını bekleyin. Yapay zekaya yönelik "hızlı hareket et ve işleri kır" anlayışı resmen öldü, yerini ilk günden itibaren hazırlanması gereken "etik yapay zeka geliştirme" çerçeveleri için çılgınca bir arayış aldı. Yatırımlar daha temkinli hale gelecek, stratejiler yön değiştirecek ve evet, altına hücum yerini daha ölçülü ve umarım daha sorumlu bir yaklaşıma bırakırken iş piyasaları soğukluğu hissedecek. Ancak bunu saf fedakarlıkla karıştırmayalım. Bu "duraklama" gerçek güvenlikle ilgili olduğu kadar kontrol ve pazarın yeniden kalibrasyonuyla da ilgilidir.
Titanlar Tartışırken Temel Parçalanıyor
Şimdi, yapay zeka elitleri varoluşsal krizlerini yaşarken, geleceğin süper zekasının etiğini tartışırken, gelin şu anda ortaya çıkan çok gerçek, çok mevcut ve tamamen felaket niteliğindeki güvenlik krizinden bahsedelim.
Bu hafta CISA, Bilinen İstismar Edilen Güvenlik Açıkları kataloğuna çok sayıda yeni CVE ekledi [3]. Cisco Güvenli E-posta Ağ Geçidinde (CVE-2023-20269) [4] onaylanmış bir kök RCE'den, GitLab'da bir CVSS 10.0 yol geçişinden (CVE-2023-2825) [3] ve yakın zamanda yamalanan ve acil müdahale gerektiren Chrome sıfır gününden (CVE-2023-4863) [3] bahsediyoruz.
Ancak her güvenlik profesyonelinin boşluğa çığlık atmasına neden olacak gerçek içgüdüsel darbe, temel kusurların sürekli tehdididir. Microsoft Defender'ın Kötü Amaçlı Yazılımdan Koruma Motorunda [5] bir yerel ayrıcalık yükseltme güvenlik açığı olan CVE-2021-1647'yi düşünün. Bu belirsiz bir kusur değildi; halka açık bir Kavram Kanıtı'na sahipti ve vahşi doğada aktif olarak kullanıldı; bu, dijital savunmamızın kritik bileşenlerinin nasıl tehlikeye atılabileceğini ve bir süre boyunca savunmasız kalabileceğini vurguladı.
Bırakın bu iyice anlaşılsın. Yapay zeka duyarlılığının etiğini tartışırken, dijital savunmamızın temel katmanı olan uç noktalarımızı korumak için tasarlanan yazılımın, bir saldırganın ayrıcalıklarını yükseltmesine olanak tanıyan, herkesçe bilinen, aktif olarak istismar edilen kusurları barındırdığı gösterildi. Bu, arabanızın frenleri bozulurken ve motoru yanarken warp sürüşünün felsefi sonuçları hakkında tartışmaya benziyor.
Hesaplaşma: Aynı Madalyonun İki Yüzü
Bunlar ayrı hikayeler değil. Bunlar aynı derinden kusurlu madalyonun iki yüzü: Temel güvenlik, istikrar ve sorumluluk yerine sürekli olarak hıza, yeniliğe ve algılanan yeniliğe öncelik veren bir teknoloji endüstrisi.
Yapay zeka liderlerinin ani yavaşlama çağrısı, güçlü, yeterince anlaşılmamış sistemleri zaten serbest bıraktıktan sonra, rotayı düzeltmeye yönelik tepkisel, kendi kendine hizmet eden bir girişimdir. Bu, potansiyel olarak dünyayı değiştirebilecek teknolojiye uygulandığında "hızlı hareket et ve işleri kır" mantrasının sadece sorumsuz değil aynı zamanda tehlikeli olduğunun kabulüdür.
Sıfır gün saldırısı, özellikle de kritik Defender güvenlik açığı, temel BT'ye uygulanan aynı zihniyetin doğrudan ve acı verici sonucudur. Bu, güvenliği her bir ürün ve sistemin ayrılmaz, tartışılamaz bir bileşeni olarak görmek yerine genellikle sonradan akla gelen bir düşünce, bir uyumluluk onay kutusu veya bir maliyet merkezi olarak ele alan bir kültürün sonucudur. Bir sonraki parlak nesneyi (bir sonraki LLM'yi, bir sonraki AI ajanını) kovalamakla o kadar meşgulüz ki, ayaklarımızın altındaki zeminin çürümesine izin verdik.
CTO'lar ve mühendislik liderleri için mesaj net ve acildir. Feed'inizde yer alan her yapay zeka trendini takip etmeyi bırakın. Temelleri ikiye katlayın. Özellikle Cisco, GitLab'dakiler gibi kritik, aktif olarak yararlanılan güvenlik açıkları ve Defender'ın geçmiş LPE'lerinde örneklenen kalıcı tehditler için yama uygulamaya öncelik verin. Güçlü azaltımlar uygulayın. Satıcılarınızdan yalnızca özellik yol haritaları için değil, güvenlik duruşları konusunda da sorumluluk talep edin.
Piyasanın çöküşü ve ele alınmayan temel güvenlik sorunları yalnızca yeni haberler değil. Bunlar birer hesaplaşmadır. Fazla hızlı, fazla pervasız ve son olarak fazla açığa çıkan bir teknoloji dünyası. Büyümenin, temellerimizi sağlamlaştırmanın ve ancak o zaman bir sonraki sınırı dikkatle düşünmenin zamanı geldi.
Kaynaklar
[1] Hayatın Geleceği Enstitüsü — Dev Yapay Zeka Deneylerini Duraklatın: Açık Mektup — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Yapay zeka uzmanları, gelişmiş yapay zeka sistemlerinin geliştirilmesinde duraklama çağrısında bulunuyor — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Bilinen İstismar Edilen Güvenlik Açıkları Kataloğu — https://www.cisa.gov/known-exploited-vulneraibility-catalog [4] Cisco Güvenlik Danışmanlığı — Cisco Güvenli E-posta ve Web Yöneticisi, Cisco E-posta Güvenlik Cihazı ve Cisco Web Güvenliği Cihazı Güvenlik Açıkları — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Güvenlik Yanıt Merkezi — Microsoft Defender Yerel Ayrıcalık Arttırılması Güvenlik Açığı — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647