İmperatorun Yeni Süni İntellekt və Onun Altında Çürüyən Vəqf
Yadınızdadırsa, AI hamımızı nə vaxt xilas edəcəkdi? Məlum olub ki, xilaskarlar indi vaxt aşımı istəyirlər. Bu yaxınlarda süni intellektlə idarə olunan gələcəyimizin memarları – “sərhəd” tədqiqatçıları və maliyyə ağır çəkisi olanlar birlikdə “təhlükəsizlik problemlərinin artması” [1] səbəbindən inkişafın ləngiməsini tələb edərək, əyləcə basdılar. Bazar, həmişə küt alət, ağciyər öskürək ilə cavab verdi: çip ehtiyatları və əsas AI oyunçular aşağı düşdü [2]. Pekin, proqnozlaşdırıldığı kimi, xəbərdarlıqları ələ saldı, Seulun çip nəhəngləri isə gələcək süni intellekt inkişafları üçün ilkin ödənişlərdən imtina etdi [2].
Bu, təkcə fil sümüyü qülləsi üçün fəlsəfi mübahisə deyil. Bu, seysmik sürüşmədir, sənayenin elitası daxilindəki ehtiyatsızlığın ictimai etirafıdır. Düzünü desəm, bir az çox rahatdır.
AI Pauzası: Altruizm, yoxsa Power Play?
Gəlin aydın olaq: raketi düzəldən insanlar qəfildən başladıqdan sonra paraşütləri unutduqlarını başa düşəndə, bu, dərin etik oyanış anı deyil. Bu, gecikmiş, özünə xidmət edən bir mübarizədir. Bunlar geniş gözlü idealistlər deyil; bunlar pedalı metala itələyən, eksponensial böyümə və bazar hökmranlığını təqib edən titanlardır. İndi, "gözlənilməz nəticələr" xəyalı ilə - və bəlkə də, daha rüsvayçı şəkildə, mövcud tempin dayanıqlı olmadığını və ya liderliklərini möhkəmləndirməli olduqlarını başa düşmək - onlar kollektiv nəfəs almağa çağırırlar.
Bazarın reaksiyası xəbər verir. Çip ehtiyatlarının azalması yalnız qorxu ilə bağlı deyil; söhbət potensial yavaşlamanın dərhal maliyyə nəticələrindən gedir. Pekinin geri çəkilməsi? Milli strateji üstünlüyün mücərrəd təhlükəsizlik narahatlıqlarını üstələdiyinə dair aydın siqnal. Və Seulun çip istehsalçıları ilkin ödənişlərdən imtina edir? Bu, qəfil qeyri-müəyyən gələcəyin uzunmüddətli sabitliyini və gəlirliliyini şübhə altına alan kapitalın səsidir.
Bizim üçün, CTO-lar və mühəndislik rəhbərləri, bu, birbaşa xaotik mənzərəyə çevrilir. Süni intellekt layihələrinin yenidən prioritetləşdirilməsini məcbur edərək, tənzimləyici müdaxilələrin sürətlənməsini gözləyin. Süni intellekt üçün "sürətlə hərəkət et və hər şeyi sındır" etikası rəsmi olaraq ölmüşdür, əvəzində ilk gündən işə salınmalı olan "etik süni intellekt inkişafı" çərçivələri üçün çılğın axtarış əvəzlənir. İnvestisiya daha ehtiyatlı olacaq, strategiyalar dönəcək və bəli, qızıl tələsik öz yerini daha ölçülü və inşallah, daha məsuliyyətli yanaşmaya verdiyi üçün iş bazarları soyuqluq hiss edəcək. Ancaq gəlin bunu saf altruizmlə səhv salmayaq. Bu "fasilə" həqiqi təhlükəsizliklə bağlı olduğu qədər nəzarət və bazarın yenidən kalibrlənməsinə də aiddir.
Titanlar mübahisə edərkən, Vəqf dağılır
İndi, süni intellekt elitası öz ekzistensial böhranını yaşayarkən, gələcək super intellektin etikasını müzakirə edərkən, gəlin hal-hazırda baş verən çox real, indiki və tamamilə fəlakətli təhlükəsizlik böhranı haqqında danışaq.
Bu həftə CISA özünün Məlum İstifadə Edilən Zəifliklər kataloquna bir neçə yeni CVE əlavə etdi [3]. Söhbət Cisco Secure Email Gateway-də (CVE-2023-20269) [4] təsdiqlənmiş kök RCE-dən, GitLab-da CVSS 10.0 traversalından (CVE-2023-2825) [3] və bu yaxınlarda yamaqlanmış Chrome sıfır gün (CVE-482) tələbindən gedir.
Ancaq əsl bağırsaq zərbəsi, hər bir təhlükəsizlik mütəxəssisini boş yerə qışqırmağa məcbur edən əsas çatışmazlıqların davamlı təhlükəsidir. CVE-2021-1647, Microsoft Defender-in Zərərli Proqramlardan Müdafiə Mühərrikində yerli imtiyazların yüksəldilməsi zəifliyini nəzərdən keçirək [5]. Bu qaranlıq bir qüsur deyildi; o, ictimai bir Konsepsiya sübutuna malik idi və vəhşi təbiətdə fəal şəkildə istismar edildi, rəqəmsal müdafiəmizin kritik komponentlərinin necə pozula biləcəyini və bir müddət ərzində həssas olaraq qala biləcəyini vurğuladı.
Biz süni intellekt həssaslığının etikasını müzakirə edərkən, rəqəmsal müdafiəmizin əsas təbəqəsi olan son nöqtələrimizi qorumaq üçün nəzərdə tutulmuş proqram təminatının təcavüzkarın imtiyazlarını yüksəltməsinə imkan verən ictimaiyyətə məlum, aktiv şəkildə istifadə edilən qüsurları özündə saxladığı göstərildi. Bu, avtomobilinizin əyləcləri sıradan çıxdığı və mühərriki yanarkən əyləc sürücüsünün fəlsəfi nəticələri haqqında mübahisə etməyə bənzəyir.
Hesablaşma: Eyni sikkənin iki üzü
Bunlar ayrı-ayrı hekayələr deyil. Onlar eyni dərin qüsurlu sikkənin iki tərəfidir: əsas təhlükəsizlik, sabitlik və məsuliyyətdən daha çox sürət, yenilik və innovasiyaya üstünlük verən texnologiya sənayesi.
Süni intellekt liderlərinin qəfil yavaşlama çağırışı, güclü, zəif başa düşülən sistemləri vəhşi təbiətə buraxdıqdan sonra * kursu düzəltmək üçün reaktiv, özünə xidmət edən cəhddir. Bu etirafdır ki, "sürətlə hərəkət et və əşyaları sındır" mantrası potensial olaraq dünyanı dəyişən texnologiyaya tətbiq edildikdə, sadəcə məsuliyyətsizlik deyil, həm də təhlükəlidir.
Sıfır günlük hücum, xüsusən də kritik Defender zəifliyi təməl İT-yə tətbiq edilən eyni düşüncə tərzinin birbaşa, ağrılı nəticəsidir. Bu, hər bir məhsulun və sistemin ayrılmaz, müzakirə olunmayan komponenti deyil, təhlükəsizliyə tez-tez düşünülmüş, uyğunluq qutusu və ya xərc mərkəzi kimi yanaşan mədəniyyətin nəticəsidir. Növbəti parlaq obyekti - növbəti LLM-i, növbəti AI agentini - təqib etməklə o qədər məşğuluq ki, ayaqlarımızın altındakı torpağın çürüməsinə icazə verdik.
CTO-lar və mühəndislik rəhbərləri üçün mesaj kəskin və dərhaldır. Lentinizi keçən hər bir AI trendini təqib etməyi dayandırın. Əsasları ikiqat azaldın. Xüsusilə Cisco, GitLab-da olanlar kimi kritik, aktiv şəkildə istifadə edilən zəifliklər və Defender-in keçmiş LPE-lərində nümunə olan davamlı təhlükə üçün yamaqlara üstünlük verin. Güclü azaltma tədbirləri həyata keçirin. Təchizatçılarınızdan təkcə xüsusiyyətlərin yol xəritəsi deyil, onların təhlükəsizlik vəziyyətinə görə cavabdehlik tələb edin.
Bazarın tənəzzülü və həll edilməmiş təməl təhlükəsizlik problemləri təkcə xəbərlər deyil. Onlar bir haqq-hesabdır. Həddindən artıq sürətli, çox ehtiyatsız və nəhayət, həddindən artıq açıq olan texnologiya dünyası. Artıq böyümək, təməllərimizi təmin etmək və sonra yalnız bundan sonra ehtiyatla növbəti sərhəddi düşünmək vaxtıdır.
Mənbələr
[1] Həyatın Gələcəyi İnstitutu - Nəhəng AI Eksperimentlərini dayandırın: Açıq Məktub — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Süni intellekt mütəxəssisləri qabaqcıl AI sistemlərinin inkişafını dayandırmağa çağırırlar — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Məlum İstismar edilən Zəifliklər Kataloqu — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Təhlükəsizlik Məsləhəti — Cisco Secure E-poçt və Veb Meneceri, Cisco E-poçt Təhlükəsizliyi Cihazı və Cisco Veb Təhlükəsizliyi Cihazı Zəiflikləri — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-Q8Xu- [5] Microsoft Təhlükəsizlik Cavab Mərkəzi — Microsoft Defender Yerli İmtiyazların Artırılması Zəifliyi — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647