דעם קייסער'ס נייע איי-איי , און דער פאררויטערטער פונדאציע אונטער אים

געדענקט ווען אַי איז געגאנגען צו ראַטעווען אונדז אַלע? ווײַזט אויס, די גואלים בעטען איצט אַ צײַט. פּונקט לעצטנס, די זייער אַרקאַטעקץ פון אונדזער אַי-געטריבן צוקונפֿט - די "פראָנטיער" ריסערטשערז און פינאַנציעל כעוויוויץ - קאַלעקטיוולי שלאָגן די בראַקעס, פאָדערן אַ דיסעלעריישאַן אין אַנטוויקלונג רעכט צו "עסקאַלייטינג זיכערקייַט קאַנסערנז" [1]. דער מאַרק, טאָמיד די אָפן ינסטרומענט, האָט געענטפערט דורך הוסט אַרויף אַ לונג: שפּאָן סטאַקס און הויפּט אַי פּלייַערס טאַמבאַלד [2]. בעידזשינג, פּרידיקטאַבלי, געשלאגן אויף די וואָרנינגז, בשעת סעאָול ס שפּאָן דזשייאַנץ באָלד ביי ופּפראַנט פּיימאַנץ פֿאַר צוקונפֿט אַי אַדוואַנטידזשיז [2].

דאָס איז נישט בלויז אַ פילאָסאָפיקאַל דעבאַטע פֿאַר די העלפאַנדביין טורעם. דאָס איז אַ סייזמיק יבעררוק, אַ ציבור אַרייַנטרעטן פון רעקלאַסנאַס פון די אינדוסטריע ס עליט. און פראַנגקלי, עס איז אַ ביסל צו באַקוועם.

די אַי פּויזע: אַלטרויסם אָדער מאַכט שפּיל?

זאל ס זיין קלאָר: ווען די מענטשן וואס האָבן געבויט די ראַקעט פּלוצלינג פאַרשטיין אַז זיי פארגעסן די פּאַראַשוטן נאָך קאַטער, עס איז נישט אַ מאָמענט פון טיף עטישע אַווייקאַנינג. עס איז אַ פאַרשפּרייטן, זיך-סערווינג שטופּן. דאס זענען נישט ברייט-אויג ידעאַליסץ; דאָס זענען די טייטאַנז וואָס האָבן פּושינג די טרעטלען צו די מעטאַל, יאָגן עקספּאָונענשאַל וווּקס און מאַרק דאַמאַנאַנס. איצט, מיט דער ספּעקטאַקל פון "אומפאָרויסגעקאָכט קאַנסאַקווענסאַז" - און טאָמער, מער ציניש, די דערקענונג אַז דער קראַנט גאַנג איז אַנסאַסטיינאַבאַל אָדער אַז זיי דאַרפֿן צו קאָנסאָלידירן זייער פירן - זיי רופן פֿאַר אַ קאָלעקטיוו אָטעם.

דער אָפּרוף פון די מאַרק איז זאָגן. א טונקען אין שפּאָן סטאַקס איז ניט נאָר וועגן מורא; עס איז וועגן די באַלדיק פינאַנציעל ימפּלאַקיישאַנז פון אַ פּאָטענציעל סלאָודאַון. בעידזשינג ס פּושבאַקק? א קלאָר סיגנאַל אַז נאציאנאלע סטראַטידזשיק מייַלע טראַמפּס אַבסטראַקט זיכערקייַט קאַנסערנז. און סעאָול ס טשיפּמאַקערס אָפּזאָגן אַפּפראַנט פּיימאַנץ? אַז ס דער געזונט פון קאַפּיטאַל קוועסטשאַנינג די לאַנג-טערמין פעסטקייַט און פּראַפיטאַביליטי פון אַ פּלוצלינג ומזיכער צוקונפֿט.

פֿאַר אונדז, די CTOs און ינזשעניעריע פירט, דאָס טראַנסלייץ גלייַך אין אַ כאַאָטיש לאַנדשאַפט. דערוואַרטן רעגולאַטאָרי ינטערווענטשאַנז צו פאַרגיכערן, פאָרסינג אַ שייַעך-פּרייאָראַטייזיישאַן פון אַי פּראַדזשעקס. די "מאַך שנעל און ברעכן טינגז" יטאָס פֿאַר אַי איז אַפישאַלי טויט, ריפּלייסט דורך אַ פראַנטיק זוכן פֿאַר "עטישע אַי אַנטוויקלונג" פראַמעוואָרקס וואָס זאָל האָבן געווען בייקט אין פֿון טאָג איין. אינוועסטמענט וועט ווערן מער פאָרזיכטיק, סטראַטעגיעס וועט דריינ זיך, און יאָ, אַרבעט מארקפלעצער וועט פילן די ציטער ווען די גאָלד קאַמיש גיט וועג צו אַ מער געמאסטן, און אַלעווייַ, מער פאַראַנטוואָרטלעך, צוגאַנג. אבער לאמיר דאס נישט פארנעמען פאר א ריין אלטרואיזם. די "פּאָזע" איז אַזוי פיל וועגן קאָנטראָל און מאַרק שייַעך-קאַלאַבריישאַן ווי עס איז וועגן עכט זיכערקייַט.

בשעת די טיטאנער דעבאַטע, צעברעקלט די יסוד

איצט, בשעת די AI עליט איז אין זייער עקסיסטענטשאַל קריזיס, דעבאַטינג די עטיקס פון צוקונפֿט סופּערינטעלליגענסע, לאָזן אונדז רעדן וועגן די זייער פאַקטיש, זייער פאָרשטעלן און גאָר קאַטאַסטראָפיק זיכערהייט קריזיס אַנפאָולדינג * רעכט איצט *.

די וואָך, CISA צוגעגעבן קייפל נייַע CVEs צו זיין באַוווסט עקספּלאָיטעד וואַלנעראַביליטיז קאַטאַלאָג [3]. מיר רעדן וועגן אַ באשטעטיקט וואָרצל RCE אין Cisco Secure Email Gateway (CVE-2023-20269) [4], אַ CVSS 10.0 וועג טראַווערסאַל אין GitLab (CVE-2023-2825) [3], און אַ לעצטנס פּאַטשט קראָום נול-טאָג (CVE-2023-4863) אַז פאָדערן גלייך ופמערקזאַמקייט.

אָבער דער עמעס קישקע זעץ, דער איינער וואָס זאָל מאַכן יעדער זיכערהייט פאַכמאַן שרייַען אין די פּאָסל, איז די פּערסיסטענט סאַקאָנע פון ​​יסודות פלאָז. באַטראַכטן CVE-2021-1647, אַ היגע פּריווילעגיע עסקאַלירונג וואַלנעראַביליטי אין Microsoft Defender ס מאַלוואַרע פּראַטעקשאַן ענגינע [5]. דאָס איז נישט געווען קיין אומבאַקאַנט חסרון; עס האט אַ עפנטלעך דערווייַז-פון-באַגריף און איז אַקטיוולי עקספּלויטאַד אין די ווילד, כיילייטינג ווי קריטיש קאַמפּאָונאַנץ פון אונדזער דיגיטאַל פאַרטיידיקונג קענען זיין קאַמפּראַמייזד און בלייבן שפּירעוודיק פֿאַר אַ פּעריאָד.

בשעת מיר דעבאַטירן די עטיקס פון אַי סענטענסע, די זייער ווייכווארג דיזיינד צו באַשיצן אונדזער ענדפּוינץ, די פונדאַמענטאַל שיכטע פון ​​אונדזער דיגיטאַל פאַרטיידיקונג, איז געוויזן צו פּאָרט עפנטלעך באַוווסט, אַקטיוולי עקספּלויטאַד פלאָז וואָס לאָזן אַן אַטאַקער צו העכערן פּריווילאַדזשאַז. עס איז ווי אַרגיוינג וועגן די פילאָסאָפיקאַל ימפּלאַקיישאַנז פון וואָרפּ פאָר בשעת דיין מאַשין ס בראַקעס זענען פיילינג און די מאָטאָר איז אויף פייַער.

# # די חשבון : צוויי זייטן פון דער זעלבער מטבע

דאס זענען נישט באַזונדער מעשיות. זיי זענען צוויי זייטן פון דער זעלביקער דיפּלי פלאַד מאַטבייע: אַ טעק אינדוסטריע וואָס קאַנסיסטאַנטלי פּרייאָראַטייזד גיכקייַט, נייַקייַט און באמערקט כידעש איבער פונדאַמענטאַל זיכערהייט, פעסטקייַט און פֿאַראַנטוואָרטלעכקייט.

די פּלוצעמדיק רופן פון די אַי פירער פֿאַר אַ סלאָודאַון איז אַ ריאַקטיוו, זיך-סערווינג פּרווון צו קורס-ריכטן * נאָך * זיי האָבן שוין אַנלישט שטאַרק, שוואַך פארשטאנען סיסטעמען אין די ווילד. עס איז אַ אַרייַנטרעטן אַז די "מאַך שנעל און ברעכן טינגז" מאַנטראַ, ווען געווענדט צו פּאַטענטשאַלי וועלט-אָלטערינג טעכנאָלאָגיע, איז נישט בלויז יראַספּאַנסאַבאַל, אָבער געפערלעך.

די נול-טאָג אָנפאַל, דער הויפּט די קריטיש דעפענדער וואַלנעראַביליטי, איז די דירעקט, ווייטיקדיק קאַנסאַקוואַנס פון דעם זעלבן מיינדסעט געווענדט צו יסודות עס. דאָס איז דער רעזולטאַט פון אַ קולטור וואָס אָפט באהאנדלט זיכערהייט ווי אַ אַפטערטהאָוגה, אַ העסקעם טשעקקבאָקס אָדער אַ קאָס צענטער, אלא ווי אַ ינטאַגראַל, ניט-פאַרקויפלעך קאָמפּאָנענט פון יעדער פּראָדוקט און סיסטעם. מיר זענען אַזוי פאַרנומען מיט יאָגן דעם ווייַטער בלאַנק כייפעץ - דער ווייַטער LLM, דער ווייַטער אַי אַגענט - אַז מיר האָבן לאָזן די ערד אונטער אונדזער פֿיס פוילן.

פֿאַר קטאָס און ינזשעניעריע פירט, דער אָנזאָג איז שטרענג און באַלדיק. האַלטן יאָגן יעדער אַי גאַנג וואָס קראָסיז דיין קאָרמען. טאָפּל אַראָפּ אויף די פאַנדאַמענטאַלז. פּרייאָראַטייז פּאַטטשינג, ספּעציעל פֿאַר קריטיש, אַקטיוולי עקספּלויטאַד וואַלנעראַביליטיז ווי די אין Cisco, GitLab און די פּערסיסטענט סאַקאָנע יגזאַמפּאַלד דורך דעפענדער ס פאַרגאַנגענהייט לפּעס. ויסמעקן שטאַרק מיטיגיישאַנז. פאָדערן אַקאַונטאַביליטי פון דיין ווענדאָרס פֿאַר זייער זיכערהייט האַלטנ זיך, ניט נאָר זייער שטריך ראָאַדמאַפּ.

די טאַמבאַל פון די מאַרק און די אַנאַדרעסיד יסודות זיכערהייט ישוז זענען נישט בלויז נייַעס. זיי זענען אַ חשבון. א טעק וועלט וואָס איז צו שנעל, צו ניט באַטראַכט און לעסאָף צו יקספּאָוזד. ס'איז צייט צו וואקסן, פארזיכערן אונזערע יסודות, און דערנאך, ערשט דעמאלט, פארזיכטיג באטראכטן דעם נעקסטן גרעניץ.

# קוואלן

[1] פיוטשער פון לעבן אינסטיטוט - פּויזע ריז אַי יקספּעראַמאַנץ: אַן אָפֿן בריוו - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - AI עקספּערץ רופן פֿאַר פּויזע אין אַנטוויקלונג פון אַוואַנסירטע AI סיסטעמען - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] סיסאַ - באַוווסט עקספּלאָיטעד וואַלנעראַביליטיז קאַטאַלאָג - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] סיסקאָ סעקוריטי אַדוויסאָרי - סיסקאָ זיכער עמאַיל און וועב מאַנאַגער, סיסקאָ עמאַיל סעקוריטי אַפּפּליאַנסע, און סיסקאָ וועב זיכערהייט אַפּפּליאַנסע וואַלנעראַביליטיז - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] מיקראָסאָפט סעקוריטי רעספּאָנסע צענטער - מיקראָסאָפט דעפענדער לאקאלע פּריווילעגיע עסקאַלאַטיאָן וואַלנעראַביליטי - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647