የንጉሠ ነገሥቱ አዲስ AI፣ እና ከሱ ስር ያለው የበሰበሰ ፋውንዴሽን

የንጉሠ ነገሥቱ አዲስ AI እና ከሥሩ ያለው የበሰበሰ ፋውንዴሽን

AI ሁላችንንም የሚያድነን መቼ እንደሆነ አስታውስ? ዞሮ ዞሮ፣ አዳኞች አሁን የጊዜ ማብቂያን እየጠየቁ ነው። ልክ በቅርቡ፣ የእኛ በ AI የሚመራ የወደፊት አርክቴክቶች - "ድንበር" ተመራማሪዎች እና የፋይናንሺያል ከባድ ሚዛኖች - በአንድነት ፍሬን በመምታት "የደህንነት ስጋት እየጨመረ በመምጣቱ" የእድገት ፍጥነት እንዲቀንስ ጠይቀዋል [1]. ገበያው፣ ምንጊዜም የደነዘዘ መሣሪያ፣ ሳንባን በማሳል ምላሽ ሰጠ፡ ቺፕ አክሲዮኖች እና ዋና ዋና AI ተጫዋቾች ወድቀው [2]። ቤጂንግ በማስጠንቀቂያው ተሳለቀች ፣ የሴኡል ቺፕ ግዙፎች ግን ለወደፊት AI እድገቶች ቅድመ ክፍያ ይከፍላሉ ።

ይህ ለዝሆን ጥርስ ግንብ የፍልስፍና ክርክር ብቻ አይደለም። ይህ የመሬት መንቀጥቀጥ ለውጥ ነው፣ ከኢንዱስትሪው ልሂቃን ውስጥ በግዴለሽነት በአደባባይ መቀበል። እና በእውነቱ ፣ ትንሽ በጣም ምቹ ነው።

የ AI ለአፍታ ማቆም፡ Altruism ወይስ Power Play?

ግልፅ እናድርግ፡ ሮኬቱን የሰሩ ሰዎች በድንገት ፓራሹቱን እንደረሱ ሲገነዘቡ ከተመኩ በኋላ ይህ የጥልቅ ሥነ-ምግባር መነቃቃት የሚታይበት ጊዜ አይደለም። ዘግይቶ የሄደ፣ ለራስ ጥቅም የሚያገለግል ትርምስ ነው። እነዚህ ሰፊ ዓይን ያላቸው ሃሳባዊ አይደሉም; እነዚህ ቲታኖች ናቸው ፔዳልን ወደ ብረት እየገፉ፣ የሰፋ እድገትን እና የገበያ የበላይነትን ያሳድዱ። አሁን፣ “ያልተጠበቁ መዘዞች” ትልቅ እያንዣበበ እና ምናልባትም፣ በይበልጡኑ፣ አሁን ያለው ፍጥነት ዘላቂነት እንደሌለው ወይም መሪነታቸውን ማጠናከር እንደሚያስፈልጋቸው መረዳታቸው - የጋራ እስትንፋስ እንዲፈጠር ጥሪ አቅርበዋል።

የገበያው ምላሽ እየነገረን ነው። በቺፕ አክሲዮኖች ውስጥ ማጥለቅ ፍርሃት ብቻ አይደለም; ፈጣን መቀነስ ሊያስከትል ስለሚችል ፈጣን የገንዘብ አንድምታ ነው። የቤጂንግ ግፋ? ብሄራዊ ስትራተጂያዊ ጥቅም ረቂቅ የደህንነት ስጋቶችን እንደሚያሳድግ ግልጽ ምልክት። እና የሴኡል ቺፕ ሰሪዎች የቅድመ ክፍያ ክፍያን እምቢ ይላሉ? ያ የካፒታል ድምፅ በድንገት እርግጠኛ ባልሆነ የወደፊት የረጅም ጊዜ መረጋጋት እና ትርፋማነት ላይ ጥያቄ የሚያነሳ ነው።

ለእኛ፣ የCTOs እና የምህንድስና መሪዎች፣ ይህ በቀጥታ ወደ ምስቅልቅል መልክዓ ምድር ይተረጉማል። የቁጥጥር ጣልቃገብነቶች እንዲፋጠን ይጠብቁ፣ ይህም ለ AI ፕሮጀክቶች እንደገና ቅድሚያ እንዲሰጥ ያስገድዳል። "በፍጥነት ተንቀሳቀሱ እና ነገሮችን ሰብሩ" የሚለው የ AI ስርዓት በይፋ ሞቷል፣ ከመጀመሪያው ቀን ጀምሮ መጋገር የነበረባቸው "ሥነ ምግባራዊ AI ልማት" ማዕቀፎችን ለማግኘት በጋለ ፍለጋ ተተክቷል። ኢንቨስትመንቱ የበለጠ ጠንቃቃ ይሆናል፣ ስልቶች ይንቀሳቀሳሉ፣ እና አዎ፣ የስራ ገበያዎች ቅዝቃዜ ይሰማቸዋል ወርቃማው ጥድፊያ የበለጠ ለመለካት እና የበለጠ ሀላፊነት ያለው አቀራረብ ሲሰጥ። እንተዀነ ግን: ንጹሃት ምምሕያሽ ምዃን ኣይትፈልጥን። ይህ "ለአፍታ ማቆም" የእውነተኛ ደህንነትን ያህል የመቆጣጠር እና የገበያ ዳግም ማስተካከያ ነው።

ታይታኖቹ ሲከራከሩ ፋውንዴሽኑ ይንኮታኮታል።

አሁን፣ የ AI ልሂቃን የህልውና ቀውሳቸው እያጋጠማቸው፣ ስለወደፊቱ የሱፐርኢንተለጀንስ ስነ-ምግባር እየተከራከሩ ባሉበት ወቅት፣ አሁን እየተከሰተ ስላለው እውነተኛው፣ አሁን ያለው እና ፍጹም አስከፊ የሆነ የደህንነት ቀውስ እንነጋገር።

በዚህ ሳምንት፣ CISA ብዙ አዳዲስ ሲቪኤዎችን ወደ የታወቀ የተበዘበዙ ተጋላጭነቶች ካታሎግ [3] አክሏል። እየተነጋገርን ያለነው በሲስኮ ደህንነቱ የተጠበቀ የኢሜል መግቢያ በር (CVE-2023-20269) [4]፣ በGitLab (CVE-2023-2825) [3] ውስጥ ስለ CVSS 10.0 መንገድ መሻገሪያ እና በቅርቡ ስለተሸፈነው Chrome ዜሮ ቀን (CVE-2023-4863 ትኩረት የሚሻ) ውስጥ ስለተረጋገጠው ስርወ አርሲኢ ነው።

ነገር ግን እያንዳንዱ የደህንነት ባለሙያ ወደ ባዶነት እንዲጮህ ማድረግ ያለበት ትክክለኛው አንጀት ጡጫ ፣ የመሠረት ጉድለቶች የማያቋርጥ ስጋት ነው። CVE-2021-1647ን፣ የማይክሮሶፍት ተከላካይ ማልዌር ጥበቃ ሞተር [5] ውስጥ ያለውን የአካባቢ ልዩ ጥቅም ተጋላጭነትን ተመልከት። ይህ አንዳንድ ግልጽ ያልሆነ ጉድለት አልነበረም; የህዝብ ማረጋገጫ ነበረው እና በዱር ውስጥ በንቃት ጥቅም ላይ ውሏል ፣ ይህም የዲጂታል መከላከያችን ወሳኝ አካላት እንዴት እንደሚጎዱ እና ለተወሰነ ጊዜ ተጋላጭ እንደሆኑ ያሳያል።

ያ ወደ ውስጥ ይግባ። ስለ AI ስሜት ስነምግባር እየተወያየን ሳለ፣ የኛን የመጨረሻ ነጥብ ለመጠበቅ የተነደፈው ሶፍትዌር፣ የዲጂታል መከላከያችን መሰረት የሆነው፣ አጥቂ ልዩ መብቶችን ከፍ እንዲያደርግ የሚፈቅደውን በይፋ የታወቁ፣ በንቃት ጥቅም ላይ የዋሉ ጉድለቶች እንዳሉ ታይቷል። የመኪናዎ ፍሬን እየከሸፈ እና ሞተሩ እየተቃጠለ ሳለ ስለ ጦርነት መንዳት ፍልስፍናዊ አንድምታ እንደመሟገት ነው።

ሒሳቡ፡ የአንድ ሳንቲም ሁለት ገጽታዎች

እነዚህ የተለያዩ ታሪኮች አይደሉም። አንድ አይነት ጥልቅ ጉድለት ያለበት ሳንቲም ሁለት ገጽታዎች ናቸው፡ የቴክኖሎጂ ኢንዱስትሪ ከመሰረታዊ ደህንነት፣ መረጋጋት እና ሃላፊነት ይልቅ ለፍጥነት፣ አዲስነት እና ፈጠራን ያለማቋረጥ ቅድሚያ የሰጠ ነው።

የ AI መሪዎች ድንገተኛ የመቀዛቀዝ ጥሪ ቀድሞውንም ኃይለኛ እና በደንብ ያልተረዱ ስርዓቶችን ወደ ዱር ከለቀቁ በኋላ * ለማረም የነቃ እና እራስን ጥቅም ላይ ያዋለ ሙከራ ነው። ዓለምን ሊለውጥ በሚችል ቴክኖሎጂ ላይ ሲተገበር “በፍጥነት ተንቀሳቀስ እና ነገሮችን ሰበረ” የሚለው ማንትራ ኃላፊነት የጎደለው ብቻ ሳይሆን አደገኛ መሆኑን መቀበል ነው።

የዜሮ ቀን ጥቃት፣ በተለይም ወሳኝ ተከላካይ ተጋላጭነት፣ ይህ ተመሳሳይ አስተሳሰብ በመሠረታዊ IT ላይ የተተገበረ ቀጥተኛ፣ አሳማሚ ውጤት ነው። የእያንዳንዱ ነጠላ ምርት እና ስርዓት የማይደራደር፣ የማይደራደር አካል ሳይሆን፣ ብዙውን ጊዜ ደህንነትን እንደ ኋለኛ ሀሳብ፣ ተገዢነት ቼክ ሳጥን ወይም የወጪ ማእከል አድርጎ የሚመለከት ባህል ውጤት ነው። ቀጣዩን የሚያብረቀርቅ ነገር - ቀጣዩን LLM፣ ቀጣዩ AI ወኪል - በማሳደድ ስራ ላይ ስለሆንን ከእግራችን ስር ያለው መሬት እንዲበሰብስ አድርገናል።

ለሲቲኦዎች እና የምህንድስና መሪዎች መልእክቱ ፈጣን እና ፈጣን ነው። የእርስዎን ምግብ የሚያቋርጥ እያንዳንዱን የ AI አዝማሚያ ማሳደድ ያቁሙ። በመሠረታዊ ነገሮች ላይ በእጥፍ. ለጥበቃ ቅድሚያ ይስጡ፣ በተለይም በሲስኮ፣ GitLab ውስጥ ላሉት ወሳኝ፣ በንቃት ጥቅም ላይ ለሚውሉ ተጋላጭነቶች እና በተከላካዮች ያለፉት LPEs ምሳሌነት ላሉት ዘላቂ ስጋት። ጠንካራ ቅነሳዎችን ይተግብሩ። የባህሪ ፍኖተ ካርታቸውን ብቻ ሳይሆን ለደህንነታቸው አቋማቸው ከአቅራቢዎችዎ ተጠያቂነትን ይጠይቁ።

የገበያው ውድቀት እና ያልተዳሰሱ የመሠረታዊ የደህንነት ጉዳዮች ዜናዎች ብቻ አይደሉም። ሂሳብ ናቸው። የቴክኖሎጂ ዓለም በጣም ፈጣን፣ በጣም ግዴለሽ እና በመጨረሻም በጣም የተጋለጠ ነው። ለማደግ፣ መሠረታችንን የምናስጠብቅበት ጊዜ ነው፣ እና ከዚያ ከዚያ ብቻ፣ በጥንቃቄ ቀጣዩን ድንበር አስቡበት።

ምንጮች

[1] የወደፊት የሕይወት ተቋም - ግዙፍ AI ሙከራዎችን ለአፍታ አቁም፡ ክፍት ደብዳቤ - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - የ AI ባለሙያዎች በላቁ የ AI ስርዓቶች ልማት ላይ ለአፍታ እንዲቆም ጠይቀዋል - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - የታወቁ የተበዘበዙ ተጋላጭነቶች ካታሎግ - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory - Cisco Secure ኢሜል እና የድር አስተዳዳሪ፣ የሲስኮ ኢሜይል ደህንነት መገልገያ እና የሲስኮ የድር ደህንነት መገልገያ ተጋላጭነቶች - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] የማይክሮሶፍት ደኅንነት ምላሽ ማዕከል - የማይክሮሶፍት ተከላካይ የአካባቢ ልዩ ጥቅም ተጋላጭነት - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647