අධිරාජ්‍යයාගේ නව AI, සහ ඊට යටින් දිරා යන පදනම
AI අප සියල්ලන්ම බේරා ගැනීමට යන විට මතකද? ගැලවුම් කරුවන් දැන් කල් ඉකුත්වීමක් ඉල්ලා සිටින බව පෙනේ. මෑතක දී, අපගේ AI මත පදනම් වූ අනාගතයේ ගෘහ නිර්මාණ ශිල්පීන් - "දේශසීමා" පර්යේෂකයන් සහ මූල්‍ය හෙවිවේට් - සාමූහිකව තිරිංග පහර දුන් අතර, "උග්‍රවන ආරක්ෂක ගැටළු" හේතුවෙන් සංවර්ධනයේ පසුබෑමක් ඉල්ලා සිටියේය [1]. වෙළඳපල, සදාකාලික මොට උපකරණයක්, පෙනහළු කැස්සකින් ප්‍රතිචාර දැක්වීය: චිප් තොග සහ ප්‍රධාන AI ක්‍රීඩකයින් කඩා වැටුණි [2]. බීජිං, පුරෝකථනය කළ හැකි පරිදි, අනතුරු ඇඟවීම් සමච්චලයට ලක් කළ අතර, සෝල් හි චිප් යෝධයන් අනාගත AI ප්‍රගතිය සඳහා පෙර ගෙවීමෙන් වැළකී සිටියහ [2].
මෙය ඇත්දළ කුළුණ පිළිබඳ දාර්ශනික විවාදයක් පමණක් නොවේ. මෙය භූ කම්පන මාරුවකි, කර්මාන්තයේ ප්‍රභූව තුළ නොසැලකිලිමත්කම ප්‍රසිද්ධියේ පිළිගැනීමකි. සහ අවංකවම, එය ටිකක් පහසු වැඩියි.
AI විරාමය: පරාර්ථකාමිත්වය හෝ පවර් ප්ලේ?
අපි පැහැදිලිව කියමු: රොකට්ටුව සෑදූ පුද්ගලයින්ට දියත් කිරීමෙන් පසු පැරෂුට් අමතක වූ බව හදිසියේම වැටහෙන විට, එය ගැඹුරු සදාචාරාත්මක පිබිදීමක් නොවේ. එය ප්‍රමාද වූ, ස්වයං-සේවය කරන පොරබැදීමකි. මොවුන් පුළුල් ඇස් ඇති විඥානවාදීන් නොවේ; ඝාතීය වර්ධනය සහ වෙළඳපල ආධිපත්‍යය පසුපස හඹා යමින් ලෝහය වෙත පැඩලය තල්ලු කරමින් සිටින ටයිටන්වරු මොවුන්ය. දැන්, "අනපේක්ෂිත ප්‍රතිවිපාක" පිළිබඳ අවතාරය විශාල වෙමින් පවතී - සහ සමහර විට, වඩාත් නරුම ලෙස, වර්තමාන වේගය තිරසාර නොවන බව හෝ ඔවුන්ගේ නායකත්වය තහවුරු කර ගත යුතු බව වටහා ගැනීම - ඔවුන් සාමූහික හුස්මක් ඉල්ලා සිටී.
වෙළඳපොලේ ප්‍රතික්‍රියාව කියයි. චිප් තොගවල අඩුවීමක් බියක් පමණක් නොවේ; එය විභව මන්දගාමිත්වයක ක්ෂණික මූල්‍ය ඇඟවුම් ගැන ය. බීජිං තල්ලුව? ජාතික මූලෝපායික වාසිය වියුක්ත ආරක්ෂක අවශ්‍යතා ප්‍රතික්ෂේප කරන බවට පැහැදිලි සංඥාවක්. සහ සෝල් හි චිප් නිෂ්පාදකයින් පෙර ගෙවීම් ප්‍රතික්ෂේප කරයිද? හදිසියේ අවිනිශ්චිත අනාගතයක දිගුකාලීන ස්ථාවරත්වය සහ ලාභදායිත්වය ප්‍රශ්න කරන ප්‍රාග්ධනයේ හඬ එයයි.
CTOs සහ ඉංජිනේරු ප්‍රධානීන් වන අපට, මෙය සෘජුවම අවුල් සහගත භූ දර්ශනයක් බවට පරිවර්තනය කරයි. AI ව්‍යාපෘති සඳහා නැවත ප්‍රමුඛත්වය දීමට බල කරමින්, නියාමන මැදිහත්වීම් වේගවත් කිරීමට බලාපොරොත්තු වන්න. AI සඳහා වන "වේගයෙන් ගෙනයාම සහ දේවල් බිඳ දැමීම" යන ආචාර ධර්ම නිල වශයෙන් මිය ගොස් ඇති අතර, පළමු දිනයේ සිටම පුළුස්සනු ලැබිය යුතු "ආචාරධර්ම AI සංවර්ධන" රාමු සඳහා වියරු සෙවීමක් මගින් ප්‍රතිස්ථාපනය විය. ආයෝජන වඩාත් සුපරීක්ෂාකාරී වනු ඇත, උපාය මාර්ග හැරෙනු ඇත, ඔව්, රන් රශ්මිය වඩාත් මනින ලද සහ බලාපොරොත්තු වන පරිදි, වඩාත් වගකිවයුතු, ප්රවේශයක් ලබා දෙන විට රැකියා වෙලඳපොලවල් සිසිල් වනු ඇත. නමුත් මෙය නිර්මල පරාර්ථකාමී බව වරදවා නොගනිමු. මෙම "විරාමය" පාලනය සහ වෙළඳපල ප්‍රති-ක්‍රමාංකනය මෙන්ම අව්‍යාජ ආරක්ෂාව සම්බන්ධ වේ.
Titans විවාදය අතරතුර, පදනම බිඳ වැටේ
දැන්, AI ප්‍රභූව ඔවුන්ගේ පැවැත්මේ අර්බුදයකට මුහුණ දෙමින් සිටින අතර, අනාගත සුපිරි බුද්ධියේ ආචාර ධර්ම ගැන විවාද කරමින් සිටින අතර, අපි දැන් දිගහැරෙන සැබෑ, ඉතා වර්තමාන, සහ සම්පූර්ණයෙන්ම විනාශකාරී ආරක්ෂක අර්බුදය ගැන කතා කරමු.
මෙම සතියේ, CISA විසින් එහි දන්නා සූරාකෑමේ අවදානම් නාමාවලියට නව CVEs කිහිපයක් එක් කරන ලදී [3]. අපි කතා කරන්නේ Cisco Secure Email Gateway (CVE-2023-20269) [4] හි තහවුරු කරන ලද root RCE, GitLab (CVE-2023-2825) [3] හි CVSS 10.0 ගමන් මාර්ගයක් සහ මෑතකදී පැච් කරන ලද Chrome zero-day (CVE-46] වහාම අවධානය යොමු කරන ලද CVE-46.
නමුත් සෑම ආරක්ෂක වෘත්තිකයෙකුම හිස්බව තුලට කෑගසන්නට සැලැස්විය යුතු සැබෑ ගුට් පන්ච් එක, අත්තිවාරම් දෝෂ වල නිරන්තර තර්ජනයයි. CVE-2021-1647 සලකා බලන්න, Microsoft Defender's Malware Protection Engine [5] තුළ දේශීය වරප්‍රසාද උත්සන්න වීමේ අවදානමක් ඇත. මෙය යම් අපැහැදිලි දෝෂයක් නොවේ; එය සංකල්ප පිළිබඳ පොදු සාක්ෂියක් ඇති අතර, අපගේ ඩිජිටල් ආරක්‍ෂාවෙහි තීරණාත්මක කොටස් සම්මුතියකට ලක්විය හැකි ආකාරය සහ කාලාන්තරයක් සඳහා අවදානමට ලක්විය හැකි ආකාරය ඉස්මතු කරමින් වනයේ සක්‍රියව සූරාකෑමට ලක් විය.
එය ගිලෙන්නට ඉඩ හරින්න. අපි AI හැඟීම් පිළිබඳ ආචාර ධර්ම ගැන විවාද කරමින් සිටින අතරතුර, අපගේ ඩිජිටල් ආරක්‍ෂාවේ මූලික ස්තරය වන අපගේ අන්ත ලක්ෂ්‍ය ආරක්ෂා කිරීම සඳහා නිර්මාණය කර ඇති මෘදුකාංගයම ප්‍රහාරකයෙකුට වරප්‍රසාද ඉහළ නැංවීමට ඉඩ සලසන ප්‍රසිද්ධියේ දන්නා, ක්‍රියාකාරීව සූරාකන ලද දෝෂ ඇති බව පෙන්වා දී ඇත. එය හරියට ඔබේ මෝටර් රථයේ තිරිංග ක්‍රියා විරහිත වන විට සහ එන්ජිම ගිනිගෙන ඇති විට වෝර්ප් ඩ්‍රයිව් හි දාර්ශනික ඇඟවුම් ගැන තර්ක කිරීම වැනි ය.
ගණනය කිරීම: එකම කාසියේ පැති දෙකක්
මේවා වෙනම කතා නොවේ. ඒවා එකම ගැඹුරු දෝෂ සහිත කාසියේ පැති දෙකකි: මූලික ආරක්ෂාව, ස්ථාවරත්වය සහ වගකීමට වඩා වේගයෙන්, නව්‍යතාවයට සහ නව්‍යකරණයට නිරන්තරයෙන් ප්‍රමුඛත්වය දුන් තාක්ෂණික කර්මාන්තයකි.
AI ප්‍රධානීන්ගේ මන්දගාමිත්වය සඳහා හදිසි කැඳවීම ඔවුන් දැනටමත් ප්‍රබල, දුර්වල ලෙස අවබෝධ කරගත් පද්ධති වනයට මුදා හැර ඇති පසු පාඨමාලාව නිවැරදි කිරීමට ප්‍රතික්‍රියාශීලී, ස්වයං-සේවය කරන උත්සාහයකි. ලෝකය වෙනස් කළ හැකි තාක්‍ෂණයට අදාළ වන විට "වේගයෙන් ගමන් කර දේවල් බිඳ දමන්න" යන මන්ත්‍රය වගකීම් විරහිත නොවන නමුත් භයානක බව පිළිගැනීමකි.
ශුන්‍ය-දින ප්‍රහාරය, විශේෂයෙන් විවේචනාත්මක ඩිෆෙන්ඩර් අවදානම, පදනම් තොරතුරු තාක්ෂණ සඳහා යෙදෙන මෙම මානසිකත්වයේම සෘජු, වේදනාකාරී ප්‍රතිවිපාකයයි. එය සෑම නිෂ්පාදනයක් සහ පද්ධතියකම ඒකාග්‍ර, සාකච්ඡා කළ නොහැකි සංරචකයකට වඩා බොහෝ විට ආරක්ෂාව පසු සිතුවිල්ලක්, අනුකූලතා පිරික්සුම් පෙට්ටියක් හෝ පිරිවැය මධ්‍යස්ථානයක් ලෙස සලකන සංස්කෘතියක ප්‍රතිඵලයකි. මීළඟ LLM, මීළඟ AI නියෝජිතයා වන මීළඟ දිලිසෙන වස්තුව පසුපස හඹා යෑමේ අපි කොතරම් කාර්යබහුලද යත්, අපි අපේ පාද යට තිබෙන බිමම කුණු වීමට ඉඩ හැරියෙමු.
CTOs සහ ඉංජිනේරු නායකයන් සඳහා, පණිවිඩය පැහැදිලි සහ ක්ෂණික වේ. ඔබේ සංග්‍රහය හරස් කරන සෑම AI ප්‍රවණතාවක්ම හඹා යෑම නවත්වන්න. මූලික කරුණු දෙගුණ කරන්න. විශේෂයෙන් Cisco, GitLab වැනි තීරණාත්මක, සක්‍රියව සූරාකෑමට ලක් වූ දුර්වලතා සහ Defender හි අතීත LPE මගින් නිදසුන් කරන ලද නොනවතින තර්ජනය සඳහා patching කිරීමට ප්‍රමුඛත්වය දෙන්න. ශක්තිමත් අවම කිරීම් ක්රියාත්මක කරන්න. ඔවුන්ගේ විශේෂාංග මාර්ග සිතියම පමණක් නොව, ඔවුන්ගේ ආරක්ෂක ඉරියව්ව සඳහා ඔබේ විකුණුම්කරුවන්ගෙන් වගවීම ඉල්ලා සිටින්න.
වෙළඳපල කඩාවැටීම සහ ආමන්ත්‍රණය නොකළ අත්තිවාරම් ආරක්ෂක ගැටළු හුදෙක් ප්‍රවෘත්ති අයිතම නොවේ. ඒවා ගණන් බැලීමකි. ඉතා වේගවත්, ඕනෑවට වඩා නොසැලකිලිමත්, සහ අවසාන වශයෙන්, ඉතා නිරාවරණය වූ තාක්ෂණික ලෝකයක්. එය වර්ධනය වීමට කාලයයි, අපගේ අත්තිවාරම් සුරක්ෂිත කරන්න, පසුව, එවිට පමණක්, ඊළඟ මායිම ප්‍රවේශමෙන් සලකා බලන්න.
මූලාශ්‍ර
[1] ලයිෆ් ආයතනයේ අනාගතය - යෝධ AI අත්හදා බැලීම් නතර කරන්න: විවෘත ලිපියක් - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI විශේෂඥයින් උසස් AI පද්ධති සංවර්ධනය කිරීම සඳහා විරාමයක් ඉල්ලා සිටියි - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — දන්නා සූරාකෑමට ලක්වූ දුර්වලතා නාමාවලිය — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco ආරක්ෂක උපදේශක — Cisco Secure Email සහ Web Manager, Cisco Email Security Appliance, සහ Cisco Web Security Appliance දුර්වලතා — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-Su-8Q [5] මයික්‍රොසොෆ්ට් ආරක්ෂක ප්‍රතිචාර මධ්‍යස්ථානය — මයික්‍රොසොෆ්ට් ඩිෆෙන්ඩර් දේශීය වරප්‍රසාද උත්සන්න අවදානම — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647