ئىمپېراتورنىڭ يېڭى سۈنئىي ئەقىل ۋە ئۇنىڭ ئاستىدىكى چىرىش فوندى

ئىمپېراتورنىڭ يېڭى سۈنئىي ئەقىل ، ئۇنىڭ ئاستىدىكى چىرىتىش فوندى

سۈنئىي ئەقىل ھەممىمىزنى قاچان قۇتۇلدۇرىدىغانلىقىنى ئېسىڭىزدىمۇ؟ يۈز بەردى ، قۇتقۇزغۇچىلار ھازىر ۋاقىتنى تەلەپ قىلدى. تېخى يېقىندىلا ، بىزنىڭ سۈنئىي ئەقىل قوزغىغان كەلگۈسىمىزنىڭ بىناكارلىرى - «چېگرا» تەتقىقاتچىلىرى ۋە پۇل-مۇئامىلە ئېغىرلىرى بىرلىكتە تورمۇزنى ئۇرۇپ ، «بىخەتەرلىك ئەندىشىسىنىڭ كۈچىيىشى» سەۋەبىدىن تەرەققىياتنىڭ ئاستىلىشىنى تەلەپ قىلدى [1]. بازار ئەزەلدىن تۇتۇق قورال بولۇپ ، ئۆپكىنى يۆتىلىپ ئىنكاس قايتۇردى: ئۆزەك زاپىسى ۋە ئاساسلىق سۈنئىي ئەقىل قويغۇچىلىرى يىمىرىلدى [2]. پەرەز قىلىشقا بولىدۇكى ، بېيجىڭ بۇ ئاگاھلاندۇرۇشنى مەسخىرە قىلدى ، سېئۇلنىڭ ئۆزەك ماگناتلىرى كەلگۈسىدىكى سۈنئىي ئەقىلنىڭ ئىلگىرىلىشى ئۈچۈن ئالدىن پۇل تۆلىدى.

بۇ پەقەت پىل چىشى مۇنارىنىڭ پەلسەپىۋى مۇنازىرىسى ئەمەس. بۇ يەر تەۋرەشنىڭ ئۆزگىرىشى ، بۇ ساھەدىكى سەرخىللارنىڭ ئىچىدىن بىپەرۋالىق قىلىش. ئوچۇقىنى ئېيتقاندا ، بۇ سەل بەك قۇلايلىق.

سۈنئىي ئەقىل توختاپ قېلىش: باشقىلارغا پايدىلىقمۇ ياكى كۈچلۈك ئويۇنمۇ؟

ئېنىق قىلىپ قويايلى: راكېتا ياساپ چىققان كىشىلەر تۇيۇقسىز ئۆزلىرىنىڭ * قويۇپ بېرىلگەندىن كېيىن پاراشوتتىن سەكرەشنى ئۇنتۇپ قالغانلىقىنى ھېس قىلغاندا ، بۇ چوڭقۇر ئەخلاق ئويغىنىش پەيتى ئەمەس. بۇ كېچىكىپ قالغان ، ئۆزىگە مۇلازىمەت قىلىدىغان ئالدىراش. بۇلار كەڭ كۆز قاراشتىكى غايە ئەمەس. بۇلار پېدالنى مېتالغا ئىتتىرىۋاتقان ، ئۇچقاندەك ئۆسۈش ۋە بازارنىڭ ھۆكۈمرانلىق ئورنىنى قوغلاشقان تىتانلار. ھازىر ، «كۈتۈلمىگەن ئاقىۋەتلەر» نىڭ پەۋقۇلئاددە يېقىنلىشىشىغا ئەگىشىپ ، بەلكىم تېخىمۇ كۈلكىلىك يېرى شۇكى ، نۆۋەتتىكى سۈرئەتنىڭ سىجىل بولمايدىغانلىقىنى ياكى باشلامچىلىقنى مۇستەھكەملىشى كېرەكلىكىنى تونۇپ يېتىپ ، ئۇلار كوللىكتىپ نەپەس ئېلىشقا چاقىردى.

بازارنىڭ ئىنكاسى كىشىنى ھەيران قالدۇرىدۇ. ئۆزەك زاپىسىغا چۆكۈش پەقەت قورقۇنچلا ئەمەس. ئۇ يوشۇرۇن ئېشىش سۈرئىتىنىڭ بىۋاسىتە ئىقتىسادىي تەسىرىگە مۇناسىۋەتلىك. بېيجىڭنىڭ ئىتتىرىش كۈچى؟ دۆلەتنىڭ ئىستراتېگىيىلىك ئەۋزەللىكى ئابستراكت بىخەتەرلىك ئەندىشىسىنى يەڭگەنلىكىنىڭ روشەن سىگنالى. سېئۇلنىڭ ئۆزەك ئىشلەپچىقارغۇچىلار ئالدىن پۇل تۆلەشنى رەت قىلدى؟ بۇ كاپىتالنىڭ تۇيۇقسىز ئېنىقسىز كەلگۈسىنىڭ ئۇزۇن مۇددەتلىك مۇقىملىقى ۋە پايدىسىنى سورايدىغان ئاۋازى.

بىزگە نىسبەتەن ، CTO ۋە قۇرۇلۇش يېتەكچىسى ، بۇ بىۋاسىتە قالايمىقان مەنزىرىگە ئايلىنىدۇ. نازارەت قىلىپ باشقۇرۇشنىڭ ئارىلىشىشىنى تېزلىتىپ ، سۈنئىي ئەقىل تۈرلىرىنى قايتىدىن ئالدىنقى ئورۇنغا قويۇشنى ئۈمىد قىلىڭ. سۈنئىي ئەقىل ئۈچۈن «تېز ھەرىكەت قىلىش ۋە ئىشلارنى بۇزۇش» ئەخلاقى رەسمىي ئۆلدى ، ئۇنىڭ ئورنىغا بىرىنچى كۈندىن باشلاپ پىشۇرۇشقا تىگىشلىك «ئەخلاق سۈنئىي ئەقىل تەرەققىياتى» رامكىسىنى جىددىي ئىزدەش. مەبلەغ سېلىش تېخىمۇ ئېھتىياتچان بولىدۇ ، ئىستراتېگىيەلەر تۈرتكىلىك رول ئوينايدۇ ، شۇنداق ، خىزمەت بازىرى سوغۇققانلىقنى ھېس قىلىدۇ ، چۈنكى ئالتۇننىڭ ئالدىراشلىقى تېخىمۇ ئۆلچەملىك ، تېخىمۇ ئۈمىدۋار ، تېخىمۇ مەسئۇلىيەتچان ئۇسۇلغا ئېرىشىدۇ. ئەمما بۇنى ساپ باشقىلارغا پايدىلىق دەپ خاتالاشمايلى. بۇ «توختاپ قېلىش» ھەقىقىي بىخەتەرلىككە ئوخشاش كونترول قىلىش ۋە بازارنى قايتا تەڭشەشكە مۇناسىۋەتلىك.

تىتانلار مۇنازىرە قىلىۋاتقاندا ، فوندى جەمئىيىتى يىمىرىلدى

ھازىر ، سۈنئىي ئەقىل سەرخىللىرى مەۋجۇت كرىزىسقا دۇچ كېلىۋاتقاندا ، كەلگۈسىدىكى دەرىجىدىن تاشقىرى ئاخباراتنىڭ ئەخلاقىنى مۇنازىرە قىلىۋاتقاندا ، بىز ھازىر يۈز بېرىۋاتقان ھەقىقىي ، ئىنتايىن ھازىرقى ۋە پۈتۈنلەي ئاپەت خاراكتېرلىك بىخەتەرلىك كرىزىسى ھەققىدە سۆزلەيلى.

بۇ ھەپتە ، مۇستەقىل دۆلەتلەر بىرلەشمىسى ئۆزىنىڭ داڭلىق پارتىلىغان ئاجىزلىق مۇندەرىجىسىگە بىر نەچچە يېڭى CVE قوشتى [3]. بىز سىسكو بىخەتەر ئېلېكترونلۇق يول ئېغىزى (CVE-2023-20269) [4] ، GitLab (CVE-2023-2825) [3] دىكى CVSS 10.0 يول ئېغىزى ۋە يېقىندا ياماقلانغان Chrome نۆل كۈنى (CVE-2023-4863) دىكى جەزملەشتۈرۈلگەن يىلتىز RCE ھەققىدە سۆزلەۋاتىمىز.

ئەمما ھەقىقىي ئۈچەي مۇشتلاش ، ھەر بىر بىخەتەرلىك كەسپىي خادىملىرىنى ۋارقىراپ-جارقىراشقا ئۈندەيدىغان نەرسە ، ئاساسى كەمتۈكلۈكنىڭ ئىزچىل تەھدىتى. Microsoft Defender نىڭ زىيانداش دېتاللارنى قوغداش ماتورىدىكى يەرلىك ئىمتىيازنىڭ كۈچىيىشىدىكى CVE-2021-1647 نى ئويلىشىپ كۆرۈڭ [5]. بۇ بىر قىسىم ئېنىق بولمىغان نۇقسان ئەمەس. ئۇنىڭدا ئاممىۋى ئىسپاتلاش ئۇقۇمى بار بولۇپ ، دالىدا ئاكتىپلىق بىلەن ئىشلىتىلىپ ، رەقەملىك مۇداپىئەمىزنىڭ ھالقىلىق تەركىبلىرىنىڭ قانداق قىلىپ بۇزۇلۇپ ، بىر مەزگىل ئاجىز ھالەتتە تۇرىدىغانلىقىنى گەۋدىلەندۈردى.

بىز سۈنئىي ئەقىلنىڭ ئەخلاقى توغرىسىدا مۇنازىرە قىلىۋاتقاندا ، بىزنىڭ ئاخىرقى نۇقتىمىزنى قوغداش ئۈچۈن لايىھىلەنگەن يۇمشاق دېتال ، رەقەملىك مۇداپىئەمىزنىڭ ئاساسى قاتلىمى ، ھۇجۇم قىلغۇچىنىڭ ئىمتىيازنى يۇقىرى كۆتۈرۈشىگە يول قويغان ، ئوچۇق-ئاشكارە پايدىلانغان كەمتۈكلۈكلەرنى ساقلىغانلىقى كۆرسىتىلدى. بۇ خۇددى ماشىنىڭىزنىڭ تورمۇزى مەغلۇپ بولۇپ ، ماتورغا ئوت كەتكەندە ئۇرۇش قوزغاتقۇچنىڭ پەلسەپىۋى تەسىرى ھەققىدە تالاش-تارتىش قىلغانغا ئوخشاش.

ھېسابلاش: ئوخشاش پۇلنىڭ ئىككى تەرىپى

بۇلار ئايرىم ھېكايە ئەمەس. ئۇلار ئوخشاش چوڭقۇر كەمتۈك پۇلنىڭ ئىككى تەرىپى: سۈرئەت ، يېڭىلىق ۋە ئاساسىي بىخەتەرلىك ، مۇقىملىق ۋە مەسئۇلىيەتتىن يېڭىلىق يارىتىشنى ئىزچىل ئالدىنقى ئورۇنغا قويۇپ كەلگەن تېخنىكا كەسپى.

سۈنئىي ئەقىل رەھبەرلىرىنىڭ تۇيۇقسىز ئاستىلاش چاقىرىقى ، ئۇلار كۈچلۈك ، چۈشىنىشلىك بولمىغان سىستېمىلارنى ياۋايى رايونغا چىقارغاندىن كېيىن ، ئاكتىپلىق بىلەن ئۆز-ئۆزىگە مۇلازىمەت قىلىش *. ئېتىراپ قىلىشقا تېگىشلىكى شۇكى ، «تېز ھەرىكەت قىلىش ۋە ئىشلارنى بۇزۇش» مانتىسى دۇنيانى ئۆزگەرتىش تېخنىكىسىغا قوللىنىلغاندا ، مەسئۇلىيەتسىزلىك بولۇپلا قالماستىن ، بەلكى خەتەرلىك.

نۆل كۈنلۈك ھۇجۇم ، بولۇپمۇ ھالقىلىق مۇداپىئەچى ئاجىزلىقى ، ئاساسى IT غا قوللىنىلغان بۇ خىل تەپەككۇرنىڭ بىۋاسىتە ، ئازابلىق نەتىجىسى. بۇ مەدەنىيەتنىڭ نەتىجىسى ھەر بىر مەھسۇلات ۋە سىستېمىنىڭ كەم بولسا بولمايدىغان ، سۆھبەتلىشىشكە بولمايدىغان تەركىب بولماستىن ، بەلكى بىخەتەرلىكنى دائىم ئويلىنىش ، ماسلىشىش تەكشۈرۈش ساندۇقى ياكى تەننەرخ مەركىزى دەپ قارايدىغان مەدەنىيەتنىڭ نەتىجىسى. بىز كېيىنكى پارقىراق جىسىمنى - كېيىنكى LLM ، كېيىنكى سۈنئىي ئەقىل ۋاكالەتچىسىنى قوغلاش بىلەن ئالدىراش ، شۇڭا پۇتىمىزنىڭ ئاستىدىكى يەرنى چىرىتىۋەتتۇق.

CTO ۋە ئىنژېنېرلىق يېتەكچىلىكىگە نىسبەتەن ، ئۇچۇر ئوچۇق ۋە بىۋاسىتە. يەم-خەشەكتىن ھالقىغان ھەر بىر سۈنئىي ئەقىل يۈزلىنىشىنى قوغلاشنى توختىتىڭ. ئاساسنى ئىككى ھەسسە تۆۋەنلىتىڭ. ياماقنى مۇھىم ئورۇنغا قويۇڭ ، بولۇپمۇ سىسكو ، GitLab غا ئوخشاش ھالقىلىق ، ئاكتىپلىق بىلەن پايدىلانغان يوچۇقلار ۋە مۇداپىئەچىنىڭ ئىلگىرىكى LPE لىرى مىسال قىلغان ئىزچىل تەھدىد. پۇختا ئازايتىشنى يولغا قويۇڭ. ساتقۇچىلارنىڭ ئىقتىدار يول خەرىتىسىنىلا ئەمەس ، ئۇلارنىڭ بىخەتەرلىك قىياپىتى ئۈچۈن جاۋابكارلىقنى تەلەپ قىلىڭ.

بازارنىڭ داۋالغۇشى ۋە ھەل قىلىنمىغان ئاساسى بىخەتەرلىك مەسىلىسى پەقەت خەۋەر ئەمەس. ئۇلار بىر ھېساب. بەك تېز ، بەك بىپەرۋا ، ئاخىرىدا بەك ئاشكارىلانغان تېخنىكا دۇنياسى. ئۆسۈپ يېتىلىش ، ئاساسلىرىمىزنى بىخەتەر قىلىش ، ئاندىن * * ئاندىن * ئېھتىياتچانلىق بىلەن كېيىنكى چېگرانى ئويلىشىش كېرەك.

مەنبە

[1] ھاياتلىق ئىنستىتۇتىنىڭ كەلگۈسى - گىگانت سۈنئىي ئەقىل تەجرىبىسىنى توختىتىڭ: ئوچۇق خەت - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - سۈنئىي ئەقىل مۇتەخەسسىسلىرى ئىلغار سۈنئىي ئەقىل سىستېمىسىنى تەرەققىي قىلدۇرۇشنى ۋاقتىنچە توختىتىشقا چاقىردى - https://www.cnbc.com/2023/03/29/ai- مۇتەخەسسىسلەر [3] مۇستەقىل دۆلەتلەر بىرلەشمىسى - داڭلىق پارتىلىغان ئاجىزلار مۇندەرىجىسى - https://www.cisa.gov/ [4] سىسكو بىخەتەرلىك مەسلىھەتچىسى - سىسكو بىخەتەر ئېلېكترونلۇق خەت ۋە تور دېرىكتورى ، سىسكو ئېلېكترونلۇق خەت بىخەتەرلىك ئۈسكۈنىلىرى ۋە سىسكو تور بىخەتەرلىك ئۈسكۈنىلىرىنىڭ ئاجىزلىقى - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SX ]