سۈنئىي ئەقىلنىڭ ئاستىلىشى كىشىنىڭ دىققىتىنى تارتىدۇ. ئۆيىڭىزگە ئوت كەتتى.
ئوچۇق قىلىپ قويايلى: تېخنىكا سانائىتى ئاخىرى سۈنئىي ئەقىل بىلەن «ئەيساغا كېلىش» پەيتىنى باشتىن كەچۈرۈۋاتىدۇ ، ئەمما ئۇ ھەقىقىي تەۋبە قىلغاندەك ئەمەس ، ئىستراتېگىيىلىك تۈۋرۈككە ئوخشايدۇ. تۇيۇقسىز ، بۇ بۆسۈش خاراكتېرلىك سۈنئىي ئەقىل مۇسابىقىسىنىڭ بىناكارلىرى - داڭلىق تەتقىقاتچىلار ۋە كوففېئىن يېقىلغۇسىنى تېز سۈرئەتتە مەبلەغ بىلەن تەمىنلىگەن مەبلەغ سالغۇچىلار ئاستىلاشنى تەلەپ قىلدى [1]. ئۇلار «ئىچكى باشقۇرۇش» ، «ئەخلاق رامكىسى» ۋە «تېخىمۇ قەستەن» سۈرئەتنى سۆزلەۋاتىدۇ. بازار ئەزەلدىن سەزگۈر بارومېتىر ئاللىقاچان ئىنكاس قايتۇردى ، سۈنئىي ئەقىل مەبلىغىنىڭ سىجىللىقى ئۆزەك زاپىسىدا داۋالغۇش پەيدا قىلدى.
بۇ سىرتقى تەڭشەش ئەمەس. ئۇ سۈنئىي ئەقىل ئېكولوگىيە سىستېمىسىنىڭ ئۆزىدىن پەيدا بولغان ئىچكى «كاشىلا سىزىقى». C يۈرۈشلۈكلىرى ئۇلارنىڭ كەلگۈسىدىكى ئىجادىيەتلىرىنىڭ پەلسەپىۋى تەسىرىنى مۇنازىرە قىلىش بىلەن بىللە ، بۈگۈنى ئاكتىپلىق بىلەن كۆيۈۋاتىدۇ.
قۇلايلىق توختاش
ۋاقىتنى ئويلىشىپ كۆرۈڭ. كۆپ يىللاردىن بۇيان ، بۇ مانتا «تېز ھەرىكەتلىنىپ ئىشلارنى بۇزۇش» ياكى يېقىندىن بۇيان «تېز ھەرىكەت قىلىش ۋە AGI قۇرۇش» بولۇپ كەلدى. ھازىر ، كۈچلۈك مودېللار ئاللىبۇرۇن ئورۇنلاشتۇرۇلغان ، رىقابەت مەنزىرىسى ئاساسەن ئېنىقلانغان ، ئەمەلىي ، ئەھمىيەتلىك تەڭشەش كۆز قارىشىنىڭ يېقىنلىشىشىغا ئەگىشىپ ، ئېھتىيات قىلىش چاقىرىقى سەل بوش. بۇ چوڭقۇر خەتەرگە ھەقىقىي ئويغىنىشمۇ ياكى كۈچنى مۇستەھكەملەش ، رىقابەتچىلەرنى ئاستىلىتىش ۋە مەيدان مەيدانى چىقىشتىن بۇرۇن كىشىلەرنىڭ تونۇشىنى باشقۇرۇش ئۈچۈن ھېسابلانغان مانېۋىرمۇ؟
ھېسابلاش ، ئىختىساسلىقلار ۋە ئاساس ئەندىزىسىدە بازارنى ئاللىبۇرۇن بۇلۇڭغا ئايلاندۇرغاندا ئېھتىياتنى تەشۋىق قىلىش ئاسان. بۇ ساھەنىڭ تۇيۇقسىز «مەھسۇلات خەرىتىسىنى قايتا باھالاش ، خەتەرنى باھالاش ۋە ئىستراتېگىيىلىك پىلانلاش» قا ئەھمىيەت بېرىشى ئاڭلىماققا ئالىيجاناب ئاڭلىنىدۇ ، ئەمما ئۇ بايلىقنى قايتا تەڭشەشنىڭ قۇلايلىق ئۇسۇلىدەك قىلىدۇ. بۇ بەلكىم ئوچۇق مەنبەلىك تاللاش ياكى كىچىك تىپتىكى قويغۇچلارنى ئاستىلىتىشى مۇمكىن ، ئۇلار مۇھىم بايلىقلارغا ئېرىشىشنى كونترول قىلىش ياكى نازارەت قىلىپ باشقۇرۇش رامكىسىغا تەسىر كۆرسىتىش ئارقىلىق قۇرۇلغان كاتتىباشلارغا جەڭ ئېلان قىلىشى مۇمكىن. «ئەخلاق رامكىسى» تۇيۇقسىز ھەممىدىن مۇھىم ، مودېللار بىراك قىلىنغان سانلىق مەلۇماتلار ئۈستىدە تەربىيەلەنگەن ۋاقىتتا ئەمەس ، بەلكى ھازىر ئۇلار جەمئىيەتنى ھەقىقىي ئەسلىگە كەلتۈرەلەيدىغان دەرىجىدە كۈچلۈك.
ئىلىم-پەن ۋە ئىلىم-پەن ساھەسىدە ئوتتۇرىغا قويۇلغان ئەنسىرەشلەر ، سۈنئىي ئەقىلنىڭ ئوچۇق مەسىلىلەرنى ھەل قىلىش چارىسىنىڭ ئۆز ساھەسىنىڭ پۈتۈنلۈكىگە تەھدىد ئېلىپ كېلىدىغانلىقىنى ئاگاھلاندۇردى [3] ، بۇ ئىچكى كۆڭۈل بۆلۈشنىڭ چوڭقۇر كۆرسەتكۈچى. ئەمما بۇنى باشقىلارغا پايدىلىق دەپ خاتالاشمايلى. بۇ سۈنئىي ئەقىلنىڭ خىزمەت ياكى ئۇل ئەسلىھەگە كۆرسىتىدىغان تەسىرى ئەمەس. ئۇ * كونترول * ھەققىدە - ئۇنى كىم باشقۇرىدۇ ، قايسى سۈرئەتتە. مۇنازىرە «ئۇنى بەرپا قىلىشىمىز كېرەكمۇ؟» دېگەندەك ئەمەس. ۋە «بىزنىڭ ئۇنى قانچىلىك تېز قۇرۇشىمىزنى كىم قارار قىلىدۇ ، كىم پايدا ئالىدۇ؟» توغرىسىدا تېخىمۇ كۆپ.
ئۇلار كەلگۈسىنى مۇنازىرە قىلىۋاتقاندا ، سىزنىڭ سوۋغىتىڭىز بۇزۇلدى
ئەمدى ، سۈنئىي ئەقىلنىڭ ئىچكى يېرىلىشىنىڭ ئابستراكت ، كەلگۈسىگە نەزەر سالىدىغان ئەندىشىسىدىن تورلىرىمىزدا يۈز بېرىۋاتقان بىۋاسىتە ، كۆرۈنەرلىك كرىزىسقا دىققەت قىلايلى. سۈنئىي ئەقىل تىتانلىرى ماشىنىلىرىنىڭ روھى ھەققىدە ئويلىنىۋاتقاندا ، مەشغۇلات گۇرۇپپىلىرىڭىز پۈتۈن كۈچى بىلەن تور بىخەتەرلىكى ئاپەتلىرىنى كونترول قىلىش ئۈچۈن تىرىشىۋاتىدۇ.
بىز نەزەرىيەۋى تەھدىد ياكى ئومۇمىي يۈزلىنىشنى سۆزلىمەيمىز. بىز ئاساسى كارخانا يۇمشاق دېتالىدا ئاكتىپلىق بىلەن نۆل كۈنلۈك يوچۇقلارنى ئىشلىتىپ ، ھالقىلىق ئۇل ئەسلىھەلەرگە زەربە بەرگۈچىلەرنىڭ كۈچى بىلەن زەربە بېرىمىز.
- ** Ivanti ئۇلىنىش بىخەتەر ۋە سىياسەت بىخەتەرلىكى (CVE-2023-46805 & CVE-2024-21887): ** بۇ پەقەت بىر خاتالىق ئەمەس. بۇ بىر بوشلۇق. Ivanti نىڭ VPN ۋە تورغا چىقىش ھەل قىلىش چارىلىرىدىكى بۇ يوچۇقلار ئاكتىپلىق بىلەن پايدىلىنىپ ، ھۇجۇم قىلغۇچىلارنىڭ دەلىللەشتىن ئايلىنىپ ئۆتۈپ ، يىراقتىكى بۇيرۇقلارنى ئىجرا قىلىشىغا يول قويدى. مۇستەقىل دۆلەتلەر بىرلەشمىسى كۆپ قېتىم ئاگاھلاندۇرۇش چىقىرىپ ، بىخەتەر يىراقتىن زىيارەت قىلىش ئۈچۈن بۇ سىستېمىلارغا تايىنىدىغان تەشكىلاتلارنىڭ ھالقىلىق خەۋىپىنى گەۋدىلەندۈردى. سىزنىڭ ئاساسلىق تور مۇداپىئەسىڭىز ، سىز دەرۋازىدىكى ناچار كىشىلەرنى توسۇشقا تايىنىدىغان بىر ئىش ، ئاكتىپلىق بىلەن پايدىلىنىپ ، ھۇجۇم قىلغۇچىلارنى سانسىزلىغان كارخانا تورىغا چوڭقۇر زىيارەت قىلىدۇ.
- ** Cisco IOS XE Web UI (CVE-2023-20198): ** ئەڭ چوڭ ئېغىرلىقى. ئاكتىپ پايدىلاندى. بۇ يوچۇق دەلىللەنمىگەن ھۇجۇمچىلارنىڭ ئالاھىدە ھېسابات قۇرۇشى ۋە تەسىرگە ئۇچرىغان Cisco IOS XE ئۈسكۈنىلىرىنى تولۇق كونترول قىلىشىغا يول قويىدۇ. ئەگەر ھۇجۇم قىلغۇچى تور ئۇل ئەسلىھەلىرىڭىزنى باشقۇرۇش ئايروپىلانىغا ئىگە بولسا ، ئۇلار سىزنىڭ پۈتكۈل تورىڭىزغا ئىگىدارچىلىق قىلىدۇ. ئويۇن ئۈستى [5].
CISA كۆڭۈل ئېچىش ئۈچۈن «ئاگاھلاندۇرۇش» تارقاتمايدۇ. ئۇلار ئادەم توپلاشقان تىياتىرخانىدا «ئوت» دەپ توۋلاۋاتىدۇ. بۇلار پەقەت نەزەرىيەۋى تەھدىت ئەمەس. ئۇلار دۇنياۋى كارخانىلاردىكى يادرولۇق مۇداپىئە ۋە باشقۇرۇش سىستېمىسىغا مۇرەسسە قىلىشقا ئاكتىپ ئىشلىتىلىۋاتىدۇ.
ھەقىقىي خاتالىق لىنىيىسى
مەسخىرە بەك قېلىن بولۇپ ، ئۇنى تۇتۇق پىچاق بىلەن كېسىۋەتسىڭىز بولىدۇ. بىر تەرەپتىن ، بىزدە سۈنئىي ئەقىل سەرخىللىرى ئۇلار بەرپا قىلىۋاتقان كەلگۈسىنىڭ ئەخلاقىي تەسىرى توغرىسىدا مۇنازىرىلەشمەكتە ، بىر نەچچە يىل تەكشۈرۈلمىگەن سۈرئەتتىن كېيىن ئاستىلاشنى تەلەپ قىلدى. يەنە بىر تەرەپتىن ، بىزدە * ھازىرقى * ئاساسى تېخنىكىمىزنىڭ ھەل قىلىنمىغان ، چاپلانمىغان يوچۇقلارنىڭ ئېغىرلىقى ئاستىدا ئاكتىپلىق بىلەن يىمىرىلىۋاتقان تەھدىتىمىز بار.
ھەقىقىي «كاشىلا سىزىقى» پەقەت سۈنئىي ئەقىل جەمئىيىتىدىلا ئەمەس ئۇ يېڭىلىق يارىتىش پىل چىشى مۇنارى بىلەن مەشغۇلات رېئاللىقىنىڭ ئۆستەڭ ئوتتۇرىسىدا. ئۇ سۈنئىي ئەقىل ئۈچۈن «ئۆز-ئۆزىنى تەڭشەش» نىڭ ئابستراكت ، كەلگۈسىگە يۈزلەنگەن مۇلاھىزىلىرى بىلەن بىز بۈگۈن تايىنىدىغان سىستېمىلاردىكى * ئەمەلىي * بىخەتەرلىك ۋە مۇقىملىقنىڭ بىۋاسىتە ، كونكرېت ئېھتىياجىنىڭ ئوتتۇرىسىدا.
CTO ۋە ئىنژېنېرلىق يېتەكچىلىكىدە ، بىز سۈنئىي ئەقىلنىڭ ئاستىلىشىنىڭ پەلسەپىۋى مۇنازىرىگە چېچىلىپ كېتەلمەيمىز. بۇ مۇلاھىزىلەر ئۇزۇن مۇددەت مۇھىم بولسىمۇ ، ئۆيىڭىز ئاكتىپلىق بىلەن ئوت ئالغاندا ئۇلار ھەشەمەت. «مەھسۇلات خەرىتىسىنى قايتا باھالاش» ھازىرقى ئۇل ئەسلىھەلىرىمىزنىڭ يىمىرىلىش ئاساسىنى تىكلەشتىن باشلىنىشى كېرەك. «خەتەرنى باھالاش» بۈگۈن مەشغۇلاتنىڭ ئىزچىللىقى ۋە سانلىق مەلۇماتلارنىڭ پۈتۈنلۈكىگە زىيان يەتكۈزىدىغان دەرھال ، ئاكتىپلىق بىلەن پايدىلانغان تەھدىدلەرنى ئالدىنقى ئورۇنغا قويۇشى كېرەك.
كەسىپنىڭ مۇھىم نۇقتىسى ئەگرى-توقاي. بىز ئاكتىپلىق بىلەن چىرىگەن ئاساستا تېخىمۇ تېز ، پارقىراق نەرسىلەرنى ياساۋاتىمىز. سۈنئىي ئەقىلنى ئاستىلىتىش چاقىرىقى بەلكىم زۆرۈر سۆھبەت بولۇشى مۇمكىن ، ئەمما يەر يۈزىدىكى كىشىلەر ئۈچۈن ، ئىۋانتى ۋە سىسكو نۆل كۈننى بىر تەرەپ قىلغاندا ، ئۆگزىدىكى ئۆڭكۈرلەر پەردىنىڭ رەڭگى توغرىسىدا مۇنازىرە قىلغاندەك ھېس قىلىدۇ. ھازىرغا دىققەت قىلىڭ. بىز ئاكتىپلىق بىلەن قان چىقمىغۇچە كەلگۈسى ساقلايدۇ.
مەنبە
[1] گىگانت سۈنئىي ئەقىل تەجرىبىسىنى توختىتىدىغان ئوچۇق خەت - https://futureoflife.org/open-letter-pause-ai-development/ [2] سۈنئىي ئەقىل پاي چېكى شىددەت بىلەن ئۆرلەۋاتىدۇ ، ئەمما بىر قىسىم مەبلەغ سالغۇچىلار جىددىيلىشىۋاتىدۇ - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] سۈنئىي ئەقىل ئىنقىلابى: ۋەدىلەر ۋە خەتەرلەر - https://www.nature.com/articles/d41586-023-03223-y . [5] سىسكو IOS XE يۇمشاق دېتالى تور UI ئاجىزلىقىدىن پايدىلىنىۋاتقان تەھدىد ئارتىسلىرى - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a