ការយឺតយ៉ាវរបស់ AI គឺជាការរំខានមួយ។ ផ្ទះរបស់អ្នកកំពុងឆេះ។
ចូរនិយាយដោយត្រង់ៗ៖ ទីបំផុតឧស្សាហកម្មបច្ចេកវិទ្យាកំពុងមានពេល "មករកព្រះយេស៊ូវ" របស់ខ្លួនជាមួយនឹង AI ប៉ុន្តែវាមានអារម្មណ៍ថាដូចជាការប្រែចិត្តពិតប្រាកដ និងដូចជាចំណុចសំខាន់ជាយុទ្ធសាស្ត្រ។ ភ្លាមៗនោះ ស្ថាបត្យករនៃការប្រកួតប្រជែង AI ដ៏ទម្លាយនេះ - អ្នកស្រាវជ្រាវដ៏លេចធ្លោ និងអ្នកផ្តល់ហិរញ្ញប្បទានដែលបានផ្តល់មូលនិធិដល់ការប្រណាំងដែលប្រើប្រេងកាហ្វេអ៊ីន - កំពុងអំពាវនាវឱ្យមានការយឺតយ៉ាវ [1] ។ ពួកគេកំពុងនិយាយអំពី "អភិបាលកិច្ចផ្ទៃក្នុង" "ក្របខ័ណ្ឌក្រមសីលធម៌" និង "ចេតនាបន្ថែមទៀត" ។ ហើយទីផ្សារ ដែលធ្លាប់ជាឧបករណ៍វាស់ស្ទង់ដ៏រសើបនោះ មានប្រតិកម្មរួចហើយ ជាមួយនឹងការព្រួយបារម្ភអំពីនិរន្តរភាពនៃការវិនិយោគ AI ដែលបង្កឱ្យមានការប្រែប្រួលនៅក្នុងភាគហ៊ុនបន្ទះឈីប [2]។
នេះមិនមែនជាបទប្បញ្ញត្តិខាងក្រៅទេ។ វាជា "បន្ទាត់កំហុស" ខាងក្នុងដែលផុសចេញពីប្រព័ន្ធអេកូ AI ខ្លួនវាផ្ទាល់។ ហើយខណៈពេលដែល C-suite ពិភាក្សាអំពីផលប៉ះពាល់ទស្សនវិជ្ជានៃការបង្កើតនាពេលអនាគតរបស់ពួកគេនោះ បច្ចុប្បន្នកំពុងឆេះយ៉ាងសកម្ម។
ការផ្អាកងាយស្រួល
ពិចារណាពេលវេលា។ អស់រយៈពេលជាច្រើនឆ្នាំ Mantra គឺ "ផ្លាស់ទីលឿននិងបំបែកវត្ថុ" ឬថ្មីៗនេះ "ផ្លាស់ទីលឿននិងបង្កើត AGI" ។ ឥឡូវនេះ ជាមួយនឹងគំរូដ៏មានអានុភាពដែលបានដាក់ពង្រាយរួចហើយ ជាមួយនឹងទិដ្ឋភាពប្រកួតប្រជែងដែលបានកំណត់យ៉ាងទូលំទូលាយ និងជាមួយនឹងទិដ្ឋភាពនៃបទប្បញ្ញត្តិដ៏មានអត្ថន័យជាក់ស្តែងកំពុងលេចចេញមក ការអំពាវនាវឱ្យមានការប្រុងប្រយ័ត្នបន្តិច។ តើនេះជាការដាស់តឿនពិតប្រាកដចំពោះហានិភ័យដ៏ជ្រាលជ្រៅ ឬជាសមយុទ្ធដែលបានគណនាដើម្បីបង្រួបបង្រួមអំណាច បន្ថយល្បឿនដៃគូប្រកួតប្រជែង និងគ្រប់គ្រងការយល់ឃើញជាសាធារណៈ មុនពេលដែលការបោះជំហានចេញមក?
វាងាយស្រួលក្នុងការផ្សព្វផ្សាយការប្រុងប្រយ័ត្ន នៅពេលអ្នកបានបង្វែរទីផ្សារលើការគណនា ទេពកោសល្យ និងគំរូមូលដ្ឋានរួចហើយ។ ការផ្តោតភ្លាមៗរបស់ឧស្សាហកម្មនេះទៅលើ "ការវាយតម្លៃឡើងវិញនៃផែនទីបង្ហាញផ្លូវផលិតផល ការវាយតម្លៃហានិភ័យ និងការធ្វើផែនការយុទ្ធសាស្រ្ត" ស្តាប់ទៅដូចជាថ្លៃថ្នូរ ប៉ុន្តែវាក៏ស្តាប់ទៅដូចជាមធ្យោបាយងាយស្រួលមួយក្នុងការតម្រឹមធនធានឡើងវិញផងដែរ។ នេះអាចបន្ថយល្បឿនជម្រើសប្រភពបើកចំហ ឬអ្នកលេងតូចៗដែលអាចប្រកួតប្រជែងជាមួយក្រុមហ៊ុនយក្សដែលបានបង្កើតឡើងដោយការគ្រប់គ្រងការចូលប្រើប្រាស់ធនធានសំខាន់ៗ ឬមានឥទ្ធិពលលើក្របខ័ណ្ឌច្បាប់។ "ក្របខណ្ឌក្រមសីលធម៌" គឺមានសារៈសំខាន់ភ្លាមៗ មិនមែននៅពេលដែលគំរូកំពុងត្រូវបានបណ្តុះបណ្តាលលើទិន្នន័យដែលខ្ចាត់ខ្ចាយនោះទេ ប៉ុន្តែឥឡូវនេះពួកគេមានថាមពលគ្រប់គ្រាន់ដើម្បីកែទម្រង់សង្គមឡើងវិញ។
ការព្រួយបារម្ភដែលបានបញ្ចេញនៅក្នុងសហគមន៍សិក្សា និងវិទ្យាសាស្ត្រ ដោយព្រមានថា AI "ដំណោះស្រាយ" ដើម្បីបើកបញ្ហាអាចគំរាមកំហែងដល់សុចរិតភាពនៃវិស័យរបស់ពួកគេ [3] គឺជាសូចនាករដ៏ច្បាស់លាស់នៃជម្រៅនៃការព្រួយបារម្ភផ្ទៃក្នុងនេះ។ ប៉ុន្តែសូមកុំច្រឡំនេះសម្រាប់ភាពគ្មានប្រយោជន៍។ នេះមិនមែននិយាយអំពីផលប៉ះពាល់របស់ AI លើការងារ ឬហេដ្ឋារចនាសម្ព័ន្ធទេ។ វានិយាយអំពី ការគ្រប់គ្រង – តើអ្នកណាកាន់វា ហើយក្នុងល្បឿនអ្វី។ ការជជែកវែកញែកគឺតិចជាង "តើយើងគួរសាងសង់វាទេ?" និងច្រើនទៀតអំពី "អ្នកណាជាអ្នកសម្រេចថាតើយើងសាងសង់វាលឿនប៉ុណ្ណា ហើយអ្នកណាចំណេញ?"
ខណៈពេលដែលពួកគេជជែកអំពីអនាគត បច្ចុប្បន្នរបស់អ្នកត្រូវបានសម្របសម្រួល
ឥឡូវនេះ ចូរយើងពិចារណាពីភាពអរូបី ដែលមើលទៅអនាគតនៃក្តីបារម្ភផ្ទៃក្នុងរបស់ AI ទៅកាន់វិបត្តិជាក់ស្តែង និងភ្លាមៗដែលកំពុងកើតឡើងនៅលើបណ្តាញរបស់យើង ឥឡូវនេះ។ ខណៈពេលដែល AI titans ពិចារណាអំពីព្រលឹងនៃម៉ាស៊ីនរបស់ពួកគេ ក្រុមប្រតិបត្តិការរបស់អ្នកកំពុងព្យាយាមទប់ទល់នឹងមហន្តរាយសន្តិសុខតាមអ៊ីនធឺណិតយ៉ាងពេញទំហឹង។
យើងមិននិយាយអំពីការគំរាមកំហែងតាមទ្រឹស្តី ឬនិន្នាការទូទៅទេ។ យើងកំពុងនិយាយអំពីភាពងាយរងគ្រោះសូន្យថ្ងៃដែលត្រូវបានកេងប្រវ័ញ្ចយ៉ាងសកម្មនៅក្នុងកម្មវិធីសហគ្រាសមូលដ្ឋាន ដោយវាយលុកហេដ្ឋារចនាសម្ព័ន្ធសំខាន់ៗដោយប្រើញញួររុញ។
- Ivanti Connect Secure និង Policy Secure (CVE-2023-46805 & CVE-2024-21887): នេះមិនមែនគ្រាន់តែជាកំហុសទេ វាជាស្នាមរបួស ភាពងាយរងគ្រោះទាំងនេះនៅក្នុង VPN និងដំណោះស្រាយការចូលប្រើបណ្តាញរបស់ Ivanti ត្រូវបានប្រើប្រាស់យ៉ាងសកម្ម ដែលអនុញ្ញាតឱ្យអ្នកវាយប្រហារឆ្លងកាត់ការផ្ទៀងផ្ទាត់ និងប្រតិបត្តិពាក្យបញ្ជាពីចម្ងាយ។ CISA បានចេញការព្រមានជាច្រើន ដោយបញ្ជាក់ពីហានិភ័យសំខាន់ចំពោះអង្គការដែលពឹងផ្អែកលើប្រព័ន្ធទាំងនេះសម្រាប់ការចូលប្រើប្រាស់ពីចម្ងាយដែលមានសុវត្ថិភាព [4]។ ការការពារបណ្តាញចម្បងរបស់អ្នក ដែលជារឿងមួយដែលអ្នកពឹងផ្អែកលើដើម្បីបញ្ឈប់មនុស្សអាក្រក់នៅច្រកទ្វារនោះ កំពុងត្រូវបានកេងប្រវ័ញ្ចយ៉ាងសកម្ម ដើម្បីឱ្យអ្នកវាយប្រហារចូលប្រើប្រាស់យ៉ាងស៊ីជម្រៅទៅកាន់បណ្តាញសហគ្រាសរាប់មិនអស់។
- ** Cisco IOS XE Web UI (CVE-2023-20198):** ភាពធ្ងន់ធ្ងរអតិបរមា។ កេងប្រវ័ញ្ចយ៉ាងសកម្ម។ ភាពងាយរងគ្រោះនេះអនុញ្ញាតឱ្យអ្នកវាយប្រហារដែលមិនបានផ្ទៀងផ្ទាត់ បង្កើតគណនីដែលមានសិទ្ធិ និងទទួលបានការគ្រប់គ្រងពេញលេញលើឧបករណ៍ Cisco IOS XE ដែលរងផលប៉ះពាល់។ ប្រសិនបើអ្នកវាយប្រហារជាម្ចាស់យន្តហោះគ្រប់គ្រងហេដ្ឋារចនាសម្ព័ន្ធបណ្តាញរបស់អ្នក ពួកគេជាម្ចាស់បណ្តាញទាំងមូលរបស់អ្នក។ ហ្គេមលើស [5] ។
CISA មិនចេញ "ការព្រមាន" សម្រាប់ការសប្បាយ។ ពួកគេកំពុងស្រែកថា "ភ្លើង" នៅក្នុងរោងមហោស្រពដែលមានមនុស្សច្រើន។ ទាំងនេះមិនគ្រាន់តែជាការគំរាមកំហែងខាងទ្រឹស្តីប៉ុណ្ណោះទេ ពួកគេកំពុងត្រូវបានប្រើប្រាស់យ៉ាងសកម្មដើម្បីសម្របសម្រួលប្រព័ន្ធការពារ និងការគ្រប់គ្រងស្នូលនៅទូទាំងសហគ្រាសសកល។
បន្ទាត់កំហុសពិត
ភាពច្របូកច្របល់គឺក្រាស់ណាស់ដែលអ្នកអាចកាត់វាដោយកាំបិតរិល។ នៅផ្នែកម្ខាង យើងមានឥស្សរជន AI ជជែកគ្នាអំពីផលប៉ះពាល់ខាងសីលធម៌នៃអនាគតដែលពួកគេកំពុងសាងសង់ ដោយអំពាវនាវឱ្យមានការយឺតយ៉ាវបន្ទាប់ពីការបង្កើនល្បឿនដែលមិនបានត្រួតពិនិត្យជាច្រើនឆ្នាំ។ ម្យ៉ាងវិញទៀត យើងមានការគម្រាមកំហែងដែលមានស្រាប់ភ្លាមៗនៃបច្ចេកវិទ្យាមូលដ្ឋាន បច្ចុប្បន្ន របស់យើងកំពុងដួលរលំយ៉ាងសកម្មក្រោមទម្ងន់នៃភាពងាយរងគ្រោះដែលមិនបានដោះស្រាយ និងមិនបានជួសជុល។
"បន្ទាត់កំហុស" ពិតប្រាកដមិនមែនគ្រាន់តែនៅក្នុងសហគមន៍ AI ប៉ុណ្ណោះទេ។ វាស្ថិតនៅចន្លោះប៉មភ្លុកនៃការច្នៃប្រឌិត និងលេណដ្ឋាននៃការពិតប្រតិបត្តិការ។ វាស្ថិតនៅចន្លោះការពិភាក្សាដែលផ្តោតទៅលើអនាគតអរូបីនៃ "ការគ្រប់គ្រងដោយខ្លួនឯង" សម្រាប់ AI និងតម្រូវការជាក់ស្តែងជាបន្ទាន់សម្រាប់សុវត្ថិភាព និងស្ថេរភាពពិតប្រាកដនៅក្នុងប្រព័ន្ធដែលយើងពឹងផ្អែកលើសព្វថ្ងៃនេះ។
នៅពេលដែល CTOs និងវិស្វកម្មដឹកនាំ យើងមិនអាចមានលទ្ធភាពត្រូវបានរំខានដោយការជជែកវែកញែកទស្សនវិជ្ជានៃការថយចុះ AI នោះទេ។ ខណៈពេលដែលការពិភាក្សាទាំងនោះមានសារៈសំខាន់សម្រាប់រយៈពេលវែង វាមានភាពប្រណីតនៅពេលដែលផ្ទះរបស់អ្នកកំពុងឆេះយ៉ាងសកម្ម។ "ការវាយតម្លៃឡើងវិញនៃផែនទីបង្ហាញផ្លូវផលិតផល" គួរតែចាប់ផ្តើមជាមួយនឹងការធ្វើឱ្យខូចទ្រង់ទ្រាយនៃហេដ្ឋារចនាសម្ព័ន្ធដែលមានស្រាប់របស់យើង។ "ការវាយតម្លៃហានិភ័យ" ចាំបាច់ត្រូវផ្តល់អាទិភាពដល់ការគម្រាមកំហែងដែលបានកេងប្រវ័ញ្ចយ៉ាងសកម្មភ្លាមៗ ដែលកំពុងប៉ះពាល់ដល់ការបន្តប្រតិបត្តិការ និងភាពត្រឹមត្រូវនៃទិន្នន័យ ថ្ងៃនេះ។
អាទិភាពនៃឧស្សាហកម្មនេះត្រូវបានគេយល់ច្រឡំ។ យើងកំពុងសាងសង់របស់ដែលកាន់តែលឿន និងភ្លឺជាងមុនលើគ្រឹះដែលកំពុងរលួយយ៉ាងសកម្ម។ ការអំពាវនាវឱ្យមានការយឺតយ៉ាវ AI អាចជាការសន្ទនាចាំបាច់មួយ ប៉ុន្តែសម្រាប់អ្នកដែលនៅលើដី ទាក់ទងនឹង Ivanti និង Cisco zero-days វាមានអារម្មណ៍ដូចជាការជជែកវែកញែកអំពីពណ៌នៃវាំងនន ខណៈដែលដំបូលរូងភ្នំផ្តោតលើបច្ចុប្បន្ន។ អនាគតអាចរង់ចាំរហូតដល់យើងមិនហូរឈាមយ៉ាងសកម្ម។
ប្រភព
[1] លិខិតចំហដើម្បីផ្អាកការពិសោធន៍ AI យក្ស — https://futureoflife.org/open-letter-pause-ai-development/ [2] ភាគហ៊ុនរបស់ AI កំពុងកើនឡើង ប៉ុន្តែអ្នកវិនិយោគមួយចំនួនមានការភ័យខ្លាច — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] បដិវត្ត AI ក្នុងវិទ្យាសាស្ត្រ៖ ការសន្យា និងគ្រោះថ្នាក់ — https://www.nature.com/articles/d41586-023-03223-y [4] តួអង្គគំរាមកំហែងដែលកេងប្រវ័ញ្ច Ivanti Connect Secure និង Ivanti Policy Secure Vulnerabilities — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] តួអង្គគំរាមកំហែងកំពុងកេងប្រវ័ញ្ចកម្មវិធី Cisco IOS XE Software Web UI Vulnerability — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a