AI ថ្មីរបស់អធិរាជ និងមូលនិធិរលួយនៅក្រោមវា។
ចាំពេលណា AI នឹងជួយសង្គ្រោះយើងទាំងអស់គ្នា? ឥឡូវនេះ អ្នកសង្គ្រោះកំពុងតែសុំពេលវេលា។ ទើបតែថ្មីៗនេះ ស្ថាបត្យករនៃអនាគតដែលជំរុញដោយ AI របស់យើង ដែលជាអ្នកស្រាវជ្រាវ "ព្រំដែន" និងផ្នែកហិរញ្ញវត្ថុដ៏ធ្ងន់ - បានប៉ះទង្គិចគ្នាដោយទាមទារឱ្យមានការពន្លឿនការអភិវឌ្ឍន៍ដោយសារតែ "ការកើនឡើងនៃការព្រួយបារម្ភអំពីសុវត្ថិភាព" [1] ។ ទីផ្សារដែលធ្លាប់ជាឧបករណ៍មិនច្បាស់លាស់បានឆ្លើយតបដោយការក្អកសួត៖ ភាគហ៊ុនបន្ទះឈីប និងអ្នកលេង AI សំខាន់ៗបានធ្លាក់ចុះ [2] ។ ទីក្រុងប៉េកាំង តាមការព្យាករណ៍បានចំអកចំពោះការព្រមាននេះ ខណៈពេលដែលក្រុមហ៊ុនយក្សរបស់ទីក្រុងសេអ៊ូលបានរិះគន់ចំពោះការបង់ប្រាក់ជាមុនសម្រាប់ការរីកចម្រើន AI នាពេលអនាគត [2] ។
នេះមិនមែនគ្រាន់តែជាការជជែកគ្នាតាមទស្សនវិជ្ជាសម្រាប់ប៉មភ្លុកនោះទេ។ នេះគឺជាការផ្លាស់ប្តូររញ្ជួយដី ដែលជាការទទួលស្គាល់ជាសាធារណៈនៃភាពមិនប្រុងប្រយ័ត្នពីក្នុងក្រុមឥស្សរជននៃឧស្សាហកម្មនេះ។ ហើយនិយាយដោយត្រង់ទៅ វាជាការងាយស្រួលពេក។
ការផ្អាក AI: Altruism ឬ Power Play?
ចូរយើងដឹងច្បាស់៖ នៅពេលដែលមនុស្សដែលបានសាងសង់រ៉ុក្កែតស្រាប់តែដឹងថាពួកគេភ្លេចឆ័ត្រយោង បន្ទាប់ពីបាញ់បង្ហោះ វាមិនមែនជាពេលនៃការភ្ញាក់រឭកខាងសីលធម៌ដ៏ជ្រាលជ្រៅនោះទេ។ វាជាការវាយតម្លៃខ្លួនឯងដែលយឺតពេល។ ទាំងនេះមិនមែនជាឧត្តមគតិភ្នែកទូលាយទេ។ ទាំងនេះគឺជាទីតានដែលបាននិងកំពុងរុញច្រានឈ្នាន់ទៅនឹងលោហៈ ដេញតាមកំណើនអិចស្ប៉ូណង់ស្យែល និងការគ្រប់គ្រងទីផ្សារ។ ឥឡូវនេះ ជាមួយនឹងទិដ្ឋភាពនៃ "ផលវិបាកដែលមិនបានមើលឃើញទុកជាមុន" កំពុងលេចចេញជារូបរាងធំ ហើយប្រហែលជាកាន់តែឆ្កួតទៅ ការដឹងថាល្បឿនបច្ចុប្បន្នគឺមិនមាននិរន្តរភាព ឬថាពួកគេត្រូវការពង្រឹងការនាំមុខរបស់ពួកគេ - ពួកគេកំពុងទាមទារឱ្យមានដង្ហើមរួម។
ប្រតិកម្មរបស់ទីផ្សារកំពុងប្រាប់។ ការធ្លាក់ចុះនៃភាគហ៊ុនបន្ទះឈីបមិនមែនគ្រាន់តែជាការភ័យខ្លាចប៉ុណ្ណោះទេ។ វានិយាយអំពីផលប៉ះពាល់ហិរញ្ញវត្ថុភ្លាមៗនៃការធ្លាក់ចុះសក្តានុពល។ ការរុញច្រានរបស់ទីក្រុងប៉េកាំង? សញ្ញាច្បាស់លាស់ដែលថា អត្ថប្រយោជន៍ជាយុទ្ធសាស្ត្រជាតិ ធ្វើឱ្យមានការព្រួយបារម្ភអំពីសុវត្ថិភាពអរូបី។ ហើយក្រុមហ៊ុនផលិតបន្ទះឈីបរបស់ទីក្រុងសេអ៊ូលបដិសេធការបង់ប្រាក់ជាមុន? នោះហើយជាសំឡេងនៃមូលធនដែលចោទសួរអំពីស្ថិរភាពរយៈពេលវែង និងប្រាក់ចំណេញនៃអនាគតមិនច្បាស់លាស់ភ្លាមៗ។
សម្រាប់ពួកយើង CTOs និងវិស្វកម្មដឹកនាំ នេះបកប្រែដោយផ្ទាល់ទៅជាទេសភាពដ៏ច្របូកច្របល់។ រំពឹងថា អន្តរាគមន៍ផ្នែកនិយតកម្មនឹងពន្លឿន ដោយបង្ខំឱ្យមានការកំណត់អាទិភាពឡើងវិញនៃគម្រោង AI ។ សីលធម៌ "ផ្លាស់ទីលឿន និងបំបែករឿង" សម្រាប់ AI ត្រូវបានស្លាប់ជាផ្លូវការ ជំនួសដោយការស្វែងរកដ៏គួរឱ្យភ័យខ្លាចសម្រាប់ក្របខ័ណ្ឌ "ការអភិវឌ្ឍន៍ AI ប្រកបដោយក្រមសីលធម៌" ដែលគួរតែត្រូវបានដំណើរការតាំងពីថ្ងៃដំបូង។ ការវិនិយោគនឹងកាន់តែមានការប្រយ័ត្នប្រយែង យុទ្ធសាស្រ្តនឹងជំរុញ ហើយបាទ ទីផ្សារការងារនឹងមានអារម្មណ៍ត្រជាក់ នៅពេលដែលការកើនឡើងមាសផ្តល់មធ្យោបាយដល់វិធីសាស្រ្តវាស់វែងកាន់តែច្រើន ហើយសង្ឃឹមថា ការទទួលខុសត្រូវកាន់តែច្រើន។ ប៉ុន្តែសូមកុំច្រឡំនេះសម្រាប់ភាពស្មោះត្រង់សុទ្ធសាធ។ "ការផ្អាក" នេះគឺច្រើនអំពីការគ្រប់គ្រង និងការក្រិតតាមខ្នាតទីផ្សារឡើងវិញ ព្រោះវានិយាយអំពីសុវត្ថិភាពពិតប្រាកដ។
ខណៈពេលដែល Titans Debate មូលនិធិដួលរលំ
ឥឡូវនេះ ខណៈពេលដែលពួកឥស្សរជន AI កំពុងមានវិបត្តិអត្ថិភាពរបស់ពួកគេ ដោយពិភាក្សាអំពីក្រមសីលធម៌នៃឧត្តមភាពនាពេលអនាគត សូមនិយាយអំពីវិបត្តិសន្តិសុខពិតប្រាកដ នាពេលបច្ចុប្បន្ន និងមហន្តរាយទាំងស្រុងដែលកំពុងលាតត្រដាង ឥឡូវនេះ។
សប្តាហ៍នេះ CISA បានបន្ថែម CVEs ថ្មីជាច្រើនទៅក្នុងកាតាឡុកដែលគេស្គាល់ថាបានកេងប្រវ័ញ្ចភាពងាយរងគ្រោះ [3]។ យើងកំពុងនិយាយអំពី RCE ជា root ដែលត្រូវបានបញ្ជាក់នៅក្នុង Cisco Secure Email Gateway (CVE-2023-20269) [4] ដែលជាផ្លូវឆ្លងកាត់ CVSS 10.0 នៅក្នុង GitLab (CVE-2023-2825) [3] និងថ្មីៗនេះ Chrome zero-day ទាមទារឱ្យមានការយកចិត្តទុកដាក់ (CVE-2023) [media]
ប៉ុន្តែកណ្តាប់ដៃដ៏ពិតប្រាកដ ដែលគួរធ្វើឲ្យអ្នកជំនាញសន្តិសុខទាំងអស់ស្រែកឲ្យបាត់បង់នោះ គឺជាការគំរាមកំហែងជាប់រហូតនៃកំហុសមូលដ្ឋាន។ សូមពិចារណា CVE-2021-1647 ដែលជាភាពងាយរងគ្រោះនៃការកើនឡើងសិទ្ធិក្នុងតំបន់នៅក្នុងម៉ាស៊ីនការពារមេរោគរបស់ Microsoft Defender [5] ។ នេះមិនមែនជាកំហុសមិនច្បាស់លាស់ទេ។ វាមានភស្តុតាងជាសាធារណៈ ហើយត្រូវបានប្រើប្រាស់យ៉ាងសកម្មនៅក្នុងព្រៃ ដោយគូសបញ្ជាក់ពីរបៀបដែលសមាសធាតុសំខាន់ៗនៃការការពារឌីជីថលរបស់យើងអាចត្រូវបានសម្របសម្រួល ហើយនៅតែងាយរងគ្រោះក្នុងរយៈពេលមួយ។
អនុញ្ញាតឱ្យវាលិចចូលទៅក្នុង។ ខណៈពេលដែលយើងកំពុងពិភាក្សាអំពីក្រមសីលធម៌នៃអារម្មណ៍ AI កម្មវិធីដែលត្រូវបានរចនាឡើងដើម្បីការពារចំណុចបញ្ចប់របស់យើង ដែលជាស្រទាប់គ្រឹះនៃការការពារឌីជីថលរបស់យើងត្រូវបានបង្ហាញឱ្យឃើញជាសាធារណៈនូវកំហុសឆ្គងដែលបានកេងប្រវ័ញ្ចយ៉ាងសកម្ម ដែលអនុញ្ញាតឱ្យអ្នកវាយប្រហារបង្កើនសិទ្ធិ។ វាដូចជាការជជែកវែកញែកអំពីផលប៉ះពាល់ទស្សនវិជ្ជានៃការបើកបរក្នុងពេលដែលហ្វ្រាំងរថយន្តរបស់អ្នកមិនដំណើរការ ហើយម៉ាស៊ីនកំពុងឆេះ។
ការគិតគូរ៖ ភាគីទាំងពីរនៃកាក់ដូចគ្នា។
ទាំងនេះមិនមែនជារឿងដាច់ដោយឡែកទេ។ ពួកគេគឺជាផ្នែកពីរនៃកាក់ដែលមានគុណវិបត្តិយ៉ាងជ្រាលជ្រៅដូចគ្នា៖ ឧស្សាហកម្មបច្ចេកវិទ្យាដែលមានអាទិភាពជាប់លាប់ ល្បឿន ភាពថ្មីថ្មោង និងការយល់ឃើញនៃការបង្កើតថ្មីលើសុវត្ថិភាព ស្ថិរភាព និងការទទួលខុសត្រូវជាមូលដ្ឋាន។
ការអំពាវនាវភ្លាមៗរបស់មេដឹកនាំ AI សម្រាប់ការយឺតយ៉ាវគឺជាការប៉ុនប៉ងដែលមានប្រតិកម្ម និងបម្រើដោយខ្លួនឯងដើម្បីកែតម្រូវវគ្គសិក្សា * បន្ទាប់ពី* ពួកគេបានបញ្ចេញប្រព័ន្ធដ៏មានអានុភាព និងយល់មិនសូវច្បាស់ចូលទៅក្នុងព្រៃ។ វាជាការទទួលស្គាល់ថា Mantra "ផ្លាស់ទីលឿន និងបំបែកវត្ថុ" នៅពេលអនុវត្តចំពោះបច្ចេកវិទ្យាដែលអាចផ្លាស់ប្តូរពិភពលោកបាន មិនមែនគ្រាន់តែជាការមិនទទួលខុសត្រូវប៉ុណ្ណោះទេ ប៉ុន្តែក៏មានគ្រោះថ្នាក់ផងដែរ។
ការវាយលុកថ្ងៃសូន្យ ជាពិសេសភាពងាយរងគ្រោះនៃអ្នកការពារដ៏សំខាន់ គឺជាផលវិបាកផ្ទាល់ និងឈឺចាប់នៃផ្នត់គំនិតដូចគ្នានេះដែលបានអនុវត្តចំពោះព័ត៌មានវិទ្យាជាមូលដ្ឋាន។ វាជាលទ្ធផលនៃវប្បធម៌ដែលជារឿយៗចាត់ទុកសុវត្ថិភាពជាការគិតក្រោយ ប្រអប់ត្រួតពិនិត្យការអនុលោមភាព ឬមជ្ឈមណ្ឌលចំណាយ ជាជាងធាតុផ្សំដែលមិនអាចចរចារបាននៃផលិតផល និងប្រព័ន្ធនីមួយៗ។ យើងរវល់ខ្លាំងណាស់ក្នុងការដេញតាមវត្ថុភ្លឺចាំងបន្ទាប់ - LLM ភ្នាក់ងារ AI បន្ទាប់ - ដែលយើងបានអនុញ្ញាតឱ្យដីនៅក្រោមជើងរបស់យើងរលួយ។
សម្រាប់ CTOs និងវិស្វកម្មនាំមុខសារគឺស្រឡះនិងភ្លាមៗ។ ឈប់ដេញតាមនិន្នាការ AI ដែលឆ្លងកាត់មតិព័ត៌មានរបស់អ្នក។ ធ្លាក់ចុះទ្វេដងលើមូលដ្ឋានគ្រឹះ។ ផ្តល់អាទិភាពដល់ការបំណះ ជាពិសេសចំពោះភាពងាយរងគ្រោះដែលបានកេងប្រវ័ញ្ចយ៉ាងសកម្មដូចជានៅក្នុង Cisco, GitLab និងការគំរាមកំហែងជាប់លាប់ដែលបានធ្វើជាឧទាហរណ៍ដោយ LPEs ពីមុនរបស់អ្នកការពារ។ អនុវត្តការបន្ធូរបន្ថយដ៏រឹងមាំ។ ទាមទារទំនួលខុសត្រូវពីអ្នកលក់របស់អ្នកចំពោះឥរិយាបថសុវត្ថិភាពរបស់ពួកគេ មិនត្រឹមតែផែនទីបង្ហាញផ្លូវរបស់ពួកគេប៉ុណ្ណោះទេ។
ភាពច្របូកច្របល់របស់ទីផ្សារ និងបញ្ហាសុវត្ថិភាពជាមូលដ្ឋានដែលមិនបានដោះស្រាយ មិនមែនគ្រាន់តែជាព័ត៌មានប៉ុណ្ណោះទេ។ ពួកគេគឺជាការគណនា។ ពិភពបច្ចេកវិទ្យាដែលលឿនពេក មិនប្រុងប្រយ័ត្នពេក ហើយចុងក្រោយក៏លាតត្រដាងផងដែរ។ ដល់ពេលធំឡើង ធានាមូលដ្ឋានគ្រឹះរបស់យើង ហើយបន្ទាប់មក * បន្ទាប់មក * សូមពិចារណាដោយប្រុងប្រយ័ត្នអំពីព្រំដែនបន្ទាប់។
ប្រភព
[1] វិទ្យាស្ថានអនាគតនៃជីវិត — ផ្អាកការពិសោធន៍ Giant AI៖ លិខិតចំហ — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — អ្នកជំនាញ AI អំពាវនាវឱ្យផ្អាកក្នុងការអភិវឌ្ឍន៍ប្រព័ន្ធ AI កម្រិតខ្ពស់ — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance, and Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8 [5] មជ្ឈមណ្ឌលឆ្លើយតបសុវត្ថិភាពរបស់ Microsoft — ភាពងាយរងគ្រោះនៃការកើនឡើងសិទ្ធិឯកជនក្នុងតំបន់របស់ Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647