Зохицуулалтын шуудуу: ЕХ-ны хиймэл оюун ухааны хууль нь том технологид хэрхэн нөлөөлж чадах вэ
Дэлхийн хиймэл оюун ухааны ландшафт мэдэгдэхүйц өөрчлөлтийн ирмэг дээр байна. Нэг талаас, ЕХ-ны хиймэл оюун ухааны тухай хууль нь 2026 оны дундуур хэрэгжиж эхлэх бөгөөд өндөр эрсдэлтэй системүүдэд тавигдах хамгийн хатуу шаардлагуудыг үе шаттайгаар хэрэгжүүлэхээр төлөвлөж байна [1, 2]. Нөгөөтэйгүүр, хиймэл оюун ухааны арилжааны зах зээл хурдацтай хувьсан өөрчлөгдөж, дэвшилтэт загварууд нь ихэвчлэн эрс бага зардлаар эсвэл бүр үнэ төлбөргүй байдаг бол өндөр мэргэшсэн шийдлүүд нь дээд зэргийн үнэтэй байдаг [3, 4]. Эдгээр нь тусдаа хөгжил биш юм; Эдгээр нь ойрын ирээдүйд AI хөгжүүлэхэд CTO, инженерийн удирдагчид болон бүтээгдэхүүний менежерүүд хэрхэн ханддагийг гүнзгий өөрчлөх нэгдэх хүчийг төлөөлдөг.
Миний бодлоор Европын холбоо ёс зүйтэй, аюулгүй хиймэл оюун ухааныг эрэлхийлэхдээ ихэвчлэн хязгаарлахыг зорьдог технологийн аварга том компаниудын эргэн тойронд санамсаргүйгээр асар том "зохицуулалтын суваг" барьж эхэлсэн гэж үзэж байна.
Хүрээ нь хэлбэржиж байна: ЕХ-ны хиймэл оюун ухааны тухай хуулийн удахгүй хэрэгжих асуудал
Тодорхой хэлье: ЕХ-ны хиймэл оюун ухааны тухай хууль нь зөвхөн зөвлөмжийн багц биш, томоохон хууль тогтоомж юм. Албан ёсоор батлагдсаны дараа түүний заалтууд аажмаар хэрэгжих бөгөөд энэ нь ЕХ болон түүний иргэдтэй харилцдаг хиймэл оюун ухааны системийг хөгжүүлж, нэвтрүүлж, хангаж буй аливаа компанид шууд нөлөөлнө [1, 2]. Үүнд, ялангуяа "өндөр эрсдэлтэй" хиймэл оюун ухааны системд тавигдах хатуу шаардлагууд орно. Эдгээр ангилалд чухал дэд бүтэц, эмнэлгийн хэрэгсэл, хөдөлмөр эрхлэлт, хууль сахиулах, ардчилсан үйл явц зэрэг багтана. Ийм системүүдийн хувьд өгөгдлийн бат бөх засаглал, хүний зайлшгүй хяналт, хатуу ил тод байдал, кибер аюулгүй байдлын хатуу арга хэмжээ зэрэг хатуу шаардлага тавьдаг [3].
Үүнийг дагаж мөрдөөгүй тохиолдолд олон аж ахуйн нэгжид ноцтой сорилт үүсгэж болзошгүй томоохон торгууль зэрэг томоохон торгууль ногдуулдаг [3]. Инженерийн багуудын хувьд энэ нь хөгжлийн үйл явцыг үндсээр нь дахин үнэлэх шаардлагатай болдог. Гүйцэтгэлийн загварыг бий болгоход хангалттай байхаа болино; Компаниуд нь үзэл баримтлалаас эхлээд ашиглалтад орох хүртэл тайлбарлах, аудит хийх боломжтой, хэвийх хандлага, аюулгүй байдлын эмзэг байдлын эсрэг тэсвэрлэх чадвартай гэдгээ харуулах шаардлагатай болно. Энэ нь зөвхөн хууль эрх зүйн сорилт биш юм; Энэ нь шинэ багаж хэрэгсэл, тусгай үүрэг, Програм хангамжийн хөгжлийн амьдралын мөчлөг (SDLC)-ийн иж бүрэн өөрчлөлтийг шаарддаг гүн гүнзгий инженерийн ажил юм. ЕХ-нд анхаарлаа хандуулж байгаа ч энэхүү урьдчилгааг дэлхий даяар анхааралтай ажиглаж байгаа бөгөөд олон бүс нутаг ижил төстэй зохицуулалтын арга барилыг авч үздэг [3]. Энэ хууль нь эрсдэл багатай хиймэл оюун ухааны системд тавигдах шаардлага багатай шаталсан арга барилыг ашигладаг боловч өндөр эрсдэлтэй хэрэглээнд анхаарлаа төвлөрүүлснээр дагаж мөрдөхөд хамгийн их ачаалал хаана унахыг онцлон тэмдэглэж байгааг анхаарах нь чухал юм.
AI зах зээлийн динамик өөрчлөлт: хүртээмж ба мэргэшил
Үүний зэрэгцээ арилжааны хиймэл оюун ухааны зах зээлд динамик өөрчлөлт гарч байна. OpenAI зэрэг томоохон тоглогчид API хандалтын үнэ төлбөргүй түвшин эсвэл үнийг мэдэгдэхүйц бууруулснаар ерөнхий зориулалттай хүчирхэг загваруудыг илүү хүртээмжтэй болгосон [4]. Энэ бол зүгээр нэг хөнгөлөлт биш; Энэ нь ерөнхий зориулалтын дэвшилтэт хиймэл оюун ухаан хурдацтай бараа болж байгааг харуулж байна. Хүчирхэг том хэлний загваруудыг (LLMs) ашиглах-д орох саад бэрхшээл нь зах зээлийн өргөн сегментийн хувьд үр дүнтэй буурч, хөгжүүлэгчдэд хэдхэн сарын өмнө дээд зэрэглэлийн байсан чадваруудыг шууд зардалгүйгээр ашиглах боломжийг олгосон [4].
Үүний эсрэгээр, өндөр мэргэшсэн, өндөр гүйцэтгэлтэй, эсвэл тодорхой давуу талтай загварууд нь дээд зэрэглэлийн байсаар байгаа нь ерөнхий зориулалтын хэрэглээнээс давсан тусгай чадавхийн эрэлт их байгааг харуулж байна [5]. Энэ нь хуваагдлын дохиог харуулж байна: үндсэн загварууд илүү бараа болж хувирдаг бол хиймэл оюун ухааны тусгай шийдлүүд үнэ цэнээ хадгалсаар байна.
Үүн дээр нэмээд Google-ийн Gemini гэх мэт платформууд нь Google-ийн өргөн хүрээний бүтээгдэхүүн, үйлчилгээг нэгтгэсэн асар том хэрэглэгчийн баазыг бүрдүүлж байна [6]. Энэ бол зүгээр нэг тоо биш; энэ нь зах зээлд ноёрхсон байдал, платформыг нэгтгэх хүч чадлын нотолгоо юм. CTO-уудын хувьд энэ нь зөвхөн LLM сонгох тухай биш юм; Энэ нь ирээдүйн стратегийн сонголтод нөлөөлөх боломжит түгжрэл болох экосистемийг сонгох тухай юм.
Мөргөлдөөн: Аварга биетүүдэд зориулсан зохицуулалтын шуудуу
Энд энэ хоёр чиг хандлага огтлолцож, эвгүй үнэнийг илчилж байна. ЕХ-ны хиймэл оюун ухааны тухай хууль нь дагаж мөрдөх ихээхэн ачаалалтай тул тэгш хуваарилагдахгүй. Стартап буюу дунд оврын компанийн хувьд "өндөр эрсдэлтэй" хиймэл оюун ухааны системийг баталгаажуулах зардал нь мэдээллийн баталгаа, хүний хяналтын механизмаас авахуулаад бат бөх кибер аюулгүй байдал (програм хангамжийн хангамжийн сүлжээ болон хиймэл оюун ухааны загваруудын өөрсдийнх нь үргэлжилсээр байгаа эмзэг байдлын талаарх санаа зовоосон асуудал) зэрэг хуулийн бүх шаардлагыг хангасан байх болно [7, 8]. Энэ нь хууль эрх зүйн тусгай баг, хууль тогтоомжийг дагаж мөрдөх ажилтнууд, мэргэшсэн хиймэл оюун ухааны ёс зүйч, баримтжуулалт, туршилт, аудитын томоохон инженерийн нөөцийг шаарддаг.
Одоо нөгөө талыг нь авч үзье: OpenAI зэрэг компаниуд хүчирхэг загваруудыг илүү хүртээмжтэй болгож, Google-ийн Gemini экосистемээрээ дамжуулан тэрбум хэрэглэгчдэд хүрч байна [4, 6]. Эдгээр технологийн хүчирхэг хүмүүс нь ЕХ-ны AI-ийн тухай хуулийн дагуу зардлаа шингээх хөрөнгө, өргөн хүрээтэй хууль эрх зүйн хэлтэс, асар их инженерийн авъяастай. Тэд шаардлагатай хамгаалалтын хашлага барьж, хяналтыг хэрэгжүүлж, зохицуулалтын лабиринтыг чиглүүлж чадна.
Парадокс нь гайхалтай юм: AI-ийн хүчирхэг загваруудад нэвтрэх техникийн зардал буурч байгаа ч, ялангуяа ЕХ-ны хэмжээнд эрсдэл өндөртэй хувилбаруудад тэдгээрийг хариуцлагатайгаар ашиглах зохицуулалтын зардал мэдэгдэхүйц өсөх хандлагатай байна. Энэ нь жижиг тоглогчдод ороход ихээхэн саад тотгор учруулдаг.
Боломжгүй үр дагавар уу? Итгэлцэл, ёс зүйтэй хиймэл оюун ухааныг дэмжих зорилготой ЕХ-ны хиймэл оюун ухааны тухай хууль нь зах зээлийн нэгдлийг санамсаргүйгээр хурдасгаж болзошгүй. Энэ нь үндсэндээ хамгийн том, хамгийн сайн нөөцтэй компаниуд ая тухтай гаталж болох "зохицуулалтын суваг"-ыг бий болгодог. Тэд шинэ дүрмийг дагаж мөрдөх боломжтой бөгөөд дагаж мөрдөх нь өрсөлдөөний давуу тал болж магадгүй юм. Жижиг шинийг санаачлагчид хүчирхэг суурь загваруудыг ашиглах боломжтой байсан ч "өндөр эрсдэлтэй" ангилалд багтах юм бол өөрсдийн шийдлүүдийг ЕХ-ны ашигтай зах зээлд ашиглах боломжгүй болох нь ердөө л шаардлагатай дагаж мөрдөх дэд бүтэц байхгүйгээс болж.
Энэ нь инновацийг шууд боомилох тухай биш юм; энэ нь түүнийг дамжуулах тухай юм. Өндөр эрсдэлтэй хиймэл оюун ухаан дахь инноваци нь хэд хэдэн давамгайлсан тоглогчдын ханан дотор улам бүр төвлөрч магадгүй эсвэл газарзүйн хувьд зохицуулалт багатай зах зээл рүү шилжиж магадгүй юм. Хийх боломжтой загваруудаар дамжуулан хиймэл оюун ухааныг "ардчилал" нь зөвхөн цөөн хэдэн сонгогдсон хүмүүс үүнийг дагаж мөрдөх боломжтой бол хоёр талдаа иртэй сэлэм болж чадна.
Энэ нь CTO болон инженерийн удирдагчдын хувьд юу гэсэн үг вэ?
Ирээдүйг бүтээж буй бидний хувьд зах зээлийн динамик болон зохицуулалтын өөрчлөлтийн энэхүү нэгдэл нь дараах стратегийн гол чиглэлийг шаарддаг.
- Өмчлөлийн нийт зардал (TCO) дахин тодорхойлсон: AI загварын "өртөг" нь зөвхөн API дуудлагын үнэ байхаа больсон. Энэ нь одоо API дуудлагын үнийг нэмэх дагаж мөрдөх нэмэлт зардал, хууль эрх зүйн эрсдэл, аудитын зардал, болзошгүй торгуулийг багтаасан болно. Хүртээмжтэй загвар нь дагаж мөрдөөгүй тохиолдолд маш үнэтэй байж магадгүй юм.
- Стратегийн платформын сонголтууд: Gemini [6] зэрэг платформуудын өргөн уудам хэрэглэгчийн суурь нь платформын наалдамхай байдлыг илтгэнэ. "ЕХ-ны хиймэл оюун ухаанд бэлэн" платформуудыг ашиглахын ашиг тусыг худалдагчийг түгжих эрсдэлтэй харьцуулж үзээрэй. Байшиндаа барих нь илүү их хяналтыг санал болгодог боловч таны дагаж мөрдөх шууд ачааллыг нэмэгдүүлдэг.
- "Зохион бүтээсэн хиймэл оюун ухааны аюулгүй байдал" нь чухал: Энэ нь зөвхөн хуулийн хэлтсийн асуудал байж болохгүй. Энэ нь таны инженерийн соёл, таны архитектур, хөгжлийн үйл явцтай эхний өдрөөсөө нэгтгэгдэх ёстой. Тайлбарлах, буруу зөрүү илрүүлэх, найдвартай хамгаалах хэрэгсэлд хөрөнгө оруулаарай. Таны CI/CD дамжуулах хоолой нь дагаж мөрдөх шалгалтыг оруулахын тулд хувьсан өөрчлөгдөх шаардлагатай.
- Дэлхийн зохицуулалтын тагнуул: ЕХ-ны хиймэл оюун ухааны тухай хууль нь чухал жишиг болж байна [1]. Түүний нюансуудыг ойлгохоос гадна бусад бүс нутгууд хэрхэн дасан зохицож, ялгарч байгааг хянах. Таны дэлхий даяар байршуулах стратеги нь дүрэм журмын шинэчилсэн найруулгыг харгалзан үзэх шаардлагатай.
- "Зохицуулах боодол"-ын өсөлт: AI актыг дагаж мөрдөхөд туслах үйлчилгээ, платформуудын шинэ зах зээлийг хүлээж байна. Түүхий эдийн LLM-ийн эргэн тойронд байгаа эдгээр "харилцан боодол" нь өртөг, нарийн төвөгтэй байдлын өөр давхаргыг нэмж, чухал салбар болж чадна.
ЕХ-ны хиймэл оюун ухааны тухай хуулийн удахгүй хэрэгжих нь хиймэл оюун ухааны салбарын төлөвшлийн үеийг харуулж байгаа ч олон хүний таамаглаж байсан шиг биш байж магадгүй юм. Хязгааргүй туршилтын эрин үе нь зохицуулалттай хариуцлагын эрин үе рүү шилжиж байна. Хэдийгээр энэ нь зайлшгүй хувьсал боловч эвгүй үнэнийг бид хүлээн зөвшөөрөх ёстой: итгэлцлийг бий болгож, тоглоомын талбарыг тэгшитгэх зорилготой зохицуулалтууд нь одоохондоо хамгийн гүн халаастай хүмүүсийн талд чиглүүлж магадгүй юм. AI-ийн ирээдүй нь зөвхөн техникийн ур чадвар эсвэл зардлын үр ашгийн тухай биш юм; Энэ нь нарийн төвөгтэй, үнэтэй, улам бүр нэгтгэгдсэн зохицуулалтын лабиринтыг удирдах тухай юм.
Эх сурвалж
[1] Европын парламент. "AI Act: ЕХ-ны гишүүд хиймэл оюун ухааны тухай чухал хуулийг баталсан." 2024 оны 3-р сарын 13. Дараах хаягаар авах боломжтой. [https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/ai-act-meps-adopt-landmark-law-on-artificial-intelligence] (https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/ai-act-meps-adopt-landmark-law-on-artificial-intelligence) [2] Европын зөвлөл. "Хиймэл оюун ухааны тухай хууль: Зөвлөл хиймэл оюун ухааны тухай дэлхийн анхны иж бүрэн хуульд эцсийн ногоон гэрлийг өгсөн." 2024 оны 5-р сарын 21. Дараах хаягаар авах боломжтой. [https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-act-council-gives-final-green-light-to-the-world-s-first-comprehensive-law-on-ai/] (https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-act-council-gives-final-green-light-to-the-world-s-first-comprehensive-law-on-ai/) [3] PwC. "ЕХ-ны AI хууль: Та юу мэдэх хэрэгтэй." 2024 оны 5-р сард шинэчлэгдсэн. https://www.pwc.com/gx/en/issues/data-privacy/eu-ai-act.html [4] OpenAI. "Шинэ загварууд болон үнийн хөнгөлөлт." 2023 оны 11-р сарын 6. https://openai.com/blog/new-models-and-price-reductions хаягаас авах боломжтой. [5] Мэдээлэл. "AI загварын зах зээл хоёр хуваагдаж байна." (Ерөнхий чиг хандлага, тодорхой нийтлэл өөр байж болох ч энэ нь салбарын нийтлэг дүн шинжилгээг тусгасан болно). [6] Google Блог. "Ихрийн ордыг илүү олон хүн, бүтээгдэхүүнд хүргэж байна." 2024 оны 2-р сарын 8. https://blog.google/technology/ai/gemini-google-ai-updates/ хаягаар авах боломжтой. [7] Үндэсний эмзэг байдлын мэдээллийн сан (NVD). "CVE-2024-27348." (Програм хангамжийн байнгын сул талуудыг харуулсан сүүлийн үеийн бодит CVE-ийн жишээ). Үүнд: https://nvd.nist.gov/vuln/detail/CVE-2024-27348 [8] OWASP сан. "Том хэлний загвар хэрэглээний OWASP шилдэг 10." (AI-ийн аюулгүй байдлын ерөнхий асуудлуудыг харуулсан). Үүнд: https://owasp.org/www-project-top-10-for-llm-applications/