AI-ийн хос урсгал: Үр ашгийн өсөлт, бие даасан агентууд ба удахгүй болох дэд бүтцийн өр | B4N1

AI-ийн хос урсгал: Үр ашгийн өсөлт, бие даасан агентууд ба удахгүй болох дэд бүтцийн өр

7 days ago · b4n1 Tiempo de lectura: 9 min

AI-ийн хос урсгал: Үр ашгийн өсөлт, бие даасан агентууд болон удахгүй болох дэд бүтцийн өр

AI ландшафт динамик хувьсан өөрчлөгдөж байгаа боловч өнөөгийн хөгжил нь ялангуяа хүчнүүдийн нэгдмэл байдлыг илтгэж байна. Жинхэнэ бие даасан агентууд гарч ирэхийн зэрэгцээ хилийн загварт урьд өмнө хэзээ ч байгаагүй үр ашигтай байхын тулд бид санхүүгийн зах зээл энэ хувьсгалыг өдөөхөд шаардагдах асар их хөрөнгийн зардлын талаар анхааруулах дохиог анивчуулж байгаагийн гэрч болж байна. Энэ нь зөвхөн ахисан сайжруулалт биш юм; Энэ нь хиймэл оюун ухааны чадавхи, түүний суурь бүтэц, түүнийг өргөжүүлэхэд тулгуурласан эдийн засгийн бодит байдлын үндсийг дахин тодорхойлохыг илэрхийлдэг.

OpenAI-ийн GPT-6.1 Terra: Үр ашигтай байдлын зайлшгүй шаардлага

OpenAI-ийн GPT-6.1 Terra хувилбар нь стратегийн өөрчлөлтийг харуулж байна. Өмнөх үеийнхээсээ илүү "хямд, хурдан" гэж сурталчилсан нь гүйцэтгэлийн өсөлтөөс илүү юм; Энэ бол архитектурын зайлшгүй шаардлага юм. Хилийн загварын хувьд зардлыг бууруулах, хурдыг сайжруулах зэрэгт нэгэн зэрэг хүрэх нь дүгнэлтийн стекийг гүн гүнзгий дахин боловсруулахыг санал болгож байна.

Инженерийн үүднээс авч үзвэл том хэлний загварт (LLM) "илүү хямд бөгөөд хурдан" нь ихэвчлэн хэд хэдэн гол дэвшлийг заадаг:

  1. Тооцоолол ба сийрэг байдал: Сургалтын дараах түрэмгий квантчлал (жишээ нь, 4-бит эсвэл бүр 2-битийн дүгнэлт) илүү боловсронгуй сийрэг анхаарлын механизмуудтай хослуулан санах ойн ул мөр болон тооцооллын ачааллыг чанарын хувьд мэдэгдэхүйц алдагдалгүйгээр эрс багасгадаг. Энэ нь GPU цикл багасч, жетон бүрт бага VRAM гэсэн үг юм.
  2. Оновчилсон дүгнэлтийн хөдөлгүүрүүд: Тусгай зориулалтын техник хангамжийг (захиалгат ASIC эсвэл сайжруулсан тензор цөм бүхий дараагийн үеийн GPU гэх мэт) ашиглах боломжтой захиалгат дүгнэлтийн цөмүүд нь илүү өндөр дамжуулах чадвар, хоцролтыг багасгах боломжтой. Жижиг, хурдан загвар нь том загвар нь баталгаажуулдаг токенуудыг санал болгодог таамаглалын код тайлах гэх мэт техникүүд нь хурдыг мэдрэхэд хувь нэмэр оруулдаг.
  3. Сайжруулсан загвар архитектур: Цөм трансформатор хэвээр байгаа хэдий ч илүү үр ашигтай чиглүүлэлт эсвэл шинэ анхаарал хандуулах механизм бүхий мэргэжилтнүүдийн холимог (ММ) зэрэг дэд давхаргын шинэчлэлүүд нь параметр бүрийн гүйцэтгэлийг сайжруулахад хүргэдэг.

Инженерийн багуудад үзүүлэх нөлөө нь гүн гүнзгий байдаг. Илүү хэмнэлттэй хилийн загвар нь хүртээмжийг ардчилсан болгож, хиймэл оюун ухааны дэвшилтэт интеграцчлалыг өмнө нь зардал багатай байсан өргөн хүрээний хэрэглээнд ашиглах боломжтой болгодог. Хэрэглэгчийн бодит цаг үеийн дэмжлэг, хэт хувьчилсан контент үүсгэх, эсвэл API дуудлага хийхэд саад болж байсан нарийн төвөгтэй өгөгдөлд дүн шинжилгээ хийх талаар бодож үзээрэй. Энэ нь өмчлөлийн нийт зардал (TCO) тэгшитгэлийг эрс өөрчилдөг.

Бидний харж болох үр ашгийн өсөлтийг харуулсан таамаглалын харьцуулалтыг авч үзье:

Метрик GPT-6.0 (Таамаглал) GPT-6.1 Terra (Тооцоолсон) Инженерийн нөлөө
Хоцролт (P95) 500мс 250мс Бодит цагийн хэрэглэгчийн харилцан үйлчлэлийг идэвхжүүлж, хүлээгдэж буй хоцрогдол багатай.
1 сая жетоны зардал $15.00 $7.50 Их хэмжээний програмын ашиглалтын зардлыг хоёр дахин бууруулдаг.
** Дамжуулах чадвар (Токен/с)** 1000 1800 Илүү олон нэгэн зэрэг хэрэглэгчид эсвэл илүү том багц боловсруулалтыг дэмждэг.
Санах ойн ул мөр Өндөр Дунд зэрэг Илүү жижиг, хямд дүгнэлт гаргах боломжтой.
Эрчим хүчний хэрэглээ Өндөр Дунд зэрэг Үйл ажиллагааны нүүрстөрөгчийн ул мөр, цахилгааны төлбөрийг бууруулдаг.

💡 Үйл ажиллагааны гол арга хэмжээ: GPT-6.1 Terra-ийн үр ашигт анхаарлаа төвлөрүүлэх нь зөвхөн хурдны тухай биш юм; Энэ нь дэвшилтэт хиймэл оюун ухааны эдийн засгийн үр ашгийг өөрчлөх тухай юм. Инженерийн багууд одоо хэт үнэтэй эсвэл удаан гэж тооцогдож байсан ашиглалтын тохиолдлуудыг харгалзан AI-г нэгтгэх стратегиа дахин үнэлэх ёстой. Энэ нь AI-г аж ахуйн нэгжийн хэмжээнд илүү гүнзгий, илүү өргөн хүрээнд нэвтрүүлэх үүд хаалгыг нээж байна.

DeepSeek-ийн хос тоглоом: Нээлттэй жингийн загварууд ба бие даасан кодлогч агентууд

Үүний зэрэгцээ DeepSeek нь нээлттэй жинтэй V4.1-Flash-1017 загвар болон бие даасан кодлогчийн прототипээрээ олны танил болсон. Энэхүү хоёр талт арга нь хиймэл оюун ухааны хөгжлийн суурь загвар болон хэрэглээний давхаргыг хоёуланг нь авч үздэг.

V4.1-Flash-1017 шиг нээлттэй жинтэй загварыг гаргасан нь нээлттэй эх сурвалжийн нийгэмлэгийн хувьд чухал давуу тал юм. Энэ нь өмчийн шийдлүүдийн хүчирхэг хувилбарыг санал болгож, ил тод байдал, өөрчлөн тохируулах замаар инновацийг дэмждэг. Өгөгдлийн нууцлалын тусгай шаардлага эсвэл домэйны өвөрмөц хэрэгцээтэй байгууллагуудын хувьд нээлттэй жинтэй загвар нь гуравдагч талын API-д нууц мэдээллийг илгээхгүйгээр хувийн мэдээллийн багцыг нарийн тохируулах боломжийг олгодог. Энэ нь байгууллагын одоо байгаа дэд бүтцэд гүн гүнзгий шингэсэн өндөр мэргэшсэн, гүйцэтгэлтэй загваруудыг бий болгож чадна.

Гэсэн хэдий ч үнэхээр эвдэрч буй элемент бол [2026 оны 11-р сарын 1-ний хиймэл оюун ухааны товч танилцуулга] (https://aibriefs.news/ai-news-today) дээр дэлгэрэнгүй дурдсан Клод С зэрэг өрсөлдөгчидтэй өрсөлдөхөд зориулагдсан DeepSeek-ийн бие даасан кодлогчийн прототип юм. Энэ нь зөвхөн код бөглөх дэвшилтэт хэрэгсэл эсвэл боловсронгуй линтер биш юм. Бие даасан агент нь дараахь зүйлийг хийх чадвартай системийг хэлнэ.

  1. Зорилтод чиглэсэн төлөвлөлт: Өндөр түвшний ажлуудыг хэрэгжүүлэх боломжтой дэд ажлуудад хуваах.
  2. Хэрэгслийн хэрэглээ: Төлөвлөгөөг хэрэгжүүлэхийн тулд гадны системүүдтэй (эмхэтгэгчид, дибаглагч, хувилбарын удирдлага, API, мэдээллийн сан) харилцах.
  3. Өөрийгөө засах, эргэцүүлэн бодох: Гаралтад дүн шинжилгээ хийх, алдааг олж илрүүлэх, арга барилаа давтах.
  4. Тогтвортой төлөв: Олон харилцан үйлчлэл болон хөгжлийн мөчлөгийн хүрээнд нөхцөл байдлыг хадгалах.

Энэ нь "хоёр нисгэгч" функцээс хальж "хамтран хөгжүүлэгч" эсвэл бүр "тэргүүлэх хөгжүүлэгч" хүртэл тодорхой, сайн тодорхойлсон нөхцөл байдалд шилждэг. Онцлогын хүсэлтийг хүлээж авах, төслийг боловсруулах, шаардлагатай код бичих, тест үүсгэх, ажиллуулах, алдааг засах, татах хүсэлтийг илгээх боломжтой агентыг төсөөлөөд үз дээ.

Архитектурын хувьд ийм агент нь ихэвчлэн "төлөвлөгч" LLM, "багаж ашиглах" LLM болон "цус тусгагч" LLM-ийг хамарсан нарийн төвөгтэй агентын гогцоонд тулгуурладаг.

# Автономит агентын үндсэн гогцооны хялбаршуулсан Pytonic дүрслэл
ангиллын AutonomousCodingAgent:
    def __init__(self, planner_llm, coder_llm, debugger_llm, хэрэгслүүд):
        self.planner = planner_llm
        self.coder = coder_llm
        self.debugger = debugger_llm
        self.tools = хэрэгслүүд # ж.нь, {'git': GitTool(), 'compiler': CompilerTool()}
        self.context = [] # Харилцааны түүх, кодын хэсэг, алдааг хадгалдаг

    Defececute_task(өөрөө, өндөр_төвшний_зорилго):
        төлөвлөгөө = өөрийгөө.төлөвлөгч.төлөвлөгөө үүсгэх(өндөр_түвшний_зорилго, өөрөө.контекст)
        self.context.append(f"Зорилго: {өндөр_төвшний_зорилго}\nТөлөвлөгөө: {төлөвлөгөө}")

        plan.steps алхамын хувьд:
            хэвлэх(f"Гүйцэтгэх алхам: {step.description}")
            code_snippet = self.coder.generate_code(алхам.тайлбар, өөрөө.контекст)
            self.context.append(f"Үйлдвэрлэсэн код:\n{code_snippet}")

            оролдоно уу:
                # Кодыг гүйцэтгэх хэрэгсэл ашиглана уу (жишээ нь, тест ажиллуулах, эмхэтгэх)
                үр дүн = self.tools['compiler'].run(code_snippet)
                Хэрэв үр дүн.алдаатай бол:
                    алдааны_мэдээлэл = self.debugger.analyze_error(үр дүн.алдаа, кодын_хэсэг, өөрөө.контекст)
                    хэвлэх(f"Алдаа илэрсэн: {error_report}")
                    # Агент өөрөө засдаг: контекст алдаа нэмж, дахин төлөвлөх эсвэл дахин кодчилдог
                    self.context.append(f"Алдаа: {error_report}")
                    # Алдааны контексттэй coder_llm руу буцах боломжтой
                өөр:
                    хэвлэх("Алхам амжилттай.")
                    self.context.append(f"Амжилттай алхам: {step.description}")
            Онцгой тохиолдлыг эс тооцвол e:
                хэвлэх(f"Гүйцэтгэж чадсангүй: {e}")
                self.context.append(f"Гүйцэтгэж чадсангүй: {e}")
                # Гэнэтийн бүтэлгүйтлийг даван туулж, дахин төлөвлөөрэй

        эцсийн_хяналт = self.planner.review_nite_goal(self.context)
        хэвлэх(f"Даалгавар дууслаа. Эцсийн хяналт: {final_review}")
        эцсийн_шалгалтыг буцаана

# Хэрэглээний жишээ (үзэл баримтлал)
# агент = AutonomousCodingAgent(GPT61Terra, DeepSeekV41, DeepSeekV41, {'git': GitTool(), 'эмхэтгэгч': PythonCompiler()})
# agent.execute_task("JWT ашиглан шинэ хэрэглэгчийн баталгаажуулалтын төгсгөлийн цэгийг хэрэгжүүлэх.")

Энэхүү өөрчлөлт нь хөгжүүлэгчийн ажлын урсгал, програм хангамжийн бүтэц, чанарын баталгааг дахин үнэлэх шаардлагатай болдог. Хүмүүсийн хөгжүүлэгчид нь өндөр түвшний зорилтуудыг тодорхойлох, агентын үүсгэсэн кодыг хянах, агентуудын дотор ажилладаг системийг зохион бүтээхэд зориулж загвар бичихээс шилжинэ.

AI бий болгох айдас: Санхүүгийн тооцоо

Техникийн дэвшил нь сэтгэл хөдөлгөм байхад санхүүгийн зах зээлээс эсрэг тэсрэг яриа гарч ирж байна. AI News Today-аас онцолсон саяхны Wall Street Journal тайланд Amazon, Alphabet, Microsoft, Meta, Oracle зэрэг томоохон технологийн компаниудын өрийн зээлийн анхдагч своп (CDS) 2021 оноос хойших хамгийн өндөр түвшинд хүрсэн болохыг харуулж байна. "AI бий болгох айдас."

Зээлийн дефолт своп нь үндсэндээ өр төлбөрөө төлөхгүй байгаа компанитай даатгалын гэрээ юм. CDS үнэ өсөхөд хөрөнгө оруулагчид дефолт үүсэх эрсдэл өндөр байгааг илтгэнэ. Эдгээр нь 2021 оны дээд цэгт хүрч, зах зээлийн ихээхэн хэлбэлзэлтэй үе байгаа нь хөрөнгө оруулагчдын болгоомжлол нэмэгдэж байгаагийн тод үзүүлэлт юм.

"AI бий болгох айдас" нь хийсвэр биш юм. Эдгээр нь хиймэл оюун ухааны зэвсгийн уралдаанд өрсөлдөхөд шаардагдах асар их хөрөнгийн зардлыг төлөөлдөг.

  • Өгөгдлийн төвүүд: Газар эзэмших, томоохон байгууламж барих, эрчим хүч, хөргөлтийн найдвартай дэд бүтцийг хангах.
  • Мэргэшсэн чипүүд: Өндөр үнэтэй, урт хугацаатай ирдэг хэдэн арван мянган дээд зэргийн GPU (жишээ нь, NVIDIA H100, B200 эсвэл захиалгат ASIC) худалдан авах.
  • Эрчим хүчний хэрэглээ: Эдгээр дата төвийг эрчим хүчээр хангах үйл ажиллагааны зардал нь одон орны тоогоор хэмжигдэхүйц бөгөөд өссөөр байна. Ганц том LLM-ийг сургах нь жилийн турш хэдэн зуун айлын цахилгаан зарцуулдаг.
  • Авьяас чадварыг олж авах: Шилдэг AI судлаач, инженерүүдийн ширүүн өрсөлдөөн нь цалингийн зардлыг нэмэгдүүлдэг.

Сантандер, Новартис зэрэг компаниуд CNBC-ийн тэмдэглэснээр хиймэл оюун ухаанд тулгуурласан орлого нэмэгдэж, зардлаа бууруулсан талаар аль хэдийн мэдээлсээр байгаа хэдий ч урьдчилсан хөрөнгө оруулалт асар их хэвээр байна. Энэхүү санхүүгийн дарамт нь технологийн салбарын ирээдүйд шууд нөлөөлдөг. Эдгээр аваргуудын зээлийн өртөг өндөр байгаа нь дараахь үр дүнд хүргэж болзошгүй юм.

  • Инноваци удаашралтай: Компаниуд өрийн үйлчилгээг нэн тэргүүнд тавьдаг тул судалгаа, боловсруулалтын төсвийг бууруулсан.
  • Хөдөлмөрийн цомхотгол/Ажлаас халагдсан хүмүүс: Ажиллах хүчний өргөжилтөд нөлөөлж буй зардлыг бууруулах арга хэмжээ.
  • Нэгдүүлэх: Жижиг тоглогчид хөл нийлүүлэхийн төлөө тэмцэж байгаа нь худалдан авалтад хүргэдэг.
  • Клоуд үнийн өөрчлөлт: Cloud үйлчилгээ үзүүлэгчид дэд бүтцийн зардлаа нөхөхийн тулд үнийн загвараа тохируулах шаардлагатай болж магадгүй бөгөөд энэ нь стартапууд болон жижиг бизнесүүдэд нөлөөлж болзошгүй юм.

⚠️ Архитектурын эрсдэл: AI дэд бүтцийн өртөг нэмэгдэж байгаа нь урт хугацааны тогтвортой байдлын томоохон эрсдэлийг бий болгодог. Загвар сонгох, дүгнэлтийг оновчтой болгох, өгөгдлийн төвийн үр ашигтай холбоотой инженерийн шийдвэрүүд нь зөвхөн гүйцэтгэлтэй холбоотой байхаа больсон; Эдгээр нь компанийн баланс, зах зээлийн ойлголтод шууд нөлөөлдөг санхүүгийн чухал шийдвэрүүд юм. AI-ийн TCO-г үл тоомсорлох нь тогтворгүй үйл ажиллагааны загварт хүргэнэ.

Инженерийн шинэ бодит байдал: Үр ашиг ба өрийг удирдах нь

Хямдхан, хурдан хилийн загварууд болон хиймэл оюун ухааны дэд бүтцийн өртөг нэмэгдэж байгаа нь гайхалтай парадоксыг харуулж байна. Хиймэл оюун ухаан улам хүртээмжтэй болж байгаа ч экосистемийг бий болгох, хадгалахад шаардагдах нийт зардал огцом өсч байна. Энэ нь инженерийн удирдлагаас санхүүгийн шинэ түвшний мэдлэгийг шаарддаг.

Инженерийн багууд хиймэл оюун ухааны сонголтын зардлын үр дагаврыг маш сайн мэддэг байх ёстой. Энэ нь:

  1. Зардлыг тооцдог архитектур: Загваруудыг үр ашигтай байршуулахыг урьтал болгож, тоо хэмжээ тогтоох, тайрах зэрэг арга техникийг ашиглах, TCO дээр суурилсан API дуудлага болон өөрөө зохион байгуулсан нээлттэй жингийн загваруудын хооронд анхааралтай сонгох.
  2. Эрлийз загварын стратеги: Гүйцэтгэл болон зардлын аль алиныг нь оновчтой болгож, домайны тусгай даалгаварт зориулсан нарийн тохируулгатай задгай загвартай (DeepSeek V4.1-Flash-1017 гэх мэт) цогц үндэслэл гаргахад зориулсан хилийн загваруудын хүчийг (GPT-6.1 Terra гэх мэт) хослуулсан.
  3. Агентикийн ажлын урсгалыг нэвтрүүлэх: AI агентууд илүү олон хөгжүүлэлтийн ажлыг хариуцдаг ирээдүйд бэлтгэх. Үүнд агентуудын харилцаж болох бат бөх API, тодорхой үзүүлэлтүүд, иж бүрэн туршилтын хүрээг төлөвлөх зэрэг орно. Хөгжүүлэгчид агентын зохион байгуулалт, баталгаажуулалт, дээд түвшний системийн дизайн руу шилжих болно.
  4. Тогтвортой дэд бүтцийн сурталчилгаа: AI тооцооллын байгаль орчин, санхүүгийн нөлөөллийг бууруулахын тулд эрчим хүчний хэмнэлттэй техник хангамжийг хөгжүүлэх, дата төвийн ашиглалтыг оновчтой болгох, сэргээгдэх эрчим хүчний эх үүсвэрийг судлах.

Одоогийн ландшафт нь инновацийн эрэлт хэрэгцээтэй орчин бөгөөд инженерүүдийг хиймэл оюун ухааны чадавхийн хил хязгаарыг давахаас гадна түүнийг ашиглах эдийн засгийн үндэслэлийг эзэмшихийг албаддаг. Автономит төлөөлөгчдийн төлөөх өрсөлдөөн улам бүр эрчимжиж байгаа бөгөөд эдгээр чадварыг эзэмших нь ирээдүйн карьер, бизнесийн стратегийг тодорхойлоход чухал ач холбогдолтой юм. Энэхүү хиймэл оюун ухааны хувьсгалын техникийн болон санхүүгийн талыг хоёуланг нь эзэмшсэн компаниуд цэцэглэн хөгжих болно.

Эх сурвалж


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn