Сайжруулсан програм хангамжийн архитектурт зориулж AI агентуудыг LangChain болон DSPy ашиглан зохион байгуулах

Сайжруулсан програм хангамжийн архитектурт зориулж LangChain болон DSPy-тэй хиймэл оюун ухааны агентуудыг зохион байгуулах

Танилцуулга

Өнөөгийн хурдацтай дижитал орчинд хиймэл оюун ухаан (AI) болон Machine Learning (ML) чадавхийг нэгтгэснээр програм хангамжийн системүүд улам бүр төвөгтэй болж байна. Үүний үр дүнд хиймэл оюун ухааны агентуудыг үр дүнтэй удирдаж чадах өргөтгөх боломжтой, уян хатан системийг зохион бүтээх нь програм хангамжийн инженерүүдийн тулгамдсан асуудал болоод байна. Энэхүү нийтлэл нь LangChain болон DSPy ашиглан AI агентуудыг хэрэгжүүлэхэд чиглэгдэж, үр ашигтай програм хангамжийн архитектурыг зохион бүтээхэд хиймэл оюун ухаан, програм хангамжийн инженерчлэл, зохион байгуулалтын хэрэгслүүдийн огтлолцлыг судлах болно.

** AI зохион байгуулалтын хэрэгцээ**

Уламжлалт програм хангамжийн системүүд нь ихэвчлэн цул архитектураар бүтээгдсэн бөгөөд бүх бүрэлдэхүүн хэсгүүд нь хоорондоо нягт уялдаатай, шугаман байдлаар хамтран ажилладаг. Гэсэн хэдий ч AI болон ML бий болсноор програм хангамжийн системүүд улам бүр тархаж, төвлөрсөн бус болж, нийтлэг зорилгод хүрэхийн тулд олон агентууд хамтран ажилладаг. Энэ нь хиймэл оюун ухааны олон агентуудын хоорондын харилцан үйлчлэлийг үр дүнтэй удирдаж, зохицуулж чадах системийг зохион бүтээхийг багтаасан хиймэл оюун ухааныг зохион байгуулах хэрэгцээг бий болгосон.

LangChain: AI агентуудыг бий болгох хүрээ

LangChain нь бие биетэйгээ болон гадаад системтэй харьцах боломжтой хиймэл оюун ухааны агентуудыг бүтээх Python хүрээ юм. Энэ нь өөрчлөгдөж буй орчинд сэтгэж, суралцаж, дасан зохицож чадах агентуудыг бий болгох боломжийг хөгжүүлэгчдэд олгодог багц хэрэгсэл, номын сангуудаар хангадаг. LangChain нь Rust програмчлалын хэл дээр бүтээгдсэн бөгөөд AI агентуудыг бий болгох өндөр түвшний API-ээр хангадаг.

DSPy: Зохиолын хүрээ

DSPy нь олон тооны хиймэл оюун ухааны агентуудыг удирдан чиглүүлэх боломжтой тархсан системийг бий болгох Python хүрээ юм. Энэ нь хөгжүүлэгчдэд олон агентуудын хоорондын нарийн төвөгтэй харилцан үйлчлэлийг удирдах чадвартай, өргөтгөх боломжтой, уян хатан системийг зохион бүтээх, байрлуулах боломжийг олгодог багц хэрэгсэл, номын сангуудаар хангадаг. DSPy нь Apache Kafka мессежийн систем дээр бүтээгдсэн бөгөөд тараагдсан системийг бий болгох өндөр түвшний API өгдөг.

** LangChain болон DSPy-тэй хиймэл оюун ухааны агентуудыг хэрэгжүүлэх**

LangChain болон DSPy ашиглан AI агентуудыг хэрэгжүүлэхийн тулд бид дараах алхмуудыг хийх хэрэгтэй.

Агентны архитектурыг тодорхойлох: AI агентын оролт, гаралт, бусад агентуудтай харилцах харилцааг багтаасан архитектурыг тодорхойлно.
Агент логикийг хэрэгжүүлэх: LangChain ашиглан AI агентын логикийг хэрэгжүүлэх, үүнд учир шалтгаан, суралцах, дасан зохицох механизмууд орно.
Агентын харилцан үйлчлэлийг зохицуулах: Харилцаа холбооны протоколууд болон өгөгдөл солилцох механизм зэрэг олон хиймэл оюун ухааны агентуудын хоорондын харилцан үйлчлэлийг зохицуулахын тулд DSPy ашиглана уу.
Системийг байршуулах: Системийг үүлэн платформ эсвэл Docker гэх мэт контейнержуулах хүрээ ашиглан байрлуул.

Кодын жишээ: LangChain-тай энгийн хиймэл оюун ухааны агентыг хэрэгжүүлэх

LangChain ашиглан AI агентийг хэрхэн хэрэгжүүлэхийг харуулсан энгийн кодын жишээ энд байна.

langchain импортлох
langchain.chains-аас LMChain импортлох


агент = langchain.Agent(
    input_schema={"текст": str},
    output_schema={"текст": str},
    гинжин = LMCChin(
        загвар = "davinci: зааварчилгаа",
        хамгийн_урт=2048,
        температур = 0.7,
    ),
)

# Агент логикийг хэрэгжүүл
def agent_logic(оролтын_текст):
    гаралтын_текст = агент.ажиллуулах(оролтын_текст)
    гаралтын_текстийг буцаана

# Агентийг шалгана уу
input_text = "Амьдралын утга учир юу вэ?"
гаралтын_текст = агент_логик(оролтын_текст)
хэвлэх(гаралтын_текст)

Энэхүү кодын жишээ нь LangChain ашиглан AI агентийг хэрхэн тодорхойлохыг харуулж байгаа бөгөөд үүнд оролт, гаралтын схем, агентын логик орно. Агент нь том хэлний загвар (LLM) сүлжээг ашиглан хэрэгждэг бөгөөд энэ нь AI агентын нэг төрөл бөгөөд текстийг үүсгэж чаддаг.

LangChain болон DSPy-д зориулсан хамгийн их ашиглагддаг 5-10 тушаал/хэсэг

LangChain болон DSPy-д хамгийн их ашиглагддаг 5-10 тушаал/хэсэг энд байна:

langchain.Agent(): AI агентын шинэ жишээ үүсгэнэ.

агент = langchain.Agent(
    input_schema={"текст": str},
    output_schema={"текст": str},
    гинжин = LMCChin(
        загвар = "davinci: зааварчилгаа",
        хамгийн_урт=2048,
        температур = 0.7,
    ),
)

agent.run(): Өгөгдсөн оролтоор AI агентыг ажиллуулна.

гаралтын_текст = агент.ажиллуулах(оролтын_текст)

DSPy.create_cluster(): Тархсан системд зориулж шинэ зангилааны кластер үүсгэнэ.

кластер = DSPy.create_cluster(
    зангилааны_тоо = 5,
    node_type = "ажилчин",
)

DSPy.create_agent(): Хуваарилагдсан системд шинэ AI агентын жишээг үүсгэнэ.

агент = DSPy.create_agent(
    кластер = кластер,
    агент_төрөл = "LLM",
)

DSPy.deploy_agent(): AI агентийг тархсан системд байрлуулна.

DSPy.deploy_agent(
    төлөөлөгч=агент,
    кластер = кластер,
)

DSPy.get_agent_status(): AI агентын статусыг сэргээнэ.

статус = DSPy.get_agent_status(
    төлөөлөгч=агент,
    кластер = кластер,
)

DSPy.update_agent(): AI агентийг шинэ өгөгдөл эсвэл параметрээр шинэчилдэг.

DSPy.update_agent(
    төлөөлөгч=агент,
    кластер = кластер,
    new_data={"текст": "шинэ оруулах текст"},
)

DSPy.delete_agent(): AI агентийг тархсан системээс устгана.

DSPy.delete_agent(
    төлөөлөгч=агент,
    кластер = кластер,
)

DSPy.create_chain(): Тархсан системд зориулсан AI агентуудын шинэ гинжийг үүсгэнэ.

хэлхээ = DSPy.create_chain(
    агентууд=[агент1, агент2, агент3],
)

DSPy.deploy_chain(): AI агентуудын гинжийг тархсан системд байрлуулна.

DSPy.deploy_chain(
    гинж=гинж,
    кластер = кластер,
)

Дүрслэл

Chart.js ашиглан LangChain болон DSPy архитектурын дүрслэлийг энд үзүүлэв.

{
  "төрөл": "дүрээ диаграм",
  "өгөгдөл": {
    "шошго": ["LangChain", "DSPy"],
    "өгөгдлийн багц": [
      {
        "label": "AI агентууд",
        "өгөгдөл": [50, 50],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "сонголт": {
    "гарчиг": {
      "дэлгэц": үнэн,
      "текст": "LangChain ба DSPy архитектур"
    },
    "домог": {
      "дэлгэц": үнэн
    }
  }
}

Энэхүү дүрслэл нь LangChain болон DSPy хоёрын хооронд AI агентуудын хуваарилалтыг харуулж байгаа бөгөөд агентуудын 50% нь LangChain дээр, 50% нь DSPy дээр ажилладаг.

Дүгнэлт

LangChain болон DSPy нь хиймэл оюун ухааны агентуудыг бий болгох, зохион байгуулах хүчирхэг тогтолцоог бий болгож, хөгжүүлэгчдэд олон агентуудын хоорондын цогц харилцан үйлчлэлийг үр дүнтэй удирдах боломжтой, өргөтгөх боломжтой, уян хатан системийг зохион бүтээх боломжийг олгодог. Энэ нийтлэлд дурдсан алхмуудыг дагаснаар хөгжүүлэгчид LangChain болон DSPy ашиглан AI агентуудыг хэрэгжүүлж, DSPy ашиглан түгээсэн системд байрлуулж болно. Өгөгдсөн кодын жишээ болон дүрслэл нь LangChain болон DSPy-ийн чадавхийг харуулдаг бөгөөд хамгийн их ашиглагддаг 5-10 тушаал/хэсэг нь хөгжүүлэгчдэд хурдан лавлагаа өгдөг.

Сайжруулсан програм хангамжийн архитектурт зориулж AI агентуудыг LangChain болон DSPy ашиглан зохион байгуулах

Have Questions?