AI агентуудыг LangChain болон DSPy ашиглан өргөтгөх боломжтой, уян хатан програм хангамжийн архитектурт зориулж зохион байгуулах | B4N1

AI агентуудыг LangChain болон DSPy ашиглан өргөтгөх боломжтой, уян хатан програм хангамжийн архитектурт зориулж зохион байгуулах

5 months ago · b4n1 Read time: 4 min

Танилцуулга

Програм хангамжийн системийн өсөн нэмэгдэж буй нарийн төвөгтэй байдал нь хиймэл оюун ухаанд суурилсан архитектуруудыг хөгжүүлэхэд хүргэсэн бөгөөд энэ нь олон тооны AI агентуудыг үр дүнтэй удирдаж, зохион байгуулж чаддаг. LangChain болон DSPy нь хиймэл оюун ухааны агент зохион байгуулалтад зориулсан бат бөх платформоор хангаж, өргөтгөх боломжтой, уян хатан програм хангамжийн архитектурыг бий болгох боломжийг олгодог хүчирхэг хоёр хүрээ юм. Энэ нийтлэлд бид LangChain болон DSPy ашиглан хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурын хэрэгжилтийг судлах бөгөөд Ansible болон AWS Kiro зэрэг DevOps хэрэгслүүдийг өргөтгөх чадвар, уян хатан байдал, нэгтгэхэд анхаарлаа хандуулах болно.

LangChain болон DSPy гэж юу вэ?

LangChain нь байгалийн хэл боловсруулах (NLP) болон машин сургалтын (ML) техникийг ашиглан харилцан ярианы хиймэл оюун ухааны агентуудыг бий болгох боломжийг олгодог Python хүрээ юм. Энэ нь хиймэл оюун ухааны агентуудыг төрөл бүрийн програм, үйлчилгээтэй нэгтгэх энгийн бөгөөд ойлгомжтой API-г өгдөг.

Нөгөө талаас DSPy нь AI агент зохион байгуулахад өндөр гүйцэтгэлтэй, өргөтгөх боломжтой платформоор хангадаг Rust дээр суурилсан хүрээ юм. Энэ нь олон хиймэл оюун ухааны агентуудыг нэгтгэх бат бөх, уян хатан архитектурыг бий болгосноор нарийн төвөгтэй AI системийг бий болгох боломжийг олгодог.

LangChain болон DSPy ашиглахын ашиг тус

AI-д суурилсан програм хангамжийн архитектурт LangChain болон DSPy ашиглах нь хэд хэдэн давуу талыг өгдөг, үүнд:

  • ** Өргөтгөх чадвар**: LangChain болон DSPy нь хиймэл оюун ухааны агент зохион байгуулалтад зориулсан хүчирхэг платформоор хангаснаар өргөтгөх боломжтой AI системийг бий болгох боломжийг олгодог.
  • Уян хатан байдал: LangChain болон DSPy-ийг ашигласнаар хиймэл оюун ухааны системийг амархан дахин тохируулж, дахин байршуулах боломжтой тул алдаа, алдаа гарахад илүү тэсвэртэй байдаг.
  • Интеграцчилал: LangChain болон DSPy нь Ansible болон AWS Kiro зэрэг янз бүрийн DevOps хэрэгслүүдтэй саадгүй нэгдмэл байдлыг хангаж, хиймэл оюун ухааны системийг удирдах, байрлуулахад хялбар болгодог.

LangChain болон DSPy ашиглан хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг хэрэгжүүлэх

LangChain болон DSPy ашиглан хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг хэрэгжүүлэхийн тулд бид дараах алхмуудыг хийх хэрэгтэй.

  1. LangChain болон DSPy суулгах: Pip болон cargo ашиглан LangChain болон DSPy хүрээг тус тус суулгана.
  2. AI агентуудыг үүсгэх: LangChain болон DSPy ашиглан хиймэл оюун ухааны агентуудыг үүсгэж, тэдгээрийг төрөл бүрийн програм, үйлчилгээтэй нэгтгэнэ.
  3. AI агентуудыг зохион байгуулах: AI агентуудыг зохион байгуулж, нарийн төвөгтэй AI системийг бий болгохын тулд DSPy ашиглана уу.
  4. DevOps Tools-тэй нэгтгэх: LangChain болон DSPy-г Ansible болон AWS Kiro зэрэг DevOps хэрэгслүүдтэй нэгтгэж, хиймэл оюун ухааны системийг удирдах, байрлуулах.

Жишээ код: LangChain ашиглан AI агент үүсгэх

langchain импортлох

# Хэлний загвар үүсгэх
загвар = langchain.LMModel("хэлний_загвар")

# Харилцан ярианы AI агент үүсгэ
агент = langchain.ConversationalAgent(загвар)

# Хэрэглэгчийн оролтыг зохицуулах функцийг тодорхойлох
def бариулын_оролтын(оролтын_текст):
    # Хэрэглэгчийн оруулсан мэдээлэлд хариу өгөхийн тулд AI агентийг ашиглана уу
    хариу = агент.хариулах(оролтын_текст)
    хариу өгөх

# AI агентийг турших
input_text = "Сайн уу, сайн уу?"
хариулт = бариул_оролтын (оролтын_текст)
хэвлэх (хариу)

Жишээ код: AI агентуудыг DSPy ашиглан зохион байгуулах

dspy ашиглах::{Агент, Оркестр};

// AI агентуудыг үүсгэх
let agent1 = Agent::new("агент1");
let agent2 = Agent::new("агент2");

// Оркестрийн жишээ үүсгэх
let orchestration = Orchestration::new();

// Зохиолд AI агентуудыг нэмнэ
orchestration.add_agent(агент1);
orchestration.add_agent(агент2);

// Хэрэглэгчийн оролтыг зохицуулах функцийг тодорхойлно
fn handle_input(input_text: String) -> String {
    // Хэрэглэгчийн оруулгад хариу өгөхийн тулд зохион байгуулалтын жишээг ашиглана уу
    хариу өгөх = orchestration.respond(оролтын_текст);
    хариу үйлдэл
}

// Оркестрийг турших
let input_text = "Сайн уу, сайн уу?".to_string();
хариултыг зөвшөөрөх = бариул_оруулга(оролтын_текст);
println!("{}", хариулт);

Хамгийн их хэрэглэгддэг 5-10 тушаал/хэсэг

LangChain болон DSPy-д хамгийн их хэрэглэгддэг 5-10 тушаал/хэсэг энд байна:

  1. langchain.LMModel("language_model"): Хэлний загварын жишээг үүсгэнэ.
  2. langchain.ConversationalAgent(model): Харилцан ярианы AI агентын жишээг үүсгэдэг.
  3. dspy::Agent::new("agent1"): AI агентын жишээг үүсгэдэг.
  4. dspy::Orchestration::new(): Оркестрийн жишээг үүсгэдэг.
  5. orchestration.add_agent(agent1): Зохиолд AI агент нэмнэ.
  6. orchestration.respond(input_text): Оркестрийг ашиглан хэрэглэгчийн оруулсан мэдээлэлд хариу өгнө.
  7. langchain.model.respond(input_text): Хэлний загварыг ашиглан хэрэглэгчийн оруулсан мэдээлэлд хариу өгнө.
  8. dspy::Agent::respond(input_text): AI агент ашиглан хэрэглэгчийн оруулсан мэдээлэлд хариу өгнө.
  9. langchain.ConversationalAgent.handle_input(input_text): Харилцан ярианы AI агент ашиглан хэрэглэгчийн оролтыг зохицуулдаг.
  10. dspy::Orchestration.handle_input(input_text): Оркестрийг ашиглан хэрэглэгчийн оролтыг зохицуулдаг.

Дүрслэл

Chart.js ашиглан LangChain болон DSPy архитектурын дүрслэлийг энд үзүүлэв.

{
  "төрөл": "бар",
  "өгөгдөл": {
    "шошго": ["LangChain", "DSPy"],
    "өгөгдлийн багц": [
      {
        "label": "Өргөтгөх чадвар",
        "өгөгдөл": [8, 9],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "хилийн өргөн": 1
      },
      {
        "label": "Тэсвэртэй байдал",
        "өгөгдөл": [9, 8],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "хилийн өргөн": 1
      },
      {
        "label": "Интеграци",
        "өгөгдөл": [8, 9],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "хилийн өргөн": 1
      }
    ]
  },
  "сонголт": {
    "масштаб": {
      "yAxes": [
        {
          "хачиг": {
            "beginAtZero": үнэн
          }
        }
      ]
    }
  }
}

Энэхүү дүрслэл нь LangChain болон DSPy-ийн өргөтгөх чадвар, уян хатан байдал, нэгтгэх чадварыг харуулдаг.

Дүгнэлт

LangChain болон DSPy нь AI агент зохион байгуулалтад зориулсан бат бөх платформоор хангаснаар өргөтгөх боломжтой, уян хатан програм хангамжийн архитектурыг бий болгох хүчирхэг хүрээ юм. LangChain болон DSPy-ийг ашигласнаар хөгжүүлэгчид үр ашигтай, өргөтгөх боломжтой, уян хатан хиймэл оюун ухааны цогц системийг бий болгож чадна. LangChain болон DSPy-ийн хэрэглээ нь янз бүрийн DevOps хэрэгслүүдтэй саадгүй нэгдэх боломжийг олгож, AI системийг удирдах, байрлуулахад хялбар болгодог.

Have Questions?

Let's Talk

Contact me on LinkedIn