Təkmil proqram arxitekturası üçün LangChain və DSPy ilə süni intellekt agentlərinin təşkili | B4N1

Təkmil proqram arxitekturası üçün LangChain və DSPy ilə süni intellekt agentlərinin təşkili

8 months ago · b4n1 Read time: 4 min

Təkmilləşdirilmiş proqram arxitekturası üçün LangChain və DSPy ilə süni intellekt agentlərinin təşkili

Giriş

Günümüzün sürətlə inkişaf edən rəqəmsal mənzərəsində proqram sistemləri Süni İntellekt (AI) və Maşın Öyrənmə (ML) imkanlarının inteqrasiyası ilə getdikcə mürəkkəbləşir. Nəticədə, süni intellekt agentlərini effektiv şəkildə idarə edə bilən genişlənə bilən və davamlı sistemlərin layihələndirilməsi proqram mühəndisləri üçün aktual problemə çevrildi. Bu məqalə, LangChain və DSPy-dən istifadə edərək AI agentlərinin tətbiqinə diqqət yetirməklə, səmərəli proqram arxitekturasını dizayn etmək üçün AI, proqram mühəndisliyi və orkestrləşdirmə vasitələrinin kəsişməsini araşdırır.

AI Orkestrasiyasına Ehtiyac

Ənənəvi proqram sistemləri tez-tez monolit arxitektura ilə dizayn edilir, burada bütün komponentlər sıx birləşir və xətti şəkildə birlikdə işləyir. Bununla belə, AI və ML-nin meydana çıxması ilə proqram sistemləri getdikcə daha çox paylanır və mərkəzləşdirilməz hala gəlir, bir çox agent ümumi məqsədə nail olmaq üçün birlikdə işləyir. Bu, çoxsaylı AI agentləri arasında qarşılıqlı əlaqəni effektiv şəkildə idarə edə və koordinasiya edə bilən sistemlərin layihələndirilməsini əhatə edən AI orkestrasiyası ehtiyacına səbəb oldu.

LangChain: AI agentlərinin qurulması üçün çərçivə

LangChain, bir-biri ilə və xarici sistemlərlə qarşılıqlı əlaqə qura bilən AI agentləri yaratmaq üçün Python çərçivəsidir. O, tərtibatçılara düşünə, öyrənə və dəyişən mühitlərə uyğunlaşa bilən agentlər yaratmağa imkan verən bir sıra alətlər və kitabxanalar təqdim edir. LangChain Rust proqramlaşdırma dilinin üzərində qurulub və AI agentləri yaratmaq üçün yüksək səviyyəli API təmin edir.

DSPy: Orkestr üçün Çərçivə

DSPy, çoxsaylı AI agentlərini idarə edə bilən paylanmış sistemlər qurmaq üçün Python çərçivəsidir. O, tərtibatçılara çoxsaylı agentlər arasında mürəkkəb qarşılıqlı əlaqəni idarə edə bilən miqyaslana bilən və möhkəm sistemləri layihələndirməyə və yerləşdirməyə imkan verən bir sıra alətlər və kitabxanalar təqdim edir. DSPy Apache Kafka mesajlaşma sisteminin üzərində qurulub və paylanmış sistemlərin qurulması üçün yüksək səviyyəli API təmin edir.

LangChain və DSPy ilə AI agentlərinin tətbiqi

LangChain və DSPy istifadə edərək süni intellekt agentlərini tətbiq etmək üçün bu addımları yerinə yetirməliyik:

  1. Agent Arxitekturasını Müəyyən edin: Girişlər, çıxışlar və digər agentlərlə qarşılıqlı əlaqələr də daxil olmaqla, AI agentinin arxitekturasını müəyyənləşdirin.
  2. Agent Məntiqini həyata keçirin: LangChain-dən istifadə edərək AI agentinin məntiqini, o cümlədən əsaslandırma, öyrənmə və uyğunlaşma mexanizmlərini həyata keçirin.
  3. Agent Qarşılıqlı Əlaqələri Təşkilatlayın: Rabitə protokolları və məlumat mübadiləsi mexanizmləri daxil olmaqla, çoxsaylı AI agentləri arasında qarşılıqlı əlaqəni təşkil etmək üçün DSPy-dən istifadə edin.
  4. Sistemi yerləşdirin: Bulud platformasından və ya Docker kimi konteynerləşdirmə çərçivəsindən istifadə edərək sistemi yerləşdirin.

Kod nümunəsi: LangChain ilə sadə süni intellekt agentinin tətbiqi

LangChain-dən istifadə edərək AI agentinin necə həyata keçiriləcəyini nümayiş etdirən sadə kod nümunəsi:

idxal langchain
langchain.chains-dən LMChain idxal edir


agent = langchain.Agent(
    input_schema={"mətn": str},
    output_schema={"mətn": str},
    zəncir=LLMCzəncir(
        model="davinci:instructix",
        maksimum_uzunluq=2048,
        temperatur = 0.7,
    ),
)

# Agent məntiqini həyata keçirin
def agent_məntiq(giriş_mətn):
    output_text = agent.run(input_text)
    çıxış_mətnini qaytarın

# Agenti sınayın
input_text = "Həyatın mənası nədir?"
çıxış_mətni = agent_məntiqi (giriş_mətni)
çap (çıxış_mətn)

Bu kod nümunəsi giriş və çıxış sxemləri və agentin məntiqi daxil olmaqla LangChain istifadə edərək AI agentinin necə təyin olunacağını nümayiş etdirir. Agent, mətni əsaslandıran və yarada bilən bir növ AI agenti olan Böyük Dil Modeli (LLM) zəncirindən istifadə etməklə həyata keçirilir.

LangChain və DSPy üçün ən çox istifadə edilən 5-10 əmr/parça

LangChain və DSPy üçün ən çox istifadə olunan 5-10 əmr/parçalar bunlardır:

  1. langchain.Agent(): Yeni AI agent nümunəsi yaradır.
agent = langchain.Agent(
    input_schema={"mətn": str},
    output_schema={"mətn": str},
    zəncir=LLMCzəncir(
        model="davinci:instructix",
        maksimum_uzunluq=2048,
        temperatur = 0.7,
    ),
)
  1. agent.run(): Verilmiş girişlə AI agentini işə salır.
output_text = agent.run(input_text)
  1. DSPy.create_cluster(): Paylanmış sistem üçün yeni qovşaqlar klasteri yaradır.
klaster = DSPy.create_cluster(
    qovşaqların_sayı=5,
    node_type="işçi",
)
  1. DSPy.create_agent(): Paylanmış sistem üçün yeni AI agent nümunəsi yaradır.
agent = DSPy.create_agent(
    çoxluq = çoxluq,
    agent_type="LLM",
)
  1. DSPy.deploy_agent(): AI agentini paylanmış sistemə yerləşdirir.
DSPy.deploy_agent(
    agent=agent,
    çoxluq = çoxluq,
)
  1. DSPy.get_agent_status(): AI agentinin statusunu alır.
status = DSPy.get_agent_status(
    agent=agent,
    çoxluq = çoxluq,
)
  1. DSPy.update_agent(): AI agentini yeni məlumat və ya parametrlərlə yeniləyir.
DSPy.update_agent(
    agent=agent,
    çoxluq = çoxluq,
    new_data={"text": "yeni daxiletmə mətni"},
)
  1. DSPy.delete_agent(): AI agentini paylanmış sistemdən silir.
DSPy.delete_agent(
    agent=agent,
    çoxluq = çoxluq,
)
  1. DSPy.create_chain(): Paylanmış sistem üçün yeni AI agentləri zənciri yaradır.
zəncir = DSPy.create_chain(
    agentlər=[agent1, agent2, agent3],
)
  1. DSPy.deploy_chain(): AI agentləri zəncirini paylanmış sistemə yerləşdirir.
DSPy.deploy_chain(
    zəncir=zəncir,
    çoxluq = çoxluq,
)

Vizuallaşdırma

Budur, Chart.js istifadə edərək LangChain və DSPy arxitekturasının vizuallaşdırılması:

{
  "type": "pieChart",
  "data": {
    "etiketlər": ["LangChain", "DSPy"],
    "verilənlər dəsti": [
      {
        "label": "AI agentləri",
        "data": [50, 50],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "seçimlər": {
    "başlıq": {
      "ekran": doğru,
      "text": "LangChain və DSPy Arxitektura"
    },
    "əfsanə": {
      "ekran": doğrudur
    }
  }
}

Bu vizuallaşdırma AI agentlərinin LangChain və DSPy arasında paylanmasını nümayiş etdirir, agentlərin 50%-i LangChain-də, 50%-i isə DSPy-də işləyir.

Nəticə

LangChain və DSPy süni intellekt agentlərinin yaradılması və orkestrləşdirilməsi üçün güclü çərçivə təmin edir, tərtibatçılara çoxsaylı agentlər arasında mürəkkəb qarşılıqlı əlaqəni effektiv şəkildə idarə edə bilən miqyaslana bilən və möhkəm sistemlər dizayn etməyə imkan verir. Bu məqalədə göstərilən addımları izləməklə tərtibatçılar LangChain və DSPy istifadə edərək süni intellekt agentlərini tətbiq edə və onları DSPy istifadə edərək paylanmış sistemə yerləşdirə bilərlər. Təqdim olunan kod nümunələri və vizuallaşdırma LangChain və DSPy imkanlarını nümayiş etdirir və ən çox istifadə olunan 5-10 əmr/parçalar tərtibatçılar üçün sürətli istinad təmin edir.

Have Questions?

Let's Talk

Contact me on LinkedIn