Жетілдірілген бағдарламалық жасақтама архитектурасы үшін LangChain және DSPy көмегімен AI агенттерін ұйымдастыру

Жақсартылған бағдарламалық жасақтама архитектурасы үшін LangChain және DSPy көмегімен AI агенттерін ұйымдастыру

Кіріспе

Бүгінгі қарқынды цифрлық ландшафтта жасанды интеллект (AI) және Machine Learning (ML) мүмкіндіктерін біріктіру арқылы бағдарламалық жүйелер барған сайын күрделене түсуде. Нәтижесінде AI агенттерін тиімді реттей алатын масштабталатын және серпімді жүйелерді жобалау бағдарламалық жасақтама инженерлері үшін өзекті мәселеге айналды. Бұл мақалада LangChain және DSPy көмегімен AI агенттерін енгізуге назар аудара отырып, тиімді бағдарламалық жасақтама архитектурасын жобалау үшін AI, бағдарламалық жасақтама және оркестрлік құралдардың қиылысы зерттеледі.

** AI оркестріне қажеттілік**

Дәстүрлі бағдарламалық жүйелер көбінесе монолитті архитектурамен құрастырылады, мұнда барлық құрамдас бөліктер бір-бірімен тығыз байланысқан және сызықты түрде бірге жұмыс істейді. Дегенмен, AI және ML пайда болуымен бағдарламалық қамтамасыз ету жүйелері барған сайын таратылып, орталықсыздандырылады, ортақ мақсатқа жету үшін бірнеше агенттер бірге жұмыс істейді. Бұл бірнеше AI агенттері арасындағы өзара әрекеттесуді тиімді басқара және үйлестіре алатын жүйелерді жобалауды қамтитын AI оркестрінің қажеттілігіне әкелді.

LangChain: AI агенттерін құруға арналған құрылым

LangChain - бұл бір-бірімен және сыртқы жүйелермен өзара әрекеттесе алатын AI агенттерін құруға арналған Python негізі. Ол әзірлеушілерге ақылға қонымды, үйренетін және өзгеретін орталарға бейімделе алатын агенттер жасауға мүмкіндік беретін құралдар мен кітапханалар жинағын қамтамасыз етеді. LangChain Rust бағдарламалау тілінің үстіне құрастырылған және AI агенттерін құру үшін жоғары деңгейлі API ұсынады.

DSPy: Оркестрация үшін негіз

DSPy - бірнеше AI агенттерін реттей алатын бөлінген жүйелерді құруға арналған Python негізі. Ол әзірлеушілерге бірнеше агенттер арасындағы күрделі өзара әрекеттесуді басқара алатын масштабталатын және серпімді жүйелерді жобалауға және орналастыруға мүмкіндік беретін құралдар мен кітапханалар жинағын қамтамасыз етеді. DSPy Apache Kafka хабар алмасу жүйесінің үстіне құрастырылған және таратылған жүйелерді құру үшін жоғары деңгейлі API ұсынады.

** LangChain және DSPy көмегімен AI агенттерін енгізу**

LangChain және DSPy көмегімен AI агенттерін енгізу үшін біз мына қадамдарды орындауымыз керек:

Агент архитектурасын анықтаңыз: AI агентінің архитектурасын, оның ішінде кірістерді, шығыстарды және басқа агенттермен өзара әрекеттесуді анықтаңыз.
Агент логикасын іске асыру: LangChain көмегімен AI агентінің логикасын, соның ішінде пайымдау, үйрену және бейімдеу механизмдерін іске асырыңыз.
Агенттің өзара әрекеттесуін реттеу: Байланыс протоколдары мен деректер алмасу механизмдерін қоса, бірнеше AI агенттері арасындағы өзара әрекеттесуді реттеу үшін DSPy пайдаланыңыз.
Жүйені қолдану: Docker сияқты бұлттық платформаны немесе контейнерлік жүйені пайдаланып жүйені орналастырыңыз.

Код мысалы: LangChain көмегімен қарапайым AI агентін енгізу

Міне, LangChain көмегімен AI агентін қалай енгізу керектігін көрсететін қарапайым код мысалы:

langchain импорттау
langchain.chains сайтынан LMChain импорттау


агент = langchain.Agent(
    input_schema={"мәтін": str},
    output_schema={"мәтін": str},
    тізбек=LLMCchin(
        модель="davinci:instructix",
        максимум_ұзындығы=2048,
        температура=0,7,
    ),
)

# Агент логикасын енгізіңіз
деf агент_логикалық(енгізу_мәтін):
    шығыс_мәтін = агент.іскеу(енгізу_мәтін)
    шығыс_мәтінін қайтару

# Агентті сынау
input_text = "Өмірдің мәні неде?"
шығыс_мәтін = агент_логикалық(енгізу_мәтін)
басып шығару(шығару_мәтін)

Бұл код мысалы LangChain көмегімен AI агентін анықтау жолын көрсетеді, оның ішінде енгізу және шығару схемалары және агент логикасы. Агент үлкен тіл үлгісі (LLM) тізбегі арқылы жүзеге асырылады, ол мәтінді негіздей алатын және жасай алатын AI агентінің түрі болып табылады.

LangChain және DSPy үшін ең көп қолданылатын 5-10 командалар/үзінділер

Міне, LangChain және DSPy үшін ең көп қолданылатын 5-10 командалар/үзінділер:

langchain.Agent(): жаңа AI агент данасын жасайды.

агент = langchain.Agent(
    input_schema={"мәтін": str},
    output_schema={"мәтін": str},
    тізбек=LLMCchin(
        модель="davinci:instructix",
        максимум_ұзындығы=2048,
        температура=0,7,
    ),
)

agent.run(): AI агентін берілген кіріспен іске қосады.

шығыс_мәтін = агент.іскеу(енгізу_мәтін)

DSPy.create_cluster(): таратылған жүйе үшін түйіндердің жаңа кластерін жасайды.

кластер = DSPy.create_cluster(
    түйіндер_саны=5,
    node_type = "жұмысшы",
)

DSPy.create_agent(): таратылған жүйе үшін жаңа AI агент данасын жасайды.

агент = DSPy.create_agent(
    кластер=кластер,
    агент_түрі = "LLM",
)

DSPy.deploy_agent(): AI агентін таратылған жүйеге орналастырады.

DSPy.deploy_agent(
    агент=агент,
    кластер=кластер,
)

DSPy.get_agent_status(): AI агентінің күйін шығарады.

күй = DSPy.get_agent_status(
    агент=агент,
    кластер=кластер,
)

DSPy.update_agent(): AI агентін жаңа деректермен немесе параметрлермен жаңартады.

DSPy.update_agent(
    агент=агент,
    кластер=кластер,
    new_data={"text": "жаңа енгізу мәтіні"},
)

DSPy.delete_agent(): AI агентін таратылған жүйеден жояды.

DSPy.delete_agent(
    агент=агент,
    кластер=кластер,
)

DSPy.create_chain(): таратылған жүйе үшін AI агенттерінің жаңа тізбегін жасайды.

тізбек = DSPy.create_chain(
    агенттер=[агент1, агент2, агент3],
)

DSPy.deploy_chain(): AI агенттерінің тізбегін таратылған жүйеге орналастырады.

DSPy.deploy_chain(
    тізбек=тізбек,
    кластер=кластер,
)

визуализация

Міне, Chart.js арқылы LangChain және DSPy архитектурасының визуализациясы:

{
  "type": "дөңгелек диаграмма",
  «деректер»: {
    "labels": ["LangChain", "DSPy"],
    "деректер жинағы": [
      {
        "label": "AI агенттері",
        "деректер": [50, 50],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "опциялар": {
    "атауы": {
      «дисплей»: шын,
      "text": "LangChain және DSPy архитектурасы"
    },
    "легенда": {
      «дисплей»: шын
    }
  }
}

Бұл визуализация AI агенттерінің LangChain және DSPy арасында таралуын көрсетеді, агенттердің 50% LangChain жүйесінде және 50% DSPy жүйесінде жұмыс істейді.

Қорытынды

LangChain және DSPy AI агенттерін құру және ұйымдастыру үшін қуатты негізді қамтамасыз етеді, бұл әзірлеушілерге бірнеше агенттер арасындағы күрделі өзара әрекеттесуді тиімді басқара алатын масштабталатын және серпімді жүйелерді жобалауға мүмкіндік береді. Осы мақалада көрсетілген қадамдарды орындау арқылы әзірлеушілер AI агенттерін LangChain және DSPy арқылы іске асыра алады және оларды DSPy арқылы таратылған жүйеге орналастырады. Берілген код мысалдары мен визуализация LangChain және DSPy мүмкіндіктерін көрсетеді және ең көп қолданылатын 5-10 пәрмендер/үзінділер әзірлеушілерге жылдам анықтама береді.

Жетілдірілген бағдарламалық жасақтама архитектурасы үшін LangChain және DSPy көмегімен AI агенттерін ұйымдастыру

Have Questions?