DSPy клиентін жасаңыз

DSPy және LangChain көмегімен GenAI қолдайтын бағдарламалық жасақтаманы әзірлеу құбырларын ұйымдастыру

Кіріспе

Генеративті AI (GenAI) технологияларының пайда болуымен бағдарламалық жасақтаманы әзірлеу ландшафты айтарлықтай өзгеруде. GenAI үлгілерінің кодты жасаудан бастап тестілеу мен орналастыруға дейінгі бағдарламалық жасақтаманы әзірлеуге деген көзқарасымызды түбегейлі өзгерту мүмкіндігі бар. Бұл мақалада DSPy және LangChain көмегімен GenAI-мен жұмыс істейтін бағдарламалық жасақтаманы әзірлеу құбырларын қалай ұйымдастыру керектігін қарастырамыз. Біз кеңейтілген бағдарламалық жасақтаманы әзірлеу құбырлары үшін GenAI үлгілерін DSPy және LangChain-пен біріктіруге назар аудара отырып, AI басқаратын DevOps автоматтандыру әлемін зерттейміз.

DSPy және LangChain дегеніміз не?

DSPy — GenAI үлгілерін бағдарламалық жасақтаманы әзірлеу құбырларымен біріктірудің қарапайым және тиімді әдісін ұсынатын Python кітапханасы. Ол әзірлеушілерге GenAI қуатын кодты жасау, тестілеу және орналастыру сияқты тапсырмаларды автоматтандыру үшін пайдалануға мүмкіндік береді.

LangChain, екінші жағынан, сөйлесу AI қосымшаларын құруға арналған құралдар жиынтығын ұсынатын Python кітапханасы. Ол әзірлеушілерге GenAI үлгілерімен әрекеттесе алатын чат-боттарды, дауыстық көмекшілерді және басқа сөйлесу интерфейстерін жасауға мүмкіндік береді.

DSPy және LangChain қолданудың артықшылықтары

DSPy және LangChain интеграциясы бағдарламалық жасақтаманы әзірлеу құбырлары үшін бірнеше артықшылықтарды ұсынады:

Жақсартылған тиімділік: GenAI үлгілері қайталанатын тапсырмаларды автоматтандырып, әзірлеушілерді жоғары деңгейлі тапсырмаларға назар аударуға босатады.
Жақсартылған дәлдік: GenAI үлгілері кодтағы қателер мен сәйкессіздіктерді анықтай алады, қателер мен ақаулардың ықтималдығын азайтады.
Өнімділікті арттыру: GenAI үлгілері кодты жасап, тестілеуді автоматтандырады, бұл бағдарламалық жасақтаманы әзірлеуге қажетті уақыт пен күш-жігерді азайтады.
Жақсы ынтымақтастық: LangChain сөйлесу интерфейсі әзірлеушілерге GenAI үлгілерімен табиғи және интуитивті түрде өзара әрекеттесуге мүмкіндік береді.

DSPy және LangChain көмегімен GenAI қолдайтын бағдарламалық жасақтаманы әзірлеу құбырларын енгізу

DSPy және LangChain көмегімен GenAI қолдайтын бағдарламалық жасақтаманы әзірлеу құбырын енгізу үшін мына қадамдарды орындаңыз:

DSPy және LangChain орнатыңыз: DSPy және LangChain кітапханаларын pip: pip install dspy langchain көмегімен орнатыңыз.
DSPy конфигурациялау: GenAI үлгісіне қосылу үшін DSPy конфигурациялаңыз. Бұл әдетте Google Cloud AI платформасы немесе Amazon SageMaker сияқты бұлтқа негізделген GenAI қызметіне қосылымды орнатуды қамтиды.
LangChain қолданбасын жасау: GenAI үлгісімен әрекеттесу үшін LangChain қолданбасын жасаңыз. Бұл әдетте Rasa немесе Dialogflow сияқты кітапхана арқылы сөйлесу интерфейсін анықтауды қамтиды.
DSPy және LangChain біріктіру: GenAI моделінің бағдарламалық жасақтаманы әзірлеу құбырымен өзара әрекеттесуі үшін DSPy және LangChain біріктіріңіз.

Мысал коды: DSPy және LangChain біріктіру

Міне, DSPy және LangChain біріктіру жолын көрсететін мысал код блогы:

dspy импорттау
langchain импортынан LLAMA


клиент = dspy.Client()

# LangChain LLAMA үлгісін жасаңыз
үлгі = LLAMA(
    api_key = "СІЗДІҢ_API_КІЛ",
    api_secret="СІЗДІҢ_API_SECRET",
    үлгі_атауы = "СІЗДІҢ_МОДЕЛЬ_NAME",
)

# GenAI үлгісін пайдаланып код жасау функциясын анықтаңыз
def gener_code(тіл, код):
    # GenAI үлгісіне қосылу үшін DSPy пайдаланыңыз
    client.connect(үлгі)

    # Код жасау үшін GenAI үлгісін пайдаланыңыз
    жасалған_код = client.generate_code(тіл, код)

    # Жасалған кодты қайтарыңыз
    жасалған_кодты қайтарыңыз

# Жасалған кодты тексеру үшін функцияны анықтаңыз
def test_code(код):
    # GenAI үлгісіне қосылу үшін DSPy пайдаланыңыз
    client.connect(үлгі)

    # Кодты тексеру үшін GenAI үлгісін пайдаланыңыз
    сынақ_нәтижелері = клиент.сынақ_коды(код)

    # Сынақ нәтижелерін қайтарыңыз
    сынақ_нәтижелерін қайтару

# GenAI үлгісін пайдаланып код жасаңыз
тіл = "питон"
code = "print('Сәлем әлем!')"
жасалған_код = жасау_коды (тіл, код)

# Жасалған кодты тексеріңіз
сынақ_нәтижелері = сынақ_коды (жасалған_код)

# Сынақ нәтижелерін басып шығарыңыз
басып шығару(сынақ_нәтижелері)

Ең көп қолданылатын 5-10 пәрмендер/үзінділер

Міне, DSPy және LangChain үшін ең көп қолданылатын 5-10 командалар/үзінділер:

dspy.Client.connect(model): GenAI үлгісіне DSPy арқылы қосылады.
langchain.LLAMA(api_key="СІЗДІҢ_API_KEY", api_secret="СІЗДІҢ_API_SECRET", model_name="СІЗДІҢ_МОДЕЛЬ_NAME"): LangChain LLAMA үлгісін жасайды.
dspy.Client.generate_code(language, code): кодты жасау үшін GenAI үлгісін пайдаланады.
dspy.Client.test_code(code): кодты тексеру үшін GenAI үлгісін пайдаланады.
langchain.LLAMA.interact(user_input): LangChain LLAMA үлгісін пайдаланып GenAI үлгісімен әрекеттеседі.
dspy.Client.connect(model).generate_code(language, code): GenAI үлгісіне қосылады және DSPy арқылы код жасайды.
langchain.LLAMA.interact(user_input).generate_code(language, code): GenAI үлгісімен әрекеттеседі және LangChain көмегімен код жасайды.
dspy.Client.test_code(code).generate_code(language, code): кодты тексереді және DSPy көмегімен кодты жасайды.
langchain.LLAMA.interact(user_input).test_code(code): GenAI үлгісімен әрекеттеседі және LangChain көмегімен кодты сынайды.
dspy.Client.connect(model).test_code(code).generate_code(language, code): GenAI үлгісіне қосылады, кодты сынайды және DSPy арқылы кодты жасайды.

визуализация

Міне, Chart.js арқылы GenAI қолдайтын бағдарламалық жасақтаманы әзірлеу құбырының визуализациясы:

{
  "түрі": "бар",
  «деректер»: {
    "labels": ["Код жасау", "Кодты тексеру", "Кодты орналастыру"],
    "деректер жинағы": [
      {
        "label": "GenAI моделі",
        "деректер": [10, 20, 30],
        "backgroundColor": "rgba(255, 99, 132, 0.2)",
        "borderColor": "rgba(255, 99, 132, 1)",
        "borderWidth": 1
      },
      {
        "label": "Адам әзірлеушісі",
        "деректер": [5, 10, 15],
        "backgroundColor": "rgba(54, 162, 235, 0,2)",
        "borderColor": "rgba(54, 162, 235, 1)",
        "borderWidth": 1
      }
    ]
  },
  "опциялар": {
    «атауы»: {
      "дисплей": шын,
      "text": "GenAI қолдайтын бағдарламалық жасақтаманы әзірлеу құбыры"
    },
    «таразы»: {
      "yAxes": [
        {
          «кенелер»: {
            "beginAtZero": шын
          }
        }
      ]
    }
  }
}

Бұл визуализация GenAI моделін және бағдарламалық жасақтаманы әзірлеу құбырына үлес қосып жатқан адам әзірлеушісін көрсетеді. GenAI үлгісі кодты құруға, тестілеуге және орналастыруға жауап береді, ал адам әзірлеуші жасалған кодты қарап шығуға және тексеруге жауапты.

Қорытынды

Қорытындылай келе, DSPy және LangChain интеграциясы GenAI-мен жұмыс істейтін бағдарламалық жасақтаманы әзірлеу құбырларын ұйымдастырудың қуатты әдісін ұсынады. GenAI үлгілерінің күшін пайдалана отырып, әзірлеушілер кодты жасау, тестілеу және орналастыру сияқты тапсырмаларды автоматтандырып, жоғары деңгейлі тапсырмаларға назар аудару үшін уақытты босатады. Мысал код блогы және ең көп қолданылатын 5-10 пәрмендер/үзінділер GenAI-мен жұмыс істейтін бағдарламалық жасақтаманы әзірлеу құбырын жасау үшін DSPy және LangChain біріктіру жолын көрсетеді. Визуализация бөлімі GenAI моделінің және адам әзірлеушісінің үлестерін ерекшелеп, құбырдың анық және интуитивті көрінісін береді.

DSPy клиентін жасаңыз

Have Questions?