Деректерді қабылдау құбырын жасаңыз | B4N1

Деректерді қабылдау құбырын жасаңыз

6 months ago · b4n1 Tiempo de lectura: 4 min

DSPy және LangChain көмегімен AI күші бар DevOps-ті ұйымдастыру: инциденттерді автоматтандырылған зерттеуге арналған масштабталатын архитектура

Бүгінгі қарқынды цифрлық ландшафтта DevOps командалары барған сайын күрделі мәселеге тап болады: оқиғаларды тиімді және тиімді түрде анықтау және шешу. Бағдарламалық жасақтаманың шығарылымдарының көлемі мен жылдамдығы тездеген сайын қателер мен қауіпсіздікті бұзу ықтималдығы артады. Алда болу үшін ұйымдар оқиғаларды тергеу мен шешуді автоматтандыру үшін жасанды интеллект (AI) күшін пайдаланатын инновациялық стратегияларды қабылдауы керек.

Бұл мақалада біз оқиғаларды автоматтандырылған тергеу үшін масштабталатын архитектураны жасау үшін DSPy және LangChain пайдаланудың техникалық іске асыру мәліметтерін қарастырамыз. Осы екі озық технологияның күшті жақтарын біріктіру арқылы біз DevOps тиімділігі мен тиімділігін арттыратын сенімді және тиімді жүйені қалай құру керектігін көрсетеміз.

DSPy және LangChain түсіну

Техникалық енгізуге кіріспес бұрын, DSPy және LangChain туралы қысқаша таныстырып өтейік.

DSPy

DSPy - бұл AI-мен жұмыс істейтін қолданбаларды құру және орналастыру үшін жоғары деңгейлі интерфейсті қамтамасыз ететін Python кітапханасы. Ол бірқатар мүмкіндіктерді ұсынады, соның ішінде:

  • Үлгіге қызмет көрсету: DSPy AI үлгілеріне API ретінде қызмет көрсетуге мүмкіндік береді, бұл оларды бар қолданбаларға біріктіруді жеңілдетеді.
  • Модельді басқару: DSPy AI үлгілерін басқаруға арналған құралдарды қамтамасыз етеді, соның ішінде үлгіні орналастыру, бақылау және нұсқалау.
  • Деректерді біріктіру: DSPy әртүрлі деректер көздерімен, соның ішінде дерекқорлармен, API интерфейстерімен және файлдық жүйелермен үздіксіз біріктіруге мүмкіндік береді.

LangChain

LangChain - бұл сөйлесу AI қосымшаларын құру үшін негізді қамтамасыз ететін Python кітапханасы. Ол бірқатар мүмкіндіктерді ұсынады, соның ішінде:

  • Сөйлесу интерфейстері: LangChain чат-боттар мен дауыстық көмекшілер сияқты сөйлесу интерфейстерін жасауға мүмкіндік береді.
  • Табиғи тілді өңдеу (NLP): LangChain мәтінді жіктеуді, сезімді талдауды және нысанды тануды қоса, NLP тапсырмаларына арналған құралдарды ұсынады.
  • Білім графигін басқару: LangChain сөйлесу AI қолданбалары үшін маңызды білім графиктерін құруға және басқаруға мүмкіндік береді.

Өлшемді архитектураны құру

Оқиғаларды автоматтандырылған тергеу үшін ауқымды архитектураны құру үшін біз DSPy және LangChain күшті жақтарын біріктіреміз. Біздің архитектура келесі компоненттерден тұрады:

  1. Деректерді қабылдау: Біз әртүрлі көздерден, соның ішінде журналдардан, көрсеткіштерден және API интерфейстерінен деректерді қабылдау үшін DSPy пайдаланамыз.
  2. Деректерді өңдеу: ықтимал оқиғаларды анықтау үшін AI үлгілерін қолданып, қабылданған деректерді өңдеу үшін DSPy қолданамыз.
  3. Оқиғаны анықтау: Біз LangChain қызметін инциденттерді анықтау үшін сөйлесу интерфейсін жасау үшін қолданамыз, бұл пайдаланушыларға жүйемен өзара әрекеттесуіне және оқиғаны тергеу үшін мәтінмәнді қамтамасыз етуге мүмкіндік береді.
  4. Білім графигін басқару: біз LangChain-ті білім графигін жасау және басқару үшін қолданамыз, ол оқиғалар туралы ақпаратты, соның ішінде олардың себептерін, салдарын және шешімдерін сақтайды.
  5. Ажыратымдылық: шешім қабылдауға ақпарат беру үшін білім графигін пайдалана отырып, оқиғаларды шешу үшін AI үлгілерін қолдану үшін DSPy қолданамыз.

Техникалық енгізу

Сәулетіміздің техникалық іске асырылуының егжей-тегжейін қарастырайық.

Деректерді қабылдау

Біз әртүрлі көздерден, соның ішінде журналдардан, көрсеткіштерден және API интерфейсінен деректерді қабылдау үшін DSPy қолданамыз. Біз деректерді өңдеу мен сақтауды басқаратын DSPy DataPipeline сыныбын пайдаланып деректерді қабылдау құбырын жасаймыз.

dspy файлын dsp ретінде импорттаңыз


құбыр жолы = dsp.DataPipeline()

# Құбырға деректер көздерін қосыңыз
pipeline.add_source("журналдар", dsp.LogSource())
pipeline.add_source("метрика", dsp.MetricSource())
pipeline.add_source("api", dsp.APISource())

# Құбырды іске қосыңыз
pipeline.start()

Деректерді өңдеу

Біз ықтимал оқиғаларды анықтау үшін AI үлгілерін қолданып, қабылданған деректерді өңдеу үшін DSPy қолданамыз. Біз деректерді өңдеу мен сақтауды басқаратын DSPy DataPipeline класын пайдаланып деректерді өңдеу құбырын жасаймыз.

dspy файлын dsp ретінде импорттаңыз

# Деректерді өңдеу құбырын жасаңыз
құбыр жолы = dsp.DataPipeline()

# Құбырға AI үлгілерін қосыңыз
pipeline.add_model("оқиғаны_анықтау", dsp.IncidentDetectionModel())
pipeline.add_model("аномалияны_анықтау", dsp.AnomalyDetectionModel())

# Құбырды іске қосыңыз
pipeline.start()

Оқиғаны анықтау

We'll use LangChain to create a conversational interface for incident detection, allowing users to interact with the system and provide context for incident investigation.

lc ретінде импорттау langchain

# Сөйлесу интерфейсін жасаңыз
интерфейс = lc.ConversationalInterface()

# Интерфейске чат бот қосыңыз
interface.add_chatbot("оқиғаны_анықтау", lc.Chatbot())

# Интерфейсті іске қосыңыз
interface.start()

Білім графигін басқару

We'll use LangChain to create and manage a knowledge graph, which will store information about incidents, including their causes, effects, and resolutions.

lc ретінде импорттау langchain

# Білім графигін құру
график = lc.KnowledgeGraph()

# Графикке түйіндерді қосыңыз
graph.add_node("оқиға1", lc.Node())
graph.add_node("оқиға2", lc.Node())

# Графикке жиектерді қосыңыз
graph.add_edge("оқиға1", "оқиға2", lc.Edge())

Шешім

Шешім қабылдауды ақпараттандыру үшін білім графигін пайдалана отырып, оқиғаларды шешу үшін AI үлгілерін қолдану үшін DSPy қолданамыз.

dspy файлын dsp ретінде импорттаңыз

# Ажыратымдылық құбырын жасаңыз
құбыр жолы = dsp.DataPipeline()

# Құбырға AI үлгілерін қосыңыз
pipeline.add_model("оқиға_разряд", dsp.IncidentResolutionModel())

# Құбырды іске қосыңыз
pipeline.start()

Ең көп қолданылатын 5-10 пәрмендер/үзінділер

Міне, DSPy және LangChain үшін ең көп қолданылатын 5-10 командалар/үзінділер:

DSPy

  • dsp.DataPipeline(): Деректерді қабылдау және өңдеу үшін деректер құбырын жасайды.
  • dsp.add_source(): құбырға деректер көзін қосады.
  • dsp.add_model(): Құбырға AI үлгісін қосады.
  • dsp.start(): құбырды іске қосады.
  • dsp.stop(): құбырды тоқтатады.

LangChain

  • lc.ConversationalInterface(): оқиғаны анықтау үшін сөйлесу интерфейсін жасайды.
  • lc.add_chatbot(): интерфейске чат бот қосады.
  • lc.start(): интерфейсті іске қосады.
  • lc.KnowledgeGraph(): Оқиғаларды басқару үшін білім графигін жасайды.
  • lc.add_node(): графикке түйін қосады.
  • lc.add_edge(): графикке жиекті қосады.

визуализация

Міне, Chart.js арқылы архитектурамыздың визуализациясы:

{
  "түрі": "дөңгелек диаграмма",
  «деректер»: {
    "labels": ["Деректерді қабылдау", "Деректерді өңдеу", "Оқиғаны анықтау", "Білім графигін басқару", "Ажыратымдылық"],
    "деректер жинағы": [
      {
        "label": "Архитектура құрамдастары",
        "деректер": [30, 20, 20, 15, 15],
        "фон түсі": [
          "rgba(255, 99, 132, 0,2)",
          "rgba(54, 162, 235, 0,2)",
          "rgba(255, 206, 86, 0,2)",
          "rgba(75, 192, 192, 0,2)",
          "rgba(153, 102, 255, 0,2)"
        ],
        "borderColor": [
          "rgba(255, 99, 132, 1)",
          "rgba(54, 162, 235, 1)",
          "rgba(255, 206, 86, 1)",
          "rgba(75, 192, 192, 1)",
          "rgba(153, 102, 255, 1)"
        ],
        "borderWidth": 1
      }
    ]
  },
  "опциялар": {
    «атауы»: {
      «дисплей»: шын,
      "text": "Архитектура құрамдастары"
    },
    "легенда": {
      «дисплей»: шын
    }
  }
}

Бұл визуализация біздің архитектурамыздың бес құрамдас бөлігін көрсетеді, деректерді қабылдау және өңдеу құрамдастары ең үлкен үлесті алады.

Қорытынды

Бұл мақалада біз DSPy және LangChain көмегімен оқиғаларды автоматтандырылған тергеу үшін масштабталатын архитектураны қалай құру керектігін көрсеттік. By combining the strengths of these two cutting-edge technologies, we've created a robust and efficient system that enhances DevOps efficiency and effectiveness. Біз сонымен қатар код үзінділерін және архитектураның визуализациясын қоса, практикалық іске асыру мысалын ұсындық. Осы архитектураны қабылдау арқылы ұйымдар оқиғаға жауап беру уақытын жақсарта алады, тоқтап қалу уақытын азайтады және жалпы жүйе сенімділігін арттырады.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn