אָרטשעסטראַטינג אַי אַגענץ פֿאַר דעוואָפּס אַוטאָמאַטיאָן: אַ LangChain און DSPy צוגאַנג | B4N1

אָרטשעסטראַטינג אַי אַגענץ פֿאַר דעוואָפּס אַוטאָמאַטיאָן: אַ LangChain און DSPy צוגאַנג

6 months ago · b4n1 Tiempo de lectura: 5 min

# הקדמה

די פעלד פון DevOps האט אַנדערגאָן באַטייַטיק טראַנספאָרמאַציע אין די לעצטע יאָרן, מיט די ינאַגריישאַן פון אַרטיפיסיאַל ינטעלליגענסע (AI) און מאַשין לערנען (ML) ינקריסינגלי באַוווסט. איינער פון די שליסל געביטן ווו אַי איז אַ היפּש פּראַל איז אין די מעלוכע פון ​​אָטאַמיישאַן. דורך לעווערידזשינג אַי אגענטן, אָרגאַנאַזיישאַנז קענען סטרימליין זייער ווייכווארג אַנטוויקלונג וואָרקפלאָוז, רעדוצירן מאַנואַל ערראָרס און פֿאַרבעסערן קוילעלדיק עפעקטיווקייַט.

אין דעם אַרטיקל, מיר וועלן דעלוו אין די וועלט פון אַי-געטריבן DevOps אָטאַמיישאַן, פאָוקיסינג אויף די LangChain און DSPy פראַמעוואָרקס. מיר וועלן ויספאָרשן ווי די מכשירים קענען ווערן גענוצט צו שאַפֿן פּראָואַקטיוו אַרויסגעבן האַכלאָטע סיסטעמען און אָטאַמייט ווייכווארג אַנטוויקלונג וואָרקפלאָווס. אין דערצו, מיר וועלן צושטעלן אַ פּראַקטיש בייַשפּיל פון ווי צו ויסשטימען גרויס שפּראַך מאָדעלס (LLMs) אין דיין דעוואָפּס רערנ - ליניע.

וואָס זענען LangChain און DSPy?

איידער מיר ונטערטוקנ זיך אין די דעטאַילס פון אַי-געטריבן DevOps אָטאַמיישאַן, לאָזן אונדז נעמען אַ קורץ קוק אין די LangChain און DSPy פראַמעוואָרקס.

לאנגטשיין

LangChain איז אַן אָפֿן-מקור פריימווערק וואָס ינייבאַלז דעוועלאָפּערס צו בויען קאַנווערסיישאַנאַל אַי אַפּלאַקיישאַנז ניצן גרויס שפּראַך מאָדעלס (LLMs). עס גיט אַ פּשוט און ינטואַטיוו API פֿאַר ינטעראַקטינג מיט LLMs, אַלאַוינג דעוועלאָפּערס צו שאַפֿן מנהג קאַנווערסיישאַנאַל ינטערפייסיז פֿאַר זייער אַפּלאַקיישאַנז.

LangChain שטיצט אַ ברייט קייט פון LLMs, אַרייַנגערעכנט פאָלקס מאָדעלס ווי LLaMA, BERT און Roberta. עס אויך גיט אַ קייט פון מכשירים פֿאַר פיין-טונינג און קאַסטאַמייזינג LLMs צו פּאַסן ספּעציפיש נוצן קאַסעס.

דספּי

DSPy איז אַ פּיטהאָן ביבליאָטעק וואָס גיט אַ פּשוט און עפעקטיוו וועג צו ויסשטימען אַי מאָדעלס אין דיין DevOps רערנ - ליניע. עס שטיצט אַ ברייט קייט פון אַי פראַמעוואָרקס, אַרייַנגערעכנט LangChain, און גיט אַ קייט פון מכשירים פֿאַר אָטאַמייטינג אַי-געטריבן וואָרקפלאָוז.

DSPy איז דיזיינד צו אַרבעטן סימלאַסלי מיט פאָלקס DevOps מכשירים ווי Jenkins, GitLab און Docker, וואָס מאכט עס אַן אידעאל ברירה פֿאַר אָרגאַנאַזיישאַנז וואָס ווילן צו ויסשטימען אַי אין זייער יגזיסטינג DevOps ינפראַסטראַקטשער.

אָרטשעסטינג אַי אַגענץ פֿאַר דעוואָפּס אַוטאָמאַטיאָן

איצט אַז מיר האָבן אַ קורץ איבערבליק פון LangChain און DSPy, לאָזן אונדז ויספאָרשן ווי די פראַמעוואָרקס קענען זיין געוויינט צו אָרקעסטרירן אַי אגענטן פֿאַר DevOps אָטאַמיישאַן.

פּראָאַקטיווע אַרויסגעבן האַכלאָטע

איינער פון די הויפּט בענעפיץ פון אַי-געטריבן DevOps אָטאַמיישאַן איז די פיייקייט צו פּראָואַקטיוולי סאָלווע ישוז איידער זיי ווערן הויפּט פּראָבלעמס. LangChain און DSPy קענען ווערן גענוצט צו שאַפֿן מנהג קאַנווערסיישאַנאַל ינטערפייסיז וואָס ינטעראַקט מיט LLMs צו ידענטיפיצירן פּאָטענציעל ישוז און צושטעלן רעקאַמאַנדיישאַנז פֿאַר האַכלאָטע.

דאָ איז אַ פּשוט בייַשפּיל פון ווי דאָס קען אַרבעטן:

אַרייַנפיר לאַנגטשאַין
פֿון langchain.chat_models אַרייַנפיר ללאַמאַ

# שאַפֿן אַ LangChain שמועס מאָדעל
chat_model = LLaMA()

# דעפינירן אַ פונקציע צו ינטעראַקט מיט די שמועס מאָדעל
דעפ ינטעראַקט_מיט_טשאַט_מאָדעל (פראַמפּט):
    ענטפער = chat_model.run (prompt)
    צוריקקומען ענטפער

# דעפינירן אַ פונקציע צו ידענטיפיצירן פּאָטענציעל ישוז
דעף ידענטיפיצירן_יססועס (קאָד):
    prompt = f"ידענטיפיצירן פּאָטענציעל ישוז אין די פאלגענדע קאָד: {קאָדע}"
    ענטפער = ינטעראַקט_מיט_טשאַט_מאָדעל (פראַמפּט)
    צוריקקומען ענטפער

# דעפינירן אַ פונקציע צו צושטעלן רעקאַמאַנדיישאַנז פֿאַר האַכלאָטע
דעף צושטעלן_רעקאַמאַנדיישאַנז (ישוז):
    prompt = f"צושטעלן רעקאַמאַנדיישאַנז פֿאַר סאַלווינג די פאלגענדע ישוז: {ישוז}"
    ענטפער = ינטעראַקט_מיט_טשאַט_מאָדעל (פראַמפּט)
    צוריקקומען ענטפער

# בייַשפּיל באַניץ
קאָד = """
דעפ לייגן (רענטגענ, י):
    צוריקקומען רענטגענ + י
"""
ישוז = ידענטיפיצירן_יססועס (קאָד)
רעקאַמאַנדיישאַנז = צושטעלן_רעקאַמאַנדיישאַנז (ישוז)
דרוק (רעקאַמאַנדיישאַנז)

אין דעם ביישפּיל, מיר דעפינירן אַ פּשוט פֿונקציע interact_with_chat_model וואָס ינטעראַקץ מיט די LangChain שמועס מאָדעל צו צושטעלן אַ ענטפער צו אַ געגעבן פּינטלעך. דערנאָך מיר דעפינירן צוויי נאָך פאַנגקשאַנז 'ידענטיפי_יססועס' און 'צושטעלן_רעקאַמאַנדיישאַנז' וואָס נוצן די שמועס מאָדעל צו ידענטיפיצירן פּאָטענציעל ישוז אין עטלעכע מוסטער קאָד און צושטעלן רעקאַמאַנדיישאַנז פֿאַר האַכלאָטע.

אָטאַמייטינג וואָרקפלאָווס פון ווייכווארג אַנטוויקלונג

LangChain און DSPy קענען אויך זיין געוויינט צו אָטאַמייט ווייכווארג אַנטוויקלונג וואָרקפלאָוז דורך ינטאַגרייטינג אַי מאָדעלס אין דיין יגזיסטינג דעוואָפּס רערנ - ליניע.

דאָ ס אַ בייַשפּיל פון ווי דאָס קען אַרבעטן:

אַרייַנפיר דספּי
פֿון dspy אַרייַנפיר וואָרקפלאָוו

# דעפינירן אַ DSPy וואָרקפלאָוו
וואָרקפלאָוו = וואָרקפלאָוו ()

# דעפינירן אַ אַרבעט צו לויפן אַ קאָד אַנאַליסיס געצייַג
דעפ run_code_analysis (קאָדע):
    # לויפן אַ קאָד אַנאַליסיס געצייַג צו ידענטיפיצירן פּאָטענציעל ישוז
    ישוז = []
    #...
    צוריקקומען ישוז

# דעפינירן אַ אַרבעט צו צושטעלן רעקאַמאַנדיישאַנז פֿאַר האַכלאָטע
דעף צושטעלן_רעקאַמאַנדיישאַנז (ישוז):
    # ניצן די LangChain שמועס מאָדעל צו צושטעלן רעקאַמאַנדיישאַנז
    prompt = f"צושטעלן רעקאַמאַנדיישאַנז פֿאַר סאַלווינג די פאלגענדע ישוז: {ישוז}"
    ענטפער = langchain.chat_model.run (prompt)
    צוריקקומען ענטפער

# דעפינירן אַ אַרבעט צו צעוויקלען די קאָד
def deploy_code (קאָדע):
    # צעוויקלען די קאָד צו אַ פּראָדוקציע סוויווע
    #...

# דעפינירן די וואָרקפלאָוו
workflow.add_task (run_code_analysis)
workflow.add_task (פאָרשטעלן_רעקאַמאַנדיישאַנז)
workflow.add_task(דיפּלוי_קאָדע)

# לויפן די וואָרקפלאָוו
workflow.run()

אין דעם בייַשפּיל, מיר דעפינירן אַ פּשוט DSPy וואָרקפלאָוו וואָס באשטייט פון דריי טאַסקס: לויפן אַ קאָד אַנאַליסיס געצייַג, פּראַוויידינג רעקאַמאַנדיישאַנז פֿאַר האַכלאָטע און דיפּלויינג די קאָד. מיר דעמאָלט דעפינירן די וואָרקפלאָוו דורך אַדינג יעדער אַרבעט און לויפן עס.

שפּיץ 5-10 מערסט געוויינט קאַמאַנדז / סניפּאַץ

דאָ זענען עטלעכע פון ​​די מערסט קאַמאַנדז און סניפּאַץ פֿאַר LangChain און DSPy:

לאנגטשיין

  • langchain.chat_models.LLaMA(): שאַפֿן אַ LangChain שמועס מאָדעל מיט די LLaMA מאָדעל.
  • langchain.chat_model.run (prompt): לויפן די שמועס מאָדעל מיט אַ געגעבן פּינטלעך.
  • langchain.chat_model.interact_with(prompt): ינטעראַקט מיט די שמועס מאָדעל ניצן אַ געגעבן פּינטלעך.

דספּי

  • dspy.Workflow(): שאַפֿן אַ DSPy וואָרקפלאָוו.
  • workflow.add_task(task): לייג אַ אַרבעט צו די וואָרקפלאָוו.
  • workflow.run(): לויפן די וואָרקפלאָוו.

וויסואַליזאַטיאָן

דאָ איז אַ פּשוט וויזשוואַלאַזיישאַן פון די וואָרקפלאָוו ניצן Chart.js:

{
  "type": "באַר",
  "דאַטן": {
    "labels": ["קאָוד אַנאַליסיס", "רעקאַמאַנדיישאַנז", "דיפּלוימאַנט"],
    "דאַטאַסעטס": [
      {
        "label": "וואָרקפלאָוו",
        "דאַטן": [10, 20, 30],
        "backgroundColor": [
          "rgba(255, 99, 132, 0.2)",
          "rgba(54, 162, 235, 0.2)",
          "רגבאַ(255, 206, 86, 0.2)"
        ],
        "borderColor": [
          "rgba(255, 99, 132, 1)",
          "rgba(54, 162, 235, 1)",
          "רגבאַ(255, 206, 86, 1)"
        ],
        "באָרדערווידטה": 1
      }
    ]
  },
  "אָפּציעס": {
    "טיטל": {
      "ווייַז": אמת,
      "text": "וואָרקפלאָוו"
    },
    "סקאַלעס": {
      "יאַקסעס": [
        {
          "טיקס": {
            "באַגינאַט זעראָ": אמת
          }
        }
      ]
    }
  }
}

די וויזשוואַלאַזיישאַן ווייזט אַ פּשוט באַר טשאַרט וואָס רעפּראַזענץ די וואָרקפלאָוו, מיט דריי באַרס רעפּריזענטינג די קאָד אַנאַליסיס, רעקאַמאַנדיישאַנז און דיפּלוימאַנט טאַסקס.

# מסקנא

אין דעם אַרטיקל, מיר יקספּלאָרד די וועלט פון אַי-געטריבן DevOps אָטאַמיישאַן ניצן LangChain און DSPy. מיר האָבן געזען ווי די פראַמעוואָרקס קענען ווערן גענוצט צו שאַפֿן פּראָואַקטיוו אַרויסגעבן האַכלאָטע סיסטעמען און אָטאַמייט ווייכווארג אַנטוויקלונג וואָרקפלאָווס. מיר אויך צוגעשטעלט פּראַקטיש ביישפילן פון ווי צו ויסשטימען LLMs אין דיין DevOps רערנ - ליניע און וויזשוואַלייז די וואָרקפלאָוו ניצן Chart.js.

דורך לעווערידזשינג די מאַכט פון אַי און אָטאַמיישאַן, אָרגאַנאַזיישאַנז קענען סטרימליין זייער ווייכווארג אַנטוויקלונג וואָרקפלאָוז, רעדוצירן מאַנואַל ערראָרס און פֿאַרבעסערן קוילעלדיק עפעקטיווקייַט. צי איר זענט אַ DevOps ינזשעניר, אַ ווייכווארג דעוועלאָפּער אָדער אַ געשעפט פירער, LangChain און DSPy זענען שטאַרק מכשירים וואָס קענען העלפֿן איר דערגרייכן דיין גאָולז.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn