Íoslódáil an múnla LLM agus tokenizer | B4N1

Íoslódáil an múnla LLM agus tokenizer

9 months ago · b4n1 Read time: 4 min

** Comhtháthú DSPy le LLManna le haghaidh Tástáil Bogearraí Uathoibrithe: Paraidím Nua i nDeimhniú Cáilíochta**

Réamhrá

Tá comhtháthú déanta ar Mhúnlaí Móra Teanga (LLManna) agus Ríomhchlárú Bogearraí Doimhneacha (DSPy) tar éis an tírdhreach tástála bogearraí a athrú ó bhonn. Trí chumais LLM agus DSPy a ghiaráil, is féidir le forbróirí an próiseas tástála a uathoibriú, ag cur le hiontaofacht agus éifeachtúlacht in innealtóireacht bogearraí. San Airteagal seo, scrúdóimid conas is féidir le DSPy an próiseas tástála a shruthlíniú d’iarratais a tógadh ar LLManna, agus pléifimid na buntáistí agus na dúshláin a bhaineann leis an bparaidím seo atá ag teacht chun cinn.

Cad é DSPy?

Is leabharlann Python é DSPy a sholáthraíonn sraith uirlisí chun tástáil bogearraí a uathoibriú. Ligeann sé d'fhorbróirí cásanna tástála a chruthú agus a fhorghníomhú, monatóireacht a dhéanamh ar thorthaí tástála, agus anailís a dhéanamh ar shonraí tástála. Tá DSPy deartha chun oibriú gan uaim le LLManna, rud a chumasaíonn cruthú creataí uathoibrithe tástála sofaisticiúla.

Cad iad LLManna?

Is cineál múnla hintleachta saorga (AI) iad LLManna ar féidir leo teanga atá cosúil le duine a phróiseáil agus a ghiniúint. Cuirtear oiliúint orthu ar mhéideanna ollmhóra sonraí téacs agus is féidir leo foghlaim conas patrúin, caidrimh agus comhthéacs a aithint. Tá go leor feidhmeanna ag LLManna in innealtóireacht bogearraí, lena n-áirítear próiseáil teanga nádúrtha, anailís téacs, agus giniúint cód.

DSPy a chomhtháthú le LLManna

Cumasaíonn comhtháthú DSPy le LLManna cásanna tástála uathoibrithe a chruthú ar féidir leo cásanna casta a chur i gcrích, idirghníomhaíochtaí úsáideoirí a insamhladh, agus anailís a dhéanamh ar thorthaí tástála. Tá roinnt buntáistí ag baint leis an gcomhtháthú seo, lena n-áirítear:

  • Clúdach tástála feabhsaithe: Is féidir le DSPy cásanna tástála a ghiniúint a chlúdaíonn raon leathan cásanna, ag cinntiú go ndéantar tástáil críochnúil ar an bhfeidhmchlár.
  • ** Éifeachtúlacht mhéadaithe**: Laghdaíonn tástáil uathoibrithe le DSPy agus LLManna an t-am agus an iarracht is gá chun cásanna tástála a chur i gcrích, rud a fhágann gur féidir le forbróirí díriú ar thascanna eile.
  • Iontaofacht fheabhsaithe: Is féidir le DSPy monatóireacht a dhéanamh ar thorthaí tástála agus forbróirí a chur ar an eolas faoi aon saincheisteanna nó earráidí, ag cinntiú go bhfuil an feidhmchlár iontaofa agus cobhsaí.

Cód Samplach: Cásanna Tástála a Uathoibriú le DSPy agus LLManna

Seo bloc cód mar shampla a thaispeánann conas DSPy a úsáid le LLM chun cásanna tástála a uathoibriú:

dspy a allmhairiú
ó chlaochladáin allmhairiú AutoModelForSeq2SeqLM, AutoTokenizer


samhail = AutoModelForSeq2SeqLM.from_pretrained("t5-bonn")
tokenizer = AutoTokenizer.from_pretrained("t5-base")

# Cruthaigh cás tástála DSPy
test_case = dspy.TestCase(
    name="Cás Tástála 1",
    description="Tástáil an fheidhm logála isteach",
    céimeanna=[
        dspy.Step ("Oscail an leathanach logála isteach"),
        dspy.Step ("Cuir isteach dintiúir bhailí"),
        dspy.Step ("Cliceáil an cnaipe logáil isteach"),
    ]
)

# Rith an cás tástála ag baint úsáide as an LLM
test_results = dspy.execute_test_case(test_case, múnla, tokenizer)

# Déan anailís ar thorthaí na tástála
tástáil_torthaí.anailís()

Léiríonn an cód-bhloc seo conas cás tástála DSPy a chruthú, samhail LLM agus tokenizer a luchtú, an cás tástála a rith ag baint úsáide as an LLM, agus anailís a dhéanamh ar thorthaí na tástála.

Na 5-10 nOrd/Blúire is Mó Úsáidte

Seo iad na 5-10 n-orduithe/blúine is mó a úsáidtear le haghaidh DSPy agus LLManna:

  1. dspy.TestCase(): Cruthaítear cás tástála DSPy nua.
  2. dspy.Step(): Cuireann sé céim nua le cás tástála DSPy.
  3. dspy.execute_test_case(): Déanann sé cás tástála DSPy ag baint úsáide as LLM.
  4. samhail = AutoModelForSeq2SeqLM.from_pretrained("t5-base"): Samhail LLM a lódáil.
  5. tokenizer = AutoTokenizer.from_pretrained("t5-base"): lódálann sé tokenizer LLM.
  6. test_results.analyze(): Déantar anailís ar thorthaí cás tástála DSPy.
  7. dspy.monitor_test_results(): Déanann sé monatóireacht ar thorthaí cás tástála DSPy.
  8. dspy.alert_developer(): Tugann sé foláireamh d'fhorbróir maidir le haon saincheisteanna nó earráidí.
  9. dspy.generate_test_cases(): Gintear cásanna tástála nua ag baint úsáide as LLM.
  10. dspy.optimize_test_cases(): Optimizes cur i gcrích na gcásanna tástála ag baint úsáide as LLM.

Amharcléiriú

Seo léirshamhlú ar chomhtháthú DSPy agus LLM ag baint úsáide as Chart.js:

{
  "cineál": "barra",
  "sonraí": {
    "labels": ["Cás Tástála 1", "Cás Tástála 2", "Cás Tástála 3"],
    "tacair sonraí": [
      {
        " label " : "Am Feidhmithe na gCás Tástála",
        "sonraí": [10, 20, 30],
        "backgroundColor": "rgba(255, 99, 132, 0.2)",
        "borderColor": "rgba(255, 99, 132, 1)",
        "leithead teorann": 1
      },
      {
        " label " : " Ráta Teip na gCás Tástála",
        "sonraí": [5, 10, 15],
        "backgroundColor": "rgba(54, 162, 235, 0.2)",
        "borderColor": "rgba(54, 162, 235, 1)",
        "leithead teorann": 1
      }
    ]
  },
  "roghanna": {
    "teideal": {
      "taispeáint": fíor,
      "text": "Comhtháthú DSPy agus LLM"
    },
    "scálaí": {
      "yAiseanna": [
        {
          "ticeanna": {
            "beginAtZero": fíor
          }
        }
      ]
    }
  }
}

Léiríonn an léirshamhlú seo an t-am forghníomhaithe agus an ráta teip trí chás tástála a cuireadh i gcrích ag baint úsáide as DSPy agus LLM.

Conclúid

Tá comhtháthú DSPy le LLManna tar éis tírdhreach na tástála bogearraí a réabhlóidiú, rud a chuir ar chumas cásanna tástála uathoibrithe a chruthú ar féidir leo cásanna casta a chur i gcrích, idirghníomhaíochtaí úsáideoirí a insamhladh, agus anailís a dhéanamh ar thorthaí tástála. Trí chumais DSPy agus LLManna a ghiaráil, is féidir le forbróirí an próiseas tástála a shruthlíniú, iontaofacht agus éifeachtúlacht a fheabhsú, agus feabhas a chur ar chaighdeán iomlán a bhfeidhmchlár. De réir mar a leanann an teicneolaíocht seo ag forbairt, is féidir linn a bheith ag súil le feidhmchláir níos nuálaí fós ag DSPy agus LLManna in innealtóireacht bogearraí.


Have Questions?

Let's Talk

Contact me on LinkedIn