Utaina te tauira LLM | B4N1

Utaina te tauira LLM

5 months ago · b4n1 Tiempo de lectura: 6 min

Te Whakatinana i te Tauira Reo Nui (LLM) Whakaritenga me LangChain me DSPy mo DevOps Automation

Whakataki

Ko te pikinga o nga Tauira Reo Nui (LLMs) kua huri i te waahi o te tukatuka reo maori, ka taea e nga miihini te mohio, te whakaputa, me te taunekeneke ki te reo tangata i roto i nga huarahi kaore ano i mua. I te mea kei te tipu haere tonu te tono mo te automation i DevOps, kua tino kitea te kaha o nga LLM ki te whakamaarama i nga mahi, te whakapai ake i te pai, me te whakaiti i nga hapa. I roto i tenei tuhinga, ka tirotirohia e matou te whakatinanatanga hangarau o LangChain me DSPy mo te mahi aunoa i nga mahi i roto i nga rerengamahi DevOps, ka matapaki i nga painga me nga wero o te whakauru i nga LLM ki DevOps, me te whakarato i nga tauira whaihua me nga waahanga waehere hei timata koe.

Te tirotiro i te Pumanawa o nga LLM i roto i te DevOps Automation

Ka taea e nga LLM te mahi aunoa i nga momo mahi i roto i nga DevOps, tae atu ki:

  • Whakaputa Waehere: Ka taea e nga LLM te whakaputa i nga waahanga waehere, nga mahi katoa, me nga tono katoa ranei i runga i nga whakaritenga, nga whakaritenga, me nga turanga waehere.
  • Tuhinga: Ka taea e nga LLM te hanga tuhinga kounga teitei, tae atu ki nga pukapuka kaiwhakamahi, tuhinga API, me nga kaiarahi hangarau.
  • Rapangarongoa: Ka taea e nga LLM te tātari i nga raarangi, te tohu patuiro, me te tautuhi i nga take, ka whakaiti i te waa me te whakapau kaha ki te whakatau raru.
  • Whakamatau: Ka taea e nga LLM te whakaputa keehi whakamatautau, te whakatairite i nga taunekeneke a te kaiwhakamahi, me te tautuhi i nga take pea i mua i te tohatoha o te waehere.
  • Whakawhitiwhiti: Ka taea e nga LLM te whakahaere i te whakawhitiwhiti korero i waenga i nga kapa, te hunga whai paanga, me nga kaihoko, te whakapai ake i te mahi tahi me te whakaiti i nga pohehe.

Te Whakatinana Hangarau me LangChain me DSPy

Ko LangChain me DSPy e rua nga anga rongonui mo te hanga tono-a-LLM. Ka whakaratohia e LangChain he API taumata teitei mo te taunekeneke me nga LLM, i te wa e tuku ana a DSPy i tetahi atanga taumata-iti ake mo te whakahaere pai.

LangChain

Ko LangChain he whare pukapuka Python e whakarato ana i te API ngawari, ngawari mo te taunekeneke me nga LLM. Ka tautokohia te whānuitanga o nga LLM, tae atu ki nga tauira rongonui penei i a BERT, RoBERTa, me XLNet.

Waehere Tauira: Ma te whakamahi i te LangChain hei Hanga Waehere

kawemai langchain


tauira = langchain.load_model("bert-base-uncased")

# Tautuhia te tohu whakangao tohu
prompt = "Tuhia he mahi Python hei tatau i te tapeke o nga tau e rua"

# Hangaia te waehere
waehere = model.generate(prompt)

tā(waehere)

Ka whakamahia e tenei snippet waehere te LangChain ki te uta i te tauira BERT-base-uncased me te whakaputa i te mahi Python hei tatau i te tapeke o nga tau e rua i runga i te tere i tukuna.

DSPy

Ko DSPy he whare pukapuka Haere e whakarato ana i te atanga taumata-iti mo te taunekeneke me nga LLM. Ka tautokohia te whānuitanga o nga LLM, tae atu ki nga tauira rongonui penei i a BERT, RoBERTa, me XLNet.

Waehere Tauira: Ma te whakamahi i te DSPy ki te Hanga Tuhinga

mōkihi matua

kawemai (
	"fmt"
	"raupapa"

	"github.com/dspys/dspys-go"
)

mahi matua() {
	// Utaina te tauira LLM
	tauira, he: = dspys.LoadModel("bert-base-uncased")
	ki te he != kore {
		rangitaki.Fatal(he)
	}

	// Tautuhia te tere whakaputa tuhinga
	prompt := "Tuhia he pukapuka kaiwhakamahi mo tetahi hua hou"

	// Hangaia nga tuhinga
	doc : = tauira.Hanga(tohutohu)

	fmt.Println(doc)
}

Ka whakamahia e tenei snippet waehere te DSPy ki te uta i te tauira BERT-base-uncased me te whakaputa i te pukapuka kaiwhakamahi mo tetahi hua hou i runga i te tere i tukuna.

Painga me nga wero o te whakauru i nga LLM ki DevOps

Ko te whakauru i nga LLM ki nga rerengamahi DevOps he maha nga painga, tae atu ki:

  • Whakapai ake: Ka taea e nga LLM te whakaaunoa i nga mahi tukurua, ka whakawātea i nga kaiwhakawhanake kia aro ki nga mahi taumata teitei.
  • Whakanuia te tika: Ka taea e nga LLM te whakaiti i nga hapa me te whakapai ake i te tika ma te tarai i nga raarangi, te waehere patuiro, me te tautuhi i nga take.
  • Whakanuia te hua: Ka taea e nga LLM te whakaputa waehere, tuhinga, me nga keehi whakamatautau, ka whakaiti i te wa me te whakapau kaha ki te whakaoti i nga mahi.

Heoi, ko te whakauru i nga LLM ki nga rerengamahi DevOps he maha nga wero, tae atu ki:

  • Utu: Ka hiahiatia e nga LLM nga rauemi rorohiko nui, ka nui pea te utu mo te whakangungu me te pupuri.
  • Maamaatanga: He uaua nga LLM ki te whakauru ki roto i nga rerengamahi o naianei, a tera pea ka hiahiatia he tohungatanga nui hei whakatinana.
  • Takihara: Ka taea e nga LLM te mau tonu nga piro me nga hapa kei roto i nga raraunga whakangungu, me tino aro turuki me te whakamatautau.

Tiki 5-10 Nga Tono Whakamahinga/Momohipi

Anei nga tono 5-10 e tino whakamahia ana mo LangChain me DSPy:

Tono/Snippet Whakaahuatanga
langchain.load_model("bert-base-uncased") Utaina te tauira BERT-turanga-kore
model.generate(prompt) Waihangahia he waehere, tuhinga ranei i runga i te tere i tukuna
dspys.LoadModel("bert-base-uncased") Utaina te tauira BERT-turanga-kore
tauira.Hanga(Aki) Waihangahia he waehere, tuhinga ranei i runga i te tere i tukuna
langchain.load_model("roberta-base") Utaina te tauira RoBERTa-base
model.generate(prompt) Waihangahia he waehere, tuhinga ranei i runga i te tere i tukuna
dspys.LoadModel("roberta-base") Utaina te tauira RoBERTa-base
tauira.Hanga(Aki) Waihangahia he waehere, tuhinga ranei i runga i te tere i tukuna
langchain.load_model("xlnet-base-uncased") Utaina te tauira XLNet-base-uncased
model.generate(prompt) Waihangahia he waehere, tuhinga ranei i runga i te tere i tukuna

Whakakitenga

Anei he tirohanga mo nga painga me nga wero o te whakauru i nga LLM ki nga rerengamahi DevOps:

{
  "type": "pie",
  "raraunga": {
    "labels": ["Painga", "Werohanga"],
    "raunga raraunga": [
      {
        "label": "Painga",
        "raraunga": [60, 40],
        "Tae papamuri": ["#4CAF50", "#FF9800"]
      },
      {
        "label": "Nga wero",
        "raraunga": [40, 60],
        "Tae papamuri": ["#FF9800", "#4CAF50"]
      }
    ]
  },
  "kōwhiringa": {
    "taitara": {
      "whakaatu": pono,
      "text": "He painga me nga wero o te whakauru i nga LLM ki nga DevOps"
    },
    "korero": {
      "whakaatu": pono
    }
  }
}

Ko tenei tirohanga e whakaatu ana i te hiranga o nga painga me nga wero o te whakauru i nga LLM ki nga rerengamahi DevOps.

Whakamutunga

Ka taea e nga LLM te whakarereke i te waahanga o te DevOps automation, e taea ai e nga miihini te mohio, te whakaputa, me te taunekeneke ki te reo tangata i roto i nga huarahi kaore ano i mua. Ko LangChain me DSPy e rua nga anga rongonui mo te hanga tono-a-LLM, e tuku ana i te whānuitanga o nga painga me nga wero. Ma te mohio ki te whakatinanatanga hangarau, nga painga, me nga wero o te whakauru i nga LLM ki roto i nga rerengamahi DevOps, ka taea e nga kaiwhakawhanake te whakatuwhera i te kaha katoa o enei taputapu kaha me te whakapai ake i te pai, te tika, me te hua o a raatau rerenga mahi.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn