Inngangur
Samþætting gervigreindar (AI) í hugbúnaðarforrit hefur gjörbylt því hvernig við nálgumst vandamálalausn, ákvarðanatöku og sjálfvirkni. Hins vegar, eftir því sem gervigreindardrifin forrit verða sífellt flóknari, hefur þörfin fyrir öruggan og stigstærðan arkitektúr orðið brýnt áhyggjuefni. Í þessari grein munum við kanna mót gervigreindar, hugbúnaðarverkfræði og DevOps, með sérstakri áherslu á að nota hljómsveitarverkfæri eins og DSPy og LangChain til að samþætta gervigreind umboðsmenn í DevOps leiðslur.
Áskoranirnar við gervigreind-drifinn hugbúnaðararkitektúr
AI-drifin hugbúnaðarforrit setja einstaka áskoranir fyrir hugbúnaðarverkfræðinga og DevOps teymi. Sumar af helstu áskorunum eru:
- Skalanleiki: gervigreind líkön krefjast umtalsverðs reiknitilföngs, sem getur leitt til sveigjanleikavandamála í framleiðsluumhverfi.
- Öryggi: gervigreind líkön geta verið viðkvæm fyrir árásum, svo sem gagnaeitrun og árásum á öfugum líkana.
- Samþætting: Gervigreind líkön þurfa að vera samþætt við núverandi hugbúnaðarkerfi, sem getur verið flókið verkefni.
- Vöktun og viðhald: gervigreind líkön þurfa stöðugt eftirlit og viðhald til að tryggja að þau haldist nákvæm og áreiðanleg.
Hljómsveitarverkfæri: DSPy og LangChain
Skipulagsverkfæri eins og DSPy og LangChain veita lausn á þessum áskorunum með því að gera samþættingu gervigreindar umboðsmanna í DevOps leiðslur. Þessi verkfæri bjóða upp á ramma til að smíða, dreifa og stjórna gervigreindarlíkönum og tryggja öruggan og stigstærðan arkitektúr fyrir gervigreindardrifin forrit.
DSPy
DSPy er opinn uppspretta hljómsveitarverkfæri byggt ofan á Python. Það býður upp á einfalt og leiðandi API til að smíða, dreifa og stjórna gervigreind módel. DSPy styður fjölbreytt úrval gervigreindarramma, þar á meðal TensorFlow, PyTorch og scikit-learn.
Langkeðja
LangChain er annað opinn uppspretta hljómsveitarverkfæri sem veitir ramma til að byggja upp, dreifa og stjórna gervigreindarlíkönum. LangChain er byggt ofan á Rust og býður upp á afkastamikið API til að samþætta gervigreind umboðsmenn í DevOps leiðslur.
Innleiðing á öruggum og skalanlegum gervigreindardrifnum hugbúnaðararkitektúr með DSPy
Í þessum hluta munum við kanna einfalt dæmi um að innleiða öruggan og stigstærðan AI-drifinn hugbúnaðararkitektúr með DSPy.
Dæmi: Byggja einfalt gervigreind líkan með DSPy
Við skulum íhuga einfalt dæmi um að byggja upp vélanámslíkan með DSPy. Við munum nota scikit-learn bókasafnið til að byggja upp línulegt aðhvarfslíkan.
flytja inn dspy sem dsp
frá sklearn.linear_model import LinearRegression
frá sklearn.datasets import load_sykursýki
# Hladdu sykursýkisgagnagrunninum
gagnasafn = hlaða_sykursýki()
# Skiptu gagnasafninu í þjálfunar- og prófunarsett
X_train, X_test, y_train, y_test = dsp.split_dataset(dataset.data, dataset.target, test_size=0.2)
# Búðu til línulegt aðhvarfslíkan
líkan = Línuleg aðhvarf ()
# Þjálfðu líkanið á þjálfunargögnunum
model.fit(X_train, y_train)
# Metið líkanið á prófunargögnunum
nákvæmni = model.score(X_test, y_test)
print(f"Nákvæmni líkans: {nákvæmni:.2f}")
Þessi kóðablokk sýnir hvernig á að smíða einfalt vélnámslíkan með DSPy. Við hleðum sykursýkigagnagrunninum, skiptum því í þjálfunar- og prófunarsett, byggjum línulegt aðhvarfslíkan, þjálfum það á þjálfunargögnunum og metum nákvæmni þess á prófunargögnunum.
Innleiðing á öruggum og skalanlegum gervigreindardrifnum hugbúnaðararkitektúr með LangChain
Í þessum hluta munum við kanna einfalt dæmi um að innleiða öruggan og stigstærðan AI-drifinn hugbúnaðararkitektúr með LangChain.
Dæmi: Byggja einfalt gervigreind líkan með LangChain
Við skulum íhuga einfalt dæmi um að byggja upp vélanámslíkan með LangChain. Við munum nota TensorFlow bókasafnið til að byggja upp taugakerfislíkan.
notaðu langchain sem lc;
nota tensorflow::forleik::*;
// Skilgreindu einfalt tauganet líkan
fn líkan (inntak: &Tensor) -> Tensor {
let output = input.matmul(&Tensor::new(1, 1));
framleiðsla
}
// Búðu til LangChain umboðsmann
láta umboðsmann = lc::Agent::nýtt(líkan);
// Skilgreindu gagnasafn
láta gagnasafn = lc::Dataset::new(vec![
lc::Dæmi::new(vec![1.0, 2.0], vec![3.0]),
lc::Dæmi::new(vec![4.0, 5.0], vec![6.0]),
]);
// Þjálfa líkanið á gagnasafninu
agent.train(&gagnasett);
// Metið líkanið á gagnasafninu
let accuracy = agent.evaluate(&dataset);
println!("Nákvæmni líkans: {}", nákvæmni);
Þessi kóðablokk sýnir hvernig á að smíða einfalt vélnámslíkan með LangChain. Við skilgreinum einfalt tauganet líkan, búum til LangChain umboðsmann, skilgreinum gagnapakka, þjálfum líkanið á gagnasafninu og metum nákvæmni þess á gagnasafninu.
Topp 5-10 mest notuðu skipanir/bútar
Hér eru 5-10 mest notuðu skipanirnar/bútarnir fyrir DSPy og LangChain:
DSPy
dsp.split_dataset(data, target, test_size=0.2): Skiptir gagnasafninu í þjálfunar- og prófunarsett.dsp.build_model(model_name, model_params): Byggir vélrænt líkan með því að nota tilgreint líkanheiti og færibreytur.dsp.train_model(model, data): Þjálfar vélanámslíkanið á tilgreindum gögnum.dsp.evaluate_model(model, data): Metur frammistöðu vélnámslíkans á tilgreindum gögnum.dsp.deploy_model(model, server_url): Sendir vélnámslíkanið á tilgreinda vefslóð netþjóns.
Langkeðja
lc::Agent::new(model): Býr til LangChain umboðsmann með því að nota tilgreint líkan.lc::Dataset::new(examples): Býr til LangChain gagnasafn með því að nota tilgreind dæmi.lc::train(agent, dataset): Þjálfar LangChain umboðsmanninn á tilgreindu gagnasafni.lc::evaluate(agent, dataset): Metur frammistöðu LangChain umboðsmannsins á tilgreindu gagnasafni.lc::deploy(agent, server_url): Sendir LangChain umboðsmanninn á tilgreinda vefslóð netþjónsins.
Sjónræn
Hér er einföld sjónmynd af gervigreindardrifnum hugbúnaðararkitektúr með því að nota Chart.js:
const ctx = document.getElementById('myChart').getContext('2d');
const graf = ný mynd (ctx, {
tegund: 'bar',
gögn: {
merki: ['Þjálfunartími', 'Ályktunartími', 'Módelnákvæmni'],
gagnasöfn: [{
merki: 'DSPy',
gögn: [10, 5, 90],
bakgrunnslitur: 'rgba(255, 99, 132, 0.2)',
borderColor: 'rgba(255, 99, 132, 1)',
landamæriBreidd: 1
}, {
merki: 'LangChain',
gögn: [8, 6, 92],
bakgrunnslitur: 'rgba(54, 162, 235, 0.2)',
borderColor: 'rgba(54, 162, 235, 1)',
landamæriBreidd: 1
}]
},
valkostir: {
vog: {
y: {
beginAtZero: satt
}
}
}
});
Þessi kóðablokk býr til einfalt súlurit með því að nota Chart.js til að sjá frammistöðu DSPy og LangChain.
Niðurstaða
Í þessari grein könnuðum við mót gervigreindar, hugbúnaðarverkfræði og DevOps, með sérstakri áherslu á að nota hljómsveitarverkfæri eins og DSPy og LangChain til að samþætta gervigreind umboðsmenn í DevOps leiðslur. Við sýndum hvernig á að innleiða öruggan og stigstærðan gervigreindardrifinn hugbúnaðararkitektúr með því að nota DSPy og LangChain og útvegum einfalt dæmi um að byggja upp vélanámslíkan með því að nota hvert verkfæri. Við útveguðum líka 5-10 mest notuðu skipanir/búta fyrir hvert tól og einfalda mynd af gervigreindardrifnum hugbúnaðararkitektúr með Chart.js.