Implementacija varne in razširljive programske arhitekture, ki jo poganja AI, z orodji za orkestracijo | B4N1

Implementacija varne in razširljive programske arhitekture, ki jo poganja AI, z orodji za orkestracijo

3 months ago · b4n1 Read time: 4 min

Uvod

Integracija umetne inteligence (AI) v programske aplikacije je spremenila naš pristop k reševanju problemov, odločanju in avtomatizaciji. Ker pa postajajo aplikacije, ki jih poganja AI, vse bolj zapletene, je potreba po varni in razširljivi arhitekturi postala pereča skrb. V tem članku bomo raziskali presečišče AI, programskega inženiringa in DevOps, s posebnim poudarkom na uporabi orodij za orkestracijo, kot sta DSPy in LangChain, za integracijo agentov AI v cevovode DevOps.

Izzivi programske arhitekture, ki jo poganja AI

Programske aplikacije, ki jih poganja AI, predstavljajo edinstvene izzive za programske inženirje in ekipe DevOps. Nekateri ključni izzivi vključujejo:

  • Razširljivost: modeli AI zahtevajo precejšnje računalniške vire, kar lahko privede do težav s skalabilnostjo v produkcijskih okoljih.
  • Varnost: modeli umetne inteligence so lahko ranljivi za napade, kot so napadi z zastrupitvijo podatkov in inverzijo modela.
  • Integracija: modele AI je treba integrirati z obstoječimi programskimi sistemi, kar je lahko zapletena naloga.
  • Spremljanje in vzdrževanje: modeli z umetno inteligenco zahtevajo stalno spremljanje in vzdrževanje, da zagotovimo, da ostanejo točni in zanesljivi.

Orodja za orkestracijo: DSPy in LangChain

Orodja za orkestracijo, kot sta DSPy in LangChain, nudijo rešitev za te izzive z omogočanjem integracije agentov AI v cevovode DevOps. Ta orodja zagotavljajo okvir za gradnjo, uvajanje in upravljanje modelov AI ter zagotavljajo varno in razširljivo arhitekturo za aplikacije, ki jih poganja AI.

DSPy

DSPy je odprtokodno orodje za orkestracijo, zgrajeno na vrhu Pythona. Zagotavlja preprost in intuitiven API za gradnjo, uvajanje in upravljanje modelov AI. DSPy podpira široko paleto ogrodij AI, vključno s TensorFlow, PyTorch in scikit-learn.

LangChain

LangChain je še eno odprtokodno orkestracijsko orodje, ki zagotavlja okvir za gradnjo, uvajanje in upravljanje modelov AI. LangChain je zgrajen na osnovi Rusta in zagotavlja visoko zmogljiv API za integracijo agentov AI v cevovode DevOps.

Implementacija varne in razširljive programske arhitekture, ki jo poganja AI, z DSPy

V tem razdelku bomo raziskali preprost primer izvajanja varne in razširljive programske arhitekture, ki temelji na AI, z DSPy.

Primer: izdelava preprostega modela AI z DSPy

Oglejmo si preprost primer gradnje modela strojnega učenja z uporabo DSPy. Za izdelavo modela linearne regresije bomo uporabili knjižnico scikit-learn.

uvozite dspy kot dsp
iz sklearn.linear_model uvozite LinearRegression
iz sklearn.datasets uvoz load_diabetes

# Naložite nabor podatkov o sladkorni bolezni
nabor podatkov = load_diabetes()

# Razdelite nabor podatkov na nabore za usposabljanje in testiranje
X_train, X_test, y_train, y_test = dsp.split_dataset(dataset.data, dataset.target, test_size=0,2)

# Zgradite linearni regresijski model
model = Linearna regresija()

# Usposabljanje modela na podlagi podatkov o usposabljanju
model.fit(X_vlak, y_vlak)

# Ocenite model na podlagi podatkov testiranja
natančnost = model.score(X_test, y_test)
print(f"Natančnost modela: {natančnost:.2f}")

Ta blok kode prikazuje, kako zgraditi preprost model strojnega učenja z uporabo DSPy. Naložimo nabor podatkov o sladkorni bolezni, ga razdelimo na nabore za usposabljanje in testiranje, zgradimo linearni regresijski model, ga urimo na podlagi podatkov o usposabljanju in ocenimo njegovo natančnost na podlagi podatkov o testiranju.

Implementacija varne in razširljive programske arhitekture, ki jo poganja AI, z LangChain

V tem razdelku bomo raziskali preprost primer izvajanja varne in razširljive programske arhitekture, ki temelji na AI, z LangChain.

Primer: izdelava preprostega modela AI z LangChain

Oglejmo si preprost primer gradnje modela strojnega učenja z uporabo LangChaina. Za izdelavo modela nevronske mreže bomo uporabili knjižnico TensorFlow.

uporabite langchain kot lc;
uporabite tensorflow::prelude::*;

// Definirajte preprost model nevronske mreže
fn model(vhod: &Tenzor) -> Tenzor {
    naj izhod = input.matmul(&Tensor::new(1, 1));
    izhod
}

// Ustvari agenta LangChain
naj agent = lc::Agent::new(model);

// Definirajte nabor podatkov
naj dataset = lc::Dataset::new(vec![
    lc::Example::new(vec![1.0, 2.0], vec![3.0]),
    lc::Example::new(vec![4.0, 5.0], vec![6.0]),
]);

// Usposabljanje modela na naboru podatkov
agent.train(&nabor podatkov);

// Ocenite model na naboru podatkov
naj natančnost = agent.evaluate(&dataset);
println!("Natančnost modela: {}", natančnost);

Ta blok kode prikazuje, kako zgraditi preprost model strojnega učenja z uporabo LangChain. Definiramo preprost model nevronske mreže, ustvarimo agenta LangChain, definiramo nabor podatkov, urimo model na naboru podatkov in ocenimo njegovo natančnost na naboru podatkov.

Top 5-10 najbolj uporabljenih ukazov/izrezkov

Tukaj je 5-10 najbolj uporabljenih ukazov/delčkov za DSPy in LangChain:

DSPy

  • dsp.split_dataset(data, target, test_size=0.2): Razdeli nabor podatkov v nabore za usposabljanje in testiranje.
  • dsp.build_model(model_name, model_params): zgradi model strojnega učenja z uporabo podanega imena modela in parametrov.
  • dsp.train_model(model, data): Usposablja model strojnega učenja na podanih podatkih.
  • dsp.evaluate_model(model, data): ovrednoti delovanje modela strojnega učenja na podanih podatkih.
  • dsp.deploy_model(model, server_url): Razmesti model strojnega učenja na navedeni URL strežnika.

LangChain

  • lc::Agent::new(model): ustvari agenta LangChain z uporabo navedenega modela.
  • lc::Dataset::new(examples): Ustvari nabor podatkov LangChain z uporabo navedenih primerov.
  • lc::train(agent, dataset): Usposablja agenta LangChain na podanem naboru podatkov.
  • lc::evaluate(agent, dataset): Oceni delovanje agenta LangChain na podanem naboru podatkov.
  • lc::deploy(agent, server_url): Razmesti agenta LangChain na navedeni URL strežnika.

Vizualizacija

Tukaj je preprosta vizualizacija programske arhitekture, ki jo poganja AI, z uporabo Chart.js:

const ctx = document.getElementById('myChart').getContext('2d');
const chart = nov grafikon(ctx, {
    vrsta: 'bar',
    podatki: {
        oznake: ['Čas usposabljanja', 'Čas sklepanja', 'Natančnost modela'],
        nabori podatkov: [{
            oznaka: 'DSPy',
            podatki: [10, 5, 90],
            barva ozadja: 'rgba (255, 99, 132, 0,2)',
            borderColor: 'rgba(255, 99, 132, 1)',
            širina roba: 1
        }, {
            oznaka: 'LangChain',
            podatki: [8, 6, 92],
            backgroundColor: 'rgba(54, 162, 235, 0,2)',
            borderColor: 'rgba(54, 162, 235, 1)',
            širina roba: 1
        }]
    },
    možnosti: {
        lestvice: {
            y: {
                beginAtZero: res
            }
        }
    }
});

Ta blok kode ustvari preprost palični grafikon z uporabo Chart.js za vizualizacijo delovanja DSPy in LangChain.

Zaključek

V tem članku smo raziskali presečišče AI, programskega inženiringa in DevOps, s posebnim poudarkom na uporabi orodij za orkestracijo, kot sta DSPy in LangChain, za integracijo agentov AI v cevovode DevOps. Pokazali smo, kako implementirati varno in razširljivo arhitekturo programske opreme, ki jo poganja umetna inteligenca, z uporabo DSPy in LangChain ter podali preprost primer gradnje modela strojnega učenja z uporabo vsakega orodja. Zagotovili smo tudi 5–10 najpogosteje uporabljenih ukazov/delčkov za vsako orodje in preprosto vizualizacijo programske arhitekture, ki jo poganja AI, s pomočjo Chart.js.

Have Questions?

Let's Talk

Contact me on LinkedIn