Аюулгүй, өргөтгөх боломжтой хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг зохион байгуулалтын хэрэгслээр хэрэгжүүлэх | B4N1

Аюулгүй, өргөтгөх боломжтой хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг зохион байгуулалтын хэрэгслээр хэрэгжүүлэх

6 months ago · b4n1 Read time: 4 min

Танилцуулга

Хиймэл оюун ухааныг (AI) програм хангамжийн хэрэглээнд нэгтгэсэн нь бидний асуудал шийдвэрлэх, шийдвэр гаргах, автоматжуулалтад хандах хандлагыг өөрчилсөн. Гэсэн хэдий ч хиймэл оюун ухаанд суурилсан програмууд улам бүр төвөгтэй болж байгаа тул аюулгүй, өргөтгөх боломжтой архитектурын хэрэгцээ нь тулгамдсан асуудал болоод байна. Энэ нийтлэлд бид хиймэл оюун ухаан, програм хангамжийн инженерчлэл, DevOps-ийн огтлолцлыг судлах бөгөөд DSPy болон LangChain зэрэг зохион байгуулалтын хэрэгслийг ашиглан DevOps-ийн дамжуулах хоолойд AI агентуудыг нэгтгэх талаар онцгойлон анхаарах болно.

Хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурын сорилтууд

AI-д суурилсан програм хангамжийн програмууд нь програм хангамжийн инженерүүд болон DevOps багуудад өвөрмөц сорилтуудыг үүсгэдэг. Гол бэрхшээлүүдийн зарим нь:

  • ** Өргөтгөх чадвар**: AI загварууд нь ихээхэн хэмжээний тооцооллын нөөц шаарддаг бөгөөд энэ нь үйлдвэрлэлийн орчинд өргөтгөх чадварын асуудалд хүргэж болзошгүй юм.
  • Аюулгүй байдал: AI загварууд нь өгөгдөлд хордох, загвар урвуу халдлага зэрэг халдлагад өртөмтгий байж болно.
  • Интеграци: AI загваруудыг одоо байгаа програм хангамжийн системүүдтэй нэгтгэх шаардлагатай бөгөөд энэ нь нарийн төвөгтэй ажил байж болно.
  • Хяналт ба засвар үйлчилгээ: AI загварууд нь үнэн зөв, найдвартай байхын тулд байнгын хяналт, засвар үйлчилгээ шаарддаг.

Оркестрийн хэрэгслүүд: DSPy болон LangChain

DSPy болон LangChain зэрэг зохион байгуулалтын хэрэгслүүд нь AI агентуудыг DevOps дамжуулах хоолойд нэгтгэх боломжийг олгох замаар эдгээр сорилтыг шийдвэрлэх боломжийг олгодог. Эдгээр хэрэгслүүд нь хиймэл оюун ухаанд суурилсан программуудын аюулгүй, өргөтгөх боломжтой архитектурыг бий болгож, AI загваруудыг бий болгох, ашиглах, удирдах тогтолцоог бүрдүүлдэг.

DSPy

DSPy бол Python дээр бүтээгдсэн нээлттэй эхийн зохион байгуулах хэрэгсэл юм. Энэ нь AI загвар бүтээх, ашиглах, удирдахад хялбар бөгөөд ойлгомжтой API-г өгдөг. DSPy нь TensorFlow, PyTorch, scikit-learn зэрэг өргөн хүрээний AI хүрээг дэмждэг.

LangChain

LangChain бол хиймэл оюун ухааны загваруудыг бүтээх, ашиглах, удирдах хүрээг бүрдүүлдэг өөр нэг нээлттэй эхийн зохион байгуулалтын хэрэгсэл юм. LangChain нь Rust дээр бүтээгдсэн бөгөөд AI агентуудыг DevOps дамжуулах хоолойд нэгтгэх өндөр гүйцэтгэлтэй API-ээр хангадаг.

Аюулгүй, өргөтгөх боломжтой хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг DSPy ашиглан хэрэгжүүлэх

Энэ хэсэгт бид DSPy-тэй аюулгүй, өргөтгөх боломжтой хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг хэрэгжүүлэх энгийн жишээг судлах болно.

Жишээ: DSPy ашиглан хиймэл оюун ухааны энгийн загвар бүтээх

DSPy ашиглан машин сургалтын загвар бүтээх энгийн жишээг авч үзье. Бид scikit-learn номын санг ашиглан шугаман регрессийн загвар бүтээх болно.

dspy-г dsp болгон импортлох
sklearn.linear_model-аас LinearRegression импортлох
sklearn.datasets-аас load_diabetes импортлох

# Чихрийн шижингийн мэдээллийн багцыг ачаална уу
өгөгдлийн багц = load_diabetes()

# Өгөгдлийн багцыг сургалт, туршилтын багц болгон хуваах
X_train, X_test, y_train, y_test = dsp.split_dataset(dataset.data, dataset.target, test_size=0.2)

# Шугаман регрессийн загвар бүтээх
загвар = LinearRegression()

# Сургалтын өгөгдөл дээр загварыг сургах
model.fit(X_train, y_train)

# Туршилтын өгөгдөл дээр загварыг үнэлнэ
нарийвчлал = загвар.оноо(X_test, y_test)
хэвлэх(f"Загварын нарийвчлал: {нарийвчлал:.2f}")

Энэхүү кодын блок нь DSPy ашиглан энгийн машин сургалтын загварыг хэрхэн бүтээхийг харуулж байна. Бид чихрийн шижингийн өгөгдлийн багцыг ачаалж, сургалт, туршилтын багц болгон хувааж, шугаман регрессийн загварыг бий болгож, сургалтын өгөгдөл дээр сургаж, туршилтын өгөгдөл дээр түүний нарийвчлалыг үнэлдэг.

LangChain-тай аюулгүй, өргөтгөх боломжтой хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг хэрэгжүүлэх

Энэ хэсэгт бид LangChain ашиглан аюулгүй, өргөтгөх боломжтой хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурыг хэрэгжүүлэх энгийн жишээг судлах болно.

Жишээ: LangChain ашиглан хиймэл оюун ухааны энгийн загвар бүтээх

LangChain ашиглан машин сургалтын загвар бүтээх энгийн жишээг авч үзье. Бид мэдрэлийн сүлжээний загвар бүтээхдээ TensorFlow номын санг ашиглах болно.

langchain-ийг lc болгон ашиглах;
tensorflow::prelude::* ашиглах;

// Энгийн мэдрэлийн сүлжээний загварыг тодорхойлно
fn загвар(оролт: &Тензор) -> Тензор {
    гаралт = input.matmul(&Tensor::new(1, 1));
    гаралт
}

// LangChain агент үүсгэх
let agent = lc::Agent::new(загвар);

// Өгөгдлийн багцыг тодорхойлно
let dataset = lc::Dataset::new(vec![
    lc::Жишээ::new(vec![1.0, 2.0], vec![3.0]),
    lc::Жишээ::new(vec![4.0, 5.0], vec![6.0]),
]);

// Датасет дээр загварыг сургах
agent.train(&өгөгдлийн багц);

// Өгөгдлийн багц дээрх загварыг үнэлэх
let accuracy = agent.evaluate(&dataset);
println!("Загварын нарийвчлал: {}", нарийвчлал);

Энэхүү кодын блок нь LangChain ашиглан энгийн машин сургалтын загварыг хэрхэн бүтээхийг харуулж байна. Бид энгийн мэдрэлийн сүлжээний загварыг тодорхойлж, LangChain агент үүсгэж, өгөгдлийн багцыг тодорхойлж, өгөгдлийн багц дээр загварыг сургаж, өгөгдлийн багц дээр түүний нарийвчлалыг үнэлдэг.

Хамгийн их хэрэглэгддэг 5-10 тушаал/хэсэг

DSPy болон LangChain-д хамгийн их ашиглагддаг 5-10 тушаал/хэсэг энд байна:

DSPy

  • dsp.split_dataset(data, target, test_size=0.2): Датасетийг сургалт болон туршилтын багц болгон хуваана.
  • dsp.build_model(model_name, model_params): Заасан загварын нэр болон параметрүүдийг ашиглан машин сургалтын загварыг бүтээдэг.
  • dsp.train_model(загвар, өгөгдөл): Заасан өгөгдөл дээр машин сургалтын загварыг сургадаг.
  • dsp.evaluate_model(загвар, өгөгдөл): Заасан өгөгдөл дээр машин сургалтын загварын гүйцэтгэлийг үнэлдэг.
  • dsp.deploy_model(model, server_url): Машин сургалтын загварыг заасан серверийн URL-д байрлуулна.

LangChain

  • lc::Agent::new(model): Заасан загварыг ашиглан LangChain агент үүсгэнэ.
  • lc::Dataset::new(examples): Заасан жишээнүүдийг ашиглан LangChain датасет үүсгэнэ.
  • lc::train(agent, dataset): LangChain агентийг заасан өгөгдлийн багц дээр сургадаг.
  • lc::evaluate(agent, dataset): Заасан өгөгдлийн багц дээрх LangChain агентын гүйцэтгэлийг үнэлнэ.
  • lc::deploy(agent, server_url): LangChain агентийг заасан серверийн URL-д байрлуулна.

Дүрслэл

Chart.js ашиглан хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурын энгийн дүрслэлийг энд үзүүлэв.

const ctx = document.getElementById('myChart').getContext('2d');
const диаграм = шинэ график(ctx, {
    төрөл: 'bar',
    өгөгдөл: {
        шошго: ['Сургалтын цаг', 'Дүртгэл гаргах хугацаа', 'Загварын нарийвчлал'],
        өгөгдлийн багц: [{
            шошго: 'DSPy',
            өгөгдөл: [10, 5, 90],
            арын өнгө: 'rgba(255, 99, 132, 0.2)',
            хилийн өнгө: 'rgba(255, 99, 132, 1)',
            хилийн өргөн: 1
        }, {
            шошго: 'LangChain',
            өгөгдөл: [8, 6, 92],
            арын өнгө: 'rgba(54, 162, 235, 0.2)',
            хилийн өнгө: 'rgba(54, 162, 235, 1)',
            хилийн өргөн: 1
        }]
    },
    сонголтууд: {
        жин: {
            y: {
                startAtZero: үнэн
            }
        }
    }
});

Энэхүү кодын блок нь DSPy болон LangChain-ийн гүйцэтгэлийг дүрслэн харуулахын тулд Chart.js ашиглан энгийн зураасан график үүсгэдэг.

Дүгнэлт

Энэ нийтлэлд бид хиймэл оюун ухаан, программ хангамжийн инженерчлэл, DevOps-ийн огтлолцлыг судалж, DSPy болон LangChain зэрэг зохион байгуулалтын хэрэгслүүдийг ашиглан DevOps дамжуулах хоолойд AI агентуудыг нэгтгэх талаар онцгойлон анхаарч үзсэн. Бид DSPy болон LangChain ашиглан AI-д суурилсан аюулгүй, өргөтгөх боломжтой програм хангамжийн архитектурыг хэрхэн хэрэгжүүлэхийг харуулсан бөгөөд хэрэгсэл бүрийг ашиглан машин сургалтын загвар бүтээх энгийн жишээг үзүүлэв. Мөн бид хэрэглүүр тус бүрт хамгийн их ашиглагддаг 5-10 тушаал/хэсэг, Chart.js ашиглан хиймэл оюун ухаанд суурилсан програм хангамжийн архитектурын энгийн дүрслэлийг өгсөн.

Have Questions?

Let's Talk

Contact me on LinkedIn