ການປະຕິບັດສະຖາປັດຕະຍະກຳຊອບແວ AI-driven ທີ່ປອດໄພ ແລະສາມາດຂະຫຍາຍໄດ້ດ້ວຍເຄື່ອງມື Orchestration | B4N1

ການປະຕິບັດສະຖາປັດຕະຍະກຳຊອບແວ AI-driven ທີ່ປອດໄພ ແລະສາມາດຂະຫຍາຍໄດ້ດ້ວຍເຄື່ອງມື Orchestration

3 months ago · b4n1 Read time: 2 min

ແນະນຳ

ການເຊື່ອມໂຍງຂອງປັນຍາປະດິດ (AI) ເຂົ້າໄປໃນຄໍາຮ້ອງສະຫມັກຊອບແວໄດ້ປະຕິວັດວິທີການທີ່ພວກເຮົາເຂົ້າຫາການແກ້ໄຂບັນຫາ, ການຕັດສິນໃຈແລະອັດຕະໂນມັດ. ຢ່າງໃດກໍຕາມ, ຍ້ອນວ່າຄໍາຮ້ອງສະຫມັກທີ່ຂັບເຄື່ອນດ້ວຍ AI ກາຍເປັນຄວາມສັບສົນຫຼາຍຂື້ນ, ຄວາມຕ້ອງການສໍາລັບສະຖາປັດຕະຍະກໍາທີ່ປອດໄພແລະສາມາດຂະຫຍາຍໄດ້ໄດ້ກາຍເປັນຄວາມກັງວົນອັນຮີບດ່ວນ. ໃນບົດຄວາມນີ້, ພວກເຮົາຈະຄົ້ນຫາຈຸດຕັດກັນຂອງ AI, ວິສະວະກໍາຊອບແວ, ແລະ DevOps, ໂດຍເນັ້ນໃສ່ສະເພາະກ່ຽວກັບການນໍາໃຊ້ເຄື່ອງມື orchestration ເຊັ່ນ DSPy ແລະ LangChain ເພື່ອປະສົມປະສານຕົວແທນ AI ເຂົ້າໄປໃນທໍ່ DevOps.

ສິ່ງທ້າທາຍຂອງສະຖາປັດຕະຍະກຳຊອບແວທີ່ຂັບເຄື່ອນດ້ວຍ AI

ແອັບພລິເຄຊັນຊອບແວທີ່ຂັບເຄື່ອນດ້ວຍ AI ສ້າງຄວາມທ້າທາຍທີ່ເປັນເອກະລັກໃຫ້ກັບວິສະວະກອນຊອບແວ ແລະທີມງານ DevOps. ບາງສິ່ງທ້າທາຍທີ່ສຳຄັນລວມມີ:

  • ** ຄວາມ​ສາ​ມາດ​ຂະ​ຫຍາຍ​ຕົວ **​: ຕົວ​ແບບ AI ຮຽກ​ຮ້ອງ​ໃຫ້​ມີ​ຊັບ​ພະ​ຍາ​ກອນ​ການ​ຄິດ​ໄລ່​ທີ່​ສໍາ​ຄັນ​, ຊຶ່ງ​ສາ​ມາດ​ນໍາ​ໄປ​ສູ່​ການ​ບັນ​ຫາ​ການ​ຂະ​ຫຍາຍ​ຕົວ​ໃນ​ສະ​ພາບ​ແວດ​ລ້ອມ​ການ​ຜະ​ລິດ​.
  • ** ຄວາມປອດໄພ **: ແບບຈໍາລອງ AI ສາມາດມີຄວາມສ່ຽງຕໍ່ການໂຈມຕີ, ເຊັ່ນ: ການເປັນພິດຂອງຂໍ້ມູນແລະການໂຈມຕີແບບປີ້ນກັບກັນ.
  • ** ການເຊື່ອມໂຍງ **: ຮູບແບບ AI ຕ້ອງໄດ້ຮັບການປະສົມປະສານກັບລະບົບຊອບແວທີ່ມີຢູ່, ເຊິ່ງສາມາດເປັນວຽກທີ່ສັບສົນ.
  • ** ການ​ຕິດ​ຕາມ​ກວດ​ກາ​ແລະ​ການ​ບໍາ​ລຸງ​ຮັກ​ສາ **​: ຕົວ​ແບບ AI ຮຽກ​ຮ້ອງ​ໃຫ້​ມີ​ການ​ຕິດ​ຕາມ​ແລະ​ການ​ບໍາ​ລຸງ​ຮັກ​ສາ​ຢ່າງ​ຕໍ່​ເນື່ອງ​ເພື່ອ​ໃຫ້​ແນ່​ໃຈວ່​າ​ພວກ​ເຂົາ​ເຈົ້າ​ຍັງ​ຄົງ​ຖືກ​ຕ້ອງ​ແລະ​ເຊື່ອ​ຖື​ໄດ້​.

ເຄື່ອງມື Orchestration: DSPy ແລະ LangChain

ເຄື່ອງມື Orchestration ເຊັ່ນ DSPy ແລະ LangChain ສະຫນອງການແກ້ໄຂສິ່ງທ້າທາຍເຫຼົ່ານີ້ໂດຍການເຮັດໃຫ້ການລວມຕົວຂອງຕົວແທນ AI ເຂົ້າໄປໃນທໍ່ DevOps. ເຄື່ອງມືເຫຼົ່ານີ້ສະຫນອງກອບສໍາລັບການກໍ່ສ້າງ, ນໍາໃຊ້, ແລະການຄຸ້ມຄອງແບບຈໍາລອງ AI, ຮັບປະກັນສະຖາປັດຕະຍະກໍາທີ່ປອດໄພແລະສາມາດຂະຫຍາຍໄດ້ສໍາລັບຄໍາຮ້ອງສະຫມັກທີ່ຂັບເຄື່ອນດ້ວຍ AI.

DSPy

DSPy ເປັນເຄື່ອງມື orchestration open-source ທີ່ສ້າງຂຶ້ນຢູ່ເທິງສຸດຂອງ Python. ມັນສະຫນອງ API ທີ່ງ່າຍດາຍແລະ intuitive ສໍາລັບການກໍ່ສ້າງ, ນໍາໃຊ້, ແລະການຄຸ້ມຄອງແບບຈໍາລອງ AI. DSPy ຮອງຮັບຂອບວຽກ AI ທີ່ຫຼາກຫຼາຍ, ລວມທັງ TensorFlow, PyTorch, ແລະ scikit-learn.

LangChain

LangChain ເປັນເຄື່ອງມື orchestration open-source ອື່ນທີ່ສະຫນອງກອບສໍາລັບການກໍ່ສ້າງ, ນໍາໃຊ້, ແລະການຄຸ້ມຄອງແບບຈໍາລອງ AI. LangChain ຖືກສ້າງຂຶ້ນຢູ່ເທິງສຸດຂອງ Rust ແລະສະຫນອງ API ທີ່ມີປະສິດທິພາບສູງສໍາລັບການລວມເອົາຕົວແທນ AI ເຂົ້າໄປໃນທໍ່ DevOps.

ການຈັດຕັ້ງປະຕິບັດສະຖາປັດຕະຍະກຳຊອບແວ AI-driven ທີ່ປອດໄພ ແລະສາມາດຂະຫຍາຍໄດ້ດ້ວຍ DSPy

ໃນພາກນີ້, ພວກເຮົາຈະຄົ້ນຫາຕົວຢ່າງທີ່ງ່າຍດາຍຂອງການປະຕິບັດສະຖາປັດຕະຍະກໍາຊອບແວ AI-driven AI ທີ່ປອດໄພແລະສາມາດຂະຫຍາຍໄດ້ດ້ວຍ DSPy.

ຕົວຢ່າງ: ການສ້າງແບບຈໍາລອງ AI ແບບງ່າຍໆດ້ວຍ DSPy

ໃຫ້ພິຈາລະນາຕົວຢ່າງງ່າຍໆຂອງການສ້າງແບບຈໍາລອງການຮຽນຮູ້ເຄື່ອງຈັກໂດຍໃຊ້ DSPy. ພວກເຮົາຈະນໍາໃຊ້ຫ້ອງສະຫມຸດ scikit-learn ເພື່ອສ້າງຕົວແບບ regression linear.

`` python ນໍາເຂົ້າ dspy ເປັນ dsp ຈາກ sklearn.linear_model ນໍາເຂົ້າ LinearRegression ຈາກ sklearn.datasets ນໍາເຂົ້າ load_diabetes

ໂຫຼດຊຸດຂໍ້ມູນພະຍາດເບົາຫວານ

ຊຸດຂໍ້ມູນ = load_diabetes()

ແຍກຊຸດຂໍ້ມູນເຂົ້າໄປໃນຊຸດຝຶກອົບຮົມແລະການທົດສອບ

X_train, X_test, y_train, y_test = dsp.split_dataset(dataset.data, dataset.target, test_size=0.2)

ສ້າງຮູບແບບການຖົດຖອຍແບບເສັ້ນ

ແບບຈຳລອງ = LinearRegression()

ຝຶກອົບຮົມແບບຈໍາລອງກ່ຽວກັບຂໍ້ມູນການຝຶກອົບຮົມ

model.fit(X_train, y_train)

ປະເມີນຕົວແບບໃນຂໍ້ມູນການທົດສອບ

ຄວາມຖືກຕ້ອງ = model.score(X_test, y_test) print(f"ຄວາມຖືກຕ້ອງຂອງຕົວແບບ: {ຄວາມຖືກຕ້ອງ:.2f}")


ບລັອກລະຫັດນີ້ສະແດງໃຫ້ເຫັນວິທີການສ້າງແບບຈໍາລອງການຮຽນຮູ້ເຄື່ອງຈັກແບບງ່າຍໆໂດຍໃຊ້ DSPy. ພວກເຮົາໂຫຼດຊຸດຂໍ້ມູນພະຍາດເບົາຫວານ, ແບ່ງອອກເປັນຊຸດການຝຶກອົບຮົມ ແລະການທົດສອບ, ສ້າງແບບຈໍາລອງການຖົດຖອຍຕາມເສັ້ນ, ຝຶກມັນໃສ່ຂໍ້ມູນການຝຶກອົບຮົມ, ແລະປະເມີນຄວາມຖືກຕ້ອງຂອງຂໍ້ມູນການທົດສອບ.

## ການປະຕິບັດສະຖາປັດຕະຍະກຳຊອບແວ AI-driven ທີ່ປອດໄພ ແລະສາມາດຂະຫຍາຍໄດ້ດ້ວຍ LangChain

ໃນພາກນີ້, ພວກເຮົາຈະຄົ້ນຫາຕົວຢ່າງທີ່ງ່າຍດາຍຂອງການປະຕິບັດສະຖາປັດຕະຍະກໍາຊອບແວ AI ທີ່ປອດໄພແລະສາມາດຂະຫຍາຍໄດ້ກັບ LangChain.

### ຕົວຢ່າງ: ການສ້າງແບບຈໍາລອງ AI ແບບງ່າຍໆດ້ວຍ LangChain

ໃຫ້ພິຈາລະນາຕົວຢ່າງງ່າຍໆຂອງການສ້າງແບບຈໍາລອງການຮຽນຮູ້ເຄື່ອງຈັກໂດຍໃຊ້ LangChain. ພວກເຮົາຈະໃຊ້ຫ້ອງສະຫມຸດ TensorFlow ເພື່ອສ້າງຕົວແບບເຄືອຂ່າຍ neural.

``ຂີ້ໝິ້ນ
ໃຊ້ langchain ເປັນ lc;
ໃຊ້ tensorflow::prelude::*;

// ກໍານົດຮູບແບບເຄືອຂ່າຍ neural ງ່າຍດາຍ
ຮູບແບບ fn(ປ້ອນ: &Tensor) -> Tensor {
    let output = input.matmul(&Tensor::new(1, 1));
    ຜົນຜະລິດ
}

// ສ້າງຕົວແທນ LangChain
ໃຫ້ຕົວແທນ = lc::Agent::new(model);

// ກໍານົດຊຸດຂໍ້ມູນ
ໃຫ້ຊຸດຂໍ້ມູນ = lc::Dataset::new(vec![
    lc::ຕົວຢ່າງ::new(vec![1.0, 2.0], vec![3.0]),
    lc::ຕົວຢ່າງ::new(vec![4.0, 5.0], vec![6.0]),
]);

// ຝຶກອົບຮົມແບບຈໍາລອງໃນຊຸດຂໍ້ມູນ
agent.train(&ຊຸດຂໍ້ມູນ);

// ປະເມີນຕົວແບບໃນຊຸດຂໍ້ມູນ
ໃຫ້ຄວາມຖືກຕ້ອງ = agent.evaluate(&dataset);
println!("ຄວາມຖືກຕ້ອງຂອງຕົວແບບ: {}", ຄວາມຖືກຕ້ອງ);

ບລັອກລະຫັດນີ້ສະແດງໃຫ້ເຫັນວິທີການສ້າງແບບຈໍາລອງການຮຽນຮູ້ເຄື່ອງຈັກແບບງ່າຍໆໂດຍໃຊ້ LangChain. ພວກເຮົາກໍານົດຕົວແບບເຄືອຂ່າຍ neural ແບບງ່າຍດາຍ, ສ້າງຕົວແທນ LangChain, ກໍານົດຊຸດຂໍ້ມູນ, ຝຶກອົບຮົມແບບຈໍາລອງໃນຊຸດຂໍ້ມູນ, ແລະປະເມີນຄວາມຖືກຕ້ອງຂອງມັນຢູ່ໃນຊຸດຂໍ້ມູນ.

5-10 ຄໍາສັ່ງທີ່ໃຊ້ຫຼາຍທີ່ສຸດ / ສະນິບເພັດ

ນີ້ແມ່ນ 5-10 ຄໍາສັ່ງທີ່ໃຊ້ຫຼາຍທີ່ສຸດສໍາລັບ DSPy ແລະ LangChain:

DSPy

  • dsp.split_dataset(data, target, test_size=0.2): ແຍກຊຸດຂໍ້ມູນອອກເປັນຊຸດເຝິກອົບຮົມ ແລະການທົດສອບ.
  • dsp.build_model(model_name, model_params): ສ້າງແບບຈໍາລອງການຮຽນຮູ້ເຄື່ອງຈັກໂດຍໃຊ້ຊື່ໂມເດວ ແລະພາລາມິເຕີທີ່ລະບຸ.
  • dsp.train_model(model, data): ຝຶກອົບຮົມຮູບແບບການຮຽນຮູ້ຂອງເຄື່ອງຈັກໃນຂໍ້ມູນທີ່ລະບຸໄວ້.
  • dsp.evaluate_model(model, data): ປະເມີນປະສິດທິພາບຂອງເຄື່ອງຈັກການຮຽນຮູ້ໃນຂໍ້ມູນທີ່ລະບຸ.
  • dsp.deploy_model(model, server_url): ນຳໃຊ້ຕົວແບບການຮຽນຮູ້ເຄື່ອງຈັກໃສ່ URL ຂອງເຊີບເວີທີ່ລະບຸ.

LangChain

  • lc::Agent::new(model): ສ້າງຕົວແທນ LangChain ໂດຍໃຊ້ຕົວແບບທີ່ລະບຸ.
  • lc::Dataset::new(example): ສ້າງຊຸດຂໍ້ມູນ LangChain ໂດຍໃຊ້ຕົວຢ່າງທີ່ລະບຸ.
  • lc::train(ຕົວແທນ, dataset): ຝຶກອົບຮົມຕົວແທນ LangChain ໃນຊຸດຂໍ້ມູນທີ່ກໍານົດໄວ້.
  • lc::evaluate(agent, dataset): ປະເມີນປະສິດທິພາບຂອງຕົວແທນ LangChain ໃນຊຸດຂໍ້ມູນທີ່ກໍານົດໄວ້.
  • lc::deploy(agent, server_url): ນຳໃຊ້ຕົວແທນ LangChain ໃສ່ URL ຂອງເຊີບເວີທີ່ລະບຸ.

ການເບິ່ງເຫັນ

ນີ້ແມ່ນພາບທີ່ງ່າຍດາຍຂອງສະຖາປັດຕະຍະກຳຊອບແວທີ່ຂັບເຄື່ອນດ້ວຍ AI ໂດຍໃຊ້ Chart.js:

``javascript const ctx = document.getElementById('myChart').getContext('2d'); const chart = ຕາຕະລາງໃຫມ່(ctx, { ປະເພດ: 'bar', ຂໍ້ມູນ: { ປ້າຍກຳກັບ: ['ເວລາການຝຶກອົບຮົມ', 'ເວລາການສະຫຼຸບ', 'ຄວາມຖືກຕ້ອງຂອງຕົວແບບ'], ຊຸດຂໍ້ມູນ: [{ ປ້າຍກຳກັບ: 'DSPy', ຂໍ້ມູນ: [10, 5, 90], ສີພື້ນຫຼັງ: 'rgba(255, 99, 132, 0.2)', ຂອບສີ: 'rgba(255, 99, 132, 1)', ຄວາມກວ້າງຊາຍແດນ: 1 }, { ປ້າຍກຳກັບ: 'LangChain', ຂໍ້ມູນ: [8, 6, 92], ສີພື້ນຫຼັງ: 'rgba(54, 162, 235, 0.2)', ຂອບສີ: 'rgba(54, 162, 235, 1)', ຄວາມກວ້າງຊາຍແດນ: 1 }] }, ທາງເລືອກ: { ເກັດ: { y: { beginAtZero: ແທ້ } } } });


ບລັອກລະຫັດນີ້ສ້າງແຜນຜັງແຖບແບບງ່າຍໆໂດຍໃຊ້ Chart.js ເພື່ອສະແດງພາບປະສິດທິພາບຂອງ DSPy ແລະ LangChain.

## ສະຫຼຸບ

ໃນບົດຄວາມນີ້, ພວກເຮົາໄດ້ຄົ້ນຫາຈຸດຕັດກັນຂອງ AI, ວິສະວະກໍາຊອບແວ, ແລະ DevOps, ໂດຍເນັ້ນໃສ່ສະເພາະໃນການນໍາໃຊ້ເຄື່ອງມື orchestration ເຊັ່ນ DSPy ແລະ LangChain ເພື່ອປະສົມປະສານຕົວແທນ AI ເຂົ້າໄປໃນທໍ່ DevOps. ພວກເຮົາໄດ້ສະແດງໃຫ້ເຫັນວິທີການປະຕິບັດສະຖາປັດຕະຍະກໍາຊອບແວ AI-driven AI ທີ່ປອດໄພແລະສາມາດຂະຫຍາຍໄດ້ໂດຍໃຊ້ DSPy ແລະ LangChain, ແລະໃຫ້ຕົວຢ່າງງ່າຍໆຂອງການສ້າງແບບຈໍາລອງການຮຽນຮູ້ເຄື່ອງຈັກໂດຍໃຊ້ແຕ່ລະເຄື່ອງມື. ພວກເຮົາຍັງໄດ້ສະຫນອງຄໍາສັ່ງ / snippets ທີ່ໃຊ້ຫຼາຍທີ່ສຸດ 5-10 ອັນດັບທໍາອິດສໍາລັບແຕ່ລະເຄື່ອງມືແລະການເບິ່ງເຫັນແບບງ່າຍໆຂອງສະຖາປັດຕະຍະກໍາຊອບແວທີ່ຂັບເຄື່ອນດ້ວຍ AI ໂດຍໃຊ້ Chart.js.

Have Questions?

Let's Talk

Contact me on LinkedIn