Uskuna-dasturiy ta'minotni birgalikda loyihalash orqali chekka qurilmalarda AI modelini samarali joylashtirish | B4N1

Uskuna-dasturiy ta'minotni birgalikda loyihalash orqali chekka qurilmalarda AI modelini samarali joylashtirish

7 months ago · b4n1 Read time: 3 min

Kirish

Smartfonlar, aqlli uy qurilmalari va avtonom transport vositalari kabi chekka qurilmalarning ko'payishi ushbu qurilmalarda AI modelini samarali joylashtirishga bo'lgan ehtiyojni keltirib chiqardi. An'anaviy AI modelini joylashtirish usullari ko'pincha bulutga asoslangan infratuzilmaga tayanadi, bu esa kechikish, xavfsizlik muammolari va yuqori quvvat sarfini keltirib chiqarishi mumkin. Ushbu muammolarni hal qilish uchun apparat-dasturiy ta'minotni birgalikda loyihalash istiqbolli yondashuv sifatida paydo bo'ldi, bu AI modelining ishlashi, quvvat sarfi va chekka qurilmalarda kechikish vaqtini optimallashtirish imkonini beradi.

AI, Edge Computing va Co-Dizaynning kesishishi

Edge computing ma'lumotlarni markazlashtirilgan bulut yoki ma'lumotlar markazida emas, balki tarmoqning chetida, ma'lumotlar manbaiga yaqinroqda qayta ishlashni anglatadi. Boshqa tomondan, AI modellari katta hajmdagi ma'lumotlarni qayta ishlash va tahlil qilish uchun katta hisoblash resurslarini talab qiladi. AI, chekka hisoblash va birgalikda dizaynning kesishishi chekka qurilmalarda AI modelini samarali joylashtirishga erishish uchun apparat va dasturiy ta'minot komponentlarini birgalikda optimallashtirishni o'z ichiga oladi.

Uskuna-dasturiy ta'minotni birgalikda loyihalashning afzalliklari

Uskuna-dasturiy ta'minotni birgalikda loyihalash bir qator afzalliklarni beradi, jumladan:

  • Yaxshilangan unumdorlik: Uskuna va dasturiy taʼminot komponentlarini birgalikda optimallashtirish orqali birgalikda dizayn AI modelini joylashtirishda unumdorlikni sezilarli darajada oshirishga olib kelishi mumkin.
  • Quvvat sarfini kamaytirish: Birgalikda loyihalash apparat va dasturiy taʼminot komponentlarini kam quvvat bilan ishlash uchun optimallashtirish orqali quvvat sarfini kamaytirishga yordam beradi.
  • Kamroq kechikish: Birgalikda dizayn maʼlumotlarni tezkor qayta ishlash va aloqa uchun apparat va dasturiy taʼminot komponentlarini optimallashtirish orqali kechikishni kamaytirishga yordam beradi.
  • Moslashuvchanlikning oshishi: Birgalikda dizayn turli chekka qurilmalarda osongina o‘rnatilishi mumkin bo‘lgan yanada moslashuvchan va moslashuvchan sun’iy intellekt modellarini ishlab chiqish imkonini beradi.

Amaliy fokus: kod misoli

Keling, chekka qurilmalarda AI modelini joylashtirish uchun apparat-dasturiy ta'minotni birgalikda loyihalashning oddiy misolini ko'rib chiqaylik. Biz mashhur Python kutubxonasi TensorFlow dan asosiy AI modelini Raspberry Pi, mashhur chekka qurilmada joylashtirish uchun foydalanamiz.

tenzor oqimini tf sifatida import qiling
tensorflow.keras import qatlamlaridan

# AI modeli arxitekturasini aniqlang
model = tf.keras.Sequential([
    qatlamlar.Conv2D(32, (3, 3), faollashtirish='relu', input_shape=(28, 28, 1)),
    qatlamlar.MaxPooling2D((2, 2)),
    qatlamlar.Flatten(),
    qatlamlar.Zich (64, faollashtirish='relu'),
    qatlamlar.Zich (10, faollashtirish='softmax')
])

# Modelni kompilyatsiya qilish
model.compile(optimizer='adam',
              loss='sparse_categorical_crossentropy',
              ko'rsatkichlar=['aniqlik'])

# MNIST ma'lumotlar to'plamini yuklang
(X_poezd, y_poezd), (X_test, y_test) = tf.keras.datasets.mnist.load_data()

# Ma'lumotlarni oldindan qayta ishlash
X_train = X_train.reshape(-1, 28, 28, 1).astype('float32') / 255.0
X_test = X_test.reshape(-1, 28, 28, 1).astype('float32') / 255.0

# Modelni o'rgating
model.fit(X_poezd, y_poezd, davrlar=5, toʻplam_sizi=128)

# Modelni baholang
test_loss, test_acc = model.baholash(X_test, y_test)
chop etish(f'Test aniqligi: {test_acc:.2f}')

Ushbu kod misoli TensorFlow-dan foydalangan holda Raspberry Pi-da asosiy AI modelini o'rnatishni namoyish etadi. Model MNIST ma'lumotlar to'plamida o'qitiladi va test to'plamida baholanadi. Kod chekka qurilmalarda AI modelini joylashtirish uchun apparat-dasturiy ta'minotni birgalikda loyihalashning soddaligi va moslashuvchanligini namoyish etadi.

Eng ko'p ishlatiladigan 5-10 ta buyruq/parchalar

Bu erda apparat-dasturiy ta'minotni birgalikda loyihalash uchun eng ko'p ishlatiladigan buyruqlar va parchalar keltirilgan:

  • TensorFlow: tf.keras.Sequential(), tf.keras.layers.Conv2D(), tf.keras.layers.MaxPooling2D()
  • Raspberry Pi: sudo apt-get update, sudo apt-get install python3-pip, pip3 install tensorflow
  • Birgalikda dizayn: co-design.py -h, co-design.py -m <model_name>, co-design.py -d <qurilma_nomi>

Vizualizatsiya

Bu yerda Chart.js yordamida apparat-dasturiy taʼminotni birgalikda loyihalash afzalliklarining vizual tasviri:

{
  "turi": "bar",
  "ma'lumotlar": {
    "yorliqlar": ["An'anaviy AI modelini joylashtirish", "Uskuna-dasturiy ta'minotni birgalikda loyihalash"],
    "ma'lumotlar to'plami": [
      {
        "label": "ishlash",
        "ma'lumotlar": [10, 20],
        "backgroundColor": "rgba(255, 99, 132, 0.2)",
        "borderColor": "rgba(255, 99, 132, 1)",
        "borderWidth": 1
      },
      {
        "label": "Quvvat iste'moli",
        "ma'lumotlar": [50, 30],
        "backgroundColor": "rgba(54, 162, 235, 0.2)",
        "borderColor": "rgba(54, 162, 235, 1)",
        "borderWidth": 1
      },
      {
        "label": "kechikish",
        "ma'lumotlar": [100, 50],
        "backgroundColor": "rgba(255, 206, 86, 0.2)",
        "borderColor": "rgba(255, 206, 86, 1)",
        "borderWidth": 1
      }
    ]
  },
  "variantlar": {
    "sarlavha": {
      "displey": rost,
      "text": "Uskuna-dasturiy ta'minotni birgalikda loyihalashning afzalliklari"
    },
    "tarozi": {
      "yAxes": [
        {
          "tiklash": {
            "beginAtZero": rost
          }
        }
      ]
    }
  }
}

Ushbu vizualizatsiya an'anaviy AI modelini joylashtirishning ishlashi, quvvat sarfi va kechikishini apparat-dasturiy ta'minotni birgalikda loyihalash bilan taqqoslaydi.

Xulosa

Uskuna-dasturiy ta'minotni birgalikda loyihalash AI modelini chekka qurilmalarda samarali joylashtirish uchun istiqbolli yondashuv sifatida paydo bo'ldi. Uskuna va dasturiy ta'minot komponentlarini birgalikda optimallashtirish orqali birgalikda dizayn ishlashning sezilarli yaxshilanishiga, quvvat sarfini kamaytirishga va kechikish vaqtini kamaytirishga olib kelishi mumkin. Ushbu maqolada apparat-dasturiy ta'minotni birgalikda loyihalashning afzalliklari va amaliy qo'llanilishi, shu jumladan oddiy kod misoli va afzalliklarning vizualizatsiyasi batafsil ko'rib chiqilgan. Keng AIga talab o'sishda davom etar ekan, apparat-dasturiy ta'minotni birgalikda loyihalash samarali va samarali AI modellarini ishlab chiqishda tobora muhim rol o'ynashi mumkin.

Have Questions?

Let's Talk

Contact me on LinkedIn