Ҷойгиркунии самараноки модели AI дар дастгоҳҳои канорӣ тавассути тарҳрезии муштараки сахтафзор-нармафзор | B4N1

Ҷойгиркунии самараноки модели AI дар дастгоҳҳои канорӣ тавассути тарҳрезии муштараки сахтафзор-нармафзор

3 months ago · b4n1 Read time: 4 min

Ҷойгиркунии самараноки модели AI дар дастгоҳҳои канорӣ тавассути тарҳрезии муштараки сахтафзор-нармафзор

Муқаддима

Паҳншавии дастгоҳҳои канорӣ имкониятҳои навро барои барномаҳои зеҳни сунъӣ (AI) фароҳам овард, ки дар вақти воқеӣ ҷойгир карда шаванд, ки ба барномаҳое, аз қабили хонаҳои интеллектуалӣ, мошинҳои мустақил ва автоматизатсияи саноатӣ имкон медиҳанд. Аммо, захираҳои маҳдуди ҳисоббарорӣ ва маҳдудиятҳои қудрати дастгоҳҳои канорӣ барои ҷобаҷогузории модели AI мушкилоти ҷиддӣ эҷод мекунанд. Дар ин мақола, мо чорроҳаи AI, муҳандисии нармафзор ва меъмориро барои оптимизатсия кардани кори дастгоҳи канорӣ, бо истифода аз пешрафтҳои охирин дар самаранокии модели AI ва усулҳои тарроҳии сахтафзор ва нармафзор омӯхта хоҳем кард.

Мушкилоти ҷобаҷогузории модели AI дар дастгоҳҳои канорӣ

Дастгоҳҳои Edge бо захираҳои маҳдуди ҳисоббарории худ, аз ҷумла CPU, хотира ва масрафи нерӯ тавсиф карда мешаванд. Моделҳои анъанавии AI, ки аксар вақт барои ҷойгиркунии абрӣ пешбинӣ шудаанд, барои дастгоҳҳои канорӣ оптимизатсия карда нашудаанд. Дар натиҷа, онҳо метавонанд боиси:

  • Пастшавии кор: Моделҳои AI метавонанд дар дастгоҳҳои канорӣ самаранок кор накунанд, ки боиси суст шудани вақти вокуниш ва кам шудани дақиқ мегардад.
  • Истеъмоли нерӯи барқ: Моделҳои AI метавонанд қувваи назаррасро истеъмол кунанд, ки ин метавонад барои дастгоҳҳои канори бо батарея нигаронида шавад.
  • ** Маҳдудиятҳои хотира**: Моделҳои AI метавонанд миқдори зиёди хотираро талаб кунанд, ки барои дастгоҳҳои канори дорои захираҳои хотираи маҳдуд душвор буда метавонад.

Усулҳои тарҳрезии муштараки сахтафзор-нармафзор

Барои ҳалли ин мушкилот, усулҳои тарҳрезии муштараки сахтафзор ва нармафзор ҳамчун роҳи ҳалли умедбахш пайдо шуданд. Ин усулҳо тарҳрезии ҳам ҷузъҳои сахтафзор ва ҳам нармафзори дастгоҳи канориро дар тандем ва оптимизатсияи онҳоро барои ҷобаҷогузории модели AI дар бар мегиранд.

1. Буридани намуна

Буридани модел бартараф кардани вазнҳо ва пайвастҳои нолозимро аз модели AI, кам кардани андоза ва талаботи ҳисоббарории онро дар бар мегирад. Ин техника метавонад ҳам ба шабакаҳои нейронӣ ва ҳам дар дарахтони қарор татбиқ карда шавад.

`` питон машъали воридотӣ импорт машъал.нн хамчун нн

class ModelPruning(nn.Module): def init (худ): super(ModelPruning, self).init() self.fc1 = nn.Хатӣ(784, 128) self.fc2 = nn.Хатӣ(128, 10)

def ба пеш (худ, x):
    x = torch.relu(self.fc1(x))
    x = self.fc2(x)
    баргардонидани x

модел = ModelPruning () pruned_model = torch.nn.utils.prune_l1_unstructured(модел, 'вазн', 0,1)


### **2. Дистилятсияи дониш**

Таркиби дониш интиқоли донишро аз модели калон ва мураккаби AI ба модели хурдтар ва соддатарро дар бар мегирад. Ин усул метавонад барои кам кардани андоза ва талаботи ҳисоббарории модели AI истифода шавад.

`` питон
машъали воридотӣ
импорт машъал.нн хамчун нн

Class KnowledgeDistillation(nn.Module):
    def __init__ (худ):
        супер(Дистилятсияи дониш, худидоракунӣ).__init__()
        self.fc1 = nn.Хатӣ(784, 128)
        self.fc2 = nn.Хатӣ(128, 10)

    def ба пеш (худ, x):
        x = torch.relu(self.fc1(x))
        x = self.fc2(x)
        баргардонидани x

teacher_model = Модели буридан ()
student_model = Distillation Knowledge ()

3. Квантизатсия

Квантизатсия кам кардани дақиқии вазнҳо ва фаъолсозии модели AI, кам кардани талаботи ҳисоббарории модели AI-ро дар бар мегирад.

`` питон машъали воридотӣ импорт машъал.нн хамчун нн

Квантизатсия синфи (nn.Module): def init (худ): super(Quantization, self).init() self.fc1 = nn.Хатӣ(784, 128) self.fc2 = nn.Хатӣ(128, 10)

def ба пеш (худ, x):
    x = torch.relu(self.fc1(x))
    x = self.fc2(x)
    баргардонидани x

модел = ModelPruning () quantized_model = torch.quantization.quantize_dynamic(модел, {torch.nn.Linear}, dtype=torch.qint8)


**Беҳтарин 5-10 фармонҳо/порчаҳои бештар истифодашаванда**
----------------------------------

| Фармон/ Порча | Тавсифи |
| --- | --- |
| `torch.nn.utils.prune_l1_unstructured(модел, 'вазн', 0,1)` | Буридани намунавӣ бо истифода аз регуляризатсияи L1 |
| `torch.quantization.quantize_dynamic(модел, {torch.nn.Linear}, dtype=torch.qint8)` | Квантизатсия бо истифода аз квантизатсияи динамикӣ |
| `torch.nn.utils.kldistance(модели_муаллим, намунаи_шогирд)` | Distillation дониш бо истифода аз KL divergence |
| `torch.nn.utils.weight_norm(model.fc1)` | Нормализатсияи вазн бо истифода аз меъёри вазн |
| `torch.nn.utils.clip_grad_norm_(model.parameters(), 1.0)` | Буридани градиент бо истифода аз клипи grad norm |
| `torch.nn.utils.clip_grad_value_(model.parameters(), 1.0)` | Буридани градиент бо истифода аз арзиши клип |
| `torch.nn.utils.remove_weight_norm(model.fc1)` | Бартарафсозии нормализатсияи вазн бо истифода аз хориҷ кардани вазн |
| `torch.nn.utils.fuse_conv_bn_eval(model.fc1)` | Омезиши қабати конволютсионӣ бо истифода аз fuse conv bn eval |
| `torch.nn.utils.fuse_bn_eval(model.fc2)` | Омехтаи нормализатсияи партия бо истифода аз fuse bn eval |
| `torch.nn.utils.fuse_bn_eval(model.fc1)` | Омехтаи нормализатсияи партия бо истифода аз fuse bn eval |

** Визуализатсия **
---------------

``` диаграмма
{
  "type": "бар",
  "маълумот": {
    "labels": ["Намуди намунавӣ", "Нархи дониш", "Квантизатсия"],
    "маҷмӯи додаҳо": {
      "label": "Дақиқӣ",
      "маълумот": [0,9, 0,85, 0,8]
    }
  },
  "Options": {
    "унвон": {
      "дисплей": дуруст,
      "text": "Муқоисаи дақиқ"
    },
    "Афсона": {
      "дисплей": дуруст
    }
  }
}

Хулоса

Ҷойгиркунии самараноки модели AI дар дастгоҳҳои канорӣ маҷмӯи усулҳои тарроҳии муштараки сахтафзор ва нармафзорро талаб мекунад. Буридани модел, дистилятсияи дониш ва квантизатсия баъзе усулҳое мебошанд, ки метавонанд барои кам кардани андоза ва талаботи ҳисоббарории моделҳои AI истифода шаванд. Бо истифода аз ин усулҳо, таҳиягарон метавонанд моделҳои AI-ро эҷод кунанд, ки барои дастгоҳҳои канорӣ оптимизатсия карда шудаанд ва имкон медиҳанд, ки барномаҳои воқеиро ба монанди хонаҳои интеллектуалӣ, мошинҳои мустақил ва автоматикунонии саноатӣ таъмин кунанд.

Кори оянда

Корҳои оянда дар ин самт иборатанд аз:

  • Таҳияи усулҳои тарроҳии нави сахтафзор ва нармафзор: Муҳаққиқон ва таҳиягарон метавонанд усулҳои нави оптимизатсияи моделҳои AI-ро барои дастгоҳҳои канорӣ кашф кунанд.
  • Такмили буриши модел ва алгоритмҳои дистилятсияи дониш: Таҳияи алгоритмҳои муассиртар барои буридани модел ва дистилятсияи дониш метавонад ба иҷрои беҳтар ва дақиқӣ оварда расонад.
  • Таҳқиқи истифодаи дигар моделҳои AI: Моделҳои дигари AI, ба монанди дарахтони тасмимгирӣ ва ҷангалҳои тасодуфӣ, метавонанд барои ҷойгиркунии дастгоҳи канорӣ омӯхта шаванд.

Бо идома додани пешрафт дар соҳаи тарҳрезии муштараки сахтафзор ва нармафзор, мо метавонем моделҳои бештар муассир ва муассири AI-ро барои дастгоҳҳои канорӣ эҷод кунем, ки доираи васеи барномаҳо ва ҳолатҳои истифодаро фароҳам орем.

Have Questions?

Let's Talk

Contact me on LinkedIn