Skilvirk gervigreind líkansuppsetning á Edge-tækjum með samhönnun vélbúnaðar og hugbúnaðar

Inngangur

Útbreiðsla brúntækja, eins og snjallsíma, snjalltækja og sjálfstýrðra farartækja, hefur skapað brýna þörf fyrir skilvirka gervigreindargerð á þessum tækjum. Hefðbundnar uppsetningaraðferðir gervigreindar líkana byggja oft á skýjatengdum innviðum, sem geta kynnt leynd, öryggisáhyggjur og mikla orkunotkun. Til að takast á við þessar áskoranir hefur samhönnun vélbúnaðar og hugbúnaðar komið fram sem efnileg nálgun, sem gerir kleift að fínstilla afköst gervigreindarlíkana, orkunotkun og leynd á brúntækjum.

Gatnamót gervigreindar, Edge Computing og samhönnunar

Edge computing vísar til vinnslu gagna á jaðri netkerfisins, nær uppruna gagnanna, frekar en í miðlægu skýi eða gagnaveri. Gervigreind líkön krefjast hins vegar umtalsverðs reikniúrræðis til að vinna úr og greina mikið magn gagna. Skurðpunktur gervigreindar, jaðartölvu og samhönnunar felur í sér sameiginlega hagræðingu vélbúnaðar- og hugbúnaðarhluta til að ná fram skilvirkri uppsetningu gervigreindarlíkana á jaðartæki.

Kostir samhönnunar vélbúnaðar og hugbúnaðar

Samhönnun vélbúnaðar og hugbúnaðar býður upp á nokkra kosti, þar á meðal:

Bætt afköst: Með því að fínstilla vélbúnaðar- og hugbúnaðaríhluti saman getur samhönnun leitt til umtalsverðra frammistöðubóta í uppsetningu gervigreindarlíkana.
Minni orkunotkun: Samhönnun getur hjálpað til við að draga úr orkunotkun með því að fínstilla vélbúnaðar- og hugbúnaðaríhluti fyrir notkun með litlum afli.
Minni leynd: Samhönnun getur hjálpað til við að draga úr leynd með því að fínstilla vélbúnaðar- og hugbúnaðarhluta fyrir hraðvirka gagnavinnslu og samskipti.
Aukinn sveigjanleiki: Samhönnun getur gert kleift að þróa sveigjanlegri og aðlögunarhæfari gervigreindarlíkön sem auðvelt er að nota á mismunandi brúntæki.

Hagnýt áhersla: Dæmi um kóða

Við skulum íhuga einfalt dæmi um samhönnun vélbúnaðar og hugbúnaðar fyrir uppsetningu gervigreindarlíkana á jaðartækjum. Við munum nota hið vinsæla Python bókasafn, TensorFlow, til að setja upp grunn gervigreind líkan á Raspberry Pi, vinsælt brúntæki.

flytja inn tensorflow sem tf
frá tensorflow.keras innflutningslögum

# Skilgreindu AI líkanarkitektúrinn
model = tf.keras.Sequential([
    layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
    layers.MaxPooling2D((2, 2)),
    layers.Flatten(),
    layers.Dense(64, activation='relu'),
    layers.Dense(10, activation='softmax')
])

# Settu saman líkanið
model.compile(optimizer='adam',
              loss='sparse_categorical_crossentropy',
              metrics=['nákvæmni'])

# Hladdu MNIST gagnasafninu
(X_train, y_train), (X_test, y_test) = tf.keras.datasets.mnist.load_data()

# Forvinndu gögnin
X_train = X_train.reshape(-1, 28, 28, 1).astype('float32') / 255.0
X_test = X_test.reshape(-1, 28, 28, 1).astype('float32') / 255.0

# Þjálfa líkanið
model.fit(X_train, y_train, epochs=5, batch_size=128)

# Metið líkanið
test_loss, test_acc = model.evaluate(X_test, y_test)
print(f'Prófnákvæmni: {test_acc:.2f}')

Þetta kóðadæmi sýnir grunngerð gervigreindarlíkansins á Raspberry Pi með TensorFlow. Líkanið er þjálfað á MNIST gagnapakkanum og metið á prófunarsetti. Kóðinn sýnir einfaldleika og sveigjanleika samhönnunar vélbúnaðar og hugbúnaðar fyrir uppsetningu gervigreindarlíkana á jaðartæki.

Topp 5-10 mest notuðu skipanir/bútar

Hér eru nokkrar af algengustu skipunum og bútunum fyrir samhönnun vélbúnaðar og hugbúnaðar:

TensorFlow: tf.keras.Sequential(), tf.keras.layers.Conv2D(), tf.keras.layers.MaxPooling2D()
Raspberry Pi: sudo apt-get update, sudo apt-get install python3-pip, pip3 install tensorflow
Co-Design: co-design.py -h, co-design.py -m <model_name>, co-design.py -d <device_name>

Sjónræn

Hér er mynd af ávinningi samhönnunar vélbúnaðar og hugbúnaðar með því að nota Chart.js:

{
  "type": "bar",
  "gögn": {
    "labels": ["Hefðbundin gervigreind líkanauppsetning", "samhönnun vélbúnaðar og hugbúnaðar"],
    "gagnasett": [
      {
        "label": "Frammistaða",
        "gögn": [10, 20],
        "backgroundColor": "rgba(255, 99, 132, 0.2)",
        "borderColor": "rgba(255, 99, 132, 1)",
        "borderWidth": 1
      },
      {
        "label": "Aflnotkun",
        "gögn": [50, 30],
        "backgroundColor": "rgba(54, 162, 235, 0.2)",
        "borderColor": "rgba(54, 162, 235, 1)",
        "borderWidth": 1
      },
      {
        "label": "Töf",
        "gögn": [100, 50],
        "backgroundColor": "rgba(255, 206, 86, 0.2)",
        "borderColor": "rgba(255, 206, 86, 1)",
        "borderWidth": 1
      }
    ]
  },
  "valkostir": {
    "titill": {
      "display": satt,
      "text": "Ávinningur af samhönnun vélbúnaðar og hugbúnaðar"
    },
    "vog": {
      "yAxes": [
        {
          "tikkar": {
            "beginAtZero": satt
          }
        }
      ]
    }
  }
}

Þessi sjónmynd ber saman afköst, orkunotkun og leynd hefðbundinnar gervigreindarlíkana uppsetningar á móti samhönnun vélbúnaðar og hugbúnaðar.

Niðurstaða

Samhönnun vélbúnaðar og hugbúnaðar hefur komið fram sem efnileg nálgun fyrir skilvirka uppsetningu gervigreindarlíkana á jaðartæki. Með því að fínstilla vélbúnaðar- og hugbúnaðaríhluti saman getur samhönnun leitt til umtalsverðra frammistöðubóta, minni orkunotkunar og minni leynd. Þessi grein hefur veitt ítarlegt yfirlit yfir ávinninginn og hagnýt forrit samhönnunar vélbúnaðar og hugbúnaðar, þar á meðal einfalt kóðadæmi og sjónmynd af ávinningnum. Eftir því sem eftirspurnin eftir gervigreind í forskoti heldur áfram að aukast er líklegt að samhönnun vélbúnaðar og hugbúnaðar muni gegna sífellt mikilvægara hlutverki í þróun skilvirkra og áhrifaríkra gervigreindarlíkana.