Meta izdod Muse Spark Open un Osprey 1.0: AI tehnoloģiju attīstība un tiešsaistes drošība | B4N1

Meta izdod Muse Spark Open un Osprey 1.0: AI tehnoloģiju attīstība un tiešsaistes drošība

13 days ago · b4n1 Read time: 4 min

Meta izdod Muse Spark Open un Osprey 1.0: AI tehnoloģiju attīstība un tiešsaistes drošība

Nesenais Meta Muse Spark Open, revolucionārs 816B ekspertu kombinācijas modelis, un Osprey 1.0, atvērtā pirmkoda noteikumu dzinējs tiešsaistes drošībai, ir nozīmīgs pavērsiens AI tehnoloģiju un kiberdrošības attīstībā. Šajā rakstā tiks apskatīta šo laidienu tehniskā informācija, apspriesta to ietekme uz tehnoloģiju nozari un izpētīti kompromisi un inženiertehniskie secinājumi, kas izriet no to izstrādes. Galvenais šī raksta arguments ir tāds, ka Muse Spark Open un Osprey 1.0 laidieni demonstrē straujo progresu AI pētniecībā un tās potenciālajos lietojumos dažādās jomās, vienlaikus uzsverot nepieciešamību pēc efektīvām un mērogojamām AI arhitektūrām un drošas atvērtā pirmkoda programmatūras.

Muse Spark Open: izrāviens AI tehnoloģijā

Muse Spark Open ir 816 B atvērtā svara modelis ar 42 B aktīviem parametriem un 1 miljona marķiera konteksta logu, iegūstot 39 punktus mākslīgās analīzes intelekta indeksā. Šis modelis ir ievērojams sasniegums AI tehnoloģijā, jo tas attēla un dokumentu izpratnei pievieno audio un video uztveri. Saskaņā ar Meta paziņojumu, Muse Spark Open tika apmācīts NVIDIA GB300 NVL72 aģentu kodēšanai, demonstrējot straujo progresu AI izpētē un tā potenciālos lietojumus dažādās jomās.

Šajā tabulā ir salīdzināti Muse Spark Open galvenie rādītāji ar citiem modernākajiem modeļiem.

Modelis Parametri Konteksta logs Mākslīgās analīzes intelekta indekss
Muse Spark Open 42B 1 miljons 39
Iepriekšējais jaunākais 10B 100k 25

Kā parādīts tabulā, Muse Spark Open pārspēj iepriekšējos modernākos modeļus parametru, konteksta loga un mākslīgās analīzes intelekta indeksa ziņā. Tas parāda ievērojamos sasniegumus AI tehnoloģijā un nākotnes inovāciju potenciālu.

Osprey 1.0: jauns rīks tiešsaistes drošībai

Osprey 1.0 ir atvērtā pirmkoda noteikumu dzinējs tiešsaistes drošībai, kas paredzēts tiešsaistes drošības tehnoloģiju demokratizācijai, izmantojot atvērtā pirmkoda programmatūru. Kā bezpeļņas iniciatīva Osprey mērķis ir nodrošināt jaunu rīku ļaunprātīgas izmantošanas mazināšanai reāllaikā, kas ir ļoti svarīgi mūsdienu digitālajā vidē. Saskaņā ar [Osprey's dokumentāciju] (https://osprey.readthedocs.io/en/latest/) programma izmanto mašīnmācīšanās un uz noteikumiem balstītas pieejas kombināciju, lai atklātu un novērstu tiešsaistes ļaunprātīgu izmantošanu.

Šis koda fragments parāda, kā konfigurēt Osprey 1.0 ļaunprātīgas izmantošanas mazināšanai reāllaikā.

importēt zivjērgli

# Ielādējiet Osprey dzinēju
motors = osprey.Engine()

# Definējiet noteikumu tiešsaistes ļaunprātīgas izmantošanas noteikšanai
noteikums = zivjērglis.Rule(
    name = "Ļaunprātīgas izmantošanas noteikšana",
    modelis=".*abuse.*",
    action=osprey.Action.BLOCK
)

# Pievienojiet noteikumu dzinējam
engine.add_rule(noteikums)

# Iedarbiniet dzinēju
engine.start()

Šis koda fragments parāda, kā ielādēt Osprey dzinēju, definēt noteikumu tiešsaistes ļaunprātīgas izmantošanas noteikšanai un pievienot kārtulu programmai. Pēc tam dzinēju var iedarbināt, lai sāktu ļaunprātīgas izmantošanas mazināšanu reāllaikā.

💡 Key Takeaway: Osprey 1.0 nodrošina jaunu rīku ļaunprātīgas izmantošanas mazināšanai reāllaikā, parādot atvērtā pirmkoda programmatūras nozīmi tiešsaistes drošības tehnoloģiju demokratizācijā.

Kompromisi un inženiertehniskie secinājumi

Lai gan Muse Spark Open un Osprey 1.0 ir ievērojami sasniegumi AI tehnoloģijā un tiešsaistes drošībā, ir jāapsver kompromisi. Piemēram, Muse Spark Open lielajai parametru telpai var būt nepieciešami ievērojami skaitļošanas resursi, kas, iespējams, ierobežos tā izvietošanu vidēs, kurās ir ierobežoti resursi. Tāpat Osprey 1.0 atvērtā pirmkoda raksturs var radīt drošības riskus, ja tas netiek pareizi uzturēts un atjaunināts.

Lai mazinātu šos riskus, inženieru komandām par prioritāti jānosaka efektīvas un mērogojamas AI arhitektūras izstrāde, vienlaikus nodrošinot arī atvērtā pirmkoda programmatūras drošību un apkopi. To var panākt, izmantojot tādas metodes kā modeļu atzarošana, zināšanu destilācija un nepārtrauktas integrācijas/nepārtrauktas izvietošanas (CI/CD) cauruļvadi.

Šajā tabulā ir norādīti daži iespējamie kompromisi un ietekmes mazināšanas stratēģijas.

Izlaidums Seku mazināšanas stratēģija
Skaitļošanas resursi Modeļa atzarošana, zināšanu destilācija
Drošības riski Nepārtrauktas integrācijas/nepārtrauktas izvietošanas (CI/CD) cauruļvadi, drošas kodēšanas prakse

⚠️ Arhitektūras risks: Muse Spark Open lielā parametru telpa var radīt ievērojamas skaitļošanas izmaksas, iespējams, ierobežojot tā izvietošanu vidēs ar ierobežotiem resursiem.

Arhitektūras pārskats

Šajā diagrammā parādīta Muse Spark Open un Osprey 1.0 augsta līmeņa arhitektūra:

grafiks LR
    A[Muse Spark Open] -->|Trenēts uz|> B[NVIDIA GB300 NVL72]
    B -->|Ģenerē|> C[AI modeļi]
    C -->|Integrēts ar|> D[Osprey 1.0]
    D -->|Nodrošina|> E[Reāllaika ļaunprātīgas izmantošanas mazināšana]

Šī diagramma parāda Muse Spark Open un Osprey 1.0 augsta līmeņa arhitektūru, parādot, kā tās var integrēt, lai nodrošinātu reāllaika ļaunprātīgas izmantošanas mazināšanu.

Apstrīdams secinājums

Muse Spark Open un Osprey 1.0 laidieni demonstrē straujo progresu AI izpētē un tās potenciālos lietojumus dažādās jomās. Kā inženieru komandām mums par prioritāti būtu jāizvirza efektīvas un mērogojamas AI arhitektūras izstrāde, vienlaikus nodrošinot arī atvērtā pirmkoda programmatūras drošību un apkopi. To darot, mēs varam atraisīt AI tehnoloģijas potenciālu un izveidot drošāku un drošāku tiešsaistes vidi.

Avoti


Have Questions?

Let's Talk

Contact me on LinkedIn