LLM modelini ve tokenizer'ı yükleyin | B4N1

LLM modelini ve tokenizer'ı yükleyin

6 months ago · b4n1 Read time: 4 min

DevOps Temsilcileri ve LLM'lerle Otomatik Olay Araştırmasını Uygulama

Giriş

Günümüzün hızlı ilerleyen dijital ortamında DevOps ekipleri giderek daha karmaşık hale gelen bir zorlukla karşı karşıyadır: Olayları mümkün olduğu kadar hızlı bir şekilde tanımlamak ve çözmek. Manuel inceleme yöntemleri zaman alıcı olabilir ve insan hatasına yatkın olabilir, bu da arıza süresinin uzamasına ve müşteri memnuniyetinin azalmasına yol açabilir. Bu sorunu çözmek için DevOps otomasyonu, yapay zeka destekli olay incelemesi ve Büyük Dil Modellerinin (LLM'ler) AWS DevOps Agent ve Copado Agentia gibi DevOps araçlarını geliştirmedeki rolünün kesişimini araştırıyoruz.

Olay Soruşturmasının Mevcut Durumu

Olay araştırması, yazılım sistemlerini etkileyen sorunların tanımlanmasını, analizini ve çözümlenmesini içeren DevOps'un kritik bir yönüdür. Geleneksel yöntemler, günlük analizi, hata takibi ve paydaşlarla iletişim gibi manuel süreçlere dayanır. Bu yöntemler etkili olmakla birlikte, yavaş olabilirler ve hatalara açık olabilirler; bu da aşağıdakilere yol açabilir:

  1. Artan kesinti süresi: Manuel inceleme yöntemleri olayın çözümünü geciktirebilir, bu da kesinti süresinin uzamasına ve müşteri memnuniyetinin azalmasına neden olabilir.
  2. İnsan hatası: Manuel süreçler insan hatasına karşı hassastır ve bu da olayların yanlış teşhis edilmesine ve çözülmesine yol açabilir.
  3. Ölçeklenebilirlik sorunları: Sistemlerin boyutu ve karmaşıklığı arttıkça, manuel inceleme yöntemlerinin ölçeklendirilmesi giderek zorlaşıyor.

Olay Araştırmasında DevOps Temsilcilerinin Rolü

AWS DevOps Agent ve Copado Agentia gibi DevOps aracıları, olay incelemesinin otomatikleştirilmesinde önemli bir rol oynar. Bu aracılar şunları yapabilir:

  1. Günlükleri toplayın ve analiz edin: DevOps aracıları, çeşitli kaynaklardan günlükleri toplayıp analiz ederek olayın nedenlerine ilişkin değerli bilgiler sağlayabilir.
  2. Hata izlemeyi otomatikleştirin: Temsilciler hata izlemeyi otomatikleştirerek manuel inceleme için gereken zamanı ve çabayı azaltabilir.
  3. İletişimi geliştirin: Temsilciler ekipler, paydaşlar ve sistemler arasındaki iletişimi kolaylaştırarak olay bilgilerinin verimli bir şekilde paylaşılmasını sağlayabilir.

Olay Soruşturmasında Yüksek Lisans'ın Rolü

Büyük Dil Modelleri (LLM'ler), doğal dil işleme (NLP) alanında devrim yaratarak makinelerin insan benzeri metinleri anlamasını ve oluşturmasını sağladı. Olay soruşturması bağlamında Yüksek Lisans'lar şunları yapabilir:

  1. Olay raporlarını analiz edin: LLM'ler, bir olayın temel nedenini gösterebilecek önemli bilgileri ve kalıpları belirleyerek olay raporlarını analiz edebilir.
  2. Olay özetleri oluşturun: LLM'ler olay raporlarının kısa özetlerini oluşturarak iletişimi ve karar almayı kolaylaştırabilir.
  3. Bağlama duyarlı öneriler sağlayın: LLM'ler, belirli sistemi, ortamı ve ilgili paydaşları dikkate alarak olayın çözümü için bağlama duyarlı öneriler sağlayabilir.

DevOps Temsilcileri ve LLM'lerle Otomatik Olay Araştırmasını Uygulama

DevOps aracıları ve LLM'lerle otomatik olay incelemesini uygulamak için adım adım bir yaklaşım izleyeceğiz:

  1. DevOps aracılarını entegre edin: AWS DevOps Agent ve Copado Agentia gibi DevOps aracılarını olay yönetimi sisteminize entegre edin.
  2. Günlükleri toplayın ve analiz edin: DevOps aracılarını çeşitli kaynaklardan günlükleri toplayacak ve analiz edecek şekilde yapılandırarak olayın nedenlerine ilişkin değerli bilgiler sağlayın.
  3. Bir LLM modelini eğitin: Bir LLM modelini olay raporları, günlükler ve diğer ilgili bilgilerden oluşan bir veri kümesi üzerinde eğitin.
  4. LLM'yi DevOps aracılarıyla entegre edin: LLM modelini DevOps aracılarıyla entegre ederek LLM'nin olay raporlarını analiz etmesini ve olay çözümü için öneriler sunmasını sağlayın.
  5. Çözümünü dağıtın: Otomatik olay inceleme çözümünü dağıtarak ölçeklenebilir, güvenilir ve emniyetli olmasını sağlayın.

Örnek Kod: LLM'yi DevOps Agent'larla entegre etme

Burada Python'da bir LLM modelinin DevOps aracısıyla nasıl entegre edileceğini gösteren örnek bir kod pasajı verilmiştir:

içe aktarma günlüğü
transformatörlerden AutoModelForSequenceClassification, AutoTokenizer'ı içe aktarın
aws_devops_agent içe aktarma Aracısından


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# DevOps aracısını başlat
aracı = Aracı()

# LLM modelini kullanarak olay raporlarını analiz etmek için bir işlev tanımlayın
def analyze_incident_report(rapor):
    # Olay raporunun ön işlenmesi
    girdiler = tokenizer.encode_plus(rapor, 
                                    add_special_tokens=Doğru, 
                                    maksimum_uzunluk=512, 
                                    return_attention_mask=Doğru, 
                                    return_tensors='pt')
    
    # LLM modelini kullanarak olay raporunu analiz edin
    çıktılar = model(girişler['giriş_kimlikleri'], dikkat_mask=girişler['dikkat_mask'])
    
    # Tahmin edilen sınıf etiketini çıkarın
    tahmin edilen_sınıf = torch.argmax(çıkışlar.logits)
    
    tahmin edilen_sınıfı döndür

# Olay çözümüne yönelik öneriler sağlayacak bir işlev tanımlayın
def Provid_suggestions(predicted_class):
    # Olay çözümüne yönelik öneriler sağlamak için tahmin edilen sınıf etiketini kullanın
    eğer öngörülen_sınıf == 0 ise:
        "Sistem günlüklerinde hatalar olup olmadığını kontrol edin" ifadesini döndür
    elif tahmin edilen_sınıf == 1:
        "Ağ bağlantısını doğrulayın" ifadesini döndürün
    başka:
        return "Yardım için geliştirme ekibiyle iletişime geçin"

# LLM modelini DevOps aracısıyla entegre edin
def olay_inceleme():
    # DevOps aracısından günlükleri toplayın ve analiz edin
    günlükler = Agent.get_logs()
    
    # LLM modelini kullanarak günlükleri analiz edin
    tahmin edilen_sınıf = analyze_incident_report(günlükler)
    
    # Olay çözümü için önerilerde bulunun
    öneriler = Provid_suggestions(predicted_class)
    
    önerileri geri getir

# Olay inceleme çözümünü dağıtın
olay_inceleme()
''''
**En Çok Kullanılan 5-10 Komut/Parçacık**

İşte bu teknoloji için en çok kullanılan ilk 5-10 komut/parçacık:

1. `aws devops aracı get-logs`: DevOps aracısından günlükleri toplayın.
2. `transformers.AutoModelForSequenceClassification.from_pretrained()`: LLM modelini yükleyin.
3. `tokenizer.encode_plus()`: Olay raporunu ön işleme tabi tutun.
4. `model(inputs['input_ids'], Attention_mask=inputs['attention_mask'])`: Olay raporunu LLM modelini kullanarak analiz edin.
5. `torch.argmax(outputs.logits)`: Tahmin edilen sınıf etiketini çıkarın.
6. `provide_suggestions(predicted_class)`: Olay çözümü için öneriler sağlayın.
7. `agent.get_logs()`: DevOps aracısından günlükleri toplayın.
8. `analyze_incident_report(report)`: Olay raporunu LLM modelini kullanarak analiz edin.
9. `incident_investigation()`: Olay inceleme çözümünü dağıtın.
10. `torch.save(model.state_dict(), 'model.pth')`: LLM modelini kaydedin.

**Görselleştirme**

Aşağıda, Chart.js kullanılarak otomatik olay inceleme çözümünün görselleştirilmesi verilmiştir:
```json
{
  "tip": "çubuk",
  "veri": {
    "etiketler": ["Manuel Araştırma", "Otomatik Araştırma"],
    "veri kümeleri": [
      {
        "label": "Çözüm Zamanı",
        "veri": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0,2)", "rgba(54, 162, 235, 0,2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "kenar genişliği": 1
      }
    ]
  },
  "seçenekler": {
    "başlık": {
      "görüntü": doğru,
      "text": "Olayları Çözme Zamanı"
    },
    "ölçekler": {
      "yAxes": [
        {
          "keneler": {
            "beginAtZero": doğru
          }
        }
      ]
    }
  }
}
''''
Bu görselleştirme, manuel inceleme yöntemlerini kullanarak olayları çözme süresini DevOps aracıları ve LLM'leri kullanan otomatik araştırma yöntemleriyle karşılaştırır.

**Sonuç**

DevOps aracıları ve LLM'lerle otomatik olay incelemesinin uygulanması, olay çözümlemesinin verimliliğini ve etkinliğini önemli ölçüde artırabilir. Kuruluşlar, DevOps aracılarını LLM'lerle entegre ederek günlüklerin analizini otomatikleştirebilir, olay çözümü için bağlama duyarlı öneriler sağlayabilir ve olayları çözme süresini azaltabilir. DevOps otomasyonu, yapay zeka destekli olay incelemesi ve LLM'lerin AWS DevOps Agent ve Copado Agentia gibi DevOps araçlarını geliştirmedeki rolünün kesişimini inceledik. Kuruluşlar, bu makalede özetlenen adım adım yaklaşımı izleyerek ölçeklenebilir, güvenilir ve güvenli bir otomatik olay inceleme çözümünü devreye alabilir.

Have Questions?

Let's Talk

Contact me on LinkedIn