🚨 ServiceNow Uyardı: Kontrolsüz Yapay Zeka Ajanları Şirketleri Tehdit Ediyor! 🚨

[Süeda Asil]

Yapay Zeka Ajanları Kontrolden Çıkıyor mu?​

ServiceNow'un son araştırmasına göre, şirketler içinde kontrolsüz yapay zeka (YZ) ajanlarının yaygınlaşması, pilot aşamasından sistem entegrasyonuna geçtikçe riskleri artırıyor. Ancak, üretim sektöründe bazı etkili kontrol mekanizmalarının zaten mevcut olduğu belirtiliyor.

Küresel Güvenlik Liderleri Endişeli​

Bulut tabanlı YZ yönetişim yazılımı platformu sağlayıcısı ServiceNow'un küresel güvenlik liderleriyle yaptığı ankete göre, dünya genelindeki kuruluşların %90'ı son bir yıl içinde YZ ajanı kaynaklı bir güvenlik olayı yaşadı. "Dağıtılmış ama Kontrolsüz: Ajan Güvenliğinin Durumu" başlıklı rapor, 20 ülke ve sekiz sektörden 3.700'den fazla üst düzey güvenlik ve teknoloji liderinin görüşlerini içeriyor. Bu liderlerin 575'i küresel üretim sektöründen.

Yönetişim Çerçevelerindeki Eksiklikler​

Araştırma, kuruluşların yarısından azının YZ ajanı dağıtımlarını kapsayan yönetişim çerçeveleri kullandığını ve bu durumun kontrolsüz YZ ajanı risklerini artırdığını ortaya koyuyor. Çoğu YZ ajanı, eski çerçeveler ve insan odaklı sistemlerle yönetiliyor. Küresel güvenlik ekiplerinin %50'sinden azı, bir ajanın geliştirilmesine güvenlik unsurlarını dahil ediyor.

ServiceNow'a göre, izinler ve güvenlik önlemleri dağıtımdan önce değil, "ihtiyaç duyuldukça" uygulanıyor. Bu durum, kör noktalar ve ölçekle birleştiğinde kuruluşların risk maruziyetini artırıyor. Ayrıca, makine hızındaki riskler insan hızındaki tepkileri geride bırakıyor: Kuruluşların %76'sı her ajanın erişiminin güncel bir haritasını tuttuğunu belirtirken, sadece %19'u ajanlarının %90'ından fazlasını gerçek zamanlı olarak görebiliyor.

Üretim Sektöründe Daha Sağlam Güvenlik​

Bu zorluklara rağmen, çalışma üretim sektöründe önemli farklılıklar buldu. Örneğin, üretim kuruluşlarının %92'sinde YZ ajanları OT veya fiziksel ortamlarla etkileşim halindeyken, bu oran küresel olarak %82. Üretim sektöründe %30'dan fazlası, daha önce bilinmeyen veya kaydedilmemiş YZ ajanlarının üretimde çalıştığını tespit etti. Küresel olarak bu oran %29.

Artan maruziyete rağmen, üretim sektöründeki katılımcıların sadece %63'ü YZ ajanı içeren bir OT veya fiziksel güvenlik olayı yaşarken, bu oran küresel olarak %76. ServiceNow, bunun üreticilerin uyguladığı kontrol mekanizmalarından kaynaklanabileceğini belirtiyor. Özellikle, üretim sektöründeki kuruluşların %27'si ajanlarının %90'ından fazlasını gerçek zamanlı olarak görebilirken, bu oran küresel olarak %19. Ayrıca, üretim sektörünün %39'u, bir ajan güvenlik kontrollerini geçene kadar dağıtımı engelleyen otomatik bir geçide sahipken, bu oran küresel olarak %32.

ServiceNow'dan 5 Öneri​

ServiceNow, kuruluşların güvenliklerini güçlendirmeleri için beş öneride bulunuyor:

• Sürekli bir envanter oluşturun ve ajan erişimini haritalandırın.
  
• Tasarım aşamasından önce güvenliği entegre edin.
  
• Ajanlar, kimlikler ve duruş genelinde görünürlüğü birleştirin.
  
• Sürekli kanıt toplayın.
  
• Kuruluş genelinde bir lider atayın.