Cengiz Özemli
Akademisyen
- Konu Yazar
- #1
Yapay zekanın (YZ) sundukları hakkında herkes konuşuyor, ancak yazılımın çelikle buluştuğu endüstriyel ortamlarda işler yolunda gitmediğinde ne olacağı çok daha az tartışılıyor.
YZ, buluttan gerçek zamanlı endüstriyel ortamlara geçerken, bu konudaki sohbetler de değişiyor. Fabrika zeminleri, enerji şebekeleri, bina yönetim sistemleri ve dağıtık altyapılar hızlı bir şekilde YZ yeteneklerini entegre ediyor. Tahmine dayalı bakım, süreç optimizasyonu ve özerk karar alma ile tüm iş akışlarını otomatikleştirmek mümkün. Ancak, kafa karıştıran cevaplar veren sohbet botları ya da yanlış ürün öneren sistemlerden farklı olarak, endüstriyel ortamda yanlış çalışan YZ fiziksel hasar, sistem çapında arızalar ve insan güvenliğini tehdit edebilir.
### Farklı Risk Profili
Bulut tabanlı YZ'de başarısızlığın sonuçları genellikle kötü çıktı, yavaşlayan grafik paneller veya zayıflayan kullanıcı deneyimleriyle sınırlıdır. Endüstriyel kenarda ise risk tamamen değişir. Üç temel endişe türü öne çıkar:
- Fiziksel güvenlik: YZ sistemleri operasyonel teknolojiyle etkileşimdeyken yanlış sınıflandırma veya yetersiz test edilmiş model güncellemeleri, ekipman hasarına veya insanlara zarar vermeye yol açabilir.
- Kademeli ve sistemik risk: Güç şebekeleri veya geniş çaplı üretim tesislerinde bir modelin kötü çıktıları bağlı sistemlerde çökmelere neden olabilir. Bu, yerel bir sorunun yaygın ve büyük aksamalara dönüşmesini tetikler.
- Yönetim ve hesap verebilirlik boşluğu: Geleneksel kontrol sistemlerinde hata kolayca izlenebilirken, YZ modellerinde sebepleri belirlemek zorlaşır. Bu da kimin sorumlu olduğunun belirsiz kalmasına yol açar.
### Endüstriyel Kenarda YZ Güvenliği Nasıl Olmalı?
YZ'nin endüstride güvenli kullanımı yeniliği yavaşlatmak değil, onu sistemin güvenlik gereksinimleriyle uyumlu hale getirmektir. En temel prensip olarak YZ, "karar verici" değil "döngüde" olmalıdır. Çoğu durumda YZ, önerilerde bulunmalı; optimizasyon ve hata tahmini yapmalı; ancak güvenlik frenleri deterministik ve sertifikalı kontrol sistemlerinde kalmalıdır. Böylece hem insan hem de ekipman korunur.
Model geliştirme aşamasında versiyon kontrolü, kapsamlı testler, aşamalı yayılım ve gerektiğinde önceden onaylanmış modele dönüş imkanı şarttır. Aynı zamanda küçük çapta test sürümleri (canary deployment) standart uygulama haline gelmelidir.
Devreye alındıktan sonra, modeller sürekli izlenmelidir. Otomatik sistemler ve kritik kararlar için insan kontrolü gereklidir. Acil durdurma anahtarları ve güvenli durum varsayılanları önceden tasarlanmalıdır.
### Bugünden İnşa Edilebilecek Güvenlik Çerçeveleri
Şu anda standartlar tam oturmamış olsa da, güvenlik çerçeveleri oluşturmak mümkün:
- Sertifikalı kontrol döngülerine YZ dahil edilmemeli. YZ optimizasyon ve tahminde kullanılmalı, kritik güvenlik fonksiyonları PLC ve fiziksel güvenlik kilitleriyle sağlanmalı.
- AI için izin verilen eylem sınırları, hız limitleri ve güvenli durumlar açıkça belirlenmeli. Bu, özellikle otonom YZ ajanları için hayati önem taşır.
- Değişiklik yönetimi sağlanmalı. Yani hangi model kim tarafından, ne zaman, hangi verilerle eğitildiği ve ayarları net belgelenmeli.
- AI güvenliği, veri bilimi, yazılım mühendisliği, OT mühendisliği ve güvenlik departmanlarının ortak sorumluluğunda olmalı. Sorumluluk alanları açıkça tanımlanmalıdır.
### Standartlar ve Düzenlemeler Gelişiyor
Endüstriyel YZ için henüz kapsamlı tek bir standart yok. Güvenlik sektöründe ISA/IEC 62443, IEC 61508, ISO 26262 gibi referanslar kullanılmakta. Avrupa Birliği AI yasaları ve Birleşik Krallık mevzuatları bağlayıcı düzenlemeler getirirken, ISO ve IEC de YZ'ye özel standartlar geliştiriyor. ABD'de ise sektör bazlı düzenlemeler tercih ediliyor ancak genel yön büyüyor, düzenlemeler geliyor.
Ancak düzenlemeler gelmeden önce harekete geçen şirketler, hem standartlar geldiğinde hazır olacak hem de o zamana kadar daha güvende kalacaktır.
### En Önemli Değişim: Kültürel Yaklaşım
Teknoloji tek başına güvenlik sorunu çözmez. Endüstride hızdan önce "dikkatli hareket etme" anlayışı benimsenmeli. Güvenlik ve güvenilirlik kısıtlama değil, özellik olarak görülmeli. YZ ekipleri, güçlü modelleri uygun güvenlik önlemleri olmadan kullanmanın yenilik değil risk olduğunu anlamalıdır.
Üst yönetimler de YZ stratejisinin yanında mutlaka YZ güvenlik ve kontrol stratejilerini sormalıdır. Gerçekten başarılı olacaklar, inovasyonu sağlam yönetişim ve güvenlik ile birleştirenler olacaktır.
### Açık Bir Fırsat
YZ'nin gelişim hızı çok yüksek, ancak güvenliği sağlayan çerçeveler geride kalıyor. Bu boşluk hem risk hem fırsat demek. Yatırım yapan şirketler ve kuruluşlar, küresel endüstriyel YZ'nin nasıl kullanılacağını şekillendirme şansına sahip.
YZ modelleri daha da güçlü olacak. Sorun, güvenlik çerçevelerinin bu hızla uyum sağlayıp sağlayamayacağıdır. Endüstri ile YZ arasındaki bu kritik alanda yarış, en önemli yarış olacaktır.
