- Konu Yazar
- #1
Giriş: Fiziksel Yapay Zeka ve Güven Sorunu
Uçan arabalar gibi "Jetgiller"vari bir gelecek artık hayal değil. Devletler uçan araçları test ederken, güvenlik ve kamu güveni konuları daha da önem kazanıyor. Bilim kurgu yazarı Isaac Asimov, robotların insanları korumak için kurallarla yönetildiği Üç Robot Yasası'nı hayal etmişti. Ancak hikayeleri, basit talimatların bile çelişkili sonuçlar doğurabileceğini gösteriyordu.
Yapay Zeka Karar Vermeye Başladığında
Günümüzde bu sorular kurgudan gerçeğe taşınıyor. Yapay zeka, ev aletlerinden endüstriyel makinelere kadar fiziksel dünyayla etkileşime giren ürünlerin bir parçası haline geliyor. Bazıları fabrikadan çıktıktan çok sonra bile yeni yetenekler kazanabiliyor. Yıllarca yapay zekanın ne söylemesine izin verilmesi gerektiğini tartıştık; şimdi ne yapmasına izin verdiğimize daha fazla dikkat etmeliyiz.
Teknoloji endüstrisi, fiziksel yapay zeka konusunda haklı olarak heyecanlı. Çevrelerine uyum sağlayabilen makineler, daha fazla verimlilik, kolaylık ve tamamen yeni yetenekler vaat ediyor. Ancak bu ürünlerin başarabileceklerine duyulan coşku, eşit derecede önemli bir soruyu gölgede bıraktı: Onlara ne kadar kontrol vermekte rahat olmalıyız?
Akıllı fırınlar pişirme ayarlarını düzenlerken veya robot süpürgeler evlerimizde gezinirken, çoğu insan bu kolaylıkların arkasındaki yazılım hakkında iki kez düşünmez. Ürünlerin beklendiği gibi çalışmasını beklerler. Ancak yapay zeka, fiziksel bir ürünün nasıl çalıştığını etkileyen kararlar aldığında bu beklenti daha karmaşık hale gelir. Yazılımın bir eylemi önermesi ile gerçekleştirmesi arasındaki fark önemlidir. Aynı şekilde, sabit talimatları takip eden bir sistem ile davranışını uyarlayabilen bir sistem arasındaki fark da önemlidir.
Makinalara daha fazla özerklik vermek doğası gereği rahatsız edici değildir. Sürekli insan denetimi olmadan çalışma yeteneği, bu teknolojileri tam da bu yüzden kullanışlı kılar. Ancak yeteneklerini artırmak, devrettiğimiz kararların daha fazla incelenmesini de gerektirmelidir.
Ürün Fabrikadan Çıktıktan Sonra Ne Olur?
Endüstri, yeni teknolojilere güven oluşturmak için uzun süredir yerleşik mühendislik standartlarına ve ürün testlerine güveniyor. Bu uygulamalar hala temeldir. Ancak fiziksel yapay zeka, daha fazla kamuoyu ilgisini hak eden bir komplikasyon getiriyor: Bir ürün, biri onu satın aldıktan sonra önemli ölçüde değişebilir.
Yazılım güncellemeleri rutin hale geldi. Telefonlarımızın, bilgisayarlarımızın ve bağlı cihazlarımızın zamanla gelişmesini bekleriz. Giderek artan bir şekilde, bu güncellemeler ürünlerin fiziksel çevreleriyle etkileşimini de değiştirebilir.
Bir robot süpürge gelişmiş nesne tanıma yeteneği kazanabilir. Bir cihaz yeni otomatik işlevler edinebilir. Bu ilerlemeler memnuniyetle karşılanır, ancak başlangıçta test edilen ürünün, aylar sonra birinin evinde çalışan ürünle aynı olduğu varsayımını zorlar.
Geçilen bir güvenlik değerlendirmesi, belirli bir ürünün belirtilen koşullar altında tanımlanmış gereksinimleri karşıladığını gösterir. Her sonraki sürümün aynı şekilde davranacağını otomatik olarak belirlemez.
İşte bu noktada üreticilerden beklentilerimizin gelişmesi gerekiyor. Bir yazılım güncellemesi sadece vaat edilen iyileştirmeyi sağlayıp sağlamadığına göre değerlendirilmemelidir. Ürünün mevcut güvenlik önlemleri üzerindeki etkileri de aynı derecede önemlidir. Bu, her güncellemeyi tamamen yeni bir ürün olarak ele almak anlamına gelmez. Bu, bir ürünün güvenliğini destekleyen kanıtların teknoloji değiştikçe geçerliliğini koruması gerektiğini kabul etmek anlamına gelir.
Tüketiciler, en son yazılım güncellemesinin zaten güvendikleri bir şeyin yerleşik güvenlik önlemlerini değiştirip değiştirmediğini merak etmek zorunda kalmamalıdır.
Güvenlik Uyumlulukla Sınırlı Kalamaz
Yönetmelikler başka bir zorluk teşkil ediyor. Teknoloji her zaman onu yöneten kurallardan daha hızlı ilerlemiştir ve fiziksel yapay zeka da bir istisna olmayacaktır.
Yerleşik standartlar temel bir temel sağlar, ancak akıllı bir makinenin yapabileceği her yeteneği veya kararı öngöremezler. Belirli bir düzenlemenin olmaması, yeni bir yeteneğin güvenli olduğuna dair kanıt olarak yanlış anlaşılmamalıdır.
İşte bu noktada üreticiler, endüstri için daha yüksek bir standart belirleme fırsatına sahiptir. Uyumluluk esastır, ancak mühendislik yargısının yerine geçemez. Fiziksel yapay zeka geliştiren şirketler, düzenlemelerin açıkça gerektirdiğinin ötesine geçen kararlar almaya hazır olmalıdır.
Bu sorumluluk, ürünlerin nasıl tasarlandığını, değişikliklerin nasıl değerlendirildiğini ve teknoloji beklenmedik şekillerde davrandığında şirketlerin nasıl yanıt verdiğini etkilemelidir.
Ayrıca hesap verebilirlik hakkında daha geniş bir soru ortaya çıkarır. Akıllı bir ürün karar verdiğinde, onu kullanan kişi nadiren bu seçimin arkasındaki yazılımı veya mühendisliği anlar. Anlamak zorunda da değildir. Tüketicilerin arabalarındaki veya cihazlarındaki güvenlik sistemlerini kullanmadan önce değerlendirmelerini beklemeyiz. Üreticilerin bu işi yapmış olmasını bekleriz.
Fiziksel yapay zeka bu beklentiyi değiştirmemelidir. Hatta bu sorumluluğu daha da önemli hale getirir.
En başarılı teknolojiler sonunda nadiren düşündüğümüz teknolojiler haline gelir. Asansörlere bineriz, otomatik fren sistemlerine güveniriz ve bağlı cihazları arkalarındaki mühendisliği düşünmeden kullanırız.
Fiziksel yapay zeka da aynı derecede tanıdık olma potansiyeline sahiptir. Oraya ulaşmak, giderek daha sofistike makinelerden veya etkileyici gösterilerden daha fazlasını gerektirecektir. Diğer teknolojilerin günlük hayattaki yerlerini kazanmalarına yardımcı olan güvenilirliğe, güvenliğe ve düşünceli tasarıma aynı özeni gerektirecektir.
Asimov, akıllı makinelerle şekillenen bir gelecek hayal etti. Şimdi o geleceği inşa etmeye başlıyoruz. Fiziksel yapay zekanın ne kadar ilerleyeceği, makinelere ne yapmayı öğrettiğimize değil, bunu ne kadar güvenli bir şekilde yapmalarını sağladığımıza bağlı olacaktır.


















