Otonom sistemlerin giderek yaygınlaşması, bu sistemlerin güvenliklerinin nasıl sağlanacağı konusunu da önemli hale getirmiştir.
Otonom sistemlerde güvenliği sağlamak, muhtemelen çok zor olacaktır. Mayıs 2016’da Tesla kazasını araştıran bir kurul üyesinin yapmış olduğu açıklama da otonom sistemlerde güvenliğin kolay olmayacağını gösteriyor. “Otomasyonun sokaklar ve otoyollardaki potansiyel faydaları gerçekten olağanüstü, ancak dikkatli ve düşünceli bir şekilde takip edilmeleri gerekiyor.” (Ulusal Ulaşım Güvenlik Kurulu 2017).
Bununla beraber, otonom sistemlerde güvenliğin sağlanması için bazı tekniklerin uygulanabilmesi mümkündür. Yapay zeka, bu güvenliğin sağlanmasında önemli bir rol oynamaktadır. Bu nedenle yapay zekaya sahip sistemlerin güvenliğini sağlamak, bir nevi otonom sistemlerin güvenliğini sağlamak demektir.
Bu bağlamda, IEC61508 gibi standartların öngördüğü mevcut yöntemler uygulanabilir. Ancak, bu standartlara rağmen, otonom sistemlerde oluşacak güvenlik zafiyetlerinin, ekonomik ve kişisel olarak ciddi zararlara neden olabilecek olması, dünyanın önde gelen araştırma departmanlarının, İşlevsel Güvenlik (Functional Safety) konusundaki sorunları çözmek için ulusal ve uluslararası proje çalışmalarının da devam etmesini sağlamaktadır.
Otonom sistemlerde güvenliğin sağlanabilmesi için uygulanan yöntemlerden başlıcaları ise şunlardır:
Güvenilir Derin Öğrenme
Otonom sistemlerin açık ortamlarda uygulanması, derin öğrenmenin yanı sıra yapay sinir ağlarının kullanılmasını gerektirecektir. Bu yöntemler, nesnelerin görüntülerdeki sınıflandırılması gibi birçok görev için mükemmel performans gösterir. Makine öğreniminin örneklerden veya deneme yoluyla öğrenmesi sebebiyle, kod incelemeleri gibi mevcut doğrulama yöntemleri artık kullanılamaz. Böylelikle otonom sistemlerde işlevselliğin güvenilirliği de artırmış oluyor.
Dinamik Risk Yönetimi
Teknik bir sistemin açık ortamlarda geliştirilmesi sırasında pek çok dikkate alınmayan durumlar ortaya çıkabilir. Bu tür durumlarla başa çıkma ve bu tür durumlarda bile güvenilir davranış sergileme becerisine dayanıklılık denir.
Dinamik Risk Yönetimi kavramı altında, esnekliği artırmak için risk odaklı çalışma zamanı yapılandırmasına yönelik yöntemler geliştirilmeye devam ediliyor. Bu tür yöntemlerin güvenlik açısından, kritik sistemler alanında kullanılmasını sağlamak için sertifikasyonlarının olmasına da dikkat gösterilmelidir.
Çok Yönlü Güvenlik Mühendisliği
Giderek daha otomatik hale gelen ve ağa bağlı sistemlerin ortaya çıkmasıyla birlikte, kritik sistemlerde güvenliğin geliştirilmesi ve güvence altına alınması için normatif gereksinimleri tanımlamaya yönelik yeni yöntemlere ve standartlara ihtiyaç vardır.
Teknik sistemin yeterli seviyede güvenilir olup olmadığına, o sistemin mevcut standartlar ile karşılaştırılmasıyla belirlenebilir. Şu anda, yüksek otonom seviyesine sahip sistemlerin gerçekleştirilmesi, genellikle bu sistemlerin sertifikalandırılması ve piyasaya sürülmesiyle ilgili sorunlar tarafından engellenmektedir. Bu ise Çok Yönlü Güvenlik Mühendisliği’nin Otonom Sistemlerdeki önemini belirtmektedir. Sistemlerin, yüksek seviyede otonoma sahip pazara hazır bir şekilde çıkabilmesi için mevcut standartların ve daha fazlasının geliştirilmesi gerekmektedir.
Son zamanlarda yapılan çalışmalar ile gerçek hayattaki problemlerin çözümünde ciddi başarılar gösteren, makine öğrenmesi temelli yapay zekâ modellerinin, daha fazla geliştirilerek, artırılmış dayanıklılık performansı ile otonom sistemlere entegre edilmesi ve bu entegrasyonun standartlara uygun sertifikalandırılması neticesinde, otonom sistemlerde güvenliğin daha sağlam bir yapıya dönüştürülmesi amaçlanmaktadır.
