Günümüzde yapay zeka modelleri genellikle GPU tabanlı donanım ve platformlarda çalıştırılmaktadır. Yapay zeka modellerinin GPU üzerinde çalıştırılmasının bazı avantajları olduğu gibi dezavantajları da vardır. Örneğin gömülü sistem projelerinde GPU sistemlerinin büyük yer kaplaması, maliyet ve çok güç tüketmesi gibi dezavantajları vardır.
Peki yapay zeka modellerini CPU üzerinden nasıl çalıştırabiliriz ? Güncel teknolojiler içinde en popüler olan OpenVINO (Open Visual Inference & Neural Network Optimization) mimarisi ile bunu yapabililiriz.
OpenVINO Intel tarafından geliştirilen ve geliştiricilerin çeşitli donanım aygıtlarında bilgisayar görüşü ve derin öğrenme uygulamaları oluşturmasına ve dağıtmasına olanak tanıyan bir yazılım platformudur. Sadece INTEL işlemcilerde bu mimari çalışır. CPU’lar, GPU’lar ve VPU’lar (Vision Processing Units) dahil olmak üzere çeşitli donanım platformlarında makine öğrenimi modellerinin performansını optimize etmek ve hızlandırmak için kullanılabilecek bir dizi araç ve kitaplık sağlar.
OpenVINO, düşük güç tüketimi ve gerçek zamanlı performansın önemli olduğu kameralar, dronlar ve IoT (Nesnelerin İnterneti) cihazları gibi uç cihazlarda bilgisayar görüşü ve derin öğrenme uygulamaları oluşturmak ve dağıtmak için özellikle yararlıdır. Nesne algılama, görüntü sınıflandırma ve yüz tanıma dahil olmak üzere çok çeşitli uygulamalarda kullanılabilir. Bu sayede düşük güç tüketimi ile hızlı performans almak ve bunun yanında daha az maliyet ile bunu yapmak ciddi bir avantaj sağlar.
- Gözetim Ve Güvenlik Sistemleri
- Endüstriyel Otomasyon
- Perakende Analitiği
- Tarım Ve Çevre İzleme
- Otonom Araçlar
OpenVINO, TensorFlow, PyTorch, YOLO ve Caffe dahil olmak üzere çeşitli makine öğrenimi çerçeveleriyle çalışacak şekilde tasarlanmıştır ve Python, C++ ve Java dahil olmak üzere çeşitli programlama dillerini destekler. Edge cihazlarında verimli ve ölçeklenebilir bilgisayar görüşü ve derin öğrenme uygulamaları oluşturmak ve dağıtmak için güçlü bir araçtır.
OpenVINO mimarisi şuan her ne kadar en popüler ve rakipsiz görünse de Deep Sparse mimarisinin pazara girmesiyle ciddi bir rekabet oluşturacağını söylemek gerekir. Kısaca : Deep Sparse, derin öğrenme modellerinin verimliliğini ve etkinliğini artırmayı amaçlayan bir tür sinir ağı mimarisidir.
Sonraki yazılarımız da bunu daha detaylı anlatacağız.
