ışıkla derin öğrenme | NSF
Bir akıllı ev cihazından hava durumu tahminini isteyin ve cihazın yanıt vermesi birkaç saniye sürer. Bu gecikmenin oluşmasının bir nedeni, bağlı cihazların, cihazın bir kullanıcının ondan ne istediğini anlaması için gereken muazzam makine öğrenimi modellerini depolamak ve çalıştırmak için yeterli belleğe veya güce sahip olmamasıdır. Model, cevabın hesaplandığı ve cihaza gönderildiği, yüzlerce kilometre uzakta olabilecek bir veri merkezinde saklanıyor.
İLE BİRLİKTE araştırmacılar, doğrudan bu cihazlarda bilgi işlem yapmak için bu gecikmeyi büyük ölçüde azaltan yeni bir yöntem geliştirdiler. Teknikleri, bir makine öğrenimi modeli çalıştırmanın yoğun bellek gerektiren adımlarını, modelin bileşenlerinin ışık dalgalarına kodlandığı merkezi bir sunucuya kaydırır. bu ABD Ulusal Bilim Vakfı-desteklenen araştırma yayınlandı Bilim.
Dalgalar, tonlarca verinin bir ağ üzerinden yıldırım hızında gönderilmesini sağlayan fiber optik kullanılarak bağlı bir cihaza iletilir. Alıcı daha sonra, bu ışık dalgaları tarafından taşınan bir modelin parçalarını kullanarak hızlı bir şekilde hesaplamalar yapan basit bir optik cihaz kullanır.
Bu teknik, diğer yöntemlere kıyasla enerji verimliliğinde yüz kattan fazla iyileşme sağlar. Bir kullanıcının verilerinin hesaplama için merkezi bir konuma aktarılması gerekmediğinden, güvenliği de artırabilir.
Bu yöntem, sürücüsüz bir arabanın şu anda güce aç bilgisayarların ihtiyaç duyduğu enerjinin yalnızca küçük bir yüzdesini kullanırken gerçek zamanlı kararlar almasını sağlayabilir. Ayrıca, bir kullanıcının akıllı ev cihazlarıyla gecikmesiz bir konuşma yapmasına, hücresel ağlar üzerinden canlı video işleme için kullanılmasına ve hatta Dünya’dan milyonlarca mil uzaktaki bir uzay gemisinde yüksek hızlı görüntü sınıflandırmasına izin verebilir.
Kıdemli yazar Dirk Englund, “Bir sinir ağını her çalıştırmak istediğinizde, programı çalıştırmanız gerekir ve programı ne kadar hızlı çalıştırabileceğiniz, programı bellekten ne kadar hızlı yönlendirebildiğinize bağlıdır” diyor. “İzleme hattımız çok büyük – bu, internet üzerinden her milisaniyede bir uzun metrajlı bir filmin gönderilmesine karşılık geliyor. Veriler bu şekilde sistemimize giriyor. Ve bu kadar hızlı işlem yapabiliyor.”