Google, makine öğrenmesi modellerinin doğrudan internet tarayıcısında çalışmasını hızlandıran LiteRT.js adlı yeni JavaScript kütüphanesini kullanıma sundu. Şirket, yeni altyapının mevcut TensorFlow.js çözümüne kıyasla daha yüksek performans sunduğunu ve geliştiricilerin geçiş sürecini kolaylaştıracak şekilde tasarlandığını açıkladı. LiteRT.js, yapay zekâ işlemlerini sunucu yerine kullanıcının cihazında çalıştırarak gecikme süresini azaltmayı hedefliyor.

LiteRT Çalışma Ortamı İlk Kez Tarayıcılara Taşındı

Google’ın bugüne kadar Android ile iOS platformlarında kullandığı LiteRT çalışma zamanı, yeni sürümle birlikte WebAssembly üzerinden internet tarayıcılarına açıldı. LiteRT.js, böylece masaüstü ile mobil tarayıcılarda yapay zekâ uygulamalarını yerel olarak çalıştırabiliyor. Tarayıcıda çalışan yapay zekâ modeli, verileri uzak sunucular yerine doğrudan cihaz üzerinde işlediği için daha düşük gecikme süresi ve daha güçlü gizlilik sağlayabiliyor.

Yeni kütüphane yalnızca WebAssembly ile sınırlı kalmıyor. Sistem, desteklenen platformlarda WebGPU ile WebNN teknolojilerinden de yararlanarak donanım hızlandırmasını etkin biçimde kullanabiliyor. Donanım hızlandırma, işlem yükünün ekran kartı veya yapay zekâ hızlandırıcıları üzerinden gerçekleştirilmesini sağlayarak makine öğrenmesi uygulamalarının daha yüksek performansla çalışmasına katkı sunuyor.

Google, LiteRT.js’in JavaScript tabanlı çekirdek kullanan TensorFlow.js yerine daha verimli çalışan yeni bir mimari kullandığını belirtiyor. LiteRT.js performansı, WebAssembly tabanlı çalışma yapısı sayesinde mevcut çözümlere göre daha yüksek işlem kapasitesi sunmayı hedefliyor.

Şirketin paylaştığı verilere göre yeni çalışma zamanı, 2024 model Apple MacBook Pro üzerinde bulunan M4 işlemcili sistemde mevcut çözümlere kıyasla üç kata kadar daha yüksek performans elde etti. Google, bu sonucun belirli donanım üzerinde yapılan testlere dayandığını özellikle vurguluyor. Tarayıcı motoru, işlemci mimarisi ve grafik donanımına bağlı olarak gerçek kullanım performansı farklılık gösterebilir.

Google, TensorFlow.js kullanan geliştiricilerin LiteRT.js’e geçişini kolaylaştıracak araçlar da sunuyor. Mevcut projelerde .tflite uzantılı modeller kullanan geliştiriciler, yalnızca JavaScript çalışma zamanını değiştirerek yeni altyapıya geçebiliyor. TensorFlow Lite modeli, mobil ve gömülü sistemler için optimize edilen hafif yapay zekâ model biçimini ifade ediyor.

TensorFlow veya Keras SavedModel formatındaki projeler için ise Python paketine entegre edilen LiteRT Converter aracı kullanılabiliyor. Dönüştürme işlemi tamamlandıktan sonra mevcut modeller LiteRT.js üzerinde çalıştırılabiliyor. Bu yaklaşım, geliştiricilerin projelerini tamamen yeniden oluşturmadan yeni çalışma ortamına taşımasına olanak sağlıyor.

Google, TensorFlow.js için herhangi bir yol haritası değişikliği açıklamış değil. Ancak LiteRT.js’in tanıtılması, şirketin tarayıcı tabanlı yapay zekâ uygulamalarında daha performanslı bir altyapıya yöneldiğini gösteriyor. Tarayıcı tabanlı yapay zekâ uygulamaları, internet bağlantısına daha az bağımlı çalışabildiği için özellikle gizlilik odaklı çözümler ile gerçek zamanlı uygulamalarda önem kazanıyor.

Önümüzdeki dönemde LiteRT.js’in farklı işlemci mimarileri, Windows bilgisayarlar ve Android tabanlı cihazlarda nasıl performans göstereceği yakından takip edilecek. Google’ın ilerleyen süreçte TensorFlow.js yerine LiteRT.js’i ana geliştirme platformu hâline getirip getirmeyeceği ise şimdilik belirsizliğini koruyor.