Operasyonel veriler üzerinde RAG tarzı bir sistem kuran herkes, sinir bozucu kısmın genellikle vektör aramanın kendisi olmadığını bilir.
Embedding’leri güncel tutmaktır.
Bu nedenle Azure Cosmos DB’deki Tümleşik Embedding’ler önizlemesi çok pratik bir duyurudur. AI uygulama tesisatının en az eğlenceli parçalarından birini ortadan kaldırır: değişiklikleri izleyen, embedding’leri yeniden oluşturan, yeniden denemeleri yöneten ve vektörleri doğru şekilde geri yazan ayrı boru hattı.
Kaynak makale gerçek acıyı doğrudan adlandırıyor
Orijinal yazı şöyle diyor: “Verilerinizle senkronize tutmak zor kısımdır.”
Kesinlikle.
Sorun bu.
AI destekli veri uygulamalarındaki en zor kısım, ilk anlamsal sorguyu çalıştırmak değildir. Sistemin bir hafta sonra sessizce gerçeklikle senkronizasyonunu kaybetmemesini sağlamaktır.
Operasyonel yükün kendini göstermeye başladığı yer burasıdır:
- değişiklik algılama
- yeniden denemeler
- hız sınırlama
- yeniden embedding mantığı
- geri yazma doğruluğu
- her şeyi izleme
Sadece sorgulamayı dürüst tutmak için çok fazla tesisat.
Bu, yalnızca yetenek eklemekle kalmayıp angaryayı da ortadan kaldıran bir özellik
Cosmos DB artık veriler değiştikçe embedding’leri otomatik olarak oluşturabilir ve维护 edebilirse, faydalar hemen görülür:
- daha az hareketli parça
- daha az senkronizasyon kayması
- daha az özel altyapı
- daha basit RAG ve anlamsal arama mimarileri
Sevdiğim türden platform özelliği budur çünkü kavramsal karmaşıklığı değil, operasyonel yükü azaltır.
Ve gerçek ekiplerde, operasyonel yük genellikle iyi prototipleri öldüren şeydir.
Pratik sonuç göründüğünden daha büyük
Bu sadece kolaylıkla ilgili değil.
Embedding bakımı için ayrı bir yan sistem kurmak zorunda kalmadan AI destekli veri uygulamaları gerçekçi bir şekilde oluşturabilecek ekip türlerini değiştirir.
Bu özellikle şunlar için önemlidir:
- sınırlı platform bant genişliğine sahip ürün ekipleri
- bilgi destekli araçlar oluşturan iç uygulama ekipleri
- özel bir ML altyapı şeridi olmadan çalışan sorgulamaya ihtiyaç duyan daha küçük mühendislik grupları
Benim görüşüm
Tümleşik Embedding’ler, AI destekli uygulamaları göndermeyi kolaylaştıracak sessiz özelliklerden biri gibi görünüyor.
Bu gruptaki en göz alıcı duyuru değil, ancak Cosmos DB artı sorgulama veya anlamsal arama kalıpları ile çalışan ekipler için çok fazla tekrarlayan tesisatı ortadan kaldırabilir.
Ve dürüst olmak gerekirse, bunlar genellikle en değerli platform iyileştirmeleridir.
Orijinal yazı: Announcing the Public Preview of Integrated Embeddings in Azure Cosmos DB: Build AI Apps With Embeddings That Stay in Sync
