01Üretmek, bir noktayı taşımaktır#
Difüzyon modelleri bir görüntüye gürültü ekleyip bu süreci tersine çevirmeyi öğrenir. Aynı sorunu başka bir gözle görmek mümkün: elimizde bir gürültü dağılımı (kolay örneklenir) ve bir veri dağılımı (istediğimiz) var. Üretim, her gürültü noktasını zaman içinde bir veri noktasına taşımaktır. Taşıma, her noktada “şimdi hangi yöne ve ne hızla gideyim?” sorusuna cevap veren bir hız alanıyla tanımlanır; sinir ağı bu alanı öğrenir.
Lipman ve arkadaşlarının Flow Matching yaklaşımı, bu tür sürekli akış modellerini simülasyon gerektirmeyen bir yolla eğitir: sabit koşullu olasılık yollarının vektör alanlarına regresyon yapar. Yazarlar, yöntemin mevcut difüzyon yollarını özel bir durum olarak içeren Gauss yolları ailesiyle çalıştığını; difüzyon yollarıyla kullanıldığında eğitimin daha sağlam ve kararlı olduğunu; en uygun taşıma (optimal transport) tabanlı yolların ise eğitimi ve örneklemeyi hızlandırıp genellemeyi artırabildiğini bildirdi. ImageNet’te difüzyon tabanlı kıyas yöntemlerine göre daha iyi olabilirlik ve örnek kalitesi bildirdiler. Flow Matching for Generative Modeling ↗
02En basit yol: düz çizgi#
Her gürültü noktasını bir veri noktasına düz bir çizgiyle bağla: x_t = (1 − t)·x₀ + t·x₁. Bu yolun hızı sabittir ve x₁ − x₀’a eşittir: öğrenilecek hedef çok yalındır. Aşağıdaki deneyde 40 gürültü noktası, “iki ay” biçimindeki 40 veri noktasına taşınıyor. Zamanı (t) ilerlet ve eşleştirmeyi değiştir.
Gürültüden veriye düz yollar
Zamanı (t) ilerlet: gürültü bulutu iki aya dönüşüyor. Eşleştirme biçimini değiştir: yollar daha kısa ve daha az kesişen biçimde seçilebilir mi?
Kırmızı noktalar t anındaki konumları, halkalar hedef veriyi, soluk çizgiler yolları gösteriyor. Yollar kesiştikçe, bir noktadaki doğru hız tek bir yöne indirgenemez; öğrenilen hız alanı bu çakışmaları ortalar. Daha düz ve düzenli yollar, öğrenmeyi ve örneklemeyi kolaylaştırabilir.
Rastgele eşleştirdiğinde yollar birbirini sıkça keser: 113 yol çifti kesişir ve toplam karesel yol uzunluğu 105,4’tür. Gürültü noktalarını açılarına göre sıralayıp veri noktalarıyla eşleştirdiğinde ise 18 kesişim ve 36,5 toplam uzunluk kalır. Kesişen iki yol, aynı noktadan farklı hızlarla geçmek ister; tek bir hız alanı bunu ortalamak zorundadır ve bu, öğrenmeyi zorlaştırabilir.
Burada iki dürüst not var:
- Hesap gerçektir, ağ yoktur. Bu demoda hız alanını öğrenen bir sinir ağı bulunmuyor; yalnızca yolların geometrisini ve eşleştirmenin etkisini görüyorsun.
- Açıya göre eşleştirme demoya özgü bir sezgidir. Standart Flow Matching’de gürültü ve veri noktaları bağımsız çekilir; daha düzenli eşleştirmeler ise ayrı bir araştırma konusudur. “Düz yollar kesinlikle daha iyi örnek verir” sonucu bu demodan çıkarılamaz.
03Difüzyonla ilişkisi#
Flow Matching, difüzyonun karşıtı değil, bir genellemesidir: difüzyonun kullandığı yollar, bu çerçevede yalnızca bir yol seçimidir. Örnekleme de, öğrenilmiş hız alanını bir adi diferansiyel denklem çözücüyle zamanda ilerleterek yapılır; yazarlar hazır çözücülerle hızlı örnekleme yapılabildiğini bildirdi. Bu çerçevenin hangi büyük sistemlerde kullanıldığı ayrı bir konudur; bu notun iddiası yalnızca yöntemin makaledeki hâlidir. Üretimin zaman boyutuna taşınmış hâli için video yazısına bakabilirsin.
Bir sonraki not, bambaşka bir gizemi ele alıyor: bir ağ, eğitimi bittikten çok sonra aniden genellemeyi öğrenebilir mi? Grokking
Bu yazıyı bitirdiğinde:
- Üretimin bir hız alanıyla noktaları taşımak olarak nasıl düşünülebileceğini anlatabilirsin.
- Düz yolların ve eşleştirmenin neden önemli olabileceğini, ama demonun sınırlarını söyleyebilirsin.
Cümlelerden birini kendi sözlerinle anlatamıyorsan, ilgili bölüme dön ve demoyu yeniden dene.
Grokking: ezberledikten çok sonra kavramak
İleri · 6 dk okuma