01Önce görüntüyü bozmayı öğren#
Görsel yazısında difüzyonun ana fikrini özetledik: görüntüye adım adım gürültü eklersen sonunda saf gürültü kalır; tersini öğrenen bir model, saf gürültüden görüntü üretebilir. Bu yazıda bu fikri parça parça kurcalayacağız.
Gürültü ekleme tarafı bilinen, basit bir formüldür: her adımda özgün görüntünün payı azalır, gürültünün payı artar. Aşağıdaki 8×8 piksellik görüntüde gürültü adımı t’yi artır ve ortadaki görüntünün sinyalini nasıl kaybettiğini izle.
Gürültü ekle, gürültüyü tahmin et
Önce gürültü adımını artır: görüntü sinyalini kaybeder. Sonra gürültü tahmininin hatasını artır: geri kazanım nerede bozuluyor?
√ᾱ = 0,81 · √(1−ᾱ) = 0,59Gürültü tam doğru tahmin edilirse özgün görüntü tek adımda geri gelir. Gerçek modellerde bu tahmin mükemmel değildir; bu yüzden öğrenme gerekir.
Formülleri gör
Gürültü ekleme: xt = √ᾱt · x₀ + √(1−ᾱt) · ε. Geri kazanım: x̂₀ = (xt − √(1−ᾱt) · ε̂) / √ᾱt. Sinyal payı ᾱt = cos²(π/2 · t/10) olarak öğretim için seçilmiştir; ε sabit bir standart normal gürültü alanı, ε̂ ise ε artı seçtiğin hata kadar ikinci bir sabit alandır.
Üçüncü panel, bir tahmin: gürültü tam doğru bilinirse, özgün görüntüyü tek formülle geri bulabilirsin. Gürültü tahminine hata ekle ve adımı artır: bozulma, sinyal azaldıkça büyüyor. Çünkü geri kazanım formülü, küçük bir sinyal payına bölüyor; küçük bir yanlış, büyük bir hataya dönüşüyor. Üretimin tek sıçramayla değil, küçük adımlarla ilerlemesinin nedeni budur.
02Model neyi öğrenir?#
Eğitimde model bir görüntü, rastgele bir adım t ve o adımın gürültülü hâlini görür; görevi, eklenen gürültüyü tahmin etmektir. Ho ve arkadaşlarının DDPM çalışmasının basitleştirilmiş eğitim hedefi, gerçek gürültü ile modelin tahmini arasındaki ortalama karesel farktır. DDPM ↗
Bunun zarif yanı, etikete ihtiyaç olmamasıdır: gürültüyü kendimiz eklediğimiz için doğru cevabı zaten biliriz. Bu, bir dil modelinin metinden “sonraki tokenı” ücretsiz hedef olarak çıkarmasına benzer (bkz. eğitim yazısı). Hedef bir kayıp fonksiyonu olarak yazılır; ağırlıklar yine gradyan inişiyle ayarlanır.
03Üretim: gürültüden başla, adım adım temizle#
Üretimde başlangıç saf gürültüdür. Her adımda model gürültüyü tahmin eder, bir kısmı çıkarılır ve görüntü biraz belirginleşir. Bu işlem tekrar edilir. İlk DDPM çalışmasında zincir 1000 adımdı; adım sayısı kaliteyle hızı doğrudan ilgilendirir: daha çok adım, genellikle daha yavaş üretim demektir. Sonraki çalışmaların bir kısmı, bu adım sayısını azaltmaya odaklanır.
Süreç rastgeledir: farklı gürültüyle başlarsan farklı bir görüntü üretirsin. Bu, metin üretimindeki örneklemenin görüntüdeki karşılığıdır: aynı istek, farklı çıktı.
04Metinle yönlendirmek#
“Bir kedi çiz” dediğinde metin, vektör temsiline çevrilir ve gürültü tahminine ek bir girdi olur. Sınıflandırıcısız yönlendirme (classifier-free guidance) bu etkiyi güçlendirmek için bir yöntemdir: tek bir model hem metinle hem metinsiz gürültü tahmini yapabilecek biçimde eğitilir; örnekleme sırasında iki tahmin birleştirilerek sonuç, metne daha uygun yönde itilir. Yönlendirme gücü, örnek kalitesi ile çeşitliliği arasında bir ödünleşim kurar: güçlü yönlendirme metne daha sadık, ama daha az çeşitli sonuç verir. Ho ve Salimans ↗
05Sınırlar ve riskler#
İki pratik sonuç: Birincisi, bir görüntünün “gerçek” olduğunu kanıtlayan bir ölçüt yok; kaynak ve bağlam önemlidir. İkincisi, eğitim verisindeki telif ve gizlilik sorunları, ezberleme ile doğrudan ilgilidir (ezberleme–genelleme yazısı).
Modeller görüntü üretmenin ötesinde, dış dünyada eylem de yapıyor: Yapay zekâ ajanı nedir?
Bu yazıyı bitirdiğinde:
- Difüzyonda gürültü ekleme sürecini ve modelin neyi öğrendiğini ayırarak anlatabilirsin.
- Üretimin gürültüden başlayıp adım adım temizleyerek nasıl ilerlediğini açıklayabilirsin.
- Metinle yönlendirmeyi ve bu sistemlerin sınırlarını söyleyebilirsin.
Cümlelerden birini kendi sözlerinle anlatamıyorsan, ilgili bölüme dön ve demoyu yeniden dene.
Yapay zekâ ajanı nedir?
Orta · 8 dk okuma