00Dört araç, hepsi bu kadar#
İleride okuyacağın yazılarda dört matematik fikri tekrar tekrar karşına çıkıyor: vektör, nokta çarpımı, matris ve olasılık dağılımı. Hiçbiri karmaşık değil; her biri birkaç satırda tanımlanabilir. Bu yazı onları, kullanılacakları yerden bağımsız, küçük örneklerle tek tek açıyor.
01Vektör: sıralı bir sayı listesi#
Bir vektör, sırası önemli olan bir sayı listesidir. Bir ürünün [fiyat, stok] bilgisini [42, 7] olarak yazabilirsin; burada sıra önemlidir, [7, 42] farklı bir şey söyler. İki sayılı bir vektörü düzlemde bir ok olarak çizebilirsin: ilk sayı yatay, ikinci sayı dikey konumu belirler.
Üç, dört veya daha fazla sayıdan oluşan bir vektörü artık çizemezsin, ama fikir değişmez: sıralı sayılar, birlikte bir şeyi tanımlar. Az sonra kelimelerin de böyle vektörlerle temsil edildiğini göreceksin; bileşen sayısı o zaman onlarca veya yüzlerce olabilir.
02Nokta çarpımı: iki vektör ne kadar uyumlu?#
İki vektörün nokta çarpımı, aynı sıradaki bileşenlerin çarpımlarının toplamıdır. a = [1, 0] ve b = [1.1, 0.2] için:
a · b = (1 × 1.1) + (0 × 0.2) = 1.1 + 0 = 1.1
Bu tek sayı, iki vektörün ne kadar aynı yöne işaret ettiğiyle ilgilidir: bileşenler aynı yönde büyükse çarpım büyür, zıt yönlerdeyse küçülür veya negatif olur. Kosinüs benzerliği, bu çarpımı vektörlerin uzunluğuna bölerek yön karşılaştırmasını uzunluktan bağımsız hale getirir.
03Matris: bir sayı tablosu#
Bir matris, satır ve sütunlardan oluşan bir sayı tablosudur; her satırı kendi başına bir vektör olarak okuyabilirsin. Dört anahtar vektöründen oluşan K matrisi:
| Satır | Sütun 1 | Sütun 2 |
|---|---|---|
| k₁ | 1.1 | 0.2 |
| k₂ | 0.1 | 1.2 |
| k₃ | 0.8 | 0.5 |
| k₄ | 0.3 | 1.0 |
Bir matrisi bir vektörle çarpmak, matrisin her satırıyla o vektörün nokta çarpımını almak demektir. K matrisini q = [1, 0] vektörüyle çarparsan, dört satırın her biriyle ayrı ayrı nokta çarpımı alırsın:
K · q = [1.1, 0.1, 0.8, 0.3]
Dört sayı, dört ayrı uyum skoru. Bu, Attention yazısındaki hesabın küçültülmüş hâlidir: gerçek hesapta bu skorlar ölçeklenir, bazıları nedensel maskeyle kapatılır ve kalanlar softmax ile olasılığa dönüştürülür. Buradaki K ve q, o yazıdaki diyagramın kullandığı aynı örnek sayılardır.
04Olasılık dağılımı: toplamı 1 olan sayılar#
Bir olasılık dağılımı, iki kuralı sağlayan bir sayı listesidir: her sayı negatif değildir, ve toplamları tam olarak 1’dir (yüzdeyle düşünürsen %100). Bir sepette 2 kırmızı, 1 mavi top varsa: kırmızı çekme olasılığı 2/3 ≈ %66,7, mavi çekme olasılığı 1/3 ≈ %33,3. İkisi toplanınca %100 eder.
Modeller bu fikri sözlükteki her token için kullanır: her tokena bir olasılık verir, hepsi negatif değildir ve toplamları 1’dir. Softmax, ham skorları tam olarak bu şekle dönüştüren fonksiyondur; bunu Bir dağılımdan kelime seçmenin yolları yazısında gerçek sayılarla göreceksin.
Dört araç da hazır. Şimdi bunları kelimelere uygulayalım: Bir kelime nasıl sayıya dönüşür?
Bu yazıyı bitirdiğinde:
- Vektör ve nokta çarpımının ne ölçtüğünü bir cümleyle anlatabilirsin.
- Bir matrisin bir vektörü nasıl dönüştürdüğünü açıklayabilirsin.
- Olasılık dağılımının toplamının neden 1 olduğunu ve bunun neden önemli olduğunu söyleyebilirsin.
Cümlelerden birini kendi sözlerinle anlatamıyorsan, ilgili bölüme dön ve demoyu yeniden dene.
Bir kelime nasıl sayıya dönüşür?
Başlangıç · 7 dk okuma