Yapay zekâ kendi verisiyle eğitilirse ne olur?

01Veri bitiyor; modeller veri üretiyor#

İyi bir dil modeli çok miktarda metin ister; ama kaliteli, temiz ve yasal olarak kullanılabilir insan metni sınırlıdır. Bir çözüm, verinin bir kısmını bir modele ürettirmektir: sentetik veri. Bunun yaygın kullanımları:

• Talimat verisi üretmek: Self-Instruct yaklaşımında bir dil modeli, az sayıda elle yazılmış örnekten yeni talimatlar ve yanıtlar üretir; bunlar süzülüp aynı modeli ince ayar etmek için kullanılır. Yazarlar, sıradan GPT-3’ü bu verilerle ince ayar ettiklerinde Super-NaturalInstructions ölçütünde ilk modele göre %33 mutlak iyileşme bildirdi ve InstructGPT-001 ile aradaki farkı insan değerlendirmesinde %5’e indirdi. Bunlar makalenin kendi sonuçlarıdır. Self-Instruct ↗
• Küçük modele öğretmek: Büyük bir modelin çıktılarını, küçük bir modeli eğitmek için kullanmak (damıtma).
• Nadir durumları çoğaltmak: Gerçek hayatta az görülen bir durumun (nadir bir hata türü) örneklerini üretmek.

Sentetik veri işe yaradığında, çoğunlukla bir süzgeçten geçmiştir: çıktı doğrulanır (kod çalıştırılır, matematik sonucu kontrol edilir), tekrarlar ayıklanır, kötüler elenir. Süzgeçsiz kullanım ise farklı bir sorunla karşılaşabilir.

02Model çöküşü: kopyanın kopyası#

Bir fotokopinin fotokopisini defalarca çekersen, ince ayrıntılar önce kaybolur, sonra görüntü bozulur. Shumailov ve arkadaşları, benzer bir olayı üretken modeller için gösterdi: bir model, önceki bir modelin ürettiği veriyle eğitilir; onun ürettiği veriyle bir sonraki eğitilir ve böyle devam eder. Yazarlar, bu işlem süzgeçsiz sürdüğünde özgün dağılımın uç kısımlarının, yani nadir içeriğin, giderek kaybolduğunu ve sürecin geri döndürülemez kusurlara yol açtığını bildirdi; buna model çöküşü dediler ve etkiyi dil modellerinde, değişimsel özkodlayıcılarda ve Gauss karışım modellerinde gösterdiler. Shumailov ve diğerleri, Nature, 2024 ↗

Aşağıdaki deney, bu olayın en sade biçimidir: her nesil, bir önceki neslin uydurduğu normal dağılımdan yalnızca 20 örnek çeker ve bu örneğe yeniden bir dağılım uydurur. Dağılımın genişliği (çeşitlilik) nesiller boyunca ne oluyor?

Demodaki sabit rastgelelikle, 200 bağımsız deneyin ortalamasında çeşitlilik şöyle değişiyor: başlangıçta 1,00; 10. nesilde yaklaşık 0,66; 20. nesilde 0,44; 30. nesilde 0,31. Ortalama da özgün konumdan uzaklaşıyor: 20. nesilde ortalama sapma yaklaşık 0,56. Her nesile gerçek veriden küçük bir pay eklediğinde tablo değişir: %10’luk payla 20. nesilde çeşitlilik yaklaşık 0,84’te, %25’le 0,93’te, %50’yle 0,96’da kalıyor.

Bu demo neyi gösterir, neyi göstermez?

• Gösterir: Her turda küçük bir örnekten yeniden öğrenmek, bilgiyi biraz aşındırır; aşınmalar birikir. Gerçek veriyle karışım, aşınmayı yavaşlatır.
• Göstermez: Bir dil modelinin eğitimi bu kadar yalın değildir. Makale, hatanın birden çok kaynağını (sonlu örneklem, modelin ifade gücü, öğrenme sürecinin sınırları) ayırır; hangi koşulda ne kadar çöküş olduğu, modele ve veriye göre değişir. “Her şey 30 nesilde çöker” sonucu çıkarılamaz.

03Doğru kullanım için üç ilke#

1. Gerçek veriyi koru. Sentetik veriyi gerçek verinin yerine değil, yanına koymak, çöküş riskini azaltır. Demodaki “gerçek veri payı” çubuğu bunu gösteriyor.
2. Süz ve doğrula. Çıktıyı kontrol edebileceğin alanlarda (kod, matematik, biçimsel kurallar) sentetik veri daha güvenlidir; “doğru mu?” sorusunun otomatik cevabı yoktur ise hatalar sessizce yayılabilir.
3. Çeşitliliği ölç. Üretilen verinin çeşitliliği (konular, üsluplar, nadir durumlar) ayrıca izlenmelidir; ortalama kaliteyi artırırken çeşitliliği kısmak mümkündür.

04Önyargı da kopyalanır#

Bir modelin önyargıları, ürettiği veriye geçer; o veriyle eğitilen sonraki model de onları taşır ve belki güçlendirir. Bu, veri ve önyargı yazısındaki “ayna” benzetmesinin bir sonraki halkasıdır: ayna, kendi yansımasını yeniden gösterirse, yansımadaki kusur büyüyebilir.

Bir model yeni bir şey öğrendiğinde, eskiyi de bozabilir. Yeni şey öğrenirken eskisini unutmak: sürekli öğrenme