Yapay zekâ ajanı nedir?

01Model yazar, bir program çalıştırır#

Bir dil modeli yalnızca token üretir. Bir hesap makinesini çalıştıramaz, internete bağlanamaz, bir dosyayı açamaz. Araç kullanımı, bu sınırı şöyle aşar: model, yanıtın içinde belirli bir biçimde bir çağrı yazar (örneğin “hesap_makinesi” adı ve “1284 × 37” argümanı). Modeli çevreleyen program bu çağrıyı yakalar, aracı gerçekten çalıştırır ve sonucu yeniden bağlama ekler. Model, sonucu gördükten sonra yanıtına devam eder.

Yani “modelin araç kullandığını” söylemek kısaltmadır: kararı veren modeldir, işi yapan çevreleyen yazılımdır. Toolformer çalışması, bir modelin hangi API’yi, ne zaman, hangi argümanlarla çağıracağını ve sonucu sonraki token tahminine nasıl katacağını kendi kendine öğrenebildiğini gösterdi; araçlar arasında hesap makinesi, Wikipedia araması, takvim ve çeviri sistemi vardı. Schick ve diğerleri ↗

02Düşün, harekete geç, gözlemle#

Tek bir araç çağrısı bir ajan yapmaz. Ajanın ayırt edici özelliği döngüdür. ReAct çalışması bunu şöyle formüle eder: model akıl yürütme izleri ve eylemler üretir, birini diğerinin yerine geçirmeden sırayla. Akıl yürütme, planı yapmaya ve hatalarda yeniden planlamaya yardım eder; eylemler ise dış kaynaklardan bilgi çeker. Yao ve diğerleri ↗

Döngüyü şöyle düşünebilirsin:

1. Hedef: “X şehrinin nüfusu, Y şehrinden kaç kat fazla?”
2. Düşünce: “İki nüfusu bulmalı, sonra bölmeliyim.”
3. Eylem: Arama aracını “X nüfus” sorgusuyla çağır.
4. Gözlem: Araç sonucu bağlama gelir. Sonraki düşünce bu sonuca dayanır.
5. İkinci nüfus için tekrar et, hesap aracıyla böl, sonucu yaz.

ReAct makalesi bu yaklaşımın, soru yanıtlama ve olgu doğrulama görevlerinde, yalnızca düşünce zinciriyle üretilen yanıtlara göre halüsinasyonu ve hata yayılımını azalttığını; etkileşimli ortamlarda (ALFWorld, WebShop) ise taklit ve pekiştirmeli öğrenme yöntemlerini mutlak başarı oranında %34 ve %10 geçtiğini bildirir. Bunlar makalenin kendi deney koşullarındaki sonuçlardır; her ajan için geçerli bir garanti değildir.

Ajan teriminin tek bir kesin tanımı yok. Yaygın kullanım: bir hedef verildiğinde, döngü içinde araç çağırıp sonuçlara göre kendi adımlarını belirleyebilen dil modeli tabanlı sistem. Bir sohbet asistanı tek bir turda yanıt veriyorsa ajan değildir; birden çok araç çağrısını kendi başına zincirleyebiliyorsa o yöne kayar.

03Araçları standartlaştırmak: MCP#

Her model için her aracı ayrı ayrı bağlamak, N model × M araç kadar özel bağlantı yazmak demektir. Model Context Protocol (MCP), Anthropic’in 25 Kasım 2024’te tanıttığı, yapay zekâ uygulamalarını dış sistemlere (dosyalar, veri tabanları, arama motorları, hesaplama araçları) bağlamak için açık bir standarttır. Resmî belgeler bunu, farklı cihazları tek tür bağlantıyla bağlayan USB-C portuna benzetir. Bir uygulama MCP istemcisi olur; araçlarını ve verisini dışarı açan taraf MCP sunucusudur. Duyuru ↗ · Belgeler ↗

Standardın yararı tekrar kullanımdır: bir sunucu yazılırsa, onu destekleyen birçok uygulama aynı aracı kullanabilir. Bu bir yetenek artışı değil, entegrasyon kolaylığıdır; modelin ne kadar iyi akıl yürüttüğünü değiştirmez.

04Güç arttıkça risk de artar#

Güvenilmeyen içerik riskinin adı dolaylı istem enjeksiyonudur. Greshake ve diğerleri, uygulamaların veri ile talimat arasındaki çizgiyi bulanıklaştırdığını, saldırganın modelin getirebileceği bir web sayfasına ya da belgeye talimat gömerek uygulamaya doğrudan erişimi olmadan etkileyebildiğini gösterdi. Greshake ve diğerleri ↗ Önlem sütunundakiler genel mühendislik ilkeleridir; belirli bir ürün için kesin bir koruma garantisi vermez.

Artık modelin nasıl eğitildiğini, nasıl yönlendirildiğini ve dış dünyaya nasıl uzandığını gördün. Geriye, bu sistemleri besleyen veriye ve bu alanda en sık duyulan yanlış anlamalara bakmak kaldı: Veri, modelin bakışını nasıl şekillendirir? ve Sekiz yaygın yanlış anlama.