Yapay zeka ajanına zor işi verin: belirsizlik daha iyi sonuç üretir
Ajanlara net değil, belirsiz ve zor görevler vermek; onları gerçek testlerle doğrulamakla birleşince kod tabanlarında gizli hataları ve ihmal edilmiş işleri ortaya çıkarıyor.
Yazar, bir ajana sitesinin yeniden tasarımını 'QA yap' şeklinde belirsiz bir talimatla test ettirdiğinde, ajanın kendiliğinden headless bir tarayıcı açıp gerçek sayfada tıklamalar simüle ettiğini ve filtreleme özelliğinde ciddi bir hatayı (WASM ile JavaScript köprüsü arasındaki props kodlama uyuşmazlığından kaynaklanan) bulduğunu anlatıyor. Ajanın bu çözümü kendisinin bulduğunu, kullanıcının hiçbir zaman tarayıcı kullanmasını istemediğini vurguluyor; belirsiz talimat, hem sonucu hem de beklenmedik bir yöntemi beraberinde getiriyor.
Yazının temel argümanı, insanların isteklerini genellikle aracın yapabileceğine önceden inandıkları şeylerle sınırladığı ve bu yüzden aracın gerçek kapasitesini asla keşfedemedikleridir. Bir denemenin maliyeti artık bir öğleden sonra değil, tek bir cümle; bu da başarısız bir denemenin bedelini neredeyse sıfıra indiriyor. Ölü kod temizliği, doku üretimi gibi 'değerli ama insana yetecek kadar önemli olmayan' işler artık bu düşük maliyetli deneme mantığıyla gerçek zamanlı yapılabilir hale geliyor.
Ancak yazar, yaratıcı keşfin doğrulamadan ayrı tutulamayacağını vurguluyor: aynı ajan, doğru şekilde yönlendirilmediğinde çalışmayan bir özelliğin çalıştığına dair yanlış güvence de verebilir. Bu yüzden önerilen disiplin, ajana büyük ve belirsiz görevler vermek, ardından sonucu gerçek davranışla kıyaslayarak acımasızca doğrulamaktır. Mühendisler için mesaj net: darboğaz artık zaman değil, isteme cesareti ve doğrulama titizliğidir.