İnsan · Görev isteği
Görev verildi
İnsan bir düzeltme istiyor: formatRelative, 23:59’da yazılıp 00:00’da okunan nota “bugün” diyor. Test olduğu gibi kalacak.
Yapay zekâ ajanı oturum kaydı
Kara Kutu
Bir kodlama ajanının oturumunu kara kutu kaydı gibi adım adım izleyin: model neye karar verdi, denetim katmanı neyi zorunlu kıldı, insan nerede devreye girdi.
Kurgusal oturum · bu sayfa için yazıldı, gerçek bir kayıt değil
Bir oturum seçin
Gece yarısı testi
Görev: Bir tarih testi yalnızca test takımı gece yarısından hemen sonra çalışınca başarısız oluyor. Testi değil, kodu düzeltin.
Süre ve tokenler nereye gitti
En uzun adım: İnceleme kapısı: PASS, başlangıç 00:28 (31 sn). En çok token: Testler geçti, başlangıç 00:21 (4.906).
Zaman çizelgesini sürükleyin ya da ok tuşlarını, Home ve End tuşlarını kullanın. Sekme arka plandayken oynatma duraklar.
Adımlar
Uçuş verisi
- Oturum süresi
- 59,2 sn
- Model tokenleri
- 19.335 giriş · 1.238 çıkış
- Çalıştırılan araç çağrıları
- 3
- Politika kesintileri
- 0 engellendi · 0 soruldu
- Kapı kararları
- PASS
- Değişenler
- 1 dosya · +3 −1
Aktöre göre adımlar
- Model5 adım · 28 sn
- Denetim katmanı2 adım · 31,2 sn
- İnsan1 adım · 0 ms
Dikkat edilecek nokta: Temiz bir çalışma bile kanıt bırakır: hatayı kanıtlayan başarısız test, fark ve kimsenin sözüne güvenmek zorunda kalmadığı bir kapı kararı.
Kaydı nasıl okumalı
- Model bir plan, araç çağrısı ya da düzenleme seçti.
- Denetim katmanı bir politika kuralını ya da inceleme kapısını uyguladı.
- İnsan görevi verdi ya da bir soruyu yanıtladı.
Denetim katmanı neden gerekli? OWASP, aşırı yetkiyi (gereğinden fazla işlev, izin ya da özerklik) LLM uygulamalarının başlıca risklerinden biri sayar; en az yetki ilkesini ve yüksek etkili eylemlerde insan onayını önerir.
Bu oda neden var
Umut Korkmaz ajan araçları geliştiriyor: birden çok yapay zekâ inceleyicisini çalıştırıp tek bir PASS, WARN ya da FAIL kararıyla sonuçlanan açık kaynaklı CLI Quorate ile Quorate inceleme kapılarına sahip Rust terminal kodlama ajanı Convoke. Bu oda, o kapıların geride bırakmak üzere tasarlandığı türden bir kanıt izini gösteriyor.
İkisini de Projeler’de görünKaydın sınırları
Üç oturumun üçü de kurgusaldır ve bu sayfa için yazılmıştır. Depo, dosyalar, komutlar, paket adları, süreler ve token sayıları temsilidir; hiçbir model çağrılmadı ve gerçek bir kayıt kullanılmadı. Politika kuralları kurgusal bir söz dizimi kullanır. Kapı kararları Quorate’in kuralını izler: fail-on eşiğine (GitHub Action’ında varsayılanı yüksek) ulaşan bir bulgu varsa FAIL, yalnızca daha düşük önemde bulgular kaldıysa WARN, hiç bulgu yoksa PASS. Quorate, hiçbir gerçek inceleyicinin tamamlanmadığı eksik (degraded) bir çalıştırmada da WARN verir; buradaki çalıştırmaların hiçbiri eksik değil. Bu kayıtta WARN ayrıca bir insanı bekler.