Bir ekip her agent aksiyonunun önüne insan onayı koydu. Workflow diyagramında güvenli görünüyordu. Kısa süre içinde inceleyenler okumadan approve etmeye başladı, çünkü taleplerin çoğu sıradandı ve kuyruk hiç bitmiyordu. Kontrol duruyordu, karar ortadan kalkmıştı.
Human in the loop bir checkbox değildir. Muhakemenin, kanıtın belirsiz olduğu, sonucun önemli olduğu veya geri dönüşün zorlaştığı yere bilinçli biçimde konmasıdır. Her yerde zorunlu onay, insanı arayüzü görmezden gelmeye eğitir.
Model hareketini değil sonucu inceleyin
Model dış etki yaratmadan sınıflandırabilir, bilgi çıkarabilir, retrieval yapabilir ve taslak hazırlayabilir. Bunlar eval ve monitoring ister, her zaman senkron onay istemez. Review noktası sonuç doğuran geçişin önünde olmalı: mesaj gönderme, para hareketi, erişim değiştirme, stok ayırma, veri silme veya bir kişinin hakkını etkileyen karar.
Öneri ile yürütmeyi ayırın. Agent hedefi, payload'ı, kanıtı ve beklenen sonucu içeren yapılandırılmış aksiyon hazırlasın. Policy bunun otomatik çalışacağını, onay isteyeceğini veya bloklanacağını belirlesin. Kişi kesin aksiyonu incelesin. Onaydan sonra yeniden üretmek, onayın anlamını bozar.
Açıklanabilen risk kuralları kullanın
Eskalasyon yalnızca belirsiz confidence score'a bağlanmamalı. Gözlenebilir koşulları birleştirin: aksiyon tipi, geri alınabilirlik, değer, alıcı, yenilik, permission sınırı ve kanıt kalitesi. Tanıdık ve düşük etkili güncelleme ilerleyebilir. Sıra dışı hedef, çelişen kaynak veya eksik kimlik, model kendinden emin görünse de inceleme isteyebilir.
NIST AI Risk Management Framework, rol ve sorumluluğu AI risk yönetiminin bir parçası olarak ele alır. Pratik anlamı şudur: İnceleyen kişi hangi kararın sahibi olduğunu, hangi policy'nin geçerli olduğunu ve redden sonra ne olacağını bilmelidir.
Bütün workflow'a yüksek risk etiketi yapıştırıp tek kuyruğa göndermeyin. Riski yaratan kesin geçişleri işaretleyin.
İnceleyene yeterli context verin
Onay ekranı ne olacağını, nedenini, kanıtı ve geri alma yolunu anlatmalı. Tüm kaydı dökmek yerine değişen alanları gösterin. Agent'ın dayandığı kaynak parçalarına bağlantı verin. Policy istisnalarını ve ilişkili önceki aksiyonları görünür yapın.
Seçenekler anlamlı olmalı: Bu payload'ı onayla, düzenle, gerekçeyle reddet veya adı belli uzmana gönder. Genel bir uygun görünüyor butonu işe yarar audit trail üretmez. Çalıştırılan operasyona bağlanamayan chat onayı da üretmez.
Review hızının yanında kalitesini de ölçün. Tekrarlanan override, rubber stamp örüntüsü ve uzun kuyruk yalnızca ekip kapasitesi değil, tasarım sinyalidir.
Yetkisiz supervision tiyatrodur
Bazen kişiye aksiyon gösterilir fakat durdurma yetkisi verilmez. Bazen aksiyon review'dan önce çalışır ve sonraki kontrol oversight diye adlandırılır. Bazen inceleyen alan bilgisinden yoksundur veya akışı yavaşlattığında cezalandırılır. Bunlar onay sistemi değil, gözlem sistemidir.
Başka bir tiyatro türü, arayüzün sakladığı hatayı insanın bulmasını beklemektir. Kanıt, permission veya side effect görünmüyorsa kişi yalnızca metni değerlendirir. Alttaki aksiyon yanlış olsa bile iyi yazı onay alır.
Bu hafta bir onay kuyruğunu yeniden tasarlayın
En yoğun human review adımını seçin. Onaylanan, düzenlenen ve reddedilen örnekleri inceleyin. Kararı gerçekten değiştiren koşulları bulun. Kuyruğu otomatik, review ve blocked yollarına ayırmak için bunları kullanın. Deterministik policy modelin dışında kalsın.
Review yolunda kesin payload, kanıt ve sonucu birlikte gösterin. Reviewer kimliği, kararı, gerekçesi ve yürütülen sonucu kaydedin. Eski onayın değişmiş state'i yetkilendirmemesi için expiry ekleyin.
Sonra düşük etkili yoldan onayı kaldırıp eval ve rollback ile izleyin. Hedef daha az insan değildir. İnsan dikkatini yalnızca muhakemenin sonucu değiştirdiği yerde harcamaktır. Böylece onay, hâlâ birinin gerçekten karar verdiği anlamına gelir.