Onay kutusu neden gözetim değildir?
Kâğıt üzerinde bir "insan onayı" adımı koymak kolaydır. Zor olan, o insanın kararı durdurabilecek yetkiye, çıktıyı sorgulayacak bilgiye ve incelemeye yetecek zamana aynı anda sahip olmasıdır.
Bu üçü aynı kişide buluşmadığında adım varlığını sürdürür ama işlevini kaybeder. Süreç haritasında bir kutu görünür, denetimde bir kayıt çıkar, gerçekte hiçbir karar sorgulanmaz.
Asıl sorun yetki ve kültür
Sahada gördüğüm en yaygın kırılma noktası şu: onaylayan kişi çoğu zaman sürecin sahibi değil. Sahibi olmayan biri çıktıyı reddettiğinde arkasında durabileceği bir zemin bulamıyor.
Sonuç, "sistem önerdi, ben de onayladım" refleksi. Kimse kötü niyetli değil; yapı bu davranışı üretiyor.
Bilgi eksikliği bunu büyütüyor. Kişi yapay zekâ çıktısının hangi durumda hatalı olabileceğini bilmiyorsa, onay adımı yalnızca bir kutucuk işaretlemeye dönüşür. Reddetmenin bir maliyeti varsa da kontrol sessizce çöker — kimse fark etmez, çünkü kayıtlar düzgün görünür.
Gözetimin dört koşulu
İşleyen bir insan gözetimi tasarımı şu dördünü aynı anda sağlar. Biri eksikse diğer üçü de değerini kaybeder.
Yetki
Gözetimi yapan kişinin çıktıyı reddetme yetkisi açıkça yazılı olmalı ve bu yetkiyi kullanmak performansını olumsuz etkilememeli. Mümkünse bu kişi sürecin sahibi olmalı.
Yetkinlik
Karara temel olan girdiler ve modelin hangi koşullarda yanılabileceği, gözetimi yapan kişiye anlaşılır biçimde sunulmalı. Yalnızca sonucu görmek gözetim için yeterli değildir.
Zaman
Gözetim adımına ayrılan süre, kararın ağırlığıyla orantılı olmalı. Saniyeler içinde geçilmesi beklenen bir adım, tasarım gereği işlevsizdir.
Kanıt
Kararın kim tarafından, neye bakılarak ve ne zaman verildiği kayıt altında olmalı. Kanıt yoksa gözetimin işlediğini ne yönetim ne de denetim gösterebilir.
Onay, itiraz ve eskalasyon aynı şey değildir
Çoğu tasarımda yalnızca onay adımı var. Oysa gözetimin işlemesi için üçü birden gerekir: kararı onaylama, hatalı bulduğunda değiştirme (override) ve emin olamadığında üst mercie taşıma (eskalasyon).
Yalnızca onay varsa kişinin elinde iki seçenek kalır: kabul etmek ya da süreci tıkamak. İkincisinin maliyeti yüksek olduğu için pratikte herkes birinciyi seçer.
Hangi karar insanda kalmalı?
Her yapay zekâ çıktısının insan onayından geçmesi gerekmez; bu, otomasyonun anlamını ortadan kaldırır. Ölçüt kararın ağırlığıdır: kişi üzerinde doğrudan sonuç doğuran, geri alınması zor veya düzenlemeye tabi kararlar insanda kalmalı.
Geri kalanında gözetim, örnekleme ve sonradan inceleme biçiminde kurgulanabilir. Önemli olan bu ayrımın bilinçli yapılmış ve yazılı olmasıdır.
Nereden başlamalı?
Yapay zekânın karara doğrudan etki ettiği süreçleri listeleyip her biri için yetki, yetkinlik, zaman ve kanıt başlıklarını tek tek işaretlemek, çoğu kurumda ilk haftada net bir boşluk tablosu çıkarır.
Tablo dolduğunda genellikle şu görülür: onay adımları vardır, kanıt yoktur, yetki belirsizdir. İyi haber şu ki bu üçü de tasarımla çözülebilir — teknolojiyle değil.