Kurum Yazılımlarında Yapay Zekâya Hangi İşlem Yetkileri Verilmeli?

Bir kurum çalışanının yapay zekâdan rapor özeti istemesi ile aynı sistemin kurum adına kayıt değiştirmesi farklı yetkiler gerektirir. İlk kullanımda üretilen çıktı değerlendirilir; ikincisinde yazılımın işlem sınırları doğrudan gündeme gelir.

Yapay zekâ bilgi sunmaktan işlem yapmaya ilerliyor

W3C’nin 21 Ekim 2026 tarihli duyurusu, yapay zekâ ajanlarının web üzerindeki gelişimini ele alan bir değerlendirme metnine işaret ediyor. 20 Ekim’de tamamlanan metin; kullanıcı kontrolü, yetki devri, güvenlik ve mahremiyet gibi konuları tartışmaya açıyor. Bu, bağlayıcı bir teknik standart değil; W3C Strateji Ekibinin topluluk görüşü için hazırladığı değerlendirmedir.

Kurumlar açısından uygulama sorusu şudur: Otomasyon hangi işi kolaylaştıracak ve bunu yaparken hangi sınırlar içinde kalacak? Aşağıdaki öneriler, bu soruyu sürdürülebilirlik ve işletme yazılımları üzerinden ele alıyor.

Model seçiminden önce görevi tanımlayın

“Yapay zekâyı sisteme ekleyelim” hedefi, yazılım gereksinimini açıklamak için yeterli değildir. Önce kullanıcının tamamlamak istediği iş yazılmalıdır. Örneğin bir tesis yöneticisi, bakım kayıtlarından tekrar eden arızaların listesini çıkarmak isteyebilir.

Bu görevde hangi kayıtların okunacağı, hangi tarih aralığının inceleneceği ve sonucun kime sunulacağı belirlenebilir. Aynı görev tanımı, sisteme bakım emri açma veya ekipmana müdahale etme yetkisi verildiği anlamına gelmez. Dar bir başlangıç kapsamı, sonucun doğruluğunu değerlendirmeyi kolaylaştırır; yeni görevler ayrı yetki incelemesiyle eklenebilir.

Okuma, taslak hazırlama ve kayıt değiştirmeyi ayırın

Belge aramak, rapor taslağı hazırlamak, veri tabanındaki değeri değiştirmek ve dışarıya bilgi göndermek ayrı işlemlerdir. Yetki düzeni, bu işlemlerin etkisine göre kurulmalıdır.

Örneğin sürdürülebilirlik sorumlusu elektrik tüketim kayıtlarının özetlenmesini isteyebilir. Sistem eksik ayları işaretleyip açıklama taslağı hazırlayabilir. Ancak eksik tüketimi tahmin ederek onaylı kaydın üzerine yazmak farklı bir kontrol gerektirir.

Önerilen değişiklik önce ayrı bir alanda tutulabilir. Kullanıcı mevcut değerle öneriyi karşılaştırır, dayanağı inceler ve kabul edip etmeyeceğine karar verir. Böylece analiz ile kesinleşmiş kayıt arasındaki sınır korunur.

Onay ekranında işlemin sonucunu gösterin

Yalnızca “Devam edilsin mi?” sorusu sağlıklı karar için yeterli olmayabilir. Onay ekranı neyin değişeceğini ve hangi kayıtların etkileneceğini açıklamalıdır. Dışarıya gönderilecek bir raporda alıcı, dosya sürümü ve ekler; bakım kaydı güncellemesinde eski ve yeni durum; toplu işlemde etkilenen kayıtların kapsamı gösterilebilir.

Her küçük adım için onay istemek de kullanıcıyı yorabilir. Rutin sınırlar içindeki işlemlerle ayrıca incelenecek işlemler önceden ayrılmalıdır. Onay ihtiyacı, işlemin etkisiyle orantılı olmalıdır.

Kaynak belgeleri talimatlardan ayırın

Kurum yazılımları sözleşme, teknik föy, e-posta ve dış kaynaklı raporları işleyebilir. Bu belgelerdeki metinler, sistemin yetkilerini belirleyen talimatlar gibi kabul edilmemelidir. W3C değerlendirmesi, güvenilmeyen içerikteki kötü niyetli yönlendirmelerin, ajanın erişim yetkileriyle birlikte risk oluşturduğunu tartışıyor.

Uygulamada belge inceleme görevi için kullanılabilecek araçlar sınırlandırılabilir. Bir ürün belgesini özetleyen bileşenin, aynı anda tüm kurumsal dosyalara erişmesi veya dışarıya mesaj göndermesi gerekmeyebilir. İncelenen içeriğin kapsamı ile verilen işlem yetkisi birlikte düşünülmelidir.

İşlemin nasıl oluştuğunu sonradan açıklayabilin

Otomasyon bir kaydı değiştirdiğinde görevi başlatan kullanıcı, kullanılan kaynakların sürümü, önerilen değişiklik ve verilen onay incelenebilir olmalıdır. İşlem günlüklerine gereksiz hassas veri taşımamaya da dikkat edilmelidir: kararın nasıl verildiğini göstermek için tüm belge içeriğini yeniden saklamak her zaman gerekli değildir.

Hatalı işlemin nasıl düzeltileceği başlangıçta tasarlanmalıdır. Geri alınabilen değişikliklerde önceki sürüm korunabilir; geri alınamayan veya dış tarafları etkileyen işlemler daha sıkı kontrole alınabilir.

Küçük bir pilotu ölçülebilir sonuçlarla değerlendirin

İlk pilot için bakım kayıtlarından taslak özet çıkarma veya raporlardaki eksik alanları işaretleme gibi incelenebilir bir görev seçilebilir. Gerçek kullanımdan önce eksik belge, çelişkili bilgi ve yetkisiz işlem talebi örnekleri denenmelidir.

Değerlendirme yalnızca hızla sınırlı kalmamalıdır. Yanlış öneriler, kullanıcı düzeltmeleri ve kaynaklara ulaşma kolaylığı da incelenmelidir. Sürdürülebilirlik verilerinde tahmin, ölçüm ve onaylı sonucun birbirine karışmadığı ayrıca kontrol edilmelidir.

Yörünge Kurumsal, kuruma özel yazılım, entegrasyon, raporlama ve süreç otomasyonu çalışmalarında bu tür iş akışlarının gereksinimlerini tanımlayabilir. Yapay zekâ bileşeni tercih edildiğinde görev kapsamı, veri erişimi ve kontrol noktaları ayrıca tasarlanmalıdır; insanın mesleki değerlendirmesi ve resmî doğrulama süreçleri kendi sorumluluk alanlarında devam eder.

*Kaynaklar: W3C duyurusu ve W3C Strateji Ekibinin değerlendirmesi. Yetki katmanları, onay ekranı ve pilot uygulama adımları bu yazının editoryal önerileridir.*

← Tüm yazılara dön