Blog

Yapay zekâ (YZ) artık sadece teknoloji şirketlerinin işi değil. Finans, üretim, eğitim, kamu, sağlık, perakende ve hizmet gibi birçok kurum, karar destek sistemlerinden süreç otomasyonuna, müşteri deneyiminden risk yönetimine kadar YZ çözümleri kullanıyor.

Fakat bir kurum çok sayıda YZ projesi yürütse de bu kurumun YZ konusunda gerçekten olgun, güvenli ve yönetişim açısından güçlü olduğu anlamına gelmiyor.

Bugün kurumların cevaplaması gereken tek soru “Ne kadar YZ kullanıyoruz?” değil. Aynı zamanda şu sorular da cevaplanmalı:

  • YZ yatırımları kurumsal strateji ve iş hedefleriyle gerçekten bağlantılı mı?
  • Kullanılan YZ sistemleri ölçülebilir bir iş değeri üretiyor mu?
  • Riskler ve insan gözetimi yeterince yönetiliyor mu?
  • Veri, model ve sistem çıktıları gerektiğinde geriye dönük denetlenebiliyor mu?
  • Kurumun YZ kullandığına ilişkin iddiaları teknik gerçeklikle uyumlu mu?
  • YZ yönetişim mekanizmaları sadece belgelerde mi, yoksa gerçekten uygulanıyor mu?

Bu ihtiyaçtan hareketle geliştirilen AIGAT — AI Governance & Integrity Assessment Tool, kurumların YZ durumunu sadece klasik bir olgunluk puanıyla değil, kanıta dayalı ve çok boyutlu bir yaklaşımla inceliyor. AIGAT, 10 kurumsal değerlendirme boyutu altında yapılandırılmış 40 sorudan oluşuyor. Değerlendirmede kurumun kendi beyanları; politika, yönetim kararı, kayıt, sistem çıktısı, denetim izi, mimari belge, performans raporu ve benzeri doğrulanabilir kanıtlarla birlikte ele alınıyor.

Neden yalnızca YZ olgunluğu yeterli değil?

Geleneksel olgunluk modelleri, kurumun strateji, teknoloji, veri, insan kaynağı ve organizasyon yapısı açısından hangi seviyede olduğunu gösterir. Ancak günümüzde YZ sistemleri kritik süreçlerin ve karar mekanizmalarının daha fazla parçası hâline geldikçe sadece “Kurum ne kadar olgun?” sorusu yeterli olmuyor.

Bir kurum yüksek olgunluk gösterebilir ancak aynı anda:

  • Kritik risklere açık olabilir,
  • Çalışanların kontrolsüz YZ kullanımını yönetemeyebilir,
  • Tek bir teknoloji sağlayıcısına aşırı bağımlı olabilir,
  • YZ çıktılarının nasıl üretildiğini kontrol edemeyebilir,
  • Yüksek iş değeri iddialarını kanıtlayamayabilir.

Bu yüzden olgunluk ve risk ayrı ayrı değerlendirilmelidir. Yüksek olgunluk, düşük risk demek değildir.

AIGAT dört ayrı yönetim çıktısı verir

Modelin 4 Katmanlı Yapısı afişi: AI Olgunluk, Risk, Yönetişim ve Bütünlük katmanları; arka planda şehre bakan bir terasta konuşan iş insanları

AIGAT değerlendirmesi kurumun YZ durumunu tek bir puana indirgemez. Bunun yerine dört ayrı ama birbirini tamamlayan sonuç sunar:

  • YZ Olgunluğu, kurumun YZ’yi stratejik, yönetsel, teknik ve operasyonel açıdan geliştirme ve yönetme kapasitesini gösterir. Kurumun kendi değerlendirmesi olan Beyan Skoru ile kanıtlarla desteklenen Doğrulanmış Skor ayrı raporlanır.
  • Risk Maruziyeti, değerlendirme sırasında ortaya çıkan Kritik Risk Tetikleyicilerini ve kuruma özgü Ek Riskleri görünür hâle getirir.
  • YZ Bütünlüğü, bir Kullanıcı Senaryosunun ne kadar YZ içerdiğine dair kurum iddiası ile teknik gerçeklik arasındaki uyumu inceler. Burada teknolojinin karmaşıklığı değil, teknolojik gerçeklik, YZ’nin işlevsel rolü ve YZ kullanımının probleme göre gerekçelendirilmesi değerlendirilir.
  • YZ Yönetişim Güvencesi ise kritik yönetişim kontrollerinin sadece tanımlanıp tanımlanmadığını değil, gerçekten uygulanıp uygulanmadığını ve kanıtlanabilirliğini ölçer.

Beyan ile kanıt aynı şey değildir

Kurumsal değerlendirmelerde sık karşılaşılan sorun, bir sürecin var olduğunu söylemek ile o sürecin gerçekten işlediğini kanıtlamak arasındaki farktır.

Örneğin “YZ risklerini düzenli değerlendiriyoruz.” beyanı tek başına yeterli değildir. Bunu destekleyen; tarihli risk değerlendirmeleri, sorumlusu belirlenmiş aksiyonlar, Kullanıcı Senaryosu bazlı değerlendirme kayıtları, yönetim kararları, sistem kayıtları gibi kanıtların bulunması gerekir.

AIGAT’ın temel yaklaşımı bu yüzden çok nettir: Söylenen yetkinlik ile kanıtlanabilen yetkinlik aynı şey değildir.

Bu ayrım, yönetimin kurumsal YZ kapasitesi hakkında daha gerçekçi karar almasını sağlar.

YZ Bütünlüğü ve yanıltıcı YZ iddiaları

Son dönemde öne çıkan konulardan biri yanıltıcı yapay zekâ iddialarıdır (AI washing). Bir yazılımda YZ bileşeni bulunması, tüm çözümün YZ tabanlı olduğu anlamına gelmez. Aynı şekilde kural tabanlı bir sistem, basit bir otomasyon ya da analitik uygulama da yanlış ya da abartılı bir şekilde YZ ürünü olarak gösterilebilir.

AIGAT bu konuda teknolojiyi “basit” ya da “ileri” diye puanlamak yerine üç soruya odaklanır:

  • Teknolojik Gerçeklik: Kurumun YZ iddiası gerçek teknik mimariyle örtüşüyor mu?
  • İşlevsel Rol: YZ bileşeni sistemin ürettiği sonuçta gerçekten anlamlı bir rol oynuyor mu?
  • Gereklilik ve İddia Tutarlılığı: YZ kullanımı probleme uygun ve alternatif teknolojilere göre gerekçeli mi?

Bu yüzden daha karmaşık bir teknoloji otomatik olarak daha yüksek bütünlük anlamına gelmez. Probleme uygun ve doğru tanımlanmış daha basit bir çözüm de yüksek YZ bütünlüğüne sahip olabilir.

Kurumsal YZ kullanımı büyüdükçe yönetimin yalnızca teknoloji yatırımlarını değil, risk, değer, yönetişim ve doğrulanabilirliği de birlikte görmesi gerekir. Kanıta dayalı bir YZ değerlendirmesi kurumlara şu alanlarda katkı sağlar:

  • YZ yatırımlarının stratejik hedeflerle hizalanması
  • YZ yönetişim ve sahiplik boşluklarının belirlenmesi
  • Kritik risklerin erken tespit edilmesi
  • Veri ve model yaşam döngüsünün denetlenebilirliğinin geliştirilmesi
  • Kontrolsüz çalışan YZ kullanımının görünür hâle getirilmesi
  • Tedarikçi ve teknoloji bağımlılığının değerlendirilmesi
  • YZ kullanıcı senaryolarının gerçek iş değerinin doğrulanması
  • Yanıltıcı veya abartılı YZ iddialarının tespit edilmesi
  • Üst yönetime kanıta dayalı bir YZ yol haritası sunulması

Temel amaç daha fazla YZ kullanmak değil; YZ’yi daha kontrollü, daha doğrulanabilir ve kurumsal hedeflerle uyumlu şekilde yönetebilmektir.

Türkiye AR-GE Vakfı olarak kurumlarınıza destek sağlayabiliriz. Mevcut YZ kullanımlarını; strateji, yönetişim, risk, veri, teknoloji, iş değeri, ölçekleme, insan kaynağı ve tedarikçi bağımlılığı boyutlarında değerlendirebilir; AIGAT temelli kanıta dayalı YZ yönetişimi ve bütünlük değerlendirmesi yapabiliriz.

Çalışma sonucunda kurumunuza; YZ olgunluk değerlendirmesi, beyan ve doğrulanmış skor karşılaştırması, kritik risk tetikleyicileri, YZ bütünlük analizi, YZ yönetişim güvencesi görünümü, öncelikli gelişim alanları ve yönetim seviyesinde değerlendirme çıktıları sunulabilir.

Kurumunuzun YZ olgunluğunu, risklerini ve yönetişim yapısını değerlendirmek için Türkiye AR-GE Vakfı Danışmanlık Başvuru Formunu doldurup bizimle iletişime geçebilirsiniz.

Dr. Engin Deniz
Türkiye AR-GE Vakfı İdari Koordinatörü