Yapay zekâ risk kademeleri — sisteminiz hangi kademede?
Türkiye Yapay Zekâ Eylem Planı düşük riskli, orta riskli ve yüksek etkili sistemleri nasıl ayırıyor, her kademede hangi belgeler isteniyor.
Türkiye Yapay Zekâ Eylem Planı, yapay zekâ sistemlerine tek tip bir yükümlülük getirmiyor. Yükümlülük riskle orantılı olarak üç kademeye ayrılıyor. Hangi belgeyi üretmeniz gerektiği, önce hangi kademede olduğunuza bağlı.
Üç kademe
Eylem 4'ün ilgili cümlesi:
Risk düzeyine göre kademeli yükümlülükler tanımlanacaktır. Düşük riskli uygulamalar için sade kontrol listeleri, orta riskli uygulamalar için kısa-form Algoritmik Etki Değerlendirmesi, yüksek etkili sistemler için ise genişletilmiş Algoritmik Etki Değerlendirmesi, kamuya açık özet Model Kartı ve denetleyici kurumlara sunulacak ayrıntılı teknik dosya standart hâle getirilecektir.
| Kademe | Üretilecek belgeler |
|---|---|
| Düşük riskli | Sade kontrol listesi |
| Orta riskli | Kısa-form Algoritmik Etki Değerlendirmesi |
| Yüksek etkili | Genişletilmiş AED + Model Kartı + ayrıntılı teknik dosya |
Yüksek etkili sistem nedir?
Plan bunu alan listesiyle tanımlıyor:
Yüksek etkili sistemler; sağlık, eğitim, istihdam, sosyal yardım, kredi değerlendirme, biyometrik tanıma, kolluk ve adalet süreçleri ile çocukları ve hassas grupları doğrudan etkileyen uygulamaları kapsayacak şekilde tanımlanacaktır.
Sekiz alan, artı iki yatay ölçüt:
- Sağlık
- Eğitim
- İstihdam
- Sosyal yardım
- Kredi değerlendirme
- Biyometrik tanıma
- Kolluk süreçleri
- Adalet süreçleri
- Çocukları doğrudan etkileyen uygulamalar
- Hassas grupları doğrudan etkileyen uygulamalar
Bunlardan herhangi birine giriyorsanız sistem yüksek etkilidir. Alanların tümüne birden girmeniz gerekmez.
Dikkat: cümle "tanımlanacaktır" diyor. Yani nihai kapsam orantılı risk rehberi yayımlandığında kesinleşecek; liste genişleyebilir.
Orta riskli nedir?
Plan orta riskli kademeyi ayrıca tanımlamıyor. Uygulamada belirleyici olan iki ölçüt öne çıkıyor:
- Sistem bir karara katkı veriyor mu (doğrudan karar veriyor ya da kararın girdisini üretiyor)
- Kişisel veri işliyor mu
İkisinden biri varsa ve sistem yüksek etkili alanlara girmiyorsa, kısa-form AED beklenir. Yalnızca bilgi veya içerik üreten, kişisel veri işlemeyen bir sistem düşük riskli sayılır.
Sisteminizin kademesini 2 dakikada belirleyin →
Kademeden bağımsız ek yükümlülükler
Kademe düşük çıksa bile şu üç durumda ek belge üretmeniz gerekir:
Kamu pilot programına veya destek çağrısına başvuruyorsanız. Eylem 2: "her projede kısa-form Algoritmik Etki Değerlendirmesi ve model kartı üretimiyle güvenilirlik boyutu da içselleştirilecektir." Eylem 8 ayrıca pilot projelerde güvenlik ve etik kontrolleri, olay bildirim süreçlerini ve öncesi-sonrası ölçümünü zorunlu tutuyor.
Modeli yurt dışına satacaksanız. Eylem 11: "ihraç edilen her model sürümü model kartı ve güvenlik testi paketi ile piyasaya çıkacaktır."
Kamuya satacaksanız. Eylem 7, kamuda geliştirilen veya tedarik edilen yapay zekâ sistemlerinin belgelendirme, değerlendirme ve izleme süreçlerinden geçeceğini yazıyor; kamu alımlarına katılacak girişimlerin teknogirişim belgesine sahip olması esas alınıyor.
Kademe değişirse ne olur?
Risk kademesi sistemin sabit bir özelliği değildir. Yeni bir kullanım alanı eklediğinizde, karar verme rolünü artırdığınızda veya kişisel veri işlemeye başladığınızda kademe yükselebilir.
Plan, yüksek etkili sistemler için "canlıya alınmadan önce ve büyük sürüm güncellemelerinde" yeniden değerlendirme istiyor. Pratikte bu, her önemli sürümde kademeyi de yeniden kontrol etmek anlamına gelir.
Sıralama önerisi
- Kademeyi belirleyin — hangi belgelerin gerektiğini bu belirler
- Kısa formu doldurun — orta riskliyseniz zaten gereken belge budur; yüksek etkiliyseniz genişletilmiş forma taşınacak bir taslak olur
- Kanıtları toplayın — belgenin zor kısmı yazmak değil, performans ölçümlerini, veri kaynaklarını ve test sonuçlarını bir araya getirmektir
- Sürüm takibini baştan kurun — belge her büyük sürümde yenilenecek