Yapay zekâ teknik dosyası — denetleyiciye ne sunulur?
Yüksek etkili yapay zekâ sistemleri için hazırlanan ayrıntılı teknik dosyanın bölümleri, Eylem 16'da sayılan yedi değerlendirme kriteri ve model kartından farkı.
Ayrıntılı teknik dosya, yüksek etkili bir yapay zekâ sisteminin nasıl geliştirildiğini, hangi veriyle eğitildiğini ve hangi testlerden geçtiğini denetleyici kuruma anlatan belgedir. Model kartının aksine kamuya açık değildir.
Türkiye Yapay Zekâ Eylem Planı, Eylem 4'te bunu yüksek etkili sistemler için zorunlu üçlünün son parçası olarak sayıyor:
...genişletilmiş Algoritmik Etki Değerlendirmesi, kamuya açık özet Model Kartı ve denetleyici kurumlara sunulacak ayrıntılı teknik dosya standart hâle getirilecektir.
Yedi değerlendirme kriteri
Teknik dosyanın çekirdeği burasıdır ve planda birebir sayılıdır. Eylem 16, TÜBİTAK BİLGEM Yapay Zekâ Enstitüsü bünyesinde güçlendirilecek güvenlik değerlendirme kapasitesini şöyle tanımlıyor:
Bu kapasite; güvenlik, performans, dayanıklılık, yanlılık, açıklanabilirlik, veri koruma ve siber tehditlere karşı direnç kriterlerine yönelik test metodolojileri, değerlendirme araçları ve teknik rehberleri kapsayacaktır.
Yedi kriter:
- Güvenlik
- Performans
- Dayanıklılık
- Yanlılık
- Açıklanabilirlik
- Veri koruma
- Siber tehditlere karşı direnç
Her biri için dosyada test yöntemi ve sonucu yer alır. Kriterlerin kendisi planda sabit; değişmesi beklenen şey bu kriterlere uygulanacak test yöntemleridir — onlar Enstitü'nün yayımlayacağı metodolojilerle gelecek.
Bölümler
1. Künye ve kapsam — sistem, sürüm, sorumlu, dosyanın sunulacağı denetleyici kurum, gizlilik sınıflandırması.
2. Sistem mimarisi ve bileşenler — mimari, kullanılan modeller ve sürümleri, dış bağımlılıklar ve üçüncü taraf servisler, girdi-çıktı arayüzleri, çalıştığı altyapı ve barındırma yeri.
3. Geliştirme süreci ve tasarım kararları — süreç, önemli tasarım kararları ve gerekçeleri, değerlendirilip elenen yaklaşımlar, uygulanan standartlar.
4. Veri yönetişimi — kaynaklar, hazırlama ve etiketleme süreci, eğitim / doğrulama / test ayrımı, kalite ölçütleri, KVKK uyumu, saklama ve imha politikası.
5. Eğitim ve doğrulama — eğitim yöntemi, hiperparametre seçimi, doğrulama yöntemi, tekrar üretilebilirlik.
6. Değerlendirme kriterleri — yukarıdaki yedi başlık, her biri için yöntem ve sonuç, artı bir özet ölçüm tablosu.
7. Risk yönetimi — risk tablosu (risk, olasılık, etki, önlem, kalan risk) ve risklerin sürekli izlenme süreci.
8. İnsan gözetimi tasarımı — gözetim mekanizmasının teknik tasarımı, müdahale kayıtları, acil durdurma.
9. Devreye alma sonrası izleme — izleme planı, günlük ve kayıt politikası, olay kayıtları ve bildirim süreci.
10. Değişiklik ve sürüm kaydı — sürüm geçmişi ve neyin "büyük sürüm güncellemesi" sayılacağının tanımı.
11. Ekler ve kanıt listesi — dosyaya eşlik eden belgeler ve nerede saklandıkları.
Model kartından farkı
Model kartı özet ve kamuya açık; teknik dosya ayrıntılı ve kısıtlı. İkisi aynı sistemi anlatır ama farklı okuyucuya.
Pratik kural: bir bilgi rakibinize zarar verecekse veya kötüye kullanılabilirse teknik dosyaya girer, model kartına girmez. Buna karşılık modelin nerede kötü çalıştığı her iki belgede de yer alır — o bilgiyi saklamak kimseye fayda sağlamaz.
"Büyük sürüm güncellemesi" tanımını siz yapıyorsunuz
Plan, yeniden değerlendirme tetikleyicisi olarak "canlıya alınmadan önce ve büyük sürüm güncellemelerinde" diyor ama neyin büyük sayılacağını tanımlamıyor.
Bu boşluğu kendi dosyanızda doldurmanız beklenir: hangi değişiklik türü yeniden değerlendirme gerektirir? Model yeniden eğitildiğinde mi, eşik değeri değiştiğinde mi, yeni bir veri kaynağı eklendiğinde mi? Bunu yazılı hâle getirmek, sonradan "neden değerlendirmediniz" sorusuna verilecek en iyi cevaptır.
Ne zaman gerekecek?
Türkiye tarafında orantılı risk rehberi ve sektör ekleri ilk 12 ay içinde yayımlanacak. AB pazarına satış yapıyorsanız AB AI Act'in yüksek riskli sistemler için teknik dokümantasyon yükümlülüğü 2 Aralık 2027'de (ürüne gömülü sistemlerde Ağustos 2028) uygulanmaya başlıyor.
Her iki tarih de uzak görünüyor, ama dosyanın maliyeti tarihte değil geçmişte: 2027'de üretimde olan bir sistemin geliştirme sürecini, tasarım kararlarını ve test geçmişini geriye dönük yazmak, üretirken kaydetmekten kat kat pahalıdır.