AI Act 'high-risk' ne demek?
Regulation (EU) 2024/1689 (AI Act) Annex III, çalışan yönetimi (recruitment, terfi, görev dağıtımı, performans değerlendirme) AI sistemlerini 'high risk' kategorisinde sayıyor. Saha ekibinde 'kim hangi işe gidecek' kararını öneren/yapan algoritma da bu kapsama girer. Aralık 2025 itibariyle bazı bölümler yürürlükte; 2026 Q3 itibariyle yüksek riskli iş gücü AI'larının uyum yükümlülüğü başlıyor.
5 somut yükümlülük
(1) Risk yönetimi: algoritmanın ayrımcılık riski raporlanmalı (cinsiyet, yaş, etnik köken bias testi). (2) Veri yönetişimi: training set'in temsil yeterliliği. (3) Log + audit trail — her atama kararı 6+ ay loglanır. (4) İnsan denetimi: tek başına otomatik kara liste/ceza üretemez. (5) Şeffaflık: çalışana algoritmik karar olduğu bildirilmeli + 'neden bu görev' açıklaması verilebilmeli.
Türk firmasını niye ilgilendirir?
AB'de operasyon yapan, AB vatandaşı veya AB sahasında çalışan kişiye atama yapan her sistem AI Act'in coğrafi kapsamına girer. AB hizmet eden Türk müteahhitleri, AB'de iş yapan saha hizmet firmaları doğrudan tabi. KVKK Kurulu da 2025 sonu rehberinde AI Act ilkelerine paralel açıklama yükümlülüğü vurguladı.
'Açıklanabilirlik' nasıl yapılır?
SHAP veya LIME değer atfı çıktıları + 'top-3 feature' raporu en yaygın yöntem. Örnek: 'Bu görev sana atandı çünkü 1) lokasyon yakınlığı (8.4 km), 2) sertifika eşleşmesi (klimatist), 3) son 3 ayda benzer 4 iş tamamlandı'. Karanlık kutu LLM tabanlı dispatch'lerde bu çıktıyı üretmek için ek 'explanation layer' eklenmesi gerekir.
Cezaların büyüklüğü
AI Act yaptırım tavanı: yıllık global cironun %7'sine kadar (yüksek riskli ihlal). Veri Koruma Otoritesi paralel KVKK cezası ayrıca işler. Çalışan davası için TBK 49 (haksız fiil) + 6701 sayılı Kanun ayrımcılık tazminatı eklenebilir. Toplam risk küçük ölçekli firmalar için bile 7 haneli rakamlara çıkabiliyor.
Uyum yol haritası — 6 ay
(1) Algoritma envanteri (dispatch, scoring, monitoring AI sistemleri liste). (2) Risk değerlendirme + bias testi (örneklem). (3) Log altyapısı (atama kararı + girdi + çıktı, 6+ ay). (4) İnsan denetimi sürecinin yazılı tanımı (override + onay). (5) Çalışan aydınlatma metni + açıklama isteği prosedürü. (6) Vendor sözleşmelerinde AI Act sorumluluk paylaşımı.
Özet çıkarımlar
- AI Act Annex III saha atama algoritmasını 'high-risk' sayıyor.
- Açıklanabilirlik + log + insan denetimi üç temel yükümlülük.
- Ceza tavanı global cironun %7'si — küçük firmada bile 7 haneli risk.
- Pratik açıklama: 'lokasyon + sertifika + geçmiş iş' top-3 feature raporu.
Kaynakça
Bu yazı aşağıdaki uluslararası kaynaklardan sentezlenip Türkiye mevzuat bağlamına uyarlanmıştır. Doğrudan çeviri yapılmamıştır.
- Regulation (EU) 2024/1689 Artificial Intelligence Act. European Commission. https://eur-lex.europa.eu/eli/reg/2024/1689/oj (erişim: 2026-05-13)
- AI Act — High Risk AI Systems Workforce. European Commission Digital Strategy. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (erişim: 2026-05-13)
- SHAP — A Game Theoretic Approach to Explain Outputs. Lundberg & Lee. https://arxiv.org/abs/1705.07874 (erişim: 2026-05-13)