Model Card Nedir ve Bir Yapay Zeka Modeli Hakkında Ne Anlatır?

Model Card, bir yapay zeka modelinin performansını, sınırlılıklarını, etik etkilerini ve eğitim veri setini açıklayan, şeffaflık sağlayan standartlaştırılmış belgedir. Kurumsal karar vericiler, geliştiriciler ve ürün liderleri için bir yapay zeka sistemini üretim ortamına almadan önceki en kritik teknik dokümantasyon niteliğindedir. Model Card Nedir ve Bir Yapay Zeka Modeli Hakkında Ne Anlatır? sorusu, yalnızca teknik bir dokümanın incelenmesini değil; veri gizliliği, regülasyon uyumu, halüsinasyon riski ve operasyonel maliyetlerin doğru yönetilmesini ifade eder. Bu rehberde, bir model kartının anatomisi, iş dünyası için taşıdığı stratejik değer ve güvenli yapay zeka yönetişimi detaylandırılmaktadır.

Model Card (Model Kartı) Nedir? Yapay Zekada Şeffaflık Kavramı

Model Card (Model Kartı), bir makine öğrenmesi (ML) veya derin öğrenme modelinin mimarisini, hangi veri setleriyle eğitildiğini, hangi görevlerde başarılı olup hangi senaryolarda başarısız olduğunu standart bir biçimde açıklayan resmi bir teknik belgedir. İlk olarak 2019 yılında Margaret Mitchell ve ekibinin yayımladığı "Model Cards for Model Reporting" başlıklı akademik makale ile literatüre kazandırılan bu kavram, yapay zeka modelleri için bir tür "besin değerleri etiketi" işlevi görür. Tıpkı bir gıda ürününün içeriğindeki alerjenleri, kalori miktarını ve üretim koşullarını tüketiciye bildirmesi gibi; model kartı da bir algoritmanın güvenilirlik parametrelerini, donanım gereksinimlerini ve önyargı (bias) risklerini yazılım ekiplerine ve iş birimi liderlerine aktarır.

Geleneksel yazılım mühendisliğinde kod tabanı doğrudan test edilebilir, deterministik mantık kurallarıyla denetlenebilir ve hata ayıklama süreçleri net adımlarla yürütülebilir. Ancak modern büyük dil modelleri (LLM) ve üretken yapay zeka mimarileri, milyarlarca parametrenin olasılıksal dağılımına dayanır. Bu durum, modelin belirli bir girdiye neden belirli bir çıktıyı ürettiğini kesin olarak tespit etmeyi zorlaştırır. Model kartı, bu olasılıksal yapının sınırlarını çizerek, modelin hangi veri dağılımında (data distribution) güvenilir çalıştığını, hangi koşullarda ise hatalı veya önyargılı sonuçlar üretebileceğini şeffaf biçimde ortaya koyar.

Kurumsal ölçekte yapay zeka projelerinde yaşanan en büyük başarısızlıklar, modelin yanlış bağlamda kullanılmasından kaynaklanır. Müşteri hizmetlerinde metin sınıflandırması için eğitilmiş hafif bir modelin, hukuki sözleşme analizinde genelleyici bir mantık yürütmesi beklenemez. Model kartları, sistemin kullanım sınırlarını (intended use) ve kapsam dışı senaryolarını (out-of-scope use) açıkça belirterek, şirketlerin hatalı entegrasyonlar nedeniyle yaşayabileceği itibar kaybını, finansal zararları ve yasal yaptırımları engeller.

+-------------------------------------------------------------------+
|                        MODEL CARD YAPISI                          |
+-------------------------------------------------------------------+
|  1. Model Detayları       -> Mimari, Parametre Sayısı, Lisans     |
|  2. Kullanım Kapsamı      -> Uygun Senaryolar, Kapsam Dışı Alanlar|
|  3. Veri Seti Analizi     -> Eğitim Verisi, Ön İşleme, Temsiliyet |
|  4. Değerlendirme & Hata  -> Benchmark Sonuçları, Sapma Oranları  |
|  5. Etik & Güvenlik       -> Yanlılık (Bias), Çevresel Ayak İzi   |
+-------------------------------------------------------------------+

Model Kartlarının Ortaya Çıkışı ve Amacı

Model kartlarının ortaya çıkışı, yapay zeka modellerinin deneysel laboratuvar ortamlarından çıkıp doğrudan insan hayatını, finansal kararları, istihdam süreçlerini ve sağlık tanılarını etkileyen kritik sistemlere dönüşmesiyle tetiklenmiştir. Geçmişte bir modelin başarısı yalnızca genel doğruluk (accuracy) veya kayıp (loss) metrikleriyle ölçülürken; bu metriklerin azınlık grupları, uç senaryolar (edge cases) ve veri yanlılıkları üzerindeki etkileri göz ardı edilmekteydi.

Model kartlarının temel amacı, modelin yaşam döngüsündeki tüm paydaşlar arasında ortak ve doğrulanabilir bir iletişim dili kurmaktır. Bu belge; veri bilimcilerin modeli nasıl eğittiğini, makine öğrenmesi mühendislerinin modeli nasıl optimize ettiğini, siber güvenlik uzmanlarının hangi zafiyetleri göz önünde bulundurması gerektiğini ve hukuk departmanlarının telif/regülasyon uyumunu nasıl denetleyeceğini tek bir standart formatta toplar. Şeffaflık, yalnızca etik bir tercih değil, aynı zamanda operasyonel risk yönetiminin temel taşıdır.

Yapay Zekada "Kara Kutu" (Black Box) Problemini Aşmak

Açıklanabilir Yapay Zeka (Explainable AI - XAI) disiplini, karmaşık derin öğrenme ağlarının "kara kutu" (black box) doğasını kırmayı hedefler. Bir modelin dahili ağırlık matrislerinin matematiksel olarak neden belirli bir karara ulaştığını her zaman satır satır açıklamak mümkün olmasa da; model kartı bu kara kutunun dış sınırlarını, giriş-çıkış korelasyonlarını ve davranışsal eğilimlerini dokümante eder.

Kara kutu problemini aşmak, kurumsal denetimlerde (audit) hesap verebilirlik sağlar. Örneğin, bir bankanın kredi onaylama sürecine entegre edilen bir modelin demografik gruplar arasında adil kararlar verip vermediği, ancak model kartında beyan edilen alt grup performans metrikleri (subgroup evaluation metrics) ile doğrulanabilir. Böylece işletmeler, sisteme körü körüne güvenmek yerine, ölçümlenmiş ve belgelenmiş sınırlar dahilinde otomasyon kurabilirler.

Bir Model Card Hangi Standart Bileşenleri İçerir?

Standartlaştırılmış bir model kartı, modelin teknik ve etik boyutlarını kapsayan beş ana bölümden oluşur. Bu bölümler, hem mühendislik ekiplerine entegrasyon için gereken parametreleri sunar hem de risk yöneticilerine güvenlik profili çıkarır. Eksik veya geçiştirilmiş bölümler içeren bir model kartı, ilgili yapay zeka varlığının kurumsal düzeyde olgunlaşmadığının doğrudan göstergesidir.

1. Model Detayları ve Temel Bilgiler (Model Details)

Model detayları bölümü, sistemin teknik kimlik bilgilerini içerir. Bu alanda modelin geliştiricisi (kurum veya araştırma grubu), yayınlanma tarihi, model sürümü, mimari türü (örneğin Transformer, CNN, Diffusion), parametre büyüklüğü (örneğin 7B, 70B) ve lisanslama modeli (Apache 2.0, MIT, ticari kullanım kısıtlamalı lisanslar vb.) yer alır. Ayrıca modelin ağırlıklarının (weights) hangi hassasiyette (FP16, INT8, INT4 quantization) sunulduğu ve çıkarım (inference) için gereken asgari donanım gereksinimleri bu başlık altında tanımlanır.

2. Kullanım Amacı ve Sınırlar (Intended Use & Limitations)

Bu bölüm iki kritik alt başlığa ayrılır:

• Doğrudan ve Uygun Kullanım Alanları (Intended Uses): Modelin optimize edildiği temel işlevleri tanımlar. Örneğin; teknik dokümantasyon özetleme, kod tamamlama veya çok dilli müşteri destek mesajlarını sınıflandırma gibi spesifik hedefler burada listelenir.

• Kapsam Dışı ve Yasaklı Kullanımlar (Out-of-Scope & Misuse): Modelin başarısız olacağı veya yüksek risk barındırdığı senaryoları kapsar. Model kartı bu alanda örneğin "Tıbbi teşhis koyma, hukuki bağlayıcılığı olan kararlar üretme veya gerçek zamanlı finansal alım-satım sistemlerinde insan denetimi olmadan kullanılmamalıdır" gibi net operasyonel sınırlandırmalar getirir.

3. Eğitim ve Değerlendirme Veri Setleri (Data & Bias Metrics)

Yapay zeka modellerinin davranışları doğrudan beslendikleri verinin kalitesiyle şekillenir. Bu bölümde eğitim veri setinin kaynakları, boyutu (token sayısı, metin hacmi veya görsel adedi), ön işleme (preprocessing) adımları, filtreleme teknikleri ve veri temizleme metodolojisi açıklanır.

Veri setinin hangi dilleri, hangi zaman aralıklarını ve hangi demografik temsilleri içerdiği bu başlıkta netleştirilir. Veri tabanındaki dengesizliklerin (imbalance) modele nasıl yansıyabileceği, sentetik veri kullanılıp kullanılmadığı ve telifli materyallerin ayıklanma süreçleri ayrıntılı olarak raporlanır.

4. Performans ve Doğruluk Metrikleri (Metrics)

Modelin başarısı soyut iddialarla değil, standart akademik ve endüstriyel testlerle (benchmarks) kanıtlanmalıdır. Bu bölümde modelin farklı görevlerdeki performans metrikleri sunulur:

• Doğruluk ve Hata Metrikleri: Sınıflandırma görevlerinde Precision, Recall, F1-Score ve ROC-AUC; dil modellerinde Perplexity, BLEU, ROUGE veya MMLU (Massive Multitask Language Understanding) puanları.

• Alt Grup Değerlendirmeleri: Modelin farklı dil seviyelerinde, farklı lehçelerde veya farklı veri alt kümelerindeki performans sapmaları.

• Sistem Performansı: Çıkarım süresi (latency), saniyede üretilen token sayısı (throughput) ve bellek tüketimi (VRAM).

5. Etik Değerlendirmeler ve Güvenlik Sınırları

Modern model kartlarının en kritik katmanlarından biri etik ve güvenlik değerlendirmeleridir. Modelin toksik dil üretme eğilimi, stereotipleri pekiştirme riski, zararlı içerik taleplerine karşı güvenlik bariyerleri (red-teaming sonuçları) ve prompt enjeksiyonu (prompt injection) gibi saldırılara karşı direnci bu bölümde incelenir. Ayrıca modelin eğitimi sırasında tüketilen enerji ve ortaya çıkan tahmini karbon ayak izi gibi çevresel sürdürülebilirlik verileri de bu başlık altında paylaşılır.

İş Dünyası İçin Model Card Okuma Rehberi: Hangi Veri Ne Anlama Gelir?

Teknik olmayan yöneticiler ve işletme sahipleri için bir model kartı, ilk bakışta karmaşık istatistiksel tablolar ve akademik terimlerden ibaret görünebilir. Ancak bu verilerin her biri doğrudan maliyet, risk ve müşteri deneyimi parametrelerine karşılık gelir. Model kartını doğru okumak, şirketlerin çalışmayacak bir teknolojiye yüz binlerce dolar yatırım yapmasını ve telafi edilemez veri ihlalleriyle karşılaşmasını engeller.

İşletmeler bir yapay zeka çözümünü bünyelerine katarken üç temel eksende model kartını sorgulamalıdır: Risk profili, uyumluluk durumu ve gerçek dünya performansı. Model kartında yer alan bir "F1 puanı" yalnızca matematiksel bir oran değil; müşteri temsilcisi botunun hatalı sipariş iptali yapma sıklığının doğrudan göstergesidir.

Halüsinasyon ve Yanlılık (Bias) Risklerinin Analizi

Üretken yapay zeka modelleri (LLM), eğitim verisindeki istatistiksel örüntüleri takip ederek kelimeleri art arda dizer. Bu mimari yapı, modelin kendinden emin bir tonda tamamen uydurma veya hatalı bilgiler üretmesine, yani "halüsinasyon" (hallucination) görmesine yol açabilir. Model kartları, modelin gerçeklik doğrulama testlerindeki (factuality benchmarks, TruthfulQA vb.) skorlarını sunarak bu riskin büyüklüğünü gösterir.

Yanlılık (bias) analizi ise modelin cinsiyet, ırk, yaş, meslek veya sosyoekonomik arka plan temelinde ayrımcı kararlar üretip üretmediğini ortaya koyar. İşe alım süreçlerinde özgeçmiş taraması yapacak bir modelin kartında, kadın veya azınlık adaylara karşı negatif sapma (disparate impact) test edilmemişse, o modelin şirket süreçlerine dahil edilmesi doğrudan kurumsal itibar ve ayrımcılık davaları riski doğurur.

Veri Gizliliği ve Telif Hakları Uyum Kontrolü

Yapay zeka yönetişiminde en yüksek yasal riskler, telifli içeriklerin izinsiz kullanımı ve kişisel verilerin korunması mevzuatlarından (KVKK, GDPR, AB Yapay Zeka Yasası - EU AI Act) kaynaklanır. Bir modelin eğitim verisi açıklanmıyorsa veya "kapalı veri tabanı" olarak geçiştiriliyorsa, modelin telif hakkı ihlali içeren materyallerle eğitilmiş olma ihtimali yüksektir.

Model kartında eğitim verisinin açıkça belgelenmiş olması; modelin kamuya açık, lisanslı veya tescilli verilerle eğitildiğini teyit etmenizi sağlar. Ayrıca modelin kullanıcı girdilerini (prompts) yeniden eğitim için saklayıp saklamadığı, unutma hakkı (right to be forgotten) mekanizmalarına sahip olup olmadığı ve PII (Kişisel Olarak Tanımlanabilir Bilgi) temizleme filtrelerinden geçirilip geçirilmediği model kartı üzerinden doğrulanmalıdır.

+-------------------------------------------------------------------------+
|                  MODEL CARD RİSK OKUMA MATRİSİ                          |
+-------------------------------------------------------------------------+
| METRİK / BEYAN        | TEKNİK ANLAMI         | İŞ DÜNYASINDAKİ KARŞILIĞI|
+-------------------------------------------------------------------------+
| Yüksek Perplexity     | Model tahminlerinde   | Müşteriye saçma veya     |
|                       | kararsız kalıyor      | tutarsız yanıt riski     |
+-------------------------------------------------------------------------+
| Eksik Kırmızı Takım   | Zafiyet testleri      | Prompt injection ile     |
| (Red Teaming) Raporu  | yapılmamış            | veri sızıntısı tehlikesi |
+-------------------------------------------------------------------------+
| Out-of-Distribution   | Kendi eğitim alanı    | Sektörel terminolojide   |
| Uyarısı               | dışındaki veride zayıf| operasyonel çöküş        |
+-------------------------------------------------------------------------+

İş Senaryolarına Uygunluk: "Out-of-Distribution" Riskleri

Makine öğrenmesi modelleri, eğitim verilerinin temsil ettiği alanın (distribution) dışına çıktıklarında dramatik performans düşüşleri yaşarlar. Buna "Out-of-Distribution" (OOD) problemi denir. Örneğin, ağırlıklı olarak ABD İngilizcesi ve genel internet forumu verileriyle eğitilmiş bir dil modeli, Türkiye'deki e-ticaret iade mevzuatına veya özel bir B2B ERP yazılımının teknik loglarına maruz bırakıldığında başarısız olacaktır.

Model kartındaki eğitim verisi dağılımını analiz eden bir karar verici, modelin kendi dikey sektörüne (sağlık, lojistik, finans, perakende) uygun olup olmadığını anlar. Eğer model sektörel verilerle ince ayardan (fine-tuning) geçirilmemişse veya RAG (Retrieval-Augmented Generation) mimarisiyle desteklenmeyecekse, doğrudan kullanıma alınması operasyonel hatalarla sonuçlanır.

Model Card ve System Card Arasındaki Fark Nedir?

Yapay zeka terminolojisinde sıklıkla birbirinin yerine kullanılan ancak teknik ve operasyonel kapsamları tamamen farklı olan iki temel dokümantasyon türü vardır: Model Card (Model Kartı) ve System Card (Sistem Kartı). Bu iki doküman arasındaki farkı anlamak, özellikle karmaşık kurumsal yapay zeka projelerinde güvenlik mimarisini kurgulamak için zorunludur.

Model Card, izole bir makine öğrenmesi modelinin (örneğin ham bir Llama 3 veya Mistral ağırlık dosyasının) teknik özelliklerine, içsel kabiliyetlerine ve saf matematiksel sınırlarına odaklanır. Modelin tek başına nasıl davrandığını belgeler.

System Card ise, o modelin etrafına kurulan tüm ek bileşenleri, güvenlik filtrelerini, prompt şablonlarını, veri tabanı erişim katmanlarını (RAG), içerik moderasyon araçlarını ve insan denetimi (human-in-the-loop) süreçlerini kapsayan uçtan uca çalışan ürünü belgeler.

Model Seviyesinde Şeffaflık vs. Uygulama Seviyesinde Güvenlik

Ham bir dil modeli doğası gereği zararlı kod yazma, telifli içerik üretme veya hakaret içeren ifadeler kullanma potansiyeline sahip olabilir. Model kartı bu potansiyel riskleri dürüstçe ortaya koyar. Ancak son kullanıcıya sunulan nihai ürün (örneğin ChatGPT arayüzü veya kurumsal bir Copilot asistanı), yalnızca ham modelden ibaret değildir.

Nihai sistemde; kullanıcının girdisini denetleyen güvenlik katmanları, modelin çıktısını tarayan moderasyon filtreleri, halüsinasyonu engelleyen kurumsal bilgi tabanı doğrulamaları ve acil durum durdurma anahtarları (circuit breakers) yer alır. System Card, işte bu koruma kalkanlarının (guardrails) nasıl çalıştığını, hangi saldırıları engellediğini ve sistemin bütününde risklerin nasıl düşürüldüğünü açıklar.

Şirketiniz açık kaynaklı bir modeli kendi sunucularında barındırıp sıfırdan bir ürün geliştirecekse birincil referansınız Model Card olmalıdır; çünkü koruma katmanlarını siz inşa edeceksiniz. Ancak üçüncü parti bir SaaS yapay zeka çözümünü (örneğin kurumsal bir kurumsal arama motorunu) hazır olarak satın alıyorsanız, asıl incelemeniz gereken belge System Card olacaktır.

Popüler Yapay Zeka Platformlarında Model Kartı Örnekleri

Yapay zeka ekosisteminde model kartı standartları, hem açık kaynak topluluklarının iş birliğiyle hem de ticari devlerin güvenlik raporlarıyla şekillenmektedir. Farklı platformların model kartı yaklaşımlarını incelemek, kurumsal bir yapay zeka tedarik sürecinde nelerin talep edilmesi gerektiğini somutlaştırır.

Hugging Face Model Kartları ve Açık Kaynak Topluluğu

Hugging Face, modern açık kaynaklı yapay zekanın fiili merkezi konumundadır. Platformda barındırılan yüz binlerce modelin her biri için zorunlu bir README.md dosyası olarak yapılandırılmış model kartı şablonu bulunur. Hugging Face formatı; YAML metadata başlığı ile başlar ve modelin lisansını, desteklediği dilleri, temel benchmark skorlarını ve model etiketlerini makine tarafından okunabilir bir formatta sunar.

Hugging Face üzerindeki nitelikli bir model kartı (örneğin Mistral AI veya BigScience ekibinin modelleri); modelin nasıl indirileceğini, PyTorch veya Transformers kütüphanesiyle nasıl çalıştırılacağını, eğitimde kullanılan donanım altyapısını ve karbon emisyonunu şeffaf biçimde sergiler. Açık kaynak dünyasındaki bu standart, geliştiricilerin modeli saniyeler içinde kendi yerel ortamlarında test etmelerine olanak tanır.

---
language:
- tr
- en
license: apache-2.0
tags:
- text-generation
- translation
datasets:
- custom-enterprise-corpus-v1
metrics:
- rouge
- bleu
---

# Kurumsal Dil Modeli v1.0
## Model Özeti
Bu model, kurumsal yazışmalar ve teknik doküman çevirileri için optimize edilmiştir...

OpenAI GPT-4 System Card: Kapalı Kaynak Modellerde Güvenlik Raporlaması

OpenAI gibi kapalı kaynaklı model sağlayıcıları, ticari ve güvenlik gerekçeleriyle modelin tam ağırlıklarını, kesin eğitim verisi listesini veya mimari detaylarını model kartlarında paylaşmazlar. Bunun yerine, özellikle GPT-4 lansmanıyla birlikte kapsamlı bir System Card yaklaşımını benimsemişlerdir.

OpenAI GPT-4 System Card; modelin tehlikeli yeteneklerini (siber saldırı kodu üretme, kimyasal/biyolojik silah bilgisi yayma, manipülasyon), kırmızı takım (red teaming) testlerinde modelin nasıl manipüle edilmeye çalışıldığını ve bu açıklara karşı uygulanan RLHF (İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme) ve kural tabanlı ödül modellerini (RBRMs) ayrıntılarıyla anlatır. Bu belge, kapalı modellerin kurumsal entegrasyonunda güvenlik risklerinin nasıl ele alındığını gösteren en yetkin dokümanlardan biridir.

Google da benzer şekilde "Vertex AI Model Garden" platformunda sunduğu modeller için detaylı Model Card ve Responsible AI raporları yayınlayarak kurumsal müşterilerine şeffaflık garantisi vermektedir.

Kurumsal Yapay Zeka Yönetişimi ve Entegrasyon Stratejisi

Yapay zeka sistemlerini kurumsal operasyonlara dahil etmek, yalnızca bir API anahtarı satın almaktan veya bir açık kaynak model indirmekten ibaret değildir. Kapsamlı bir yapay zeka yönetişimi (AI Governance), şirketin veri varlıklarını, itibarını ve yasal statüsünü koruyan stratejik bir çerçevedir. Bu çerçevenin merkezinde ise belgelenmiş, doğrulanabilir model kartları yer alır.

Avrupa Birliği Yapay Zeka Yasası (EU AI Act) gibi küresel regülasyonlar; yüksek riskli yapay zeka sistemleri için şeffaflık, teknik dokümantasyon, kayıt tutma ve insan denetimi mekanizmalarını yasal bir zorunluluk haline getirmiştir. Model kartı bulunmayan veya içeriği yetersiz olan modellerin kurumsal sistemlere entegre edilmesi, doğrudan yasal yaptırımlarla ve ağır para cezalarıyla karşılaşma riski taşır.

Model Kartı Olmayan Yapay Zekayı Şirketinize Almayın: Risk Yönetimi

Bir yazılım kütüphanesini güvenlik taramasından geçirmeden kurumsal sunuculara yüklemediğiniz gibi, model kartı olmayan bir yapay zeka modelini de iş süreçlerinize dahil etmemelisiniz. Model kartı sunmayan sağlayıcılar; eğitim verisinin kaynağını, telif hakları durumunu, hata paylarını ve modelin hangi şartlarda çökeceğini gizliyor demektir.

Kurumsal satın alma ve BT departmanları, yapay zeka tedarik süreçlerine standart bir "Model Kartı Uygunluk Değerlendirmesi" eklemelidir. Satıcıdan talep edilecek şeffaf bir model kartı, olası bir veri sızıntısı veya ayrımcılık davasında kurumun "makul özen" (due diligence) gösterdiğinin hukuki kanıtı niteliğini taşır.

+--------------------------------------------------------------------------+
|                 GÜVENLİ ENTEGRASYON İŞ AKIŞI                             |
+--------------------------------------------------------------------------+
|  [Model Kartı İncelemesi]  -> Lisans, Kapsam Dışı Kullanım Kontrolü      |
|           |                                                              |
|           v                                                              |
|  [Teknik Uygunluk Testi]   -> Şirket İçi Veriyle Benchmark Doğrulama     |
|           |                                                              |
|           v                                                              |
|  [Güvenlik Katmanı (RAG)]  -> Guardrails, Moderasyon, PII Filtreleme     |
|           |                                                              |
|           v                                                              |
|  [İnsan Denetimi (HITL)]   -> Kritik Çıktılarda Uzman Onayı              |
+--------------------------------------------------------------------------+

Güvenli Entegrasyon İçin İnsan Denetimi (Human-in-the-Loop) İlkesi

Model kartı ne kadar kusursuz olursa olsun, hiçbir yapay zeka modeli yüzde yüz doğruluk garantisi veremez. Bu nedenle kurumsal iş akışlarında İnsan Denetimi (Human-in-the-Loop - HITL) ilkesi zorunlu bir emniyet kilididir.

• Düşük Riskli Görevler: Dahili e-posta taslağı oluşturma, genel metin özetleme veya kod şablonu çıkarma gibi alanlarda model çıktıları doğrudan çalışan tarafından incelenerek tüketilebilir.

• Yüksek Riskli Görevler: Kredi skorlama, medikal veri analizi, hukuki sözleşme hazırlama, personel işten çıkarma veya kritik altyapı yönetimi gibi senaryolarda yapay zeka yalnızca bir "karar destek sistemi" olarak konumlandırılmalı; nihai imza ve uygulama yetkisi her zaman insan uzmanda kalmalıdır.