NIST Yapay Zekâ Risk Yönetimi Çerçevesi: Yapay Zekâ Riskinin Anlaşılması ve Yönetilmesi

26 Ocak 2023'te, Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), yapay zekâ sistemleri ile ilişkili riskleri yönetmek için kapsamlı rehberlik sağlayan Yapay Zekâ Risk Yönetimi Çerçevesi'nin (YZ RYÇ) ilk versiyonunu yayınladı. NIST, misyonu "ölçüm bilimini, standartlarını ve teknolojisini ilerleterek ABD inovasyonunu ve endüstriyel rekabet gücünü desteklemek" olan bir ABD devlet kurumudur. Bu bağlamda üzerinde çalıştığı konulardan biri de yapay zekâdır.

NIST YZ RYÇ 1.0, kuruluşların "YZ sistemlerinin potansiyel olumsuz etkilerini en aza indirmelerine" ve "olumlu etkileri en üst düzeye çıkarma fırsatlarını" belirlemelerine olanak tanıyacak şekilde tasarlanmıştır [1]. YZ RYÇ’nin yanı sıra, NIST, çerçeveyi kullanmak için taktiksel eylemler öneren YZ RYÇ Taktik Kitabı da sağlar. Hem NIST YZ RYÇ hem de YZ RYÇ Taktik Kitabı’nın kullanımı gönüllülük esasına dayalıdır, zorunlu değildir.

YZ RYÇ, “Temel Bilgiler” ve “Çekirdek ve Profil” olmak üzere iki bölümden oluşur. İlk bölümde ele alınan konulardan biri, YZ ile ilişkili risklerin çerçevelenmesidir. YZ RYÇ, riski "bir olayın meydana gelme olasılığı ve karşılık gelen olayın sonuçlarının büyüklüğünün veya derecesinin bileşik ölçüsü" olarak tanımlar [1]. Çerçeve, daha sonra YZ güvenilirliğini sağlamaya çalışırken dikkate alınması gereken bir dizi YZ risk yönetimi zorluğunu belirler [1]:

 

 

İlk bölüm aynı zamanda güvenilir YZ sistemlerinin özelliklerini de kapsar. YZ RYÇ'ye göre, güvenilir YZ’yi tanımlayan yedi özellik vardır [1]:

 

            

 

YZ RYÇ, her bir özelliği detaylı olarak açıklar ve bunların üstesinden gelmek için rehberlik sağlar.

İkinci kısımda, NIST YZ RYÇ Çekirdek, YZ risklerini yönetmek ve güvenilir YZ sistemleri geliştirmek için bir çerçeve sağlar. Çekirdek, GOVERN, MAP, MEASURE ve MANAGE olmak üzere dört işlevden oluşur. Her işlev, belirli eylemlere ve sonuçlara ayrılan kategorilere ve alt kategorilere ayrılmıştır [1].

GOVERN işlevi, diğer işlevleri etkinleştiren ve YZ sisteminin ömrü ve organizasyonun hiyerarşisi boyunca sürekli olarak dikkat edilmesi gereken YZ risk yönetiminin önemli bir bileşenidir [1].

MAP işlevi, riskleri çerçevelemek için bağlam oluşturur ve bunu gerçekleştirirken toplanan bilgiler, kuruluşların olumsuz riskleri önlemesini ve kritik kararlar için bilgi sağlar [1]. Ayrıca, MEASURE ve MANAGE işlevleri için bir temel sağlar [1].

MEASURE işlevi, nicel ve nitel yöntemler kullanarak MAP işlevinde tanımlanan bilgilere dayalı olarak YZ sistemlerini riskler ve güvenilirlik açısından analiz eder ve değerlendirir [1].

MANAGE işlevi, risk kaynaklarının haritalanan ve ölçülen risklere tahsis edilmesini içerir [1]. Kuruluşların riskleri önceliklendirerek ve bunlara yanıt vererek riskleri yönetmesine yardımcı olmak için tasarlanmıştır.

Yazan : Gamze Büşra Kaya

Referans

[1]	E. Tabassi, “AI Risk Management Framework: AI RMF (1.0),” National Institute of Standards and Technology, Gaithersburg, MD, 2023.