Yapay Zekâ Sistemlerinin Düzenlenmesi: 2022 ABD Algoritmik Hesap Verebilirlik Tüzüğü
Yapay Zekâ Sistemlerinin Düzenlenmesi: 2022 ABD Algoritmik Hesap Verebilirlik Tüzüğü
Önceki yazımızda, AB YZ Tüzüğünü inceleyerek güvenilir YZ'yi teşvik etmeyi amaçlayan yasal çerçeveleri ele almaya başladık. Bu yazıda, güvenilir yapay zekâyı sağlamak için bir diğer önemli yasal çerçeve olan 2022 ABD Algoritmik Hesap Verebilirlik Tüzüğünü inceleyeceğiz.
2022 ABD Algoritmik Hesap Verebilirlik Tüzüğü (ABD AHVT) 3 Şubat'ta teklif edildi. Tasarının ilk versiyonu Nisan 2019'da tanıtıldı. Kanunlaşması için destek alamadığı için ana politika amacı aynı tutularak güncellendi.
Resim 1
Anahtar Tanımlar
Tasarı, “otomatik karar sistemleri” (OKS) ve “artırılmış kritik karar süreci” (AKKS) terimleri de dâhil olmak üzere 16 terimin tanımını sağlıyor. OKS'yi hesaplamayı kullanan ve bir karar veya muhakeme için temel teşkil eden çıktılar üreten sistemler, yazılımlar veya süreçler olarak tanımlar (Bölüm 2(2)). Tanım, makine öğrenimi, istatistik, diğer veri işleme ve yapay zekâ tekniklerinden yararlanan sistemleri kapsar. AKKS, kritik bir karar vermek için bir OKS kullanan bir süreç, prosedür veya başka bir faaliyet olarak tanımlanır (Bölüm 2(1)).
Federal Ticaret Komisyonu Yönetmelikleri
Tasarı yasalaşırsa, yürürlüğe girmesinden sonraki iki yıl içinde, Federal Ticaret Komisyonu (FTK) "kapsamdaki kuruluşlar"1 için geçerli olacak düzenlemeleri belirlemelidir. Bu düzenlemeler, kapsanan kuruluşların şunları yapmasını gerektirir:
Etki değerlendirmeleri şunlar için yapılır:
- AKKS'de uygulama veya kullanım için geliştirilmiş dağıtılmış OKS,
- kapsanan kuruluşların, AKKS'de uygulanmasını veya kullanılmasını makul bir şekilde bekledikleri dağıtılmış OKS ve
- dağıtımdan önce ve sonra AKKS (Section 3(b)(1)(A)).
Etki Değerlendirmesi Gereksinimleri
ABD AAA, etki değerlendirmeleri için kapsamlı bir gereklilik listesi sağlar, ancak FTK onun şeklini tanımlayacak ve daha fazla gereklilik ekleyebilecektir. Tasarıya göre, etki değerlendirmeleri yapılırken kapsanan kuruluşlar tarafından karşılanması gereken gereklilikler şunlardır (Bölüm 4(a)):
- yeni AKKS'yi dağıtmadan önce aynı karar için kullanılmış mevcut kritik karar alma sürecinin değerlendirilmesi. Değerlendirme, iyileştirilmekte veya değiştirilmekte olan temel sürecin bir tanımını, önceki sürecin bilinen herhangi bir zararını veya eksikliğini, amaçlanan faydaları ve AKKS'ye duyulan ihtiyacı ve OKS veya AKKS'nin niyet edilen amacını içermelidir;
- paydaşlarla yapılan istişarelerin belirlenmesi ve paydaşlar için temas noktaları, istişarelerin tarihi ve istişarelerin şartları ve süreci gibi istişarelerle ilgili bilgilerin belgelenmesi;
- OKS veya AKKS'nin mahremiyet riskleri ve mahremiyeti artıran önlemlerinin sürekli olarak test edilmesi ve değerlendirilmesi;
- OKS veya AKKS'nin mevcut ve geçmiş performansının sürekli olarak test edilmesi ve değerlendirilmesi;
- benzer OKS ve AKKS'nin olumsuz etkileri hakkında ilgili temsilciler için eğitim ve öğretimin desteklenmesi ve gerçekleştirilmesi;
- OKS veya AKKS kullanımıyla ilgili sınırlamalara olan ihtiyacın değerlendirilmesi. Bu değerlendirme, belirli kullanımların veya uygulamaların yasaklanması veya sınırlandırılması gerekip gerekmediğini dikkate almalıdır;
- OKS veya AKKS'yi geliştirmek, test etmek, sürdürmek veya güncellemek için kullanılan verilerin veya diğer girdi bilgilerinin belgelerinin muhafaza edilmesi ve güncellenmesi;
- tüketicilerin haklarının değerlendirilmesi;
- OKS veya AKKS'nin olası olumsuz etkilerinin belirlenmesi ve hafifletme stratejilerinin değerlendirilmesi;
- geliştirme ve devreye alma sürecinin belgelerinin tanımlanması;
- performans, adalet, şeffaflık, açıklanabilirlik, mahremiyet ve güvenlik, emniyet ve diğer alanlarda OKS, AKKS veya bunların etki değerlendirmelerini iyileştirmek için yeteneklerin, araçların, standartların veya diğer kaynakların belirlenmesi;
- yukarıda belirtilen ve yerine getirilmesi mümkün olmayan gerekliliklerin ve bunların gerekçelerinin belgelenmesi;
- FTK tarafından uygun görülen diğer çalışmaların ve değerlendirmelerin gerçekleştirilmesi ve belgelenmesi.
Sonuç
ABD AAA, OKS'nin kullanımından kaynaklanan riskleri belirlemek ve azaltmak için kapsanan kuruluşlara yükümlülükler getirir. Bu yükümlülükler, hesap verebilirliği, adaleti, şeffaflığı, mahremiyeti ve açıklanabilirliği sağlamayı amaçlamaktadır. Tasarının kanunlaşması için gerekli desteği alıp almayacağı netlik kazanmasa da OKS'nin düzenlenmesi açısından önemli bir kilometre taşıdır.
1"İlgili kuruluş" terimi, Federal Ticaret Komisyonu Yasası'nın (15 U.S.C. 45(a)(2)) 5(a)(2) bölümü uyarınca Komisyonun yargı yetkisine sahip olduğu herhangi bir kişi, ortaklık veya şirket anlamına gelir—
(i) artırılmış herhangi bir kritik karar sürecini uygulayan; ve
(I) 3 vergilendirilebilir yıllık dönem için (veya kişinin, ortaklığın veya şirketin var olduğu süre boyunca) yıllık ortalama brüt hasılatı 50.000.000 ABD Dolarından fazla olan veya özkaynak değerinin 250.000.000 ABD Dolarından fazla olduğu kabul edilen, 1986 tarihli Milli Gelir Kanunu'nun 448(c) bölümünün (2) ve (3) paragraflarına göre belirlenen şekilde, bu süre en son mali yıldan önceki 3 yıldan az ise;
(II) herhangi bir otomatik karar sistemi veya artırılmış kritik karar süreci geliştirmek veya dağıtmak amacıyla 1.000.000'den fazla tüketici, ev veya tüketici cihazı hakkında tanımlayıcı bilgilere sahip olur, bunları yönetir, değiştirir, işler, analiz eder, kontrol eder veya başka bir şekilde kullanır; veya
(III) alt madde (I) veya (II) kapsamındaki gereklilikleri karşılayan bir kişi, ortaklık veya şirket tarafından büyük ölçüde sahip olunur, işletilir veya kontrol edilir;
(ii) bu—
(I) 3 vergilendirilebilir yıllık dönem için (veya kişinin, ortaklığın veya şirketin var olduğu süre boyunca) yıllık ortalama brüt hasılatı 5.000.000 ABD Dolarından fazla olan veya özkaynak değerinin 25.000.000 ABD Dolarından fazla olduğu kabul edilen, 1986 tarihli Milli Gelir Kanunu'nun 448(c) bölümünün (2) ve (3) paragraflarına göre belirlenen şekilde, bu süre en son mali yıldan önceki 3 yıldan az ise; ve
(II) uygulama veya kullanım için geliştirilmiş herhangi bir otomatik karar sistemini veya kişi, ortaklık veya kuruluşun makul bir şekilde uygulanmasını veya kullanılmasını beklediği herhangi bir kişi, ortaklık veya şirket tarafından artırılmış kritik karar sürecinde, söz konusu kişi ise , ortaklık veya şirket (i) maddesinde açıklanan gereklilikleri karşılıyorsa; veya
(iii) son 3 yıl içinde (i) veya (ii) bentlerinde belirtilen kriterleri karşılayanlar.” ((Bölüm 2(7)).
Resim 1 : https://innovationatwork.ieee.org/ten-ways-ai-regulations-and-standards-will-evolve-in-2022/
Yazan : Gamze Büşra Kaya