Yapay Zekâ Sistemlerinin Düzenlenmesi: AB Yapay Zekâ Tüzüğü
Yapay Zekâ Sistemlerinin Düzenlenmesi: AB Yapay Zekâ Tüzüğü
Güvenilir yapay zekâ (YZ) ve yapay zekâ denetimini önceki yazılarımızda anlatmıştık. Sonraki birkaç yazımızda, güvenilir yapay zekâyı teşvik etmeyi amaçlayan yasal çerçeveleri ele alacağız. Bir yıldan uzun bir süre önce açıklanan AB Yapay Zekâ Tüzüğü ile başlayacağız.
AB YZ Taslağı, bir yönerge değil yönetmelik olduğundan her Üye Devlette bağlayıcı yasal güce sahip olacak ve tüm Üye Devletlerde belirli bir tarihte yürürlüğe girecektir. Henüz bağlayıcı bir kanun olmayıp yürürlüğe gireceği kesin tarih belirlenmemiş olmakla birlikte 2024 yılı sonu veya 2025 yılı başında uygulamaya geçeceği tahmin edilmektedir.
AB YZ Tüzüğünde YZ’nin Tanımı
Madde 3, 'yapay zekâ sistemi' terimi de dâhil olmak üzere 44 terimin tanımını yapar. YZ sistemi, geniş bir uygulama yelpazesini kapsayacak şekilde tanımlanır:
“…[belirli] teknikler ve yaklaşımlarla [Ek 1'de listelenmiştir] geliştirilen ve belirli bir insan tanımlı hedefler dizisi için içerik, tahminler, tavsiyeler veya etkileşime girdikleri ortamları etkileyen kararlar gibi çıktılar üretebilen yazılımlar ” [1].
Ek 1, mevcut tekniklerin ve yaklaşımların bir listesini sunar:
" a. Derin öğrenme dâhil olmak üzere çok çeşitli yöntemleri kullanan (denetimli, denetimsiz ve pekiştirmeli öğrenme dâhil olmak üzere) makine öğrenimi yaklaşımları,
b. Bilgi temsili, tümevarımsal (mantık) programlama, bilgi tabanları, çıkarım ve tümdengelim motorları, (sembolik) muhakeme ve uzman sistemler dâhil olmak üzere mantığa ve bilgiye dayalı yaklaşımlar,
c. İstatistiksel yaklaşımlar, Bayes tahmini, arama ve optimizasyon yöntemleri.” [1].
Yani YZ Tüzüğü (YZT) makine öğrenimi, mantık ve bilgiye dayalı ve istatistiksel yaklaşımları kapsayan yazılım tabanlı sistemleri YZ sistemleri olarak kabul eder. Ayrıca, YZT gelecekte geliştirilmesi muhtemel teknikleri ve yaklaşımları kapsamayı amaçlamaktadır. Bu nedenle Madde 4, Ek 1'deki listenin yetki devrine dayanan tasarruflarda bulunma yetkisiyle güncellenebileceğine işaret etmektedir [1].
Riske dayalı yaklaşım
YZT, risk tabanlı bir yaklaşımı benimser ve YZ sistemlerini dört kategoriye ayırır: kabul edilemez riskli, yüksek riskli, sınırlı riskli ve düşük riskli sistemler.
1) Kabul Edilemez Riskli: Bu kategoriye giren YZ sistemleri, kabul edilemez risk oluşturdukları için temel hakları ve güvenliği tehdit ediyor olarak kabul edilir. YZT, kabul edilemez risk oluşturan YZ sistemlerinin bir listesini sağlar ve bunların AB'de kullanılmasını ve pazara sunulmasını yasaklar. Yasaklanmış yapay zekâ sistemleri şunlardır:
a. Bilinçaltı teknikleri kullanan manipülatif sistemler,
b. Belirli savunmasız gruplardan yararlanan yapay zekâ sistemleri,
c. Sosyal puanlama sistemleri,
d. Gerçek zamanlı uzaktan biyometrik tanıma sistemleri (belirli sınırlı istisnalar dışında) [1].
2) Yüksek Riskli: Bu kategoriye giren yapay zekâ sistemleri temel hakları ve güvenliği olumsuz etkiler. 6. Madde, yüksek riskli YZ sistemlerini iki kategoride sınıflandırır:
a. Ürünlerin güvenlik bileşenleri olarak kullanılan YZ sistemleri veya Ek 2'de sağlanan Birlik uyum mevzuatı listesinin kapsadığı ürünler olarak kullanılan [1]. Örneğin, makine ve tıbbi cihazların güvenlik bileşenleri bu kategoriye girer.
b. Ek 3'te listelenen alanlarda kullanılan YZ sistemleri:
i. Gerçek kişilerin biyometrik olarak tanımlanması ve sınıflandırılması,
ii. Kritik altyapının yönetimi ve işletilmesi,
iii. Eğitim ve mesleki eğitim,
iv. İstihdam, işçi yönetimi ve serbest mesleğe erişim,
v. Temel özel hizmetlere ve kamu hizmet ve faydalarına erişim ve bunlardan yararlanma,
vi. Kanun yaptırımı,
vii. Göç, iltica ve sınır kontrol yönetimi,
viii. Adalet yönetimi ve demokratik süreçler [1].
Ayrıca 7. madde, bu listenin yetki devrine dayanan tasarruflarda bulunma yetkisiyle güncellenebileceğine işaret etmektedir [1].
YZT, yüksek riskli YZ sistemlerinin sağlayıcıları, kullanıcıları, operatörleri, ithalatçıları, distribütörleri ve diğer üçüncü tarafları için bazı yükümlülükler getirir. Sağlayıcılar, bir YZ sisteminin YZT'ye uygunluğunu CE işaretini ekleyerek belirtirler. CE işaretini eklemek Madde 16 uyarınca sağlayıcıların yükümlülüğüdür.
3) Sınırlı Riskli: Bu kategoriye giren yapay zekâ sistemlerinin sınırlı şeffaflık kurallarına uyması gerekir. Madde 52, dört tür sınırlı riskli YZ sistemi önermektedir:
a. İnsanlarla etkileşime giren YZ sistemleri,
b. Duygu tanıma sistemleri,
c. Biyometrik sınıflandırma sistemleri,
d. Görüntü, ses veya video içeriği üreten veya manipüle eden YZ sistemleri [1].
Bu sınırlı riskli YZ sistemleri sırasıyla aşağıdaki şeffaflık yükümlülüklerine tabidir:
a. İnsanlara bir yapay zekâ sistemi ile etkileşim halinde olduklarını bildirmek,
b. Duygu tanıma sistemlerinin işleyişi hakkında insanları bilgilendirmek,
c. Biyometrik kategorizasyon sistemlerinin işleyişi hakkında insanları bilgilendirmek,
d. İçeriğin yapay doğasını ifşa etmek [1].
Ancak, yasalar sınırlı riskli YZ sistemlerin suçları tespit etmesi, önlemesi ve soruşturması için kullanılmasına izin veriyorsa, sistemler bu yükümlülüklere tabi değildir [1]. Bu istisna, duygu tanıma sistemlerini kapsamaz.
4) Düşük Riskli: Önceki kategorilere girmeyen YZ sistemleri, düşük riskli YZ sistemleridir. Kullanılmaları ve geliştirilmeleri için YZT'nin yeni yasal yükümlülüklerine uymaları gerekmez. Bununla birlikte, Madde 69, yüksek riskli olmayan YZ sistemleri için gönüllü davranış kuralları oluşturmayı teşvik etmektedir [1].
Uygulama kapsamı
AB YZ Tüzüğü aşağıdakiler için geçerli olacaktır:
• Birlik içinde kurulmuş olsun veya olmasın, AB pazarına YZ sistemlerini arz eden veya YZ sistemlerini AB'de hizmete sokan YZ sistemleri sağlayıcıları,
• AB’de yerleşik olan YZ sistemleri kullanıcıları,
• Yapay zekâ sistemlerinin çıktıları AB'de kullanılıyorsa üçüncü ülkelerdeki sağlayıcılar veya kullanıcılar [1].
Muafiyetler:
• Yalnızca askeri amaçlar için geliştirilen veya kullanılan yapay zekâ sistemleri,
• Kanunların uygulanması ve adli iş birliği amacı ile yapılan uluslararası anlaşmalar çerçevesinde YZ sistemlerini kullanan üçüncü ülkelerdeki kamu makamları ve uluslararası kuruluşlar [1].
Yazan : Gamze Büşra Kaya
Referans:
[1] Artificial Intelligence Act. (21 Nisan 2021). “Proposal for a regulation of the European Parliament and the Council laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative acts.” EUR-Lex - 52021PC0206 https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELLAR:e0649735-a372-11eb-9585-01aa75ed71a1.