Yapay Zekâ Sistemlerinin Düzenlenmesi: Düzenleyici Korumalı Alanlar

Dünya uzun süredir yapay zekâ (YZ) teknolojilerinin nasıl geliştirilmesi, kullanılması ve düzenlenmesi gerektiği sorularına cevap arıyor. Başlangıçta, YZ’nin düzenlenmesinin inovasyonu engelleyebileceği endişesi, düzenlemenin gerekli olup olmadığı, gerekiyorsa ne zaman uygulanması gerektiği ve erken aşamada getirilen bir düzenlemenin inovasyonu sekteye uğratıp uğratmayacağı üzerine tartışmalara yol açtı. Gelinen noktada, YZ alanındaki hızlı gelişmeler ve üretken YZ kullanımının hızla yaygınlaşması, zararların ve yeni risklerin ortaya çıkmasına yol açarak, herkesi değilse de büyük bir çoğunluğu YZ'nin düzenlenmesinin gerekliliği konusunda hemfikir hâle getirdi. Ama inovasyon konusundaki endişe evrilerek güncelliğini korumaya devam ediyor: İnovasyonu sekteye uğratmadan YZ sistemlerini nasıl düzenleyeceğiz? Bu yazımızda, dünyada YZ düzenleme çalışmalarının hızlandığı bu dönemde YZ’nin düzenlenmesiyle ilgili inovasyon konusundaki endişelerde dâhil olmak üzere birçok problemin çözümüne yardım edebilecek düzenleyici güvenli alanları ele almanın faydalı olacağını düşünüyoruz.

Düzenleyici Korumalı Alanlar

2019 yılında yayınlanan OECD YZ İlkeleri'nde, YZ inovasyonunu mümkün kılan ve güvenilir yapay zekayı teşvik eden politika ortamının sağlanabilmesi için hükümetlere "yapay zekâ sistemlerinin test edilebileceği ve uygun şekilde ölçeklendirilebileceği kontrollü bir ortam sağlamak için deney yapmaları" [1] önerilmişti. Bu ilke, hükümetlerin güvenilir YZ ve inovasyonu beraber sağlayabilmeleri için deneysel politika yaklaşımlarının benimsenmesini vurgular. Bu bağlamda, yeni teknolojiler geliştikçe düzenlemeyi yeniden tanımlamayı, toplum üzerindeki teknolojinin etkisini daha iyi anlamayı, düzenleyicilerin inovasyonu sürdürmelerini sağlamayı ve tüketici zararını önlemek için daha hızlı tepki vermeyi amaçlayan “öngörülü düzenleme” [2] yaklaşımı önemlidir. Öngörülü düzenleme yaklaşımı, gelecekte olabilecek değişikliklerden etkilenmemeyi, deneyselliği, yinelemeli öğrenmeyi ve sonuçlara dayalı düzenlemeyi temel alır [3].

            Düzenleyici deney iki şekilde yapılabilir: derogasyon yoluyla deneyi gerçekleştirmek için yasal hükümlerden feragat edilebilir ya da yetki devri yoluyla uluslarüstü kuruluşlar veya ulusal hükümetler alt düzey yönetimlere yeni yöntemlerle deneyler yürütme yetkisi verebilir [3]. İnovasyonu teşvik etmek amacıyla ulusal kurallardan geçici olarak feragat eden veya bunları değiştiren düzenleyici korumalı alanlar [3] derogasyon yoluyla yürütülen bir düzenleyici deney türüdür. Düzenleyici korumalı alanların, derogasyonun yanı sıra özel rehberlik, düzenleme rahatlığı ve onaylar [4] da sağlayabileceği unutulmamalıdır. 

            Düzenleyici korumalı alanlar, “genellikle işletmelerin yeni ve yenilikçi ürünleri, hizmetleri veya işletmeleri sınırlı bir süre için bir düzenleyicinin denetimi altında test etmesine ve denemesine olanak tanıyan düzenleyici araçları” kasteder [5].  Bunlar, firmaların yeni iş modellerini azaltılmış gereksinimlerle test etmelerine yardımcı olurken, tüketicinin korunması gibi kapsayıcı amaçları sağlamaya çalışır [6]. Düzenleyici korumalı alanlar farklı biçimlerde olabilir ancak genellikle bazı ortak özellikler taşırlar. Bu özellikler arasında, genellikle altı aylık bir sınırlama ile geçici olmaları, düzenleyicileri ve firmaları bir araya getirmeleri, mevcut yasal düzenlemeleri askıya almaları, genellikle deneme-yanılma yöntemine dayalı olmaları ve belirli bir projeye özgü hukuki destek sunmaları yer alır [6]. Ayrıca, topladıkları teknik ve pazar bilgisi ve veriler, düzenleyici otoritelerin belirli yasal çerçevelerin işlevsel olup olmadığını değerlendirmelerine ve gerekirse uyarlama yapmalarına yardımcı olur [6]. Bu yaklaşım, inovasyonu teşvik ederken etkili ve dengeli düzenlemelerin oluşturulmasına katkıda bulunur.

Düzenleyici Korumalı Alanların Faydaları

Düzenleyici korumalı alanlar, düzenleyicilere, firmalara ve tüketicilere bir dizi fayda sağlar.

Düzenleyicilerin:

• deneyim ve öğrenme yoluyla uzun vadeli politika oluşturmasını destekler,
• inovasyon ve öğrenme konusundaki kararlılıklarını gösterir,
• piyasa katılımcıları ile etkileşimde bulunmalarını teşvik eder ve
• faydalı inovasyonları engelleyebilecek düzenlemeleri güncellemelerine olanak tanır [6].

Firmalar için:

Tüketiciler için:

• yeni ve daha güvenli ürünleri teşvik eder ve
• finansal ürün ve hizmetlere erişimi artırır [6].

YZ düzenleyici korumalı alanları, YZ’nin düzenlenmesi konusunda önümüze çıkan bazı önemli problemleri çözmemize yardımcı olabilir gibi görünüyor. YZ düzenleyici korumalı alanların, düzenleyiciler ile piyasa paydaşları arasındaki etkileşimi artırarak düzenlemelerin faydalı olabilecek inovasyonlara (varsa) zarar verme potansiyelini görmeyi sağlaması, YZ sistemlerinin inovasyonu sınırlamadan düzenlenmesini sağlamaya yardımcı olabilir. Böylelikle inovasyon ve güvenilir YZ arasında dengeli politikalar oluşturulmasına olanak tanır.

            YZ’nin düzenlenmesinde karşılaşılan bir diğer önemli problem, YZ’nin çok hızlı gelişen bir teknoloji olmasıdır. YZ’nin hızlı gelişimi, belirsizlikler getirse de düzenleyici korumalı alanlardan elde edilen içgörüler, YZ politikaları oluşturma sürecini daha sağlam bir temele oturtabilir.

            Başka önemli bir endişe, düzenlemelerin küçük ve orta ölçekli işletmelere yük getirebileceğidir. YZ düzenleyici korumalı alanları, her türlü yükü ortadan kaldıramasa da düzenlemelerle ilgili bilgiyi daha geniş kitlelere açarak küçük ve orta ölçekli işletmeler açısından bazı endişeleri hafifletebilir.

 

Dikkat Edilmesi Gereken Hususlar:

Düzenleyici korumalı alanlar faydaların yanı sıra birtakım zorlukları ve endişeleri de beraberinde getiriyor. Düzenleyici korumalı alanlar doğru bir şekilde tasarlanmadığında  yenilikçi olarak kabul edilen yeni şirketlere haksız ayrıcalıkların verilmesine [4] ve düzenleyicilerin yenilikçileri çekmek için önlemleri ve gereksinimleri azaltmasına sebep olabilir [5]. Yani dikkatli bir şekilde tasarlanmayan düzenleyi korumalı alanlar piyasada adaletsizliklere yol açabilir ve tüketici güvenliğini riske atabilir. Ayrıca, düzenleyici korumalı alanlarda yenilikçilik değerlendirmesininin standartlarının olmaması [6] düzenleyicilerin seçimlerinin gerçek inovasyonu yavaşlatabileceği endişelerini [5] güçlendirmektedir.

Mevcut durumda, düzenleyici korumalı alanlar YZ’nin düzenlenmesiyle ilgili bazı sorunlarımıza çözüm olabileceği gibi birtakım risk ve zararlara da kapı aralayabilir. Bu yüzden politika yapıcılar düzenleyici korumalı alanları uygulamaya koymadan önce bazı hususlara dikkat etmelidir.

            OECD tarafından yayınlanan YZ düzenleyici korumalı alanlarının ele alındığı makalede bu hususlar şu şekilde sıralanmıştır:

• ulusal kurumlar ve piyasa aktörleri ile çok disiplinli ve çok paydaşlı iş birliklerinin sağlanması,
• düzenleyici otoritelerde YZ teknik, rekabet ve inovasyon değerlendirme uzmanlıklarının sağlanması,
• uluslararası düzenleyici birlikte çalışabilirliği ve ticaret politikasının olası rolüne dikkat edilmesi,
• uluslararası düzeyde uyumlulaştırılmış korumalı alan uyumluluk ve test kriterleri geliştirmek için çalışılması,
• düzenleyici korumalı alanlar uygulanmadan önce düzenleyici korumalı alanların tasarımının, inovasyona ve rekabete etkisi göz önünde bulundurularak değerlendirilmesi ve
• YZ düzenleyici korumalı alanlarının diğer inovasyon yanlısı mekanizmalarla beraber düşünülmesi [6].
   

Yapay Zekâ Alanında Düzenleyici Korumalı Alan Örnekleri

Düzenleyici korumalı alanların çok eski bir geçmişi yok. İlk düzenleyici korumalı alan, Birleşik Krallık'ta 2016 yılında finansal teknoloji sektöründe başlatıldı [7]. Sonrasında, dünyaya hızlı bir şekilde yayıldı ve bugün finansal teknoloji alanında sıklıkla kullanılmaktadır. YZ alanında da düzenleyici korumalı alanlara ilgi artmaktadır. Bu alanda yapılan bazı çalışmalar şunlardır:
 

• Birleşik Krallık’ta ICO, 2019 yılında, kişisel verileri yenilikçi ve güvenli yollarla kullanan ürün ve hizmetler üreten kuruluşları desteklemek amacıyla düzenleyici korumalı alan başlattı ve şu an bu korumalı alanın altında üç proje geliştirilmekte [8]. Bu düzenleyici korumalı alanda mahremiyet yükümlülüklerinin ihlali söz konusu değil fakat mahremiyet ilkelerinin yeni teknolojilerin geliştiği bağlamda yeniden yorumlanmasına katkıda bulunmak hedefleniyor [6].
   
• 2020 yılında Norveç Veri Koruma Kurumu, etik ve sorumlu YZ’nin yenilikçi bir şekilde veri koruma perspektifinden geliştirilmesini teşvik etmek amacıyla AB YZ Üst Düzey Uzman Grubu tarafından önerilen sorumlu YZ ilkelerine bağlı bir düzenleyici korumalı alan başlattı [9]. Kişisel Veriler Tüzüğü’nden genel bir muafiyet sağlamayan bu korumalı alan şirketleri hizmetin geliştirme aşaması sırasında her türlü yaptırım önleminden muaf tutacak [6].
   
• 2022 yılında İspanya, henüz yürürlüğe girmemiş AB YZ Tüzüğü’nü test etmek amacıyla bir düzenleyici korumalı alan oluşturuldu [10]. Bu düzenleyici korumalı alan, AB YZ Tüzüğü ile gerçek YZ uygulamalarının nasıl etkileşime gireceğini değerlendirmeye ve değişiklikler veya açıklayıcı rehberler önermeye olanak tanıyacak [10].
   
• Brezilya Veri Koruma Kurumu, 3 Ekim 2023 tarihinde YZ ve veri koruma düzenleyici korumalı alanının tasarımı için girdi toplamak amacıyla katkı çağrısı açtı. Tasarlanmakta olan düzenleyici korumalı alanda risklerin değerlendirilmesi ve olası zararları azaltmak için uygun koruma önlemlerinin ve düzenlemelerin geliştirilmesine yardımcı olmak amacıyla üretici YZ kullanım örneklerinin test edilmesi planlanıyor [11]. Algoritmik şeffaflık, sorumlu YZ inovasyonu, çok paydaşlılık ve insan müdahalesine yönelik parametrelerin geliştirmesi gibi amaçlar da bu korumalı alanın öncelikli konuları arasında yer almaktadır [11].

            YZ alanında düzenleyici korumalı alanların kullanımına ilişkin farklı ülkelerde gelişmeler devam etmektedir. Çalışmaların nispeten yeni olması sebebiyle henüz elimizde YZ düzenleyici korumalı alanlarına dair kesin bulgular olmasa da YZ düzenlemeleri açısından ümit verici araçlardır. Ancak YZ düzenleyici korumalı alanlarının doğru bir şekilde tasarlanmaması durumunda ortaya çıkabilecek zararlar önemli sonuçlara yol açabilir. Bu nedenle, düzenleyici korumalı alanlar titizlikle ve dikkatle tasarlanmalıdır.

   

 Referanslar

[1] OECD AI Principles overview. AI. (n.d.). https://oecd.ai/en/ai-principles

[2] A working model for anticipatory regulation - nesta. (n.d.-a). https://media.nesta.org.uk/documents/working_model_for_anticipatory_regulation_0.pdf

[3] Experimental regulations for AI: Sandboxes for morals and mores. (n.d.-b). https://iris.luiss.it/bitstream/11385/210516/1/2747-5174-2021-1-86.pdf

[4] Ranchordas, S. (2021, November 18). Experimental lawmaking in the EU: Regulatory sandboxes. SSRN. https://deliverypdf.ssrn.com/delivery.php?ID=097121094120022097110027083093069023000008008093019054002069103099086029124106005108098036006047039023098029002106103093072097012044036045000024085097069098077118010090052002094024088011093064064092025093109000099098103107100094013031106118074012100072&EXT=pdf&INDEX=TRUE

[5] Artificial Intelligence Act and regulatory sandboxes - european parliament. (n.d.-b). https://www.europarl.europa.eu/RegData/etudes/BRIE/2022/733544/EPRS_BRI(2022)733544_EN.pdf

[6] Regulatory sandboxes in Artificial Intelligence | en | OECD. (n.d.-c). https://www.oecd.org/sti/regulatory-sandboxes-in-artificial-intelligence-8f80a0e6-en.htm

[7] Regulatory sandboxes - the george washington law review. (n.d.-b). https://www.gwlr.org/wp-content/uploads/2019/06/87-Geo.-Wash.-L.-Rev.-579.pdf

[8] Regulatory sandbox. ICO. (n.d.). https://ico.org.uk/for-organisations/advice-and-services/regulatory-sandbox/

[9] Framework for the regulatory sandbox. Datatilsynet. (n.d.). https://www.datatilsynet.no/en/regulations-and-tools/sandbox-for-artificial-intelligence/framework-for-the-regulatory-sandbox/

[10] The state of implementation of the OECD AI principles Four Years on: En. OECD. (n.d.). https://search.oecd.org/publications/the-state-of-implementation-of-the-oecd-ai-principles-four-years-on-835641c9-en.htm

[11] ANPD’s call for contributions to the regulatory sandbox for artificial intelligence and data protection in Brazil is now open. Autoridade Nacional de Proteção de Dados. (n.d.). https://www.gov.br/anpd/pt-br/assuntos/noticias/anpds-call-for-contributions-to-the-regulatory-sandbox-for-artificial-intelligence-and-data-protection-in-brazil-is-now-open

Yazan : Gamze Büşra Kaya