Giriş

Avrupa Komisyonu (“AK”), yapay zekanın Avrupa Birliği (“AB”) düzeyinde kapsamlı bir şekilde düzenlenmesi için uzun zamandır beklenen yasa tasarısını 19 Şubat 2020’de Avrupa Parlamentosu’na sundu: “Yapay Zeka Üzerine Beyaz Kitap – Mükemmellik ve güvene Avrupalı bir yaklaşım “(“White Paper on Artificial Intelligence – A European approach to excellence and trust”).

İlk bakışta, yapay zeka kullanımı ve test edilmesine ilişkin hazırlanan bu kanun tasarısının otomobil, kimyasal ürünler, kozmetik malzemesi ve oyuncaklar için kabul edilen yasalarla benzerlik gösterdiği söylenebilir.

Buna göre söz konusu yasa tasarısı için öncelikle üç aylık bir ön aşamaya girileceği, 2021 yılına kadar da tasarının son haline getirilmesi öngörülüyor. Daha sonraki aşamada üye ülkeler tarafından oylanacak olan tasarının son olarak Avrupa Parlamentosu’na tekrar sunulması ve Avrupa Parlamentosu’ ndan geçtiği takdirde de resmi olarak AB yasası olarak kabul edilmesi planlanıyor.

Tasarıda, yapay zeka konusunda hazırlanan yeni düzenlemenin özellikle insan haklarına ters düşmemesi konusuna özen gösterildiği, yapay zekanın temel işlevinin insanlara hizmet etmesi ve insan haklarıyla uyumlu olması gerektiği vurgusunun yapılmış olması dikkati çeken detaylar arasında yer alıyor.

Diğer yandan, tasarının tanıtıldığı sunumda yapay zekanın çok büyük risk barındırdığı, bu sebeple ortak pazarda kullanılmadan önce yapay zeka uygulamalarının önemli testlerden geçirilmesinin gerekliliği de vurgulanmış durumda.

1. YAPAY ZEKA HAKKINDA BEYAZ KİTAP

Beyaz Kitap, sektörel gereksinimler veya yasaklardan daha ziyade sektöre ve uygulamaya özgü risk değerlendirmeleri ve gereklilikleri ile riske dayalı bir yaklaşım ortaya koymaktadır. AK, Beyaz Kitap ile birlikte, bir “Avrupa veri stratejisi” (“Veri Stratejisi”) ve “Yapay Zeka, Nesnelerin İnterneti ve robotların güvenlik ve sorumluluk etkileri hakkında bir rapor” (” Güvenlik ve Sorumluluk Raporu “) da dahil olmak üzere bir dizi belge yayımlamıştır.

Söz konusu belgeler genel bir stratejinin ana hatlarını belirleme kapsamında düşünüldüğünde yapay zeka ve verilerin kullanımı ile ilgili birçok potansiyel risk ve kaygının da ele alındığı görülmektedir.

Bu nedenle Beyaz Kitap’ı, birçok Avrupa ülkesi ve uyum sürecinde olan Türkiye için de yasama sürecinin ilk adımları olarak değerlendirmek mümkündür.

Üzerinde kamuoyu, paydaşlar, Avrupa Parlamentosu ve Konsey arasında müzakere sürecinin başladığı Beyaz Kitap iki bölüm halinde yapılandırılmıştır: (1) İlk bölüm “mükemmel ekosistemi” oluşturmak için özel sektör ile kamu sektörü arasındaki işbirliğini teşvik etmek için daha politik ve teknik yönlerin belirtildiği bölüm (“Teknik Doküman”); (2) ikinci bölüm ise yapay zekanın bir “güven ekosistemi” oluşturması için gelecekteki düzenleyici çerçevenin temel unsurlarının öngörüldüğü bölüm olarak düzenlenmiştir.

Teknik Dokümanın ilk kısmı çoğunlukla yapay zekanın gelişimini, AB’de araştırma ve yatırımı artırmayı amaçlayan genel politika önerilerini içermekle birlikte, ikinci kısım yapay zeka için olası bir düzenleyici çerçevenin ana özelliklerini özetlemektedir.

AK’nın görüşüne göre, AB genelinde daha geniş bir yapay zeka yayılmasının önündeki en büyük engellerden biri kamu güveninin eksikliği oluşturmaktadır.

Bu nedenle, GDPR’da olduğu gibi AB, doğal riskleri düzenlemeye çalışarak kamu güvenini artırmayı da amaçlamaktadır. Yapay zeka konusunda AK tarafından belirlenen temel riskler, temel haklar (veri gizliliği ve ayrımcılık yapmama dahil), güvenlik ve sorumluluk konularıyla ilgilidir. AK, mevcut mevzuatta olası düzenlemelerin yanı sıra, bu riskleri de ele almak için özellikle yapay zeka konusunda yeni bir düzenlemenin gerekli olduğu sonucuna varmıştır.

Beyaz Kitap’a göre, gelecekteki herhangi bir mevzuat için temel mesele uygulamanın kapsamını belirlemek olacaktır. AK “veri” ve “algoritmaları” yapay zekayı oluşturan ana unsurlar olarak tanımlamakta, ancak yapay zekanın tanımının yasal kesinlik sağlaması için yeterince esnek olması gerektiğini ve aynı zamanda mevzuatın teknik ilerlemeye ayak uydurması gerektiğini de vurgulamaktadır.

Maddi düzenleme bakımından AK, GDPR’ın “tek beden herkese uyar” yaklaşımı yerine içeriğe özgü riske dayalı bir yaklaşımı benimsemektedir. Buna göre aşağıdaki her iki kriter birlikte sağlandığında bir yapay zeka ürünü veya hizmeti “yüksek riskli” olarak kabul edilmelidir: (1) Kritik Sektör: Yapay zeka ürünü veya hizmeti, önemli risklerin oluşabileceği bir sektörde kullanıldığında bu kriter söz konusu olur. Bu sektörler mevzuatta özel ve kapsamlı bir şekilde listelenmelidir; örneğin sağlık, ulaşım, enerji, güvenlik ve hukuk sistemi gibi kamu sektörünün bazı bölümleri bu gruba dahildir.

(2) Kritik Kullanım: Yapay zeka ürünü veya hizmeti, önemli risklerin ortaya çıkması muhtemel şekilde kullanıldığında bu kriter söz konusu olur. Belirli bir kullanımın risk seviyesinin değerlendirilmesi, etkilenen taraflar üzerindeki etkinin değerlendirilmesi suretiyle olur.

Örneğin, yapay zeka kullanımında yaralanma, ölüm veya önemli maddi veya manevi hasarların oluşması halinde kritik kullanımın varlığından söz edilebilir.

Bir yapay zeka ürünü veya hizmeti her iki kriteri de yerine getirirse, yeni yapay zeka yasasının zorunlu gereksinimlerine tabi olacaktır. Bununla birlikte, yapay zeka tabanlı uygulamaların belirli amaçlar için kullanılması, bireysel hakları temelden etkilediğinde daima yüksek riskli olarak kabul edilecektir. İşe alım süreçleri veya uzaktan biyometrik tanımlama (yüz tanıma gibi) yapay zekanın yüksek riskli kullanımına örnek gösterilebilir. Diğer yandan, bir yapay zeka ürünü veya hizmeti “yüksek riskli” olarak kabul edilmese dahi, GDPR gibi mevcut AB kurallarına tabi olmaya devam edecektir.

AK, Yapay Zeka Üst Düzey Uzman Grubunun “Güvenilir Yapay Zeka İçin Etik İlkeler” i dikkate alındığında, yeni yapay zeka mevzuatına dahil edilebilecek altı temel gereklilik ortaya koymaktadır:

1. Eğitim Verileri

AK, yapay zeka sistemlerini yeterince geniş ve temsili veri kümeleri üzerinde eğitme gereksinimi ve ayrıca yapay zeka etkin kullanımı sırasında gizlilik ve kişisel verilerin yeterince korunmasını sağlama gereksinimi gibi eğitim verileriyle ilgili çeşitli gereksinimler belirlemiştir. Diğer yandan, yapay zeka ürünlerinin ve hizmetlerinin kullanımı sırasında kişisel verilerin yeterli şekilde korunması gerektiğini de vurgulamaktadır.

2. Veri ve Kayıt Tutma

AK, birçok yapay zeka sisteminin karmaşıklığı ışığında, düzenleyici çerçevenin yapay zeka sistemlerini eğitmek ve test etmek için kullanılan veri kümesine doğru kayıtların tutulmasını önermektedir.

Veri setlerinin tutulması ve yapay zeka sistemlerinin oluşturulması, test edilmesi ve onaylanması için kullanılan programlama ve eğitim metodolojileri, süreçleri ve teknikleri hakkındaki belgeler bu kayıtlara örnek gösterilebilir. Verilerin etkili bir şekilde uygulanabilmesi için kayıtların, veri kümelerinin ve belgelerin sınırlı ve makul bir süre boyunca saklanması gerekecektir.

Gerektiğinde, ticari sır gibi gizli bilgilerin korunmasını sağlayacak düzenlemeler de ayrıca yapılmalıdır.

3. Bilgi Sağlama

AK’ya göre, yapay zeka sisteminin yetenekleri ve sınırlamaları hakkında açık bilgi sağlanmasını ayrıca, bir insan ile değil de bir yapay zeka sistemi ile etkileşime girdiklerinde bireyleri bilgilendirmek için şeffaf olunması gerekmektedir. Bununla birlikte, kullanıcının yapay zeka sistemleri ile etkileşime girdiği aşikâr ise böyle bir bilgi verilmesine gerek yoktur.

4. Sağlamlık ve Doğruluk

AK, zarar riskini en aza indirmek için yapay zeka sistemlerinin sağlam ve doğru olmasını, sonuçlarının tekrarlanabilir olmasını, tüm yaşam döngüsü aşamalarında hata veya tutarsızlıklarla yeterince başa çıkabilmesini ve gerek açık gerekse gizli saldırılara karşı dirençli olması gerektiğini belirtmektedir.

5. İnsan Gözetimi

AK, yapay zeka sistemlerinin insan özerkliğine zarar vermemesini veya başkaca olumsuz etkilere neden olmamasını sağlamak için “uygun insan gözetimi” derecesinin durumdan duruma değişebileceğini belirtmektedir. Örneğin, sosyal güvenlik yardımları için yapılan bir başvurunun bir yapay zeka sistemi tarafından reddedilmesi kararlaştırılabilir; ancak böyle durumlarda red işleminin bir insan tarafından gözden geçirmesine ve onaylanmasına tabi olarak etkili hale getirilmelidir. Ek olarak, bazı yapay zeka sistemlerine operasyonel blokajlar getirilmelidir; örneğin koşullar otomobilin güvenli bir şekilde çalışmasına izin vermediğinde sürücüsüz bir araba için otomatik bir durdurma sistemi geliştirilmelidir.

6. Uzaktan Biyometrik Tanımlama İçin Özel Gereklilikler

AK, kamusal alanda yüz tanıma teknolojisinin kullanımına beş yıllık bir yasak koymuş durumdadır. Bu kapsamda AB, uzaktan biyometrik tanımlamanın kullanımını ve kullanılabilecek olası önlemleri haklı kılabilecek belirli koşullar hakkında geniş bir kamuoyu tartışması başlatmayı planlamaktadır.

Teknik Rapor ayrıca, düzenlenecek yapay zeka mevzuatının kişisel ve coğrafi kapsamını da ele almaktadır. Piyasadaki her bir aktör bir şekilde yapay zeka sisteminin yaşam döngüsünde yer alabileceğinden (geliştiriciler, üreticiler, dağıtıcılar, son kullanıcılar vb.)

mevzuat kapsamındaki yükümlülüklerin doğru şekilde farklı aktörler arasında dağıtılması önerilmektedir. Coğrafi kapsamla ilgili olarak AB, mevzuatın hedeflerine ancak düzenlenecek mevzuatta belirtilen şartların, gerçek konumlarından bağımsız olarak AB’de yapay zeka tabanlı ürün veya hizmet sağlayan tüm şirketler için geçerli olması durumunda ulaşılabileceğini vurgulamaktadır.

2. VERİ STRATEJİSİ

Veri Stratejisi, önümüzdeki beş yıl içinde bir Avrupa “veri ekonomisi” ni geliştirmeye yönelik politika önlemleri sunmaktadır. AK, ABD ve Çin teknoloji firmalarının baskınlığını zorunlu “veri erişimi” hakkı da dahil olmak üzere yeni tekliflerle kırmaya çalışarak bu eğilimini sürdürmektedir.

AK Veri Stratejisi, tek bir “Avrupa veri alanı” oluşturmayı önermektedir. AB Üye Devletleri arasındaki yasal çerçevelerin ortadan kalkması, kalite verilerinin mevcudiyeti ve halihazırda mevcut olan piyasa gücü ve veri altyapılarındaki dengesizlikler gibi çeşitli konuları gündeme getirmektedir. Nitekim bu sorunlar AB’nin küresel veri ekonomisinde öncü bir rol üstlenmesini engellemektedir.

Bu zorlukların üstesinden gelmek için AK, yasal bir çerçeve oluşturmaya, gerekli altyapıyı kurmaya ve kişisel olmayan “endüstriyel verilerin” geniş potansiyelini geliştirmeye odaklanan bir dizi öneri listelemektedir. Bu yaklaşım, bir taraftan Avrupalı olmayan şirketlerin yürürlükteki yasalara ve standartlara uymaları koşuluyla AB verilerine erişme ve bunları kullanma imkanını da sağlamaktadır.

AK’nın Veri Stratejisi, dört temele dayanmaktadır:

1. Veri Erişimi ve Kullanımı için Sektörler Arası Bir Yasal Çerçevenin Tanıtılması

AK’ye göre, ortak Avrupa veri alanlarının yönetişimi için yasal bir çerçeve 2020 yılının ikinci çeyreğinde uygulanacaktır. Bu çerçeve standardizasyon mekanizmaları ve sektörler arasındaki veri erişilebilirliğini ve birlikte çalışabilirliği geliştirmek için veri setlerinin uyumlu bir şekilde tanımlanmasını içerecektir.

Ayrıca AK, kamu sektörü referans verilerinin araçlar tarafından okunabilir formatta sunulması için 2021’in birinci çeyreğinde, Açık Veri Direktifi kapsamında yüksek değerli veri setleri üzerinde bir uygulama kanunun kabul edilmesiyle ilerlemeyi hedeflemektedir.

Son olarak AK, 2021’de sektörler arasında yatay veri paylaşımı için teşvik sağlayacak ve yukarıda açıklandığı gibi rakipler için “veri erişim” hakkı içerebilecek yeni bir “Veri Yasası” planlamaktadır. Diğer düzenleyici eylemler, şirketlere veri paylaşımı ve havuz düzenlemeleri ise AB rekabet yasalarına uyumu, verilerle ilgili yargı konularının gözden geçirilmesi ve – muhtemelen – açık yönetmelikler hakkında daha fazla rehberlik sağlamak için Yatay İşbirliği Kılavuzunun güncellenmesini içerecektir.

2. Veri ve Birlikte Çalışabilirlik, Barındırma, İşleme ve Kullanma için Veri ve Altyapı Yatırımları

AK, veri odaklı inovasyonun desteklendiği bir ortam oluşturmak için Avrupa veri alanları ve federe bulut altyapıları konusundaki bir projeye yatırım yapmayı planlamaktadır.

Kamu ve özel kaynaklardan yararlanan AK, AB’nin 2 milyar € katkıda bulunmak istediği 4 ila 6 milyar € tutarında fon toplamayı planlamaktadır. AK, 2020’de endüstriyel stratejisinin bir parçası olarak yeni teknolojilere, kenar hesaplama, kuantum hesaplama, siber güvenlik ve 6G ağları gibi daha geniş bir stratejik yatırımlar sunmayı hedeflemektedir. Ek olarak AK, 2022’de AB kullanıcıları için bir bulut hizmetleri pazarını tanıtmayı planlamaktadır.

3. Bireylerin Dijital Haklarının Güçlendirilmesi

Bu girişim sayesinde AK, bireyler için “kişisel veri alanları” geliştirmeyi düşünmektedir.

AK’ye göre, bireyler GDPR’nin altındaki veri taşınabilirliğini artırarak, gerçek zamanlı veri erişimi için arabirimler üzerinde daha katı gereksinimler getirerek ve evrensel olarak kullanılabilir bir dijital oluşturarak elde edilecek “granüler düzeyinde” verilerini kontrol etmelidir. Bu konular, 2021’de yürürlüğe konabilecek Veri Yasası kapsamında ayrıca incelenecektir.

4. Stratejik Sektörlerde Ortak Avrupa Veri Alanlarının Geliştirilmesi

Son olarak AK, sanayi / üretim, nakliye / lojistik, sağlık, finansal hizmetler, enerji ve tarım sektörleri de dahil olmak üzere bazı stratejik sektörlerde dokuz ortak Avrupa veri alanının geliştirilmesini öngörmektedir.

Buradaki fikir, gerekli altyapı ile birleştiğinde büyük endüstriyel veri havuzları oluşturmak, verileri ve uygun yönetişim mekanizmalarını kullanmak ve paylaşmaktır. Bu veri alanları esas olarak endüstriyel verilerle ilgili olmakla birlikte AK, bunların veri koruma kurallarına ve mevcut en yüksek siber güvenlik standartlarına tam anlamıyla uygun şekilde geliştirileceğini vurgulamaktadır.

3. GÜVENLİK VE SORUMLULUK RAPORU

Teknik Raporda da yer alan AB’nin Güvenlik ve Sorumluluk Raporu, AB’nin mevcut ürün güvenliği ve sorumluluk mevzuatını analiz etmektedir. Güvenlik hali hazırda genişletilmiş bir güvenlik kavramını içermekte ve yürürlükte olan genel olarak yükümlülük kavramının içerisinde yer almaktadır. Bununla birlikte, AB ayrıca yapay zeka sistemleri ve gelecekteki ürün güvenliği ve ürün yükümlülüğü mevzuatında yer alması gereken diğer dijital teknolojilerin maruz kaldığı spesifik risklerin yasal yönetimi ile ilgili belirli boşluklarını da tespit etmektedir.

Güvenlik ve Sorumluluk Raporunda yer alan öneriler ışığında, gelecekteki ürün güvenliği mevzuatının, diğer hususların yanı sıra, aşağıdaki maddeleri de kapsaması beklenmektedir:

  • Bağlantı ve Siber Güvenlik Açıkları: Ürün bağlantısı, birbirine bağlanabilirlik ve ürünlerin diğer aygıtlarla etkileşimi, ürünün güvenliğini doğrudan ve dolaylı olarak tehlikeye atabilir (örneğin, bir ürün saldırıya uğradığında). Bu nedenle, AK kullanıcıların daha iyi korunmasını ve daha yasal kesinlik sağlamak için ara bağlantıdan kaynaklanan risklerin açık bir şekilde değerlendirilmesi gibi açık hükümlerin kabul edilmesini tavsiye etmektedir.
  • Özerklik: Yapay zeka kullanımına dayalı istenmeyen sonuçlar kullanıcılara ve maruz kalan bireylere zarar verebilir. AK, kullanıcıların güvenliğini artırmak için uygun ekonomik operatörün (diğer bir ifadeyle üretici, distribütör veya yazılım üreticisinin) yeni risk değerlendirme prosedürlerini yerine getirmesini zorunlu kılan yatay mevzuatın kabul edilmesini önermek üzere sektöre özgü yasalardan yararlanmaktadır. Ayrıca AK, yaşam döngüsü boyunca tasarımlarından başlayarak yapay zeka ürünlerinin ve sistemlerinin insan gözetimini sağlamak için özel gereksinimlerin benimsenmesini önermektedir.
  • Akıl Sağlığı Riskleri: Gelecekteki yasal düzenlemelerde yer alacak ürün güvenliği tanımı, yapay zeka uygulamalarına ait davranışın, bazı zihinsel zararları oluşturabileceğine ilişkin riskleri de içermelidir. Dolayısıyla bu alanda düzenlenecek mevzuat özellikle bakım ortamlarındaki yaşlılar gibi savunmasız kullanıcıları da kapsamalıdır.
  • Veri Bağımlılığı: Güvenlik riskleri, bir ürünün doğruluk ve ilişik eksikliği de dahil olmak üzere hatalı veri toplanması veya işlenmesinden kaynaklanabilir. Bu çerçevede AK, AB ürün güvenliği mevzuatının, ürün tasarım aşamasında ve tüm yaşam döngüsü boyunca hatalı veri risklerini ele almasını önermektedir.
  • Opaklık: Yapay zeka sistemlerinin karar alma süreçlerindeki “kara kutu etkisi” ile ilgili olarak, AK, mevcut mevzuatın kapsamına girmeyen uygulama sonrası güvenlik mekanizmaları için bazı gereklilikler belirlemiştir. AK algoritmalar için şeffaflık gerekliliklerinin yanı sıra karar verme sürecinin sağlamlığı, hesap verebilirliği ve insan gözetimi için gereklilikleri göz önünde bulundurmayı da önermektedir. Bu uygulama, kazaların meydana gelmesi durumunda tasarım parametrelerini ve veri kümelerinin meta verilerini açıklamak için algoritma geliştiricileri üzerinde bazı zorunlulukları yerine getirmeyi de içerebilecektir.
  • Yazılım: AB ürün güvenliği mevzuatı, bir ürün veya cihaza entegre yazılımdan kaynaklanan riskleri kapsayabilirken, AK, piyasaya sürülen veya bir ürüne indirilen tek başına yazılım durumunda mevcut kuralları uyarlamayı ve netleştirmeyi önermektedir (örneğin, mobil bir cihaza indirilen bir uygulama).
  • Karmaşık Değer Zincirleri: AB ürün güvenliği mevzuatı, “ortak sorumluluk” ilkesini izleyen birçok ekonomik operatör için yükümlülükler getirir. Ancak AK, tedarik zincirindeki ekonomik operatörler ve kullanıcılar arasında özellikle işbirliği yapılmasını talep eden hükümlerin kabul edilmesini önermektedir. Örneğin, değer zincirinde, yazılım üreticilerinden ürünü değiştiren tamircilere kadar ürünün güvenliği üzerinde etkisi olan her aktör sorumluluk almalı ve zincirdeki bir sonraki aktöre gerekli bilgi ve önlemleri sağlamalıdır. Güvenlik ve Sorumluluk Raporunda yer alan tavsiyeler ışığında, gelecekteki ürün yükümlülüğü mevzuatı, diğer hususların yanı sıra, aşağıdaki hususları da kapsamalıdır:
  • Ürünlerin, Hizmetlerin ve Değer Zincirinin Karmaşıklığı: AK, mevcut Ürün Sorumluluk Direktifi’ndeki “ürün” tanımının yapay zeka ürünlerini ve sistemlerini kapsayacak kadar geniş olduğunu düşünmektedir. Bununla birlikte, Ürün Sorumluluk Direktifi’nin kapsamına bu tür ürünlerin ve sistemlerin karmaşıklığı yansıtılmış olmalı ve yazılım veya diğer dijital ürünler nedeniyle arızalı ürünlerden kaynaklanan hasarlar için her zaman tazminat sağlanabileceğinden emin olunmalıdır.
  • Karmaşık Ortamlarda İspat Yükü: AB’deki mevcut sorumluluk rejimi, katı bir sorumluluk sistemi olup her bir AB Üye Devletinin hataya dayalı ve / veya katı sorumluluk kurallarını içeren Ürün Sorumluluk Direktifinin paralel uygulanmasına dayanmaktadır. Karmaşıklığın sonuçlarını hafifletmek için, AK, AB üye ülkelerinin yapay zeka uygulamalarının işletilmesinden kaynaklanan zararlara yönelik sorumluluk kurallarının gerektirdiği ispat yükünü hafifletmek veya geriletmek gerekip gerekmediği ve ne ölçüde gerekli olabileceği konusunda geri bildirim istemektedir. Örneğin, ilgili ekonomik operatörün belirli zorunlu siber güvenlik veya diğer güvenlik kurallarını karşılayamadığı durumlarda hata ve nedensellikle ilgili bir geri bildirim uygulanabilmelidir.
  • Bağlantı ve açıklık: Yapay zeka ürünlerinin bağlantı ve açıklık özellikleri, siber güvenlik ihlallerinden kaynaklanan hasarlarla ilgili güvenlik beklentilerini etkileyebilir. Ayrıca, bağlı ürünler imalatçı tarafından makul olarak beklenenin ötesinde amaçlar için de kullanılabilir. Bu nedenle, AK özellikle öngörülebilir makul kullanım konusunda veya ihmal ile ilgili durumlarda (örneğin, yaralı tarafın bir güvenlik güncellemesi indirememesi), kullanıcılara verilen hasarların tazminini açıklığa kavuşturmak ve kolaylaştırmak için mevzuatın dikkate alınması gerektiğini vurgulamaktadır.
  • Özerklik ve Opaklık: Karmaşıklık gibi konulara ek olarak, yapay zeka uygulamalarının deneyimden öğrenerek performanslarını artırabilmeleri, yükümlülük iddialarının etkili bir şekilde uygulanmasını zorlaştırmaktadır. Üreticilerin yükümlülüğüne ilişkin kalan belirsizlikleri gidermek için AK, Ürün Sorumluluk Direktifi tarafından değiştirilen veya değiştirilen ürünleri kapsamakta olan ve kimin sorumlu olduğunu açıklığa kavuşturmak için kullanılan ‘dolaşıma sokma’ kavramının gözden geçirilmesini önermektedir.
  • Yüksek Riskli Uygulamalar: AB, yüksek riskli yapay zeka cihazlarının ve hizmetlerinin olası mağdurları için, bireysel AB Üye Devletlerinin bazı ulusal yasalarında olduğu gibi, kesin bir yükümlülüğün gerekli olup olmadığı ve ne ölçüde dikkate alınabileceği konusunda görüş almak istemektedir (diğer bir ifadeyle yaşam, sağlık ve mülk gibi önemli konularda zarar verme olasılığının yüksek olduğu yerlerde). Yüksek riskli olmayan yapay zeka cihazlarının ve hizmetlerinin işletilmesi için AK, mağdurun potansiyel olarak sorumlu tarafın sorumluluğunu değerlendirmek için gerekli verileri elde edemeyebileceğinden, ispat yükünde değişikliklerin de gerekli olabileceğini belirtmektedir.

SONUÇ

AB’de yapay zeka yasası konusunda henüz son aşamaya gelinmemiş olmakla birlikte, kamuoyuyla istişare aşamasının sona ermesinden sonra AK tarafından daha somut tekliflerin sunulması beklenmektedir. AB’de iş yapan tüm şirketleri etkilemesi muhtemel olan gelecekteki yapay zeka mevzuatının coğrafi erişimi de göz önüne alındığında, AB’deki yapay zeka yasa tasarısı ile ilgili son gelişmelerin AB dışındaki ülkelerce de yakından takip edilmesinin gerektiğini söylemek yanlış olmaz. Bu bakımından AK, söz konusu yasama faaliyetiyle ilgili olarak halkın katılımı sürecini de başlatmış olduğundan bu aşamada Beyaz Kitap ve Veri Stratejisinde hakkında şirketlerin ve diğer paydaşların geri bildirimde bulunmaları, yapay zekaya yönelik gelecekteki AB kurallarını şekillendirmek adına önemli bir fırsat olarak değerlendirilebilir.

Kuşkusuz, bu yazıda incelediğimiz AK’nın Beyaz Kitap sunumu, Veri Stratejisi ve Güvenlik ve Sorumluluk Raporu AB’nin dijital dönüşüm konusunda iddialı planlarının olduğunu da açıkça ortaya koymaktadır. Bu bakımdan Avrupa sadece yapay zeka açısından değil, dijital alanda da ABD ve Çin egemenliğine meydan okumayı amaçlayan pek çok yasama faaliyetini yakın zamanda gündeme getirecek gibi görünüyor.

KAYNAKÇA