Avrupa Parlamentosu’ndan Biyometrik Tanıma ve Davranışsal Algılama Üzerine Değerlendirme ve Yapay Zeka Düzenlemesi Teklifi ile İlgili Öneriler

Avrupa Parlamentosu, 2 Eylül 2021 tarihinde, biyometrik tanıma ve davranışsal algılama ile ilgili bir değerlendirme dokümanı (“Değerlendirme”) yayımlamıştır. Hukuk İşleri Komitesi ve Dilekçeler Komitesi tarafından talep edilmesi üzerine hazırlanan Değerlendirme, biyometrik tanıma ve davranışsal algılama tekniklerinin etik yönlerini, biyometrik ile ilgili kamusal alanlarda mevcut ve gelecekteki kullanımlarına odaklanarak değerlendirmekte ve Avrupa Komisyonu’nun Yapay Zekâ Düzenlemesi Teklifi’nde (“Teklif”) bir dizi değişiklik önermektedir.

Öncelikle Değerlendirme’de, biyometrik sınıflandırma ile birlikte biyometrik tanımlama, davranışsal saptama, duygu tanıma, beyin-bilgisayar ara yüzleri ve benzer tekniklerin, kamu ve özel kuruluşlar tarafından artan ölçüde kullanılmakla birlikte, sağlık hizmetlerinden kolluk kuvvetlerine ve sınır kontrolünden savaşa kadar çok çeşitli amaçlara hizmet ettiklerine dikkat çekilmiş ve bunların hem kamusal hem de özel alanlarda konuşlandırıldıkları belirtilmiştir.

Değerlendirme’de “biyometrik teknikler” kavramı, hareket halindeyken dahil insan vücudunun fiziksel, fizyolojik veya davranışsal yönleriyle ilgili verilerin belirli teknik işlenmesine dayanan ya da insan bireylerinin kimlik doğrulaması veya tanımlanması, gelecekteki davranışları öngörme amacıyla da dahil olmak üzere insan bireylerinin kalıcı veya uzun vadeli özelliklere göre sınıflandırılması  veya bir insan bireyin korku, yorgunluk veya hastalık veya belirli bir niyet gibi geçici veya kalıcı koşullarının tespiti gibi amaçları kapsayan herhangi bir teknoloji veya işlem olarak açıklanmıştır.

Değerlendirme’de, biyometrik tanımlama bakımından gündeme getirilen ana etik konu, kayıt aşamasıyla, yani belirli bir kişiyi tanımlayan benzersiz bir şablonun oluşturulması ve saklanmasıyla ilgilidir. Bu kapsamda, benzersiz şablonlar oluşturmanın, bir insanın benzersiz fiziksel özelliklerini dijital verilere dönüştürmek anlamına geldiği ve bunun da insanların “verileştirilmesine” yol açtığı açıklanmıştır. Ayrıca, bir kişiyi benzersiz olarak tanımlayan özelliklerin, bir kişinin vücudunun bir parçası olduğundan, bunların toplanması ve kullanılmasının, bir insanın kişisel özerkliğine ve onuruna müdahale teşkil ettiği vurgulanmakla birlikte bu şablon oluşturulup saklandıktan sonra, gelecekte ona sahip olan herkesin, dünyanın herhangi bir yerinde ve potansiyel olarak herhangi bir amaç için o bireyi izleme ve tanıma gücüne sahip olacağı belirtilmiştir. Ek olarak, bir bireyin normalde güçlü biyometrik tanımlayıcıları değiştiremeyeceğinden, bireyin bundan kaçmasının bir yolu olmadığına ve veri güvenliği kaygıları da göz önüne alındığında, biyometrik şablonların toplanması ve saklanmasının önemli bir zarar verme potansiyeline sahip olduğu vurgulanmıştır.

Değerlendirme’de bunun dışında, kamusal alanlarda biyometrik tanımlama yöntemlerinin kullanılmasıyla ortaya çıkan etik sorunların, biyometri ile değil, özellikle bireylerin büyük ölçekli gözetimi ile veya başka bir şekilde teknolojinin kullanıldığı amaçlarla ve nasıl kullanıldığı ile ilgili olduğu açıklanmıştır.

İlaveten, bireylerin biyometrik olarak sınıflandırılmasıyla ortaya çıkan kategorizasyon sistemlerinin geliştirilmesi ve somut kullanımı konularının önemi vurgulanmıştır. Bu konu özelinde, özellikle kategorilerin tanımı, ilgili varsayımlar ve sistem tarafından tetiklenen sonuçlar veya tepkiler ile ilgili olarak etik sorunların ortaya çıkmakta olduğu ve ayrımcılık, damgalanma ve uygun olmayan çıkarımların yapılması gibi risklere yol açtığı belirtilmiştir. Diğer risklerin ise, gruba özgü güvenlik açıklarının manipülasyonunu ve istismarını içerdiği Değerlendirme’de açıklanan bir diğer husustur. Değerlendirme’ye göre, bu bağlamda ele alınması gereken temel hak risklerinin, öncelikle belirli bir sosyal bağlamda belirli bir amaca ulaşmak için bir araç olarak standart profil oluşturma ve/veya puanlama ile ilişkili olduğu sonucu çıkmaktadır.

Bunlara ek olarak, Değerlendirme’de, potansiyel olarak zihinsel mahremiyet ve zihinsel bütünlük hakkı gibi yeni bir dizi ‘nöro-haklar’ için çağrıda bulunan insan duygularını, düşüncelerini ve niyetlerini tespit eden sistemlere özel dikkat gösterilmesi gerektiği belirtilmiştir.

Yukarıdakileri göz önünde bulundurarak, Değerlendirme, Teklif’e, biyometrik teknikler ve çıkarımlar dahil olmak üzere sınırlı yapay zekâ uygulamalarına ayrılmış ve bu tekniklerin yenilik ve büyümeyi sınırlamaksızın bu tekniklerin sorumlu bir şekilde kullanımını sağlayacak düzenlemeler içeren yeni bir bölüm dahil etmeyi önermektedir.

Bununla birlikte, Teklif’te yer verilen bazı tanımlarda değişiklik yapılması da önerilmiştir. Değerlendirme aynı zamanda, Teklif’te düzenlenen yasaklı yapay zekâ uygulamaları listesinin, en azından, gerçek kişilerin özel veya iş yaşamlarında tam veya kapsamlı gözetimi ile zihinsel mahremiyet ve bütünlük ihlallerinin yasaklanmasıyla zenginleştirilmesi gerektiğini belirtmiştir. Ayrıca, Komisyon’un, potansiyel olarak Avrupa Parlamentosu’nun gözetimi altında, yasaklanmış yapay zekâ uygulamaları listesini periyodik olarak uyarlama olanağına sahip olması gerektiği de değerlendirilmiştir. Ayrıca, veri koruma veya tüketici koruma mevzuatı dahil olmak üzere, diğer kanunlardan doğan kısıtlamaların etkilenmeyeceğine dair bir açıklama yapılması gerektiği vurgulanmıştır.

Son olarak, Teklif’in biyometrik sınıflandırma sistemleri gibi duygu tanıma sistemlerini de kapsayacak şekilde genişletilmesi gerektiğini önerilmiştir.

Simge Kılıç, Esra Temur