Teknoloji Hukuku: Avrupa Komisyonundan Yapay Zeka Yasa Teklifi

21 Nisan 2021 tarihinde, Avrupa Komisyonu (“Komisyon”) tarafından dijital çağa uyum sağlamayı ve Avrupa’yı güvenilir yapay zeka için küresel bir merkez haline getirmeyi amaçlayan yeni kurallar ve eylemleri içeren Yapay Zeka Yasal Çerçevesi (“Yasa Teklifi”) ve Üye Devletlerle Koordineli Plan (“Plan”) tanıtılmıştır. Yasa Teklifinin özünde çok yönlü yeni nesil teknolojilere ve ürünlere olan güvenliği ve yatırımı güçlendirirken temel insan haklarını gözetmeyi mercek altına alması dikkat çekmektedir. Bununla birlikte, ilk defa yapay zekaya dair hususları derinlemesine ele alan Yasa Teklifi kapsamında yapay zeka sistemleri “kabul edilemez riskli”, “yüksek riskli”, “sınırlı riskli” ve “düşük riskli” olarak sınıflandırılmakla her bir risk grubu kapsamındaki sistemlere özgü yükümlülükler getirilmektedir. 

Belirtmek gerekir ki, Avrupa Parlamentosu (“Parlamento”) ve üye devletlerin olağan yasama usulü ile Yasa Teklifini onaylamasının akabinde ilgili mevzuat Avrupa Birliği (“AB-Birlik”) düzeyinde geçerli olacak şekilde yürürlüğe girecektir. Buna paralel olarak, Komisyon’un, Planda açıklanan eylemleri uygulamak için üye devletlerle iş birliği yapmaya devam etmesi beklenmektedir.

Yasa Teklifi Ne Getiriyor?

Yasa Teklifinin Esasları

Öncelikle, Yasa Teklifi, Birlik içinde yapay zeka sistemlerinin piyasaya sürülmesi, hizmete sokulması ve kullanımına ilişkin uyumlaştırılmış kuralları ortaya koymaktadır. Bununla birlikte, belirli yapay zeka uygulamalarının yasaklanması, yüksek riskli yapay zeka sistemleri için özel gereksinimler ve bu tür sistemlerin operatörleri için yükümlülükler getirilmesi, gerçek kişilerle etkileşime girmesi amaçlanan yapay zeka sistemleri için uyumlaştırılmış şeffaflık kurallarının düzenlemesi ve duygu tanıma sistemleri ve biyometrik sınıflandırma sistemlerinin oluşturulması Yasa Teklifinin diğer esaslarındandır.

Kimleri Kapsıyor?

Bir diğer önemli husus ise Yasa Teklifinin kapsamına girenlerin kimler olduğudur. Buna göre (i) AB içinde yerleşik olsun veya olmasın yapay zeka sistemlerini hizmete sokan veya pazara arz eden tüm sağlayıcılar, (ii) AB içinde bulunan yapay zeka sistemlerinin kullanıcıları ve (iii) yapay zeka sistemi tarafından üretilen çıktı/ürünün AB içinde kullanılması halinde üçüncü bir ülkede bulunan yapay zeka sistemlerinin sağlayıcıları ve kullanıcıları, Yasa Teklifinin kapsamı altında olacaktır.

Bununla birlikte, Yasa Teklifi münhasıran askeri amaçlar için geliştirilmiş veya kullanılan yapay zeka sistemlerini kapsamına almamaktadır. İlaveten, üçüncü bir ülkedeki kamu kurumlarının ve uluslararası kuruluşların yapay zeka sistemlerini uluslararası anlaşmalar çerçevesinde AB veya üye devletlerle kolluk faaliyetleri ve adli iş birliği için kullanması durumunda ilgili kurallar uygulama alanı bulmayacaktır.

Neleri Tanımlıyor?

Yasa Teklifi kapsamında birden fazla kavramın tanımlandığı görülmektedir. Pek tabi, öncelikli olarak yapay zeka sistemi (“AI sistemi”) kavramının tanımı dikkat çekerken Yasa Teklifi sağlayıcı, kullanıcı ve operatör gibi kavramlara da açıklık getirmektedir. Bu kapsamda, bir veya daha fazla teknik ve yaklaşımla geliştirilen ve etkileşimde bulundukları ortamları etkileyen içerik, tahminler, öneriler veya kararlar gibi çıktılar üretebilen yazılımlar AI sistemi olarak tanımlanmaktadır. Sağlayıcı ise, bir AI sistemi geliştiren veya kendi adı veya ticari markası altında piyasaya arz etmek veya hizmete sunmak amacıyla bir AI sistemine sahip olan bir gerçek veya tüzel kişi, kamu kurumu, kuruluş veya başka bir organı ifade etmektedir. Bununla birlikte, kullanıcı ise AI sisteminin kişisel, profesyonel olmayan bir faaliyet sırasında kullanıldığı durumlar haricinde, kendi yetkisi altındaki bir AI sistemini kullanan herhangi bir gerçek veya tüzel kişi, kamu otoritesi, kurum veya diğer kuruluşlar anlamına gelmektedir. İlaveten, Yasa Teklifi AI sistemini AB pazarında kullanılabilir kılan tedarik zincirindeki herhangi bir gerçek veya tüzel kişiyi distribütör olarak ifade ederken sağlayıcı, kullanıcı, ithalatçı ve distribütör kavramlarının hepsini operatör olarak tanımlamaktadır.

Yetkili Kurum ve Kuruluşlar Kimler?

Yasa Teklifi, yeni kuralların Birlik düzeyinde ve ulusal düzeyde korunması ve denetlenmesi adına bazı esaslar getirmektedir. Bu kapsamda, teklif Birlik düzeyinde denetlemeyi sağlamak için üye devletler ve Komisyon’un temsilcilerinden oluşan yeni Avrupa Yapay Zeka Kurulunu (“Kurul”) tanıtmaktadır. Kurul’un ulusal denetim makamları ve Komisyon arasında etkili iş birliğine katkıda bulunarak ve Komisyon’a tavsiye ve uzmanlık sağlayarak yeni düzenlemelerin sorunsuz, etkili ve uyumlu bir şekilde uygulanmasını kolaylaştıracağı öngörülmektedir. Ulusal düzeyde denetleme için ise Yasa Teklifi üye devletlerin bir veya daha fazla ulusal yetkili kuruluş atamaları gerektiğini belirtmektedir. Avrupa Veri Koruma Denetçisi, bu düzenlemelerin kapsamına girilen hallerde Birlik kurum, kuruluş ve kuruluşlarının denetimi için yetkili makam olarak hareket edecektir.

Güvenilir Yapay Zekaya Avrupa Yaklaşımı: Yasa Teklifindeki Risk Sınıflandırmaya Dayalı Yeni Sistem

Yasa Teklifi, yapay zekanın geleceğe yönelik tanımına dayalı olarak tüm üye devletlerde aynı şekilde doğrudan uygulanacak bir risk tabanlı yaklaşım benimsemektedir. Bu kapsamda yeni düzenleme, (i) kabul edilemez risk (‘unacceptable’), (ii) yüksek risk (‘high-risk’), (iii) sınırlı risk (‘limited risk’) ve (iv) düşük risk (‘minimal risk’) olmak üzere riskleri dört grupta ele almaktadır.

İlk olarak, Yasa Teklifi AI sistemlerinden Birlik’in değerlerine aykırı olarak kabul edilemez olarak değerlendirilenleri ve bireylerin güvenliği, geçim kaynakları ve hakları için açık bir tehdit olduğu düşünülenleri kabul edilemez risk olarak sınıflandırmakla kullanımlarının yasaklanacağını düzenlemektedir. Buna, kullanıcıların özgür iradesini zedelemek için insan davranışını manipüle eden yapay zeka sistemleri veya uygulamaları (örneğin, reşit olmayan bireyleri tehlikeli davranışlara teşvik eden sesli oyuncaklar) ve hükümetler tarafından “sosyal puanlamaya” izin veren sistemler örnek olarak gösterilmektedir.

İkinci olarak, Yasa Teklifi bireylerin sağlığına, güvenliğine ve/ya temel hakları için yüksek risk oluşturan AI sistemlerini yüksek risk olarak sınıflandırmakla bu yüksek riskli AI sistemlerine, belirli zorunlu gerekliliklere uygunluk ve bir ön uygunluk değerlendirmesine tabi olarak Avrupa pazarında izin verileceğini düzenlemektedir. Bu kapsamda, yüksek riskli AI sistemleri, sınırlı olmamak üzere, aşağıdakilerde kullanılan AI teknolojisini içermektedir:

-Kritik altyapılar (örn. ulaşım),

-Eğitimsel ve/ya mesleki eğitim (örn. sınavların puanlanması),

-İstihdam, işçi yönetimi ve serbest mesleğe erişim (örn. işe alım prosedürleri için özgeçmiş sıralama yazılımı),

-Temel özel ve kamu hizmetleri (örn. vatandaşların kredibilitesini etkileyen kredi puanlaması),

-İnsanların temel kurallarına müdahale edebilecek kanun uygulaması (örn. delillerin güvenilirliğinin değerlendirilmesi),

-Göç, iltica ve sınır kontrol yönetimi (örn. seyahat belgelerinin gerçekliğinin doğrulanması).

İlaveten, Yasa Teklifi yukarıda ifade edilen bu yüksek riskli AI sistemlerinin piyasaya sürülmeden önce katı yükümlülüklere tabi olacağını da belirtmektedir. Bu kapsamda, yeterli risk değerlendirme ve azaltma sistemleri oluşturmak, riskleri ve ayrımcı sonuçları en aza indirmek için sistemi besleyen veri kümelerinin yüksek kaliteli olmasını sağlamak, sonuçların izlenebilirliğini sağlamak için faaliyet günlüğü oluşturmak, sistemle ilgili gerekli tüm bilgileri ve yetkililerin uygunluğunu değerlendirmek için amacını sağlayan ayrıntılı belgeleri sağlamak ve kullanıcıya açık ve yeterli bilgiyi ulaştırmak Yasa Teklifinin düzenlediği yükümlülüklerden bazılarıdır. Özellikle, tüm uzaktan biyometrik tanımlama sistemlerinin yüksek riskli kabul edilir olduğu ve yeni düzenlemeler kapsamındaki mevzubahis katı gereksinimlere tabi olacağı değerlendirilmektedir.

Üçüncü olarak, belirli şeffaflık yükümlülükleri olan AI sistemleri sınırlı riskli olarak sınıflandırılmakla yüksek riskli AI sistemleri kadar geniş bir düzenlemeye tabi değildir. Bu kapsama sohbet robotlarının dahil olabileceği değerlendirilirken kullanıcıların bir makineyle etkileşimde bulunduklarının farkında olması gerektiği, bu surette ancak devam etmek veya geri adım atmak için bilinçli bir karar alabilir oldukları belirtilmektedir.

Son olarak, Yasa Teklifi yapay zeka destekli video oyunları veya spam filtreleri gibi AI sistemlerinin büyük çoğunluğunu oluşturan uygulamaları düşük riskli olarak sınıflandırmakla bu sistemlerin ücretsiz olarak kullanımına izin vermektedir. Zira, bu AI sistemlerinin bireylerin hakları veya güvenliği için yalnızca düşük bir riski temsil ettiği veya hiç risk oluşturmayacağı değerlendirilmektedir.

Ezgi Ceren Aydoğmuş