Dünya Sağlık Örgütü’nden Sağlık için Yapay Zekanın Etiği ve Yönetimine İlişkin Rehber

Dünya Sağlık Örgütü tarafından, 28 Haziran 2021 tarihinde, Sağlık için Yapay Zekanın Etiği ve Yönetimine İlişkin Dünya Sağlık Örgütü (“DSÖ”) Rehberi (“Rehber”) yayımlanmıştır. Etik, dijital teknoloji, hukuk, insan hakları alanlarında önde gelen uzmanların yanı sıra sağlık bakanlıklarından uzmanlar arasındaki uzun bir müzakerenin sonucu olan Rehber, yapay zekanın sağlıkta kullanımıyla ilgili etik zorlukları, riskleri ve yapay zekanın tüm ülkelerin kamu yararına çalışmasını sağlamak için altı ilke üzerine açıklamalar yapmaktadır.

Rehber, teknoloji uzmanları ve yazılım geliştiriciler dahil olmak üzere yapay zeka teknolojilerinin tasarımı, dağıtımı ve iyileştirilmesinden sorumlu kişiler için tasarlanmıştır. Ayrıca DSÖ tarafından Rehber’in, hükümetler ve sağlık bakanlıkları ile birlikte yapay zekanın sağlık sektöründe kullanımını tanımlamaya yönelik politikalar ve uygulamalar belirleyecek olan şirketlere, üniversitelere, tıp birliklerine ve uluslararası kuruluşlara rehberlik etmesi amaçlanmaktadır. Rehber, yapay zeka kaynaklı etik kaygıların belirlenmesinde ve bu kaygıların ele alınması için ilgili etik çerçevelerin sağlanmasında yapay zekanın dünya çapında sorumlu kullanımını desteklemeyi amaçlamaktadır.

Yapay zekayı kullanan yeni teknolojiler, teşhis, tedavi, sağlık araştırmaları ve ilaç geliştirmeyi iyileştirme ve sürveyans ve salgın yanıtı da dahil olmak üzere halk sağlığı işlevlerini yerine getiren hükümetleri destekleme konusunda büyük umut vaat ederken, Rehber’e göre yapay zekanın sağlık alanında faydalı bir etkisi olabilmesi için bu tür teknolojilerin tasarım, geliştirme ve dağıtım süreçlerinin merkezinde etik ve insan hakları yer almalıdır. Bu kapsamda DSÖ, yapay zekanın faydalarından tam olarak yararlanmak için sağlık hizmetleri sistemleri, uygulayıcılar ve tıbbi ve halk sağlığı hizmetlerinden yararlananlar için etik zorlukların ele alınması gerektiğini kabul etmektedir. Rehber’de açıklanan etik kaygıların çoğu, yapay zekanın ortaya çıkışından önce gelmekle birlikte, yapay zekanın ile de bir takım yeni endişeler ortaya çıkmıştır.

Rehber’de, yapay zekanın sağlık için kullanımına ilişkin bir dizi temel etik ilkeler açıklanmaktadır. DSÖ, bu ilkelerin hükümetler, teknoloji geliştiriciler, şirketler, sivil toplum ve hükümetler arası kuruluşların yapay zekanın sağlık için kullanımına yönelik uygun etik yaklaşımları benimsemeleri için bir temel olarak kullanılacağını umduğunu belirtmiştir.

Bu ilkelerden ilki olan insan özerkliğini koruma, yapay zeka veya diğer hesaplama sistemlerinin kullanımının insan özerkliğine zarar vermemesini gerektirir. Zira, yapay zeka kullanımı, karar verme gücünün makinelere aktarılabileceği durumlara yol açabilir. Özerklik ilkesinin, sağlık hizmetleri bağlamında, insanların sağlık hizmeti sistemleri ve tıbbi kararların kontrolünde kalması gerektiği anlamına geldiği belirtilmiştir. Rehber kapsamında insan özerkliğine saygı, sağlayıcıların yapay zeka sistemlerinin güvenli ve etkin kullanımını sağlamak için gerekli bilgilere sahip olmasını ve insanların bu tür sistemlerin kendi bakımlarında oynadığı rolü anlamalarını sağlamakla ilgili görevlerini beraberinde getirmekle birlikte, mahremiyetin ve gizliliğin korunmasını ve veri koruması için uygun yasal çerçeveler aracılığıyla geçerli aydınlatılmış onamın da alınmasını gerektirir.

İnsan refahını ve güvenliğini ve kamu yararını geliştirme ilkesi uyarınca, yapay zeka teknolojilerinin insanlara zarar vermemesi ve yapay zeka teknolojilerinin tasarımcılarının iyi tanımlanmış kullanım durumları veya endikasyonları için güvenlik, doğruluk ve etkinlik için düzenleyici gereklilikleri karşılaması gerektiği belirtilmiştir. Bu kapsamda Rehber, uygulamada kalite kontrol önlemlerinin ve yapay zeka kullanımında kalite iyileştirmenin mevcut olması gerektiğini açıklamaktadır. Bununla birlikte, bu ilke uyarınca zararı önlemek, yapay zekanın alternatif bir uygulama veya yaklaşım kullanılarak önlenebilecek zihinsel veya fiziksel zararla sonuçlanmamasını gerektirmektedir.

Rehber’de açıklanan bir diğer ilke ise şeffaflığın, açıklanabilirliğin ve anlaşılırlığın sağlanmasıdır. Bu kapsamda yapay zeka teknolojilerinin geliştiriciler, tıp uzmanları, hastalar, kullanıcılar ve düzenleyiciler için açık veya anlaşılır olmalıdır. Bununla birlikte Rehber, anlaşılabilirliğe yönelik iki geniş yaklaşım olduğunu belirtmekle birlikte bunları yapay zeka teknolojisinin şeffaflığını artırmak ve yapay zeka teknolojisini açıklanabilir hale getirmek olarak açıklamaktadır. Şeffaflık ise, bir yapay zeka teknolojisinin tasarımı veya konuşlandırılmasından önce yeterli bilginin yayımlanmasını veya belgelenmesini ve bu bilgilerin, teknolojinin nasıl tasarlandığı ve nasıl kullanılması veya kullanılmaması gerektiği konusunda anlamlı bir kamu istişaresini ve tartışmasını kolaylaştırmasını gerektirmektedir. Ek olarak, yapay zeka teknolojilerinin açıklamasının, açıklandığı kişilerin kapasitesine göre yapılması gerektiği belirtilmiştir.

Rehber sorumluluk ve hesap verebilirliğin gelişmesine yardım etme ilkesine de değinmiştir. DSÖ, insanların, sistemlerin gerçekleştirebileceği görevlerin ve istenen performansı elde edebilecekleri koşulların açık ve şeffaf bir şekilde tanımlanmasına ihtiyaç duyduklarını belirtmiştir. Yapay zeka teknolojilerinin belirli görevleri yerine getirseler de, bu görevleri yerine getirebilmelerini ve yapay zekanın uygun koşullar altında ve uygun şekilde eğitilmiş kişiler tarafından kullanılmasını sağlamanın ilgili kişilerin sorumluluğunda olduğu ve bu sorumluluğun, yapay zeka teknolojilerinin geliştirilmesi ve yayılmasında hastalar ve klinik tedavi uzmanları tarafından değerlendirmesi anlamına gelen "insan garantisi" uygulamasıyla güvence altına alınabileceği açıklanmıştır. Bu insan garantisi ise, süreç içerisinde algoritma kullanımı öncesinde ve sonrasında insan denetim noktaları oluşturarak düzenleyici ilkelerin uygulanmasını gerektirmektedir. Bununla birlikte, bir yapay zeka teknolojisinde bir şeylerin ters gitme ihtimaline karşılık, hesap verebilirlik olması gerektiği de Rehber’de belirtilmiştir. Ayrıca DSÖ, algoritmalara dayalı kararlardan olumsuz etkilenen bireyler ve gruplar için sorgulama ve tazmin için uygun mekanizmaların mevcut olması gerektiğine de dikkat çekmiştir.

Ek olarak Rehber’de, kapsayıcılığı ve hakkaniyeti sağlama ilkesine değinilmiştir. Bu ilke uyarınca kapsayıcılık, sağlık için yapay zekanın yaş, cinsiyet, toplumsal cinsiyet, gelir, ırk, etnik köken, cinsel yönelim, yetenek veya insan hakları yasaları kapsamında korunan diğer özelliklerden bağımsız olarak mümkün olan en geniş, uygun, adil kullanımı ve erişimi teşvik edecek şekilde tasarlanmasını gerektirir. Ayrıca bu ilkeye göre yapay zeka teknolojisi, diğer tüm teknolojiler gibi, mümkün olduğunca geniş bir şekilde paylaşılmalı, yalnızca yüksek gelirli çevrelerdeki şartlar ve ihtiyaçlar için değil, aynı zamanda düşük ve orta gelirli ülkelerin bağlamlarında, bunların kapasite ve çeşitliliği için de kullanılabilir olmalıdır. Nitekim yüksek gelirli ülkelerdeki bireylerin verilerine dayanan sistemler, düşük ve orta gelirli ortamlardaki bireyler için iyi performans göstermeyebilir.

DSÖ tarafından açıklanana göre, yapay zeka teknolojileri, tanımlanabilir grupların, özellikle de zaten ötekileştirilmiş grupların dezavantajlarına yönelik önyargıları kodlamamalıdır. Zira önyargı, eşit muameleden genellikle keyfi olarak ayrılmayla sonuçlanabileceğinden, kapsayıcılık ve eşitlik için bir tehdit teşkil etmektedir. Bununla birlikte Rehber, yapay zeka teknolojilerinin, sağlayıcılar ve hastalar, politika yapıcılar ve insanlar arasında ve yapay zeka teknolojilerini oluşturan ve dağıtan şirketler ve hükümetler ile bunları kullanan veya bunlara dayananlar arasında ortaya çıkan kaçınılmaz güç eşitsizliklerini en aza indirmesi gerektiğine değinmektedir. Ayrıca DSÖ, yapay zeka araçları ve sistemlerinin, belirli insan grupları üzerindeki orantısız etkileri belirlemek için izlenmesi ve değerlendirilmesi gerektiğini belirtmekle birlikte yapay zeka veya başka hiçbir teknolojinin, mevcut önyargı ve ayrımcılık biçimlerini sürdürmemesi veya kötüleştirmemesi gerektiğine değinmiştir.

Rehber’de verilen son ilke ise, uyumlu ve sürdürülebilir yapay zekayı desteklemektir. Bahsi geçen uyumluluk, tasarımcıların, geliştiricilerin ve kullanıcıların gerçek kullanım sırasında yapay zeka uygulamalarını sürekli, sistematik ve şeffaf bir şekilde değerlendirmesini gerektirmektedir. Bu kapsamda tasarımcılar, geliştiriciler ve kullanıcılar yapay zekanın yeterli ve uygun şekilde ve iletilen, meşru beklentiler ve gereksinimlere göre yanıt verip vermediğini belirlemelidirler. Rehber’e göre, duyarlılık aynı zamanda yapay zeka teknolojilerinin sağlık sistemlerinin, ortamların ve işyerlerinin sürdürülebilirliğinin daha geniş çapta teşvik edilmesiyle tutarlı olmasını gerektirmektedir. Ayrıca, yapay zeka sistemlerinin, çevresel sonuçlarını en aza indirecek ve enerji verimliliğini artıracak şekilde tasarlanması gerektiğine dikkat çekilmiştir. Yani, yapay zekanın kullanımı, insanların Dünya'nın çevresi, ekosistemleri ve iklimi üzerindeki etkisini azaltmaya yönelik küresel çabalarla tutarlı olmalıdır. Bu ilke kapsamında sürdürülebilirlik, aynı zamanda hükümetlerin ve şirketlerin, sağlık çalışanlarının yapay zeka sistemlerinin kullanımına uyum sağlamaları için eğitimler ve otomatik sistemlerin kullanımından kaynaklanan potansiyel iş kayıpları da dahil olmak üzere işyerinde beklenen aksaklıkları ele almasını da gerektirmektedir.

Bunlara ek olarak, yapay zeka tekniklerinin bir alt kümesi olarak çeşitli makine öğrenimi biçimlerini içeren teknik olmayan bir yapay zeka tanımı sağlanmakla birlikte biyomedikal veya sağlıkla ilgili büyük verileri içeren veri kaynakları da dahil olmak üzere büyük veri de tanımlanmaktadır. Ayrıca DSÖ, tıp, sağlık araştırmaları, ilaç geliştirme, sağlık hizmetleri yönetimi ve planlaması ve halk sağlığı gözetimi gibi düşük ve orta gelirli ülkelerde kullanılan uygulamalar da dahil olmak üzere sağlık için yapay zeka teknolojilerinin kapsamlı olmayan bir sınıflandırmasını ve örneklerini sağlamaktadır.

Rehber’de değinilen bir diğer husus ise, yapay zekanın sağlık için kullanımına uygulanan veya uygulanabilecek politikalar, ilkeler ve yasalardır. Bunlar, yapay zeka için geçerli olan insan hakları yükümlülüklerini, veri koruma yasaları ve çerçevelerinin rolünü ve diğer sağlık verileri yasa ve politikalarını içermektedir. Ayrıca Rehber, çeşitli ilgili kişilerin etik normları ve yasal yükümlülükleri öngörebilmek veya karşılamak için etik uygulamaları, programları ve önlemleri nasıl uygulamaya koyabileceklerini incelemektedir. Sağlık hizmetleri için yapay zekanın artan kullanımıyla sorumluluk rejimlerinin nasıl gelişebileceğinin bir tartışmasını da yapan Rehber, sağlık hizmetlerinde yapay zeka için bir denetim çerçevesinin unsurlarını da sunmaktadır.

Son olarak, Rehber, yapay zeka teknolojisi geliştiricileri, sağlık bakanlıkları ve sağlık hizmeti sağlayıcıları için Rehber’in uygulanmasına yönelik tavsiyeler sunmaktadır.

Esra Temur, Kortan Gödekoğlu