Yapay Zeka Oluşturma Sürecini Tamamlamadan Yapay Zeka Etiğini Oluşturmak Mümkün Mü?

4 Temmuz 2019

Dr. James A. Brink, MD, Massachusetts General Hospital Radyoloji Şefi ile 5 soruyu cevapladık:

Yazar: Kieran Murphy, GE Sağlık Başkanı ve CEO’su.

Günümüzün teknoloji odaklı dünyasında ve çığır açan bir sonraki buluşun sahibi olma yarışında, yenilikler (platformlar, ortamlar, cihazlar) toplumumuzun bütünleyici bir parçası ya da toplumumuzu tamamen değiştiren etmenler haline geliyor. Buna rağmen, bu yeniliklerin işleyiş şeklini uyarlama ve güçlendirme ihtiyacını, yalnızca bu yeniliklere ve bunların hayatımıza getirdiği pozitif etkilere fazlasıyla bağımlı hale geldiğimiz noktada hissediyoruz.

Bunun yerine, henüz standart haline gelmeden ya da tam olarak icat edilmeden önce bir yenilik veya endüstrinin tamamı için ilkeler ve yönergeler oluşturabilsek nasıl olurdu?

Sağlık hizmeti sektörü bize bu imkânı tanıyor. Aslında, bu sektörde bu bir zorunluluk.

Doktorlar mesleğe atılmadan önce Hipokrat Yemini ediyorlar. Sahada çalışanlar, hizmeti hastaya götürmek için çaba harcıyor. Bu tür özverili etik davranışlar, sistemin temelinde yer alıyor. Etik sistemin amacı budur.

Dolayısıyla, sektör için teknoloji üreten bizlerin de müşteri ihtiyaçlarının bu yönünü göz önüne alması ve karşılaması gerekiyor.

Geçen ay, Küresel Tıbbi İnovasyon Forum’unda, meslektaşlarımla birlikte GE Sağlık Yapay Zeka İlkelerini tanıttık. Bu ilkeler, Yapay Zekâ çalışmalarımıza yönelik yönergeleri ve güvenli ve etkili bir Yapay Zekâ kullanımı için atacağımız ve atmamız gereken somut adımları içeriyor. Bu ilkeler, sektörde Yapay Zekâ çözümleri üzerinde çalışan radyologlara ve geliştiricilere açacağımız Edison platformumuzu yaratan ve klinisyenlerle birlikte algoritmalarımız üzerinde halen çalışmaya devam eden mühendisler, veri bilimcileri ve ekip üyeleri tarafından oluşturuldu. İlkeler bağlamında:

Yapay Zeka Sistemleri insan zekâsını artırmak için vardır ve şu özelliklere sahip olmalıdır:

  • Hastanın yararı, güvenliği ve gizliliğine yönelik olarak tasarlanmalıdır
  • Verilerin ve istatistiklerin güvenilir bir koruyucusu olmalıdır
  • Şeffaf olmalı, sağlıklı ve yeniden üretilebilir sonuçlar sunmalıdır
  • Önyargı oluşturmaya veya önyargıları pekiştirmeye karşı koruma sağlamalıdır

Sürece daha fazla bakış açısı ve birikim entegre ettikçe; Yapay Zeka platformu geliştikçe, bu ilkeler de evrimini sürdürecek. Ancak, bunların temeli daima aynı kalacak: Hastaya fayda sağlayan ve hastayı koruyan, sağlık sisteminin tamamı çerçevesinde klinisyenin maliyetleri, kaliteyi ve erişimi iyileştirmesine destek olan teknolojiler sunmak.

GE Sağlık Yapay Zeka İlkeleri

Sektör ortaklarımızla birlikte inşa etmeye ve öğrenmeye devam ederken sizleri düşüncelerinizi paylaşmaya teşvik ediyorum. Başlangıç olarak, Massachusetts General Hospital Radyoloji Şefi Dr. James Brink’den Yapay Zeka etiğini değerlendirmesini ve farklı bir uzman bakış açısını tartışmaya sunmasını istedik. Bize şunları anlattı:


Doktorlar mesleğe atılmadan önce Hipokrat Yemini ediyorlar. Sağlık hizmetinde etik başlığı da yeni bir kavram değil. Konu Yapay Zeka’ya geldiğinde, etik neden yalnızca yakın zamanda alakalı hale geldi?

Dr. Brink: “Primum non nocere – Önce, zarar verme”, hekimler arasında yaygın olarak kabul gören bir doktrin. Yapa Zeka, sağlık hizmeti sektörünün her yönüne etki etme potansiyeline sahip tamamen yeni araçlardan oluşan bir araç paketini mümkün kılıyor. Bu araçlarla yeni ve sıra dışı yeteneklere sahip olacak, insan sağlığına ve hastalıklara uygulanabilecek büyük veri setlerinden faydalanacağız. Ancak, kısmen sağlık hizmeti çalışanlarının sahip olduğu veri bilimi bilgisinin sınırlı olması, kısmen de algoritmaların “kara kutu” doğası nedeniyle bunlar son kullanıcı için nispeten opak veriler olarak kalıyor. Araçların, türevleri ve zayıf yönleri tam olarak anlaşılmadan kullanılması istenmeyen sonuçlara ve hastanın zarar görme riskine neden olabiliyor.

Sağlık hizmeti sektöründe Yapay Zeka konusunda en fazla yanlış anlaşılan nokta hangisi?

Dr. Brink: Yapay Zeka algoritmalarının eğitilmesinde kullanılan klinik verilerin sahibi olan hastaların hakları, sağlık hizmeti sektöründeki Yapay Zekâ uygulamasının en tartışmalı yönü. Avrupa Radyoloji Kongresi’ndeki yakın zamanlı bir sempozyumda, dünya çapında bu konu hakkında gözlenen önemli farklılıklar vurgulandı.

GE Sağlık’ın Yapay Zeka ilkelerine baktığımızda, en fazla ilerlemeyi veya tartışmayı hangi alanda görmek istersiniz?

Dr. Brink: Öncelikle, sağlık hizmeti için Yapay Zeka çözümleri arama sürecinde etik ilkelere sıkı şekilde bağlı kalan GE Sağlık‘ı bu çabalarından dolayı tebrik ediyorum.

Bu ilkelerin tamamı önem teşkil ediyor, ancak en fazla unutulan veya göz ardı edilen ilke “önyargı oluşturmaya veya önyargıların pekiştirilmesine karşı koruma sağlama” ilkesidir. Her bir hasta örneği, tam olarak örneklerin toplandığı hastaların demografisini yansıtacak şekilde tanımlandığından, tüm veri setleri beraberinde bir miktar önyargı getirir. Bu içsel önyargıların anlaşılması ve kontrol altına alınması, Yapay Zekâ araçlarının sağlık sektöründe tarafsız bir şekilde geliştirilmesi ve kullanılması bakımından kritik önem taşıyor.

Organizasyonunuzda görev yapan bir radyoloji şefi olarak, bu yeni Yapay Zekâ dünyasında radyologlarınızın becerilerini nasıl geliştiriyorsunuz veya koşullara nasıl adapte ediyorsunuz?

Dr. Brink: Massachusetts General Hospital ve Brigham Women’s Hospital Klinik Veri Bilimleri Merkezi (CCDS) ile birlikte, veri mühendislerinin ve bilim insanlarının klinik uzmanlar ve pratisyen radyologlarla iş birliği kurduğu bir Yapay Zeka ekosistemi oluşturduk. Yapay Zeka geliştirme süreci tüm paydaşların katılım sağlamasını gerektiriyor. Dolayısıyla, veri mühendisleri ve bilim insanları ile iş birliği kurarak CCDS veya Yapay Zeka olanaklarına sahip diğer radyoloji laboratuvarları aracılığıyla Yapay Zeka gelişim projeleri gerçekleştirmeleri için radyoloji uzmanlarımızı, akademisyenlerimizi ve fakülte üyelerimizi teşvik ediyoruz. Ev sahipliği yaptığımız konferanslar ve diğer öğrenim imkânlarının yanı sıra, bu organik etkileşimler sayesinde radyologlarımız yeterli yetkinliğe ulaşacak ve klinik radyoloji uygulamalarına yönelik Yapay Zeka geliştirme sürecine yön verebilecek.

Sağlık hizmeti sektörünün geleceğini 3 kelime ile özetleyin.

Dr. Brink: Müşteri odaklı, hızlı gelişen, pozitif şekilde yıkıcı…

Yorumlar

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir