Yapay zeka ve veri koruması

Yapay zeka ve veri koruması

Son yıllarda hayatımızın birçok alanına giren yapay zeka tabanlı sistemler, yazılımlar, cihazlar yani yapay zeka uygulamalarının, önümüzdeki dönemde de hayatımızı etkilemeye devam edeceğine ve üzerinde çokça konuşacağımıza kimsenin şüphesi yok sanırım.

Av. Özlem BAYSAL SEZGİN

Yapay zeka çift taraflı bir güce sahip; bir yandan gün be gün yaşam standardımızı artırma, ihtiyaçlarımızı karşılama ve fayda sağlama kapasitesi yani yapıcı gücü karşısında, diğer yandan da doğru yönetilmemesi halinde bir takım potansiyel tehlikeleri yani yıkıcı gücü içinde barındırmakta.

İşte bu sebepledir ki, yapay zekanın tasarımı ve geliştirilmesinde yaklaşım ve hedefin önemi büyük. İnsanlık tarihinde büyük bir değişime sebebiyet verebileceği öngörüldüğünden dikkatli planlanması ve yönetilmesi gerektiği ifade edilmekte.

Doğru yoldan şaşmamak, potansiyel risklerden kaçınmak veya hafifletmek için yapay zekanın tasarımı ve geliştirilmesinin; kendi içinde bir araç olarak görülmemesi, insan refahını arttıracak bir hedef olarak görülmesi için yapay zekaya insan merkezli bir yaklaşım uygulanması gerektiği, yapay zeka uygulamalarının, veri koruma hakkını engellemediği ve zarar vermediğinden emin olunmasının akıldan çıkarılmaması gerektiği çeşitli platformda yüksek sesle dile getirilmekte ve bunların üzerine odaklanan bir yaklaşım için nasıl bir yol izlenmesi gerektiğine dair her geçen gün ulusal stratejiler, bildiriler, rehber ilkeler ardı ardına gelmekte.

Yayınlanan rehber ilkelerin sonuncusu Avrupa Konseyi Kişisel Verilerin Otomatik Olarak İşlenmesine İlişkin Bireylerin Korunması Sözleşmesi Danışma Komitesi tarafından hazırlanan 25 Ocak 2019 tarihli “Yapay Zeka Ve Veri Koruması Rehber İlkeleri” (Guidelines On Artificial Intelligence And Data Protection). [1]

Yapay zeka uygulamalarının tasarlanması ve geliştirilmesi sırasında insan onuru, hakları ve temel özgürlüklerinin zedelenmemesini sağlamak için özellikle veri koruma hakkı konusunda izlenmesi gereken önlemleri belirlemeyi amaçlayan bu rehber ilkeler sırasıyla “Genel rehberlik”, “Geliştiriciler, üreticiler ve servis sağlayıcılar için rehberlik”, “Yasa koyucular ve politika yapıcılar için rehberlik” olmak üzere 3 başlık altında tanımlanmış.

Sözü ilkelere bırakmadan önce son olarak şunu söylemek isterim. Geleceği şekillendirmesi beklenen veriye dayalı tüm trendlerde olduğu gibi, yapay zekanın gelişiminde de kişisel verilerin korunması yönündeki hassasiyet giderek artmakta. Kişisel verinin korunması konusunun sadece yasal bir zorunluk olduğunu düşünmemek gerek. Çünkü gelecekte sadece kişisel veriyi elinde tutan değil aynı zamanda kişisel veriye saygılı olan ve suretle güven telkin eden şirketler kazanacak.

I. Genel rehberlik
1. Bireyler ve toplum üzerinde sonuçları olabilecek yapay zeka uygulamaları geliştirirken ve benimserken insanlık onurunun korunması ve insan haklarının ve temel özgürlüklerin, özellikle kişisel verilerin korunması esastır. Bu özellikle, yapay zeka uygulamaları karar alma süreçlerinde kullanıldığında önemlidir.
2. Kişisel verilerin işlenmesine dayanan yapay zeka gelişimi, Sözleşme 108+[2] ilkelerine dayanmalıdır. Bu yaklaşımın ana unsurları: hukukilik, adillik, amacın sınırlı olması, veri işlemede ölçülülük, tasarımdan ve başlangıçtan itibaren veri koruması, sorumluluk ve uygunluk gösterimi (hesap verebilirlik), şeffaflık, veri güvenliği ve risk yönetimidir.
3. Kişisel verilerin işlenmesinin potansiyel risklerinden kaçınılması ve hafifletilmesi üzerine odaklanan bir yaklaşım, yapay zeka alanında sorumlu bir inovasyonun gerekli bir unsurudur.
4. 2017’de 108 sayılı Sözleşme Komitesi tarafından kabul edilen Büyük Veri Rehberinde [3] sunulan risk değerlendirmesi önerilerine uygun olarak, veri işlemenin olası sonuçlarına dair daha geniş bir bakış açısı benimsenmelidir. Bu görüş yalnızca insan haklarını ve temel özgürlükleri değil, aynı zamanda demokrasilerin işleyişini ve sosyal ve etik değerleri de göz önünde bulundurmalıdır.
5. Yapay zeka başvuruları, özellikle de Sözleşme 108+’in 9. maddesi ışığında, veri sahibinin haklarına her zaman tam olarak saygı göstermelidir.
6. Yapay zeka uygulamaları, veri sahiplerine, veri işleme ve bireyler ve toplum üzerindeki etkileri konusunda anlamlı bir kontrol sağlanmasına izin vermelidir.

II) Geliştiriciler, üreticiler ve servis sağlayıcılar için rehberlik
1. Yapay zeka geliştiricileri, üreticileri ve servis sağlayıcıları, ürün ve hizmetlerinin tasarımında, 108+ Sözleşmesi ile, özellikle de madde 10.2 ile ve Avrupa Konseyinin diğer araçları ile tutarlı olarak değer odaklı bir yaklaşım benimsemelidir.
2. Yapay zeka geliştiricileri, üreticileri ve servis sağlayıcıları yapay zeka uygulamalarının insan hakları ve temel özgürlükler üzerindeki olası olumsuz sonuçlarını değerlendirmeli ve bu sonuçları göz önünde bulundurarak uygun risk önleme ve azaltma önlemlerine dayalı bir ihtiyati yaklaşım benimsemelidir.
3. Veri toplama dahil, işlemin tüm aşamalarında, yapay zeka geliştiricileri, üreticileri ve servis sağlayıcıları, bir insan hakları yanlısı tasarım yaklaşımı benimsemeli ve kasıtsız veya gizli olanlar dahil, oluşabilecek potansiyel önyargılardan ve ayrımcılık veya insan hakları ve veri sahiplerinin temel özgürlükleri üzerindeki diğer olumsuz etkilerden kaçınılmalıdır.
4. Yapay zeka geliştiricileri, kullanılan kişisel verilerin kalitesini, niteliğini, kökenini ve miktarını eleştirel olarak değerlendirmeli, geliştirme ve eğitim fazları sırasında gereksiz, ihtiyaç fazlası veya marjinal verileri azaltmalı ve ardından modelin doğruluğunu yeni verilerle besleyerek izlemelidir. Yapay verilerin kullanımı yapay zeka uygulamaları tarafından işlenen kişisel veri miktarını en aza indirmek için olası bir çözüm olarak düşünülebilir.
5. Bağlamsız veriler ve bağlamsız algoritmik modeller nedeniyle bireyler ve toplum üzerindeki olumsuz etki riski yapay zeka uygulamalarının geliştirilmesinde ve kullanımında yeterince dikkate alınmalıdır.
6. Yapay zeka geliştiricileri, üreticileri ve servis sağlayıcıları, çeşitli alanlarda bağımsız uzman komiteleri kurmaları ve onlara danışmaları, ayrıca insan hakları temelli ve etik ve sosyal yönelimli yapay zaka uygulamaları tasarlamaya ve potansiyel önyargıların tespit edilmesine katkıda bulunabilecek bağımsız akademik kurumlarla iletişim kurmaları için teşvik edilmektedir. Bu tür komiteler, şeffaflık ve paydaş katılımının, öngörücü adalet, suç önleme ve tespit alanlarında olduğu gibi rekabet eden çıkarlar ve haklar nedeniyle daha zor olabileceği alanlarda özellikle önemli bir rol oynayabilir.
7. Yapay zeka uygulamalarından potansiyel olarak etkilenen bireylerin ve grupların aktif katılımına dayanan katılımcı risk değerlendirme biçimleri teşvik edilmelidir.
8. Tüm ürün ve hizmetler, bireylerin görüşleri dikkate alınmadan yalnızca otomatik işlemeyi esas alan, önemli ölçüde onları etkileyen bir karara tabi olmamalarını ve bireylerin haklarını sağlayacak şekilde tasarlanmalıdır.
9. Kullanıcıların güvenini artırmak için, yapay zeka geliştiricileri, üreticileri ve servis sağlayıcıları, yapay zekaya alternatif uygulamalar sunarak, kullanıcıların yapay zeka hizmetlerine göre seçim yapma özgürlüğünü güvence altına alacak şekilde ürünlerini ve hizmetlerini tasarlamaları teşvik edilir.
10. Yapay zeka geliştiricileri, üreticileri ve servis sağlayıcıları veri koruma ve insan hakları hukuku ve ilkelerine uygunluğun sağlanması için, bu uygulamaların tüm yaşam döngüsü boyunca ilgili tüm paydaşların hesap verebilirliğini teşvik eden algoritma biçimlerini benimsemelidir.
11. Bir yapay zeka uygulamasıyla etkileşime giriyorlarsa ve kendilerine uygulanan veri işleme operasyonlarının gerekçeleri hakkında bilgi edinme hakları varsa, veri sahiplerine bilgi verilmelidir.
12. Bireylerin görüşlerini ve kişisel gelişimlerini etkileyen teknolojilere dayalı işlemlerle ilgili olarak itiraz etme hakkı sağlanmalıdır.

III) Yasa koyucular ve politika yapıcılar için rehberlik
1. Hesap verebilirlik ilkesine saygı duymak, risk değerlendirme prosedürlerinin benimsenmesi ve davranış kuralları ve sertifikalandırma mekanizmaları gibi diğer uygun önlemlerin uygulanması yapay zeka ürünlerine ve hizmetlerine duyulan güveni artırabilir.
2. Yasalarla korunan gizliliğe halel getirmeksizin, kamu ihale prosedürleri, yapay zeka geliştiricilerine, üreticilerine ve hizmet sağlayıcılarına belirli şeffaflık görevlerini, veri işlemenin insan hakları ve temel özgürlükler üzerindeki etkisini önceden değerlendirme ve yapay zeka uygulamalarının olası olumsuz etkileri ve sonuçlarına dair farkındalığı (bundan sonra algoritma farkındalığı olarak anılacaktır) oluşturma yükümlülüğü getirmelidir.
3. Denetim otoritelerine yapay zeka geliştiricileri, üreticileri ve servis sağlayıcılarının algoritma farkındalığı programlarını desteklemek ve izlemek için yeterli kaynak sağlanmalıdır.
4. Yapay zeka uygulamaları tarafından sağlanan çözümlere aşırı güven ve yapay zeka uygulamaları tarafından önerilen kararlara karşı çıkmanın zorluğu, karar alma süreçlerinde insan müdahalesinin özerkliğini değiştirme riski taşımaktadır. Bu nedenle, karar alma süreçlerinde insan müdahalesinin rolü ve insani karar vericilerin yapay zeka kullanarak sunulan önerilerin sonucuna güvenmeme özgürlüğü korunmalıdır.
5. Yapay zeka geliştiricileri, üreticileri ve servis sağlayıcıları, yapay zeka uygulamaları insan haklarını ve veri sahiplerinin temel özgürlüklerini önemli ölçüde etkileme potansiyeline sahip olduğunda denetim otoritelerine danışmalıdır.
6. Veri koruması denetleme makamları ve yapay zeka ile ilgili yeterliliği olan diğer kuruluşlar arasında işbirliği teşvik edilmelidir, örneğin: tüketicinin korunması; rekabet; ayrımcılıkla mücadele; sektör düzenleyicileri ve medya düzenleyici makamları.
7. Bölüm II.6’da belirtilen uzman komitelerinin bağımsızlığını sağlamak için uygun mekanizmalar uygulanmalıdır.
8. Bireyler, gruplar ve diğer paydaşlar bilgilendirilmeli ve yapay zekanın sosyal dinamikleri şekillendirmede ve onları etkileyen karar alma süreçlerinde oynayacakları rolün tartışılmasında aktif olarak yer almalıdır.
9. Politika yapıcılar, veri sahiplerinin yapay zeka uygulamalarını ve etkilerini anlama konusundaki farkındalıklarını ve anlayışlarını arttırmak için dijital okuryazarlık ve eğitim kaynaklarına yatırım yapmalıdır. Ayrıca, yapay zeka geliştiricileri için yapay zekanın bireyler ve toplum üzerindeki potansiyel etkileri konusunda farkındalık ve anlayış geliştirmek için mesleki eğitimi teşvik etmelidirler. İnsan hakları odaklı yapay zeka araştırmalarını desteklemelidirler.

[1] https://rm.coe.int/guidelines-on-artificial-intelligence-and-data-protection/168091f9d8

[2] https://www.coe.int/en/web/conventions/full-list/-/conventions/treaty/223

[3] https://rm.coe.int/t-pd-2017-1-bigdataguidelines-en/16806f06d0

Categories: GÖRÜŞLER

About Author

Write a Comment

Your e-mail address will not be published.
Required fields are marked*