KVKK'dan uyarı: Ticari sır ve kişisel veri riski büyüyor

Nagihan KALSIN

 Kişisel Verileri Koruma Kurumu (KVKK), iş yer­lerinde üretken yapay zekâ araçlarının kullanımına iliş­kin risklere dikkat çekmek ama­cıyla ‘İş Yerlerinde Üretken Yapay Zekâ Araçlarının Kullanımı’ baş­lıklı bir rehber yayımladı.

Rehber­de, çalışanların kurum bilgisi ve­ya onayı dışında kullandığı ‘göl­ge yapay zekâ’ uygulamalarının veri güvenliği, ticari sırların ko­runması ve kişisel verilerin işlen­mesi açısından önemli riskler do­ğurabileceği vurgulandı. KVKK tarafından hazırlanan rehberde üretken yapay zekâ araçlarının iş süreçlerinde hız ve verimlilik sağ­ladığı, farklı sektörlerde iş yapış biçimlerini değiştirdiği ancak bu teknolojilerin kurumsal kullanı­mında hukuki ve teknik sorumlu­lukların göz önünde bulundurul­ması gerektiği ifade edildi.

İş yerlerinde üretken yapay zekâ araçları özellikle e-posta tas­laklarının hazırlanması, belge­lerin özetlenmesi, toplantı not­larının çıkarılması ve araştırma süreçlerinin desteklenmesi gibi günlük iş akışlarında çalışanlara kolaylık sağlıyor. Hızlı çıktı üret­me kapasitesi ve kullanım kolay­lığı çalışanların bu teknolojileri iş süreçlerine daha fazla entegre et­mesine yol açıyor.

Kontrol dışı kullanıma dikkat çekildi

Rehberde özellikle ‘gölge yapay zekâ’ olarak adlandırılan kontrol dışı kullanım biçimlerine dikkat çekildi. Bu kavram, üretken yapay zekâ araçlarının kurumun bilgisi veya onayı dışında çalışanlar ta­rafından iş süreçlerinde kullanıl­masını ifade ediyor. Bu tür kulla­nımlarda hangi araçların kullanıl­dığı ve hangi verilerin paylaşıldığı konusunda kurumların yeterli gö­rünürlüğe sahip olmaması riskle­ri artırabiliyor. Kurumsal değer­lendirme süreçlerinden geçme­den kullanılan sistemlerin hatalı veya yanıltıcı çıktılar üretmesi de iş süreçlerinde yanlış kararlar alınmasına neden olabiliyor.

Ticari sır bilgiler için risk

Rehberde ticari sır niteliğindeki bilgilerin veya rekabet açısından hassas verilerin harici yapay zekâ araçlarıyla paylaşılmasının fikri mülkiyet açısından risk oluştura­bileceği belirtildi. Kaynak kodla­rı, ürün tasarımları veya iş strate­jileri gibi bilgilerin üçüncü taraf platformlarla paylaşılması duru­munda bu verilerin kurum kont­rolü dışında işlenebileceği uyarı­sı yapıldı.

KVKK, üretken yapay zekâ araçlarının tamamen yasak­lanmasının pratikte etkili olma­yabileceğine dikkat çekti. Rehbe­re göre yasaklayıcı politikalar ça­lışanların bu araçları kurumsal kontrol dışında kullanmasına yol açabiliyor. Bu nedenle kurumla­rın açık yapay zekâ kullanım poli­tikaları oluşturması, hangi verile­rin paylaşılabileceğini belirleme­si ve çalışanlara yönelik eğitim ile farkındalık çalışmaları yürütmesi gerektiği ifade edildi.

Son kararda insan denetimi

 Rehberde yapay zekâ sistemlerinin ürettiği çıktılara aşırı güven duyulmasının da risk oluşturabileceğine dikkat çekildi. “Otomasyon ön yargısı” olarak tanımlanan bu durumun kullanıcıların otomatik sistemlerin sonuçlarını yeterli değerlendirme yapmadan doğru kabul etmesine yol açabileceği belirtildi.

Yapay zekâ araçlarının sunduğu çıktılara nihai kararların dayanağı olarak yaklaşılmaması, bu içeriklerin insan denetimi altında destekleyici unsur olarak değerlendirilmesi gerektiği ifade edildi. Rehberde, yapay zekâ araçlarının etik ve sorumlu bir yaklaşımla kullanılması halinde hem verimlilik avantajlarının korunabileceği hem de veri güvenliği ile hukuki risklerin daha etkin yönetilebileceği vurgulandı.