Yapay zekâ sistemleri sıkı denetim altına alınmalı mı?

Algoritmalar güvenlik bariyerlerini aşarak dijital güvenlik açıklarından kendi başlarına yararlanmaya başladığında, bu artık yalnızca geleceğe ilişkin bir senaryo değil. 

Meta, OpenAI ve Anthropic gibi önde gelen ABD’li teknoloji şirketleri, son dönemde gerçekleştirdikleri testlerde dil modellerinin otonom saldırı ve siber korsanlık yetenekleri sergilediğini kabul etmek zorunda kaldı. Bu gelişmeler, yapay zekânın kontrol edilemeyen risklerine ilişkin endişeleri yeniden gündeme taşıdı. 

Bu nedenle siyaset dünyasında ve dijital ekonomi sektöründe temel bir tartışma başladı: Gönüllü taahhütler ve Avrupa Birliği’nin Yapay Zekâ Yasası (AI Act) yeterli mi? Yoksa yapay zekâ çok daha sıkı kurallara mı bağlanmalı? 

İşte daha sıkı düzenleme lehindeki ve aleyhindeki görüşler: 

Üreticiler sorumlu tutulmalı 

Sivil haklar savunucularına göre yapay zekâ sistemlerinde geliştiricilerin sorumluluğu hâlâ açık ve net biçimde belirlenmiş değil. 

Dijital Haklar ve Demokrasi Merkezi yöneticisi Markus Beckedahl, otomobil ve ilaç sektörlerini örnek göstererek şöyle diyor: 

“Araba veya ilaç söz konusu olduğunda bu konu çoktan çözüldü: Ürünü üreten, ortaya çıkan zarardan sorumludur. Yapay zekâ sistemlerinde ise sağlayıcılar sanki bunun hâlâ tartışmaya açık olduğunu düşünüyor.” 

Beckedahl’a göre şirketlerin, yazılımlarının hatalı davranışları karşısında “öngörülemeyen etkileri” gerekçe göstermesi sorumsuzluk. 

“Bu kadar karmaşık sistemler geliştirenler, onları kontrol edebilmek zorunda” diyen Beckedahl, güvenlik önlemlerinin yetersizliği nedeniyle bir yapay zekânın kontrolden çıkması durumunda şirket yöneticilerinin de kişisel olarak sorumluluk üstlenmesi gerektiğini savunuyor. 

Uyarılar yapay zekâ şirketlerinin içinden geliyor 

Sıkı düzenleme çağrısı artık önde gelen yapay zekâ laboratuvarlarının içinden de yükseliyor. 

OpenAI, Anthropic, Google ve Meta’da çalışan 1.100’den fazla araştırmacı ve çalışan, “Pacing the Frontier” başlıklı açık mektupta yapay zekâ geliştirme hızının kontrol edilemez bir noktaya doğru ilerleyebileceği konusunda uyarıda bulundu. 

Mektubu imzalayanlara göre şirketler arasındaki yoğun rekabet, hiçbir şirketin kendi isteğiyle gelişme hızını yavaşlatmasına izin vermiyor. 

Bu nedenle araştırmacılar ABD Kongresi ve uluslararası siyasetten yardım istiyor. Özellikle otonom yapay zekâ araştırmalarının geliştirilmesinin gerektiğinde devlet tarafından kontrollü biçimde yavaşlatılmasını sağlayacak yasal araçların oluşturulmasını talep ediyorlar. 

Temel hakların korunması 

Alman sivil haklar kuruluşu AlgorithmWatch da siyasetin sorumluluk üstlenmesi gerektiğini savunuyor ve AB’yi hareketsiz kalmakla eleştiriyor. 

AlgorithmWatch Teknoloji Araştırmaları Başkanı Oliver Marsh, şirketlerin ve yasa koyucuların tutumunu eleştirerek, şirketlerin yapay zekâ sistemlerini kullanmalarından kaynaklanan tehlike ve zararlardan neredeyse hiç sorumlu tutulmamasını “skandal” olarak nitelendiriyor. 

Marsh’a göre AB fazla tavizkâr davranıyor. Hükümetlerin, yapay zekânın kullanımının tehlikeli hale gelmesini önleyecek yasal düzenlemeler oluşturması veya mevcut kuralları güçlendirmesi gerekiyor. 

Bunu yaparken hükümetlerin teknoloji şirketlerinin yöneticilerinden etkilenmemesi gerektiği de vurgulanıyor. 

Daha sıkı düzenlemeye karşı görüşler 

Avrupa’nın rekabet gücü zayıflamasın 

Almanya ve Avrupa’da daha sıkı yapay zekâ düzenlemeleri tartışılırken, konu her zaman yapay zekâ için net güvenlik sınırlarının belirlenmesiyle sınırlı değil. Aynı zamanda Avrupa’nın teknolojik rekabette dezavantajlı duruma düşme riski de tartışılıyor. 

Avrupa’da aşırı erken ve katı düzenlemelerin en önde gelen eleştirmenlerinden biri Fransa Cumhurbaşkanı. 

Fransız lider, Avrupa’nın yapay zekâ yasasının Fransız girişimi Mistral AI gibi yenilikçi şirketleri ABD ve Çin’deki rakiplerine kıyasla ciddi biçimde yavaşlatabileceği konusunda defalarca uyarıda bulundu. 

Yeniliklerin önünü kesme riski 

Sektör kuruluşu Bitkom da dijital ekonominin aşırı düzenlenmesine karşı uyarıyor. 

Kuruluş, katı bürokratik engellerin ve belirsiz kuralların şirketlerde güvensizlik yarattığını ve kullanılabilir yapay zekâ uygulamalarının geliştirilmesini yavaşlattığını belirtiyor. 

ABD ve Çin’in teknoloji alanındaki mevcut üstünlüğüne dikkat çeken Bitkom’a göre daha sıkı kuralların Avrupa’nın küresel teknoloji yarışında tamamen geride kalmasına yol açma riski bulunuyor. 

Düzenleme çağrısı bir strateji mi? 

Bazı teknoloji şirketlerinin yöneticilerinin kendilerinin sıkı düzenleme çağrısı yapması da şüpheyle karşılanıyor. 

Örneğin OpenAI CEO’su Sam Altman, son dönemde son derece güçlü yapay zekâ sistemleri için devlet tarafından lisanslama ve denetim kurumları oluşturulmasını defalarca savundu. 

Ancak eleştirmenler, bu çağrının aynı zamanda stratejik bir hamle olabileceğini düşünüyor. 

Çünkü çok yüksek lisans koşulları ve pahalı güvenlik testleri, büyük teknoloji şirketleri tarafından kolaylıkla karşılanabilirken, küçük rakipler, Avrupa’daki orta ölçekli şirketler ve açık kaynak projeleri açısından faaliyetlerini sürdürmeyi imkânsız hale getirebilir. 

Bu nedenle aşırı yasal düzenlemeler, aslında kontrol edilmek istenen teknoloji tekellerini daha da güçlendirebilir. 

İşleyen bir özdenetim mümkün mü? 

Teknoloji şirketleri ise otonom siber saldırı girişimleri gibi gelişmelerin, kendi bünyelerinde gerçekleştirdikleri güvenlik testleri ve “Red Teaming” çalışmaları sayesinde ortaya çıkarıldığını belirtiyor. 

Şirketlere göre bu durum, mevcut güvenlik mekanizmalarının çalıştığını gösteriyor. 

Savunulan görüşe göre yapay zekâ modellerinin geliştirilmesini genel olarak kısıtlamak, siber güvenlik araştırmacılarının yeni dijital tehditlere karşı savunma sistemleri geliştirmek için ihtiyaç duyduğu araçlardan mahrum kalmasına neden olabilir. 

Bu nedenle tartışmanın merkezindeki soru şu: 

Yapay zekâyı güvenli hale getirmek için daha fazla devlet denetimine mi ihtiyaç var, yoksa sektörün kendi güvenlik mekanizmaları ve mevcut düzenlemeler yeterli mi?| ©DerVirgül