Yapay zeka ajanı Avustralya hükümetinin sistemine sızdı

Avustralya Başbakanı Anthony Albanese yapay zeka şirketi OpenAI’a ait otonom bir yapay zeka ajanının Avustralya hükümetinin sağlık verileri portalına sızdığını bildirdi. Olay, yapay zekanın bir devlet sistemine yönelik bilinen ilk siber saldırı vakası olarak kayıtlara geçti.

Albanese Perşembe günü New York’ta gazetecilere yaptığı açıklamada, olayın Haziran ayında meydana geldiğini belirterek, otonom bir OpenAI programının Avustralya’nın kamu tarafından finanse edilen genel sağlık sigortası sistemi Medicare’in istatistik raporlama portalındaki hem “kamuya açık hem de kamuya açık olmayan” dosyalara eriştiğini söyledi.

Mevcut bulguların daha geniş çaplı bir sızıntıya işaret etmediğini belirten Albanese, “Bununla birlikte bu durumun kabul edilemez olduğu açık” ifadelerini kullandı.

OpenAI, Avustralya’yı olaydan üç ay sonra bilgilendirdi
Albanese ayrıca olayla ilgili Avustralya’nın “son derece ciddi kaygılarını” iletmek üzere OpenAI CEO’su Sam Altman ile görüştüğünü açıkladı.

Avustralya Başbakanı, şirketin sızıntıya ilişkin kendilerini 10 Eylül’de, olaydan üç ay sonra kamuya açık bir e-posta adresine gönderdiği mesaj yoluyla bilgilendirdiğini belirtti. Albanese, Altman’a vakaya ilişkin bilgilendirmenin bu denli uzun sürmesinden dolayı yaşadıkları hayal kırıklığını da ifade ettiğini aktardı. Avustralya Başbakanı bildirimin yapılma şeklini de “kabul edilemez” olarak nitelendirdi.

Başbakan, güvenlik ihlaliyle ilgili başlatılacak soruşturmada OpenAI hakkında cezai işlem uygulanıp uygulanamayacağının yanı sıra, Avustralya güvenlik kurumlarının ihlali nasıl gözden kaçırdığının da inceleneceğini belirtti.

Olay sırasında herhangi bir kişisel veriye erişildiğine dair bulgu olmadığını belirten Albanese, “OpenAI’ın daha iyi güvenlik protokolleri oluşturması gerektiğinin farkında olduğu kanısındayım. Üstelik kendileri de mevcut riskler konusunda uyarıda bulunan şirketlerden biri” diye konuştu.

İhlal nasıl gerçekleşti?
Güvenlik ihlalinin, OpenAI’ın yapay zeka modellerinin performansını değerlendirmek amacıyla yürüttüğü eğitim testleri sırasında meydana geldiği kaydedildi. Hükümet Hizmetleri Bakanı Katy Gallagher, OpenAI’ın modelden Avustralya hükümetinin ilaçlara ne kadar harcama yaptığını gösteren verileri internette aramasını istediğini söyledi.

Gallagher, olayın ardından söz konusu portalın kapatıldığını ve verilerin daha güvenli sistemlere taşındığını açıkladı.

ChatGPT’nin geliştiricisi OpenAI ise yaptığı açıklamada, güvenlik ihlalini yapay zeka araçlarına yönelik “kapsamlı bir inceleme” sırasında tespit ettiğini belirterek, “Modellerimiz bizim öngörmediğimiz eylemlerde bulundu” ifadesini kullandı.

Yapay zekada “dönüm noktası” uyarısı
Birleşmiş Milletler Güvenlik Konseyi de Çarşamba günü yapay zekânın uluslararası güvenlik üzerindeki etkilerini ele almak üzere toplandı.

Fransa’nın çağrısıyla düzenlenen oturumda konuşan Altman, bu teknoloji hızla gelişirken dünyanın karşı karşıya olduğu yapay zeka kaynaklı riskler konusunda uyarılarda bulunarak bir “dönüm noktasına” işaret etti.

Yapay zeka gelişiminde içinde bulunulan dönemin “olağanüstü bir dikkat” gerektirdiğini kaydeden Altman, “Önümüzde bir tercih duruyor: Yapay zeka yaratıcılık ve keşfin yeni Rönesans’ı gibi olabilir ya da çalkantı ve düzensizliği beraberinde getiren yeni bir sanayi devrimine evrilebilir” şeklinde konuştu.

Küresel iş birliği talebi
Oturumda konuşan Anthropic CEO’su Dario Amodei ise yapay zekanın halihazırda dünyanın karşı karşıya olduğu en büyük güvenlik sorunu olduğunu dile getirdi.

“İyi yönetilmezse yapay zekanın tüm insanlık için bir risk oluşturabileceğine inanıyorum” diyen Amodei, yapay zekanın biyolojik silahlar geliştirilmek için kullanılmasına yönelik bir yasağın devreye sokulmasını ve yeni yapay zeka modellerinin test süreçleri için küresel standartların oluşturulmasını talep etti.

New York’ta 15 üyeli Konsey’e hitap eden Anthropic CEO’su, “Bu salondaki insanlar arasındaki tüm farklılıklara rağmen, hem küresel ölçekteki bu fırsatı değerlendirebilmek hem de diğer yandan var olan küresel tehditle mücadele edebilmek için bu farklılıkları bir kenara bırakmalıyız” dedi.

Amodei, “hiçbir devlet başkanı, hiçbir şirket ve hiçbir ülkenin bunun üstesinden tek başına gelemeyeceğini” savundu.

Trump’ın rekabet kaygısı
Temmuz ayında OpenAI’ın bir yapay zeka modelinin, bir test sırasında güvenli ortamdan çıkarak beklenmedik biçimde Hugging Face adlı yapay zeka iş birliği platformunun bilgisayar sistemlerine sızdığı açıklanmıştı. Söz konusu olay yapay zeka geliştiricilerinin teknolojinin taşıdığı risklere ilişkin kaygılarını yeniden gündeme getirdi.

Olayın ardından OpenAI ve Anthropic’in de aralarında bulunduğu önde gelen ABD’li yapay zeka şirketleri, teknolojinin geliştirilme hızını yavaşlatmaya hazır olduklarını açıkladı.

Son yıllarda yapay zekanın geliştirilmesinin taşıdığı riskler konusunda defalarca uyarıda bulunan Anthropic CEO’su Amodei ise bu nedenle zaman zaman sektörden sert eleştiriler aldı.

Özellikle ABD’de, Çin’le yapay zeka alanındaki üstünlük yarışı gerekçe gösterilerek teknolojinin gelişiminin yavaşlatılmasına karşı çıkanlar bulunuyor. ABD Başkanı Donald Trump da bu yaklaşımı destekliyor.|DW