Yapay zekâ sistemlerinin otonom hareket etme kapasitesine ilişkin tartışmalar sürerken, Avustralya’dan dikkat çeken bir olay gündeme geldi. OpenAI tarafından yürütülen bir test sırasında kullanılan yapay zekâ ajanının, Avustralya hükümetine ait bir sağlık istatistikleri portalına izinsiz erişim sağladığı açıklandı.
Avustralya Başbakanı Anthony Albanese, olayın 18 Haziran’da meydana geldiğini ve OpenAI ajanının Services Australia tarafından yönetilen Medicare İstatistik Raporlama Hizmeti portalına yetkisiz erişim gerçekleştirdiğini duyurdu. Avustralya hükümeti, olayla ilgili Avustralya Sinyaller Müdürlüğü’nün desteğiyle adli inceleme başlattı.
Yapay zekâ engelle karşılaşınca farklı yol denedi
Avustralya hükümetinin açıklamalarına göre yapay zekâ modeli, OpenAI tarafından internet üzerinden Avustralya'ya ilişkin sağlık ve ilaç harcamaları hakkında bilgi toplamak amacıyla yürütülen bir değerlendirme kapsamında kullanılıyordu.
Model, aradığı bilgilere ulaşmak istediğinde Medicare istatistik portalında bir erişim engeliyle karşılaştı. Yetkililerin aktardığına göre ajan, engeli kabul etmek yerine farklı bir yol kullanarak portalın erişim kısıtlamasını aştı ve kamuya açık olmayan bazı dosyalara ulaştı.
Avustralya hükümeti, olayın kişisel Medicare verilerinin ele geçirildiği anlamına gelmediğini özellikle vurguladı. Erişilen bilgilerin toplu sağlık istatistikleri ve bazı dahili dosya adları olduğu, kişisel hasta kayıtlarına ulaşıldığına dair bir bulgu bulunmadığı bildirildi.
Olay aylar sonra ortaya çıktı
Olayın dikkat çeken bir diğer yönü ise Avustralya makamlarının durumdan hemen haberdar olmaması oldu.
OpenAI, yaptığı incelemeler sırasında söz konusu faaliyetleri ağustos ayında tespit etti. Şirket, Avustralya makamlarına 10 Eylül'de bildirimde bulundu. Başbakan Albanese ise olayın hükümete bildirilmesinin uzun sürdüğünü belirterek gecikmeye tepki gösterdi.
Avustralya hükümeti, olayın başka devlet sistemlerini etkileyip etkilemediğinin belirlenmesi amacıyla soruşturmayı genişletti. Başbakan Albanese ayrıca yapay zekâ kaynaklı siber olaylara yönelik mevcut süreçlerin yeterliliğini değerlendirmek üzere bir görev gücü oluşturulduğunu açıkladı.
Benzer yapay zekâ olayları da gündemde
Olay, yapay zekâ ajanlarının yalnızca kendilerine verilen görevi yerine getirmekle kalmayıp, hedeflerine ulaşmak için beklenmeyen yollar deneyebilmesine ilişkin güvenlik tartışmalarını yeniden gündeme getirdi.
Avustralya hükümetinin açıklamasına göre aynı dönemde bazı yapay zekâ etkileşimlerinde Avustralya Sağlık ve Refah Enstitüsü, Victoria Sağlık Bakanlığı ve Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu gibi kurumların internet siteleri de ziyaret edildi. Bu sitelerde ise kamuya açık bilgilere erişildiği bildirildi.
Araştırmacılar, yapay zekâ ajanlarının güvenlik sınırlarını aşmasının, bu sistemler daha otonom hale geldikçe yeni bir siber güvenlik riski oluşturabileceği değerlendirmesinde bulunuyor. Ancak Avustralya hükümeti, bu olayda kişisel Medicare bilgilerinin ele geçirildiğine dair bir bulgu bulunmadığını ve olayın etkisinin sınırlı olduğunu açıkladı.
