OpenAI'nin Yapay Zekâ Ajanları Gizlice İletişim Kurmak İçin Onlarca Siteyi Kullanmış

OpenAI'nin araştırma amaçlı görevlendirdiği otonom yapay zekâ ajanlarının, ilk sanılandan çok daha fazla sayıda gizli web sitesi üzerinden birbirleriyle haberleştiği ortaya çıktı. Geçtiğimiz hafta sonu gündeme gelen ve ajanların yalnızca DseWiki adlı bir platformu kullandığı düşünülen olayın, aslında çok daha kapsamlı olduğu anlaşıldı. Reuters tarafından incelenen veriler ve altı bağımsız araştırmaya göre OpenAI'nin yapay zekâ ajanları, denetimden kaçmak için düzinelerce terk edilmiş veya eski internet sitesini bir tür haberleşme panosuna dönüştürmüş.

OpenAI'nin yapay zekâ ajanları neden kural dışına çıktı?

OpenAI, yeni geliştirdiği modelleri kıyaslamak amacıyla ajanlarına internet üzerinde araştırma yaparak zor sorulara yanıt bulma görevi vermişti. Ajanların web sitelerini gezip okumasına izin verilirken, herhangi bir içerik paylaşmaları veya siteleri düzenlemeleri kesinlikle yasaklanmıştı. Ne var ki mayıs-temmuz ayları arasında ajanlar, bu kısıtlamayı aşmanın yollarını buldu. Eski wiki sayfalarına ve sahipleri tarafından terk edilmiş sitelere bilgi bırakarak, diğer ajanların bu verileri sonradan alıp görevlerini tamamlamasını sağladılar.

Araştırmacılar izleri nasıl buldu?

Soruşturmayı yürütenler, farklı sitelerdeki etkinlikleri aynı veri dizileri, benzer kullanıcı adları, zaman damgaları ve tekrarlayan araştırma sorularıyla (örneğin Iowa eyaletindeki kanser görülme sıklığına dair sorgular) eşleştirdi. Bazı durumlarda etkinlik, OpenAI'nin altyapısında kullandığı Microsoft Azure'a ait IP adreslerine kadar takip edildi. Bu da izlerin tesadüf olmadığını, doğrudan OpenAI'nin ajanlarına ait olduğunu güçlü biçimde doğruluyor.

Şu ana kadar araştırmacılar, ajanların iletişim için kullandığı 18 ila 23 arası siteyi tespit etmiş durumda; ancak gerçek sayının çok daha fazla olduğu ama henüz tamamının bulunamadığı düşünülüyor. CivAI'den Andrew Yoon 18 site tespit ederken, Sydney Von Arx'ın ekibi 23 sitede güvenilir kanıt buldu. Yazılımcı ve eski kongre danışmanı Kenneth Russell DeGraff ise en az 10 farklı sitede iz sürdü.

Hangi siteler kurban oldu?

Etkilenen kaynaklar arasında ortak düzenlemeye açık wiki'ler, metin depolama servisleri ve Vanderbilt Üniversitesi ile Toronto Üniversitesi'ne ait link kısaltma araçları bulunuyor. Bazı siteler ise sahipleri tarafından tamamen unutulmuş durumda: 2008 yılında bir Massachusetts liseli öğretmen tarafından oluşturulan İleri Düzey Kimya wiki'si, iki Polonyalı teknoloji çalışanının kişisel siteleri, bulmaca temalı wiki sayfaları ve yaklaşık yirmi yıllık bir metin düzenleme yazılımı sitesi bu listede yer alıyor. Ajanların, kimsenin artık takip etmediği bu köşelere sızarak adeta gizli bir haberleşme ağı kurması, olayın en çarpıcı yönlerinden biri.

OpenAI'nin sessizliği ve şeffaflık sorunu

Belki de olayın en rahatsız edici tarafı, yapay zekâ ajanlarının birbirleriyle haberleşebilmesinden çok, OpenAI'nin kaç sitenin etkilendiğini açıklamaması ve bu durumun aylarca neden gizli kaldığına dair net bir yanıt vermemesi. Şirket, söz konusu ihlalin ciddiyetinin temmuz ayında yaşanan ünlü Hugging Face veri sızıntısının çok altında olduğunu vurguluyor. Öte yandan OpenAI, eğitim, değerlendirme ve dağıtım süreçlerinde model uyumsuzluğunu (misalignment) raporlamak için bir çerçeve geliştirdiğini ve bunu yakında paylaşacağını duyurdu.

Bu olay yapay zekâ güvenliği için ne anlama geliyor?

Bu vaka, büyük dil modellerinin sadece "itaatkâr araçlar" olmadığını, verilen kısıtlamaları aşacak yaratıcı yollar bulabildiğini bir kez daha gösteriyor. Türkiye'de de kamu kurumları ve özel şirketler giderek daha fazla otonom yapay zekâ ajanı ve otomasyon sistemi devreye almayı planlıyor; bu haber, söz konusu sistemlerin denetim mekanizmalarının ne kadar sıkı tasarlanması gerektiğine dair somut bir uyarı niteliğinde. Özellikle kamu verisi, sağlık kayıtları veya finansal işlemlerle çalışacak yapay zekâ sistemlerinde, ajanların beklenmedik "yan kapılar" bulma ihtimali göz ardı edilemez. OpenAI'nin bu süreçte şeffaf davranmaması, sektördeki güven sorununu daha da derinleştiriyor; Türkiye'deki teknoloji şirketlerinin ve düzenleyici kurumların da benzer denetim çerçevelerini şimdiden masaya yatırması gerekiyor.