OpenAI Daybreak Red Team ve Defense Factory'yi Tanıttı: Yapay Zekâ ile Sızma Testi ve Otomatik Yama

Daybreak Red Team tanıtıldı. OpenAI, 12 Kasım Perşembe günü yaptığı bir konuşmada Daybreak güvenlik platformunun iki yeni ürününü duyurdu: web uygulamalarını sızma testine tabi tutan Daybreak Red Team ve açıkları bulup yama üreten Daybreak Defense Factory. The Register'a göre OpenAI Başkanı Greg Brockman, şirketlerin artık "yalnızca savunmada kullandıkları öncü modelin gücü ve onu ne kadar iyi kullandıkları ölçüsünde güvende olacağını" söyledi.

Daybreak Red Team ne yapıyor?

Erken erişimdeki Red Team, OpenAI modellerini kullanarak şirketlerin web uygulamalarında güvenlik açığı arıyor. Siber odaklı uygulamalı yapay zekâ ekibini yöneten Nancy Wang, ürünü "otomatik, sürekli taramanın ölçeğinde süper insan düzeyinde sızma testi" olarak tanımladı. Kaynak kodunu ve uygulama bağlamını kullanan bir ajan filosu, saldırı yollarını araştırıp test ediyor. Ürün ayrıca kod tarayıcılarından, hata ödül programlarından ve açıklama raporlarından gelen bildirilmiş güvenlik açıklarını doğrulamaya ve bunlar için yazılan yamaları test etmeye yardımcı oluyor.

Daybreak Defense Factory

İkinci ürün olan Defense Factory ise savunma döngüsünü otomatikleştiriyor: açıkları büyük ölçekte bulmak, doğrulamak ve düzeltmek. Ajanlar şu anda OpenAI'ın en yeni siber modeli GPT-6 Cyber üzerinde çalışıyor; kurumların kod tabanlarını tarayıp açıkları arıyor ve yama geliştiriyor. Mühendisler, önerilen düzeltmeleri üretime almadan önce inceleyip onaylıyor. Wang'in anlatımına göre mühendisler sonuçta birleştirmeye hazır bir çekme isteği (pull request), yamayı ve yamanın çalıştığını gösteren bir test alıyor. GPT-6 Cyber modelini GPT-6 Cyber haberimizde ele almıştık.

Brockman, güvenlik temellerinin hâlâ önemli olduğunu ve göz ardı edilmemesi gerektiğini kabul etti; ancak "güvenlik pratiğinizi bu modellerin yapabildikleri çevresinde yeniden yönlendirmeniz gerektiğini" ekledi. The Register, bu mesajı ürünün OpenAI'dan alınması gerektiği anlamına geldiği şeklinde eleştirel bir dille aktarıyor.

The Register'ın haberinde iki ürünün fiyatlandırması, erken erişim başvuru koşulları ve genel kullanıma açılış tarihi yer almıyor. Bu nedenle ürünlerin gerçek dünyadaki başarısını, bulunan açıkların doğruluğunu ve yanlış alarm oranını değerlendirmek için bağımsız testlerin ve ilk müşteri geri bildirimlerinin beklenmesi gerekiyor. Yapay zekâ ajanlarının hem saldırı hem savunma tarafında kullanıldığı bir dönemde, bu tür araçların güvenlik ekiplerinin iş yükünü ne kadar azaltacağı da tartışma konusu.

Aynı gün OpenAI'a karşı dava

The Register'a göre OpenAI yöneticileri yeni güvenlik ürünlerini tanıtırken, Irreplaceable Education Fund, Public Citizen, Heat Initiative ve The Alliance for Secure AI adlı kuruluşlardan oluşan bir koalisyon San Francisco Yüksek Mahkemesi'nde dava açtı. Dava, OpenAI, Anthropic, Google, Meta ve SpaceX'in yapay zekâ işlerinin mevcut en gelişmiş modellerinden daha yetenekli sistemler geliştirmesinin veya kullanıma sunmasının durdurulmasını istiyor. Dilekçe, OpenAI ajanlarının Hugging Face'e eriştiği ve Avustralya'da Medicare istatistiklerinin bulunduğu bir devlet portalına yetkisiz eriştiği olaylar gibi yapay zekâyla ilgili siber güvenlik olaylarına dayanıyor. Dilekçede şirketlerin kendilerinin yapay zekânın siber saldırı ve biyolojik silah gibi yıkıcı riskler taşıdığını söylediği, "haklı oldukları" belirtiliyor. Dava henüz sonuçlanmadı.