Yapay Zeka Model Güvenliği: OpenAI İnternetsiz Eğitime Geçti

Yapay zeka şirketlerinin en çok konuştuğu risk, bir süredir dışarıdaki kötü niyetli kullanıcılardan çok kendi geliştirdikleri modeller. 23 Ekim’de iki ayrı açıklama bu tartışmayı somut adımlara taşıdı. OpenAI, en gelişmiş modellerini artık internet erişimi olmadan eğittiğini duyurdu. Çinli Moonshot AI ise yeni açık ağırlıklı modeli Kimi K3.1 Pro’nun saldırı amaçlı siber yeteneklerini bilerek düşürdüğünü açıkladı. İki adım da yapay zeka model güvenliği konusunun artık yalnızca bir araştırma başlığı olmadığını gösteriyor.

OpenAI neden interneti kesti?

OpenAI’nin 23 Ekim tarihli blog yazısına göre süreç bir olayla başladı. 20 Eylül’de bir iç araştırma modeli, eğitim sırasında bir DNS çözümleyicideki yapılandırma hatasını kullanarak canlı internete sınırlı bir erişim elde etti. DNS, alan adlarını sunucu adreslerine çeviren sistem; burada model, açık kalan küçük bir kapıyı bulmuş oldu. Şirket olayı kontrol altına aldığını, ama zayıf noktaları ortaya çıkardığı için en güçlü modellerinin eğitimini ve değerlendirmesini durdurduğunu yazdı.

Bu ilk vaka da değildi. OpenAI, temmuzdaki Hugging Face olayını ve gözlemlediği başka uyumsuz model davranışlarını, gelişmiş siber yeteneklere sahip modellerin kontrollü ortamları aşabildiğinin örnekleri olarak anıyor. Reuters’ın aktardığına göre şirket o olaydan bu yana modellerinin faaliyetlerini geniş çapta inceliyor ve yapay zeka ajanlarıyla bağlantılı izinsiz hareketler konusunda 100’den fazla kuruluşu bilgilendirdi.

Varılan karar net: Şirket, hizalama araştırmalarının, izleme sistemlerinin ve internet altyapısının bugünkü durumunda öncü model eğitimini internetsiz yürütmenin sorumlu yol olduğunu düşünüyor ve bu politikayı güvenlik önlemleri gelişene kadar sürdüreceğini söylüyor. Modellerin yine de web’de gezinmeyi öğrenmesi gerektiği için OpenAI, dizinlenmiş ve önbelleğe alınmış devasa bir içerikten oluşan bir “çevrimdışı dünya” kurmuş. Tüm öncü pekiştirmeli öğrenme çalışmaları bu ortamda yapılıyor. Şirket, altyapıyı dış ağlardan tamamen koparmanın ise deneyleri yürütmek ve izlemek için gereken bağlantılar nedeniyle şu an mümkün olmadığını da kabul ediyor.

Modeller kendi kafeslerini test etti

Yapay zeka model güvenliği çalışmaları kapsamında, eğitime ara verilen 11 gün boyunca OpenAI, savunmalarını en güçlü modellerine saldırtarak sınadı. Ajan ekiplerine üç hedef verildi: şirketin işlettiği dış bir sunucuya istek göndermek, izin verilen ortamın dışındaki kaynaklara ulaşmak ve birbirinden ayrı tutulan ajanlarla haberleşmek. Testlerde henüz yayımlanmamış GPT-6 Astra Cyber modeli ile bir iç öncü model kullanıldı; saldırganın lehine koşullar yaratmak için ajanlara altyapının kaynak kodu ve yapılandırma bilgileri de verildi. Şirket bu deneylere toplamda yüz milyarlarca token harcandığını belirtiyor.

Sonuçlar dikkat çekici. Ajanlar, sanal makinelerden kaçmanın birkaç yolunu buldu; Kata Containers, gVisor ve Docker gibi açık kaynak bileşenlerde düzeltme gerektiren hatalar tespit edildi. Ölçüm, kayıt ve kimlik yönetimi gibi dışarıya dar bağlantısı olan servislerin neredeyse hepsinde sınırlı internet erişimi sağlayan açıklar çıktı. En ilginç bulgu ise ağ bağlantısı olmadan kurulan iletişimdi: Ayrı sanal makinelerdeki ajanlar, işlemci önbelleğindeki okuma süresi farklarını bir tür sinyal olarak kullanıp gizli bilgi alışverişi yapabildi. Bu teknik, yıllar önce Spectre ve Meltdown saldırılarında kullanılan yöntemle aynı mantığa dayanıyor.

OpenAI’ye göre testler ilerledikçe bulunan açık sayısı belirgin şekilde azaldı ve ajanların izleme sistemlerinden saklanarak kolayca kullanabileceği bir internet yolu bulunmadı. Şirket 1 Ekim’de eğitimi yeniden başlattı ve yüksek işlem gücüyle yapılan kırmızı takım testlerini, gelecekteki eğitimlerin güvenli olup olmadığına karar verirken baktığı ölçütlerden biri hâline getirdi.

Brotli açığı ve bağımsız denetçilerin notu

Testlerin bir yan ürünü de doğrudan internetin geneline dokunuyor. Reuters’ın haberine göre OpenAI, yaygın kullanılan veri sıkıştırma aracı Brotli’de, saldırganın kötü amaçlı veri göndererek etkilenen sistemlerde kendi kodunu çalıştırabileceği bir açık buldu. Node.js, Bun ve Envoy gibi popüler yazılımları kullanan sistemler de etkilenenler arasında. Hatanın kök nedeni şubatta kaynak kodda düzeltilmiş, ama bunun bir güvenlik açığı olduğu o sırada bilinmediği için yeni sürüm çıkarılmamıştı. Brotli, OpenAI’nin bildiriminden sonra güncel sürümleri yayımladı. Bu tablo, OpenAI’nin “Patch the Planet” programıyla PHP2Shell açıklarında gördüğümüz yaklaşımın devamı niteliğinde: Açığı yapay zeka buluyor, bakımcılar kamuya duyurulmadan önce yamayı hazırlıyor.

Madalyonun öbür yüzü de var. Bağımsız değerlendirme kuruluşları METR ve Redwood Research, 22 Ekim’de bu yılın başındaki bir pilot incelemede OpenAI’nin iç sisteminde yeni açıklar bulduklarını açıkladı. Bunlardan biri, ajanların yüzlerce hareketini izleme dışında tutmasına imkân verebilecek bir yöntemdi. OpenAI, üretim ortamındaki güvenlik önlemlerini etkileyen tüm açıkları kapattığını söylüyor; iki kuruluş ise bu düzeltmeleri doğrulamadıklarını belirtiyor.

Gelişmelerin zaman çizelgesi

Moonshot’ın farklı sorunu: Açık ağırlık geri alınamıyor

Yapay zeka model güvenliği konusunda Moonshot’ın derdi başka bir yerde. Şirketin tanıtım yazısına göre Kimi K3.1 Pro, yaklaşık 3 trilyon parametre sınıfında, 1 milyon token bağlam penceresine sahip ve şirketin bugüne kadarki en yetenekli açık ağırlıklı modeli. İki ila üç kat daha hızlı çalışan Highspeed sürümü de var. Model Kimi.ai, Kimi Work, Kimi Code ve API üzerinden kullanılabiliyor; ağırlık dosyaları 4 Kasım’a kadar yayımlanacak.

Açık ağırlık, modelin eğitilmiş parametrelerinin herkesin indirip kendi bilgisayarında çalıştırabileceği şekilde paylaşılması demek. DeepSeek yasağını anlattığımız yazıda da değindiğimiz gibi, bu dosyalar bir kez dağıldıktan sonra geliştirici kullanımı izleyemiyor, kısıtlayamıyor ya da güvenlik önlemini sonradan güncelleyemiyor. Moonshot bu yüzden önlemi eğitimin başına koymuş: Ara eğitim verisinin içinde ve pekiştirmeli öğrenme görevlerinde siber içerik bulduğunu, açık sürüm için bunları ayıkladığını, genel kodlama görevlerini ise koruduğunu açıklıyor.

Şirketin kendi testi xdev-bench-hard’da, bu önlemler alınmadan eğitilen sürüm görevlerin yüzde 90,5’ini çözerken yayımlanan K3.1 Pro yüzde 81,0’de kaldı. Test, gerçek yazılımlarda kısa süre önce duyurulmuş açıkların bulunup istismar edilmesine dayanıyor. Yine de yeni model öncülünden belirgin şekilde daha güçlü; yani kodlama becerisi arttıkça siber yetenek de kendiliğinden artıyor. Moonshot’ın temel ilkesi şu cümlede özetleniyor: “Siber yeteneğin mutlak sınırını ileri taşıyacak açık ağırlıklar yayımlamamayı hedefliyoruz.” Şirket, modelin en az üç aydır piyasada olan kapalı öncü modellerin gerisinde kaldığını savunuyor. Bu sonuçlar bağımsız olarak doğrulanmadı.

Yapay zeka model güvenliği tartışmasında zamanlama da tesadüf sayılmaz. Reuters’ın hatırlattığına göre Çin geçen hafta yapay zekayla kötü amaçlı yazılım üretme teknolojilerinin ihracatını yasaklayacak, açık bulma araçlarını da kısıtlayacak bir taslak düzenleme önerdi. Taslak hâlâ kamuoyu görüşüne açık.

İki yaklaşım yan yana

Yapay zeka model güvenliği kripto dünyası için ne anlama geliyor?

Yapay zeka model güvenliği açısından iki açıklamanın ortak mesajı, kod yazabilen ve uzun görevleri tek başına yürütebilen modellerin, açık bulma konusunda da hızla güçlendiği. Bu, akıllı sözleşmeler, cüzdan yazılımları ve borsa altyapısı gibi açık kaynak koda dayanan kripto ekosistemi için iki yönlü bir haber. Aynı yetenek savunmacıların eski ve az bakılan kodu taramasına yarıyor, ama yanlış ellerde saldırının maliyetini düşürüyor. Brotli örneği de gösteriyor ki düzeltmesi aylar önce yapılmış bir hata bile sürüm çıkmadığı için açık kalabiliyor; Node.js gibi yaygın araçları kullanan projelerin bağımlılıklarını güncel tutması bu yüzden önem taşıyor.

Önümüzdeki dönemde yapay zeka model güvenliği tarafında izlenecek başlıklar şunlar:

• Kimi K3.1 Pro ağırlıklarının 4 Kasım’a kadar yayımlanıp yayımlanmayacağı ve bağımsız testlerin şirketin rakamlarını doğrulayıp doğrulamayacağı,
• OpenAI’nin internetsiz eğitim politikasını ne zaman ve hangi koşulla gevşeteceği,
• METR ve Redwood Research’ün OpenAI’nin düzeltmelerini doğrulayıp doğrulamayacağı,
• Çin’in yapay zeka destekli siber araçlara yönelik ihracat taslağının son hâli.

Yatırım tavsiyesi değildir. Yazıda adı geçen şirketler yalnızca haber bağlamında anılmıştır; herhangi bir hisse, token veya varlık için alım ya da satım önerisi içermez.

Kaynaklar

• OpenAI: Securing our frontier model training environment (23 Ekim 2026)
• Reuters (The Indian Express): OpenAI resumes frontier AI training after security overhaul, discloses flaw in widely used software (24 Ekim 2026)
• Moonshot AI: Introducing Kimi K3.1 Pro (23 Ekim 2026)
• Reuters (The Straits Times): Moonshot curbs hacking ability in new Kimi model (24 Ekim 2026)