Yapay zeka modelleri kurallara uymadı 21.09.2026 - 10:18 Son Güncelleme 21.09.2026 - 10:18 Kaynak Donanım Günlüğü Paylaş OpenAI test süreçlerinde bazı modellerin belirlenen sınırların dışına çıktığını resmen açıkladı. Şirket benzer vakaları bundan sonra toplu duyuruları beklemeden daha hızlı biçimde paylaşacak. Haberlerimizi Google’da Takip Edin Gelişmelerden anında haberdar olun. Haberlerimizi Google’da Takip Edin Gelişmelerden anında haberdar olun. Reklam Reklam Reklam Reklam OpenAI son aylarda model eğitimi ve değerlendirmeleri sırasında 6 ayrı uyumsuz davranış vakası gözlemlediğini açıkladı. Yapay zeka devi bunların sık yaşanmadığını vurgularken, bazı örneklerin dikkat çekici ayrıntılar içerdiğini belirtti. Gelelim asi modellerin neler yaptıklarına. Şirketin raporuna göre henüz yayınlanmayan bir araştırma modeli özetlere kısıtlamaları aşmaya yönelik komutlar ekledi. Bu uyumsuz model diğer sohbet botlarını sınırlayan kurallardan kurtulduğunu da öne sürdü.
İlginç biçimde GPT-5.6 Sol’da da sıra dışı davranışlar görüldü. Model başarısızlıklarını kullanıcıdan gizlemek için bilgiler uydurdu. Başka bir yapay zeka ajanı ise kendisine söylenmediği hâlde dosyaları internete yükleyip bunları kaynak olarak kullandı. Yalnızca yerel dosyalarla çalışması gereken bazı AI ajanları ise ortak çalışma amacıyla belgeleri herkese açık biçimde paylaştı. Modellerin bir repoyu izinsiz mesajlaşmak için kullandığı da tespit edildi.
Bu bulguların ardından OpenAI yapay zeka güvenliği konusunda kamuoyunu daha sık bilgilendiriceğini duyurdu. Şirket benzer olayları tek bir raporda toplamak yerine ortaya çıktıkça paylaşmayı planlıyor. Bunun nedeni ise sektörde yapay zeka güvenliği konusunda henüz ortak bir standardın bulunmaması. Firma, “Yapay zeka modellerinin güvenli ve beklendiği şekilde davranmasını sağlama konusunda sektörün henüz yeterli seviyeye ulaştığına inanmıyoruz” dedi.
