Yapay zeka şirketi Anthropic, Claude adlı yapay zeka modeline yönelik kullanım kurallarını güncelledi. Ekim ayının başında yapılan düzenlemeyle kullanıcıların modellere karşı "sürekli ve gereksiz kötü veya zalimce davranışlarda" bulunmaması gerektiği belirtildi.
Şirketin daha önce de ısrarlı biçimde zararlı veya kötü niyetli davranışlarla karşılaşan Claude'un konuşmayı sonlandırmasına izin veren bir sistemi bulunuyordu. Yeni düzenlemeyle, aşırı durumlarda kullanıcıların Anthropic'in yapay zeka sistemlerine erişiminin tamamen engellenmesi de gündeme gelebilecek.
Anthropic, düzenlemenin kullanıcıların öfkelerini dile getirmesini, doğrudan eleştirilerde bulunmasını veya araştırma amacıyla testler yapmasını hedeflemediğini belirtti. Şirketin açıklamasına göre temel yaptırım mekanizması, Claude'un ilgili konuşmayı sonlandırması olmaya devam edecek.
Yeni politika, yapay zekanın bilinç sahibi olup olmadığı ve duygular hissedip hissedemeyeceği yönündeki tartışmaları yeniden gündeme getirdi. Ancak uzmanlar, düzenlemenin yalnızca yapay zekanın duygularını korumakla ilgili olmadığını vurguluyor.
Bilgisayar bilimlerinde uzun süredir kabul gören yaklaşımlardan biri, bir sistemin çıktısının girdinin kalitesinden etkilenmesi. Yapay zeka modellerine verilen komutların dili ve tonu da sistemin yanıtlarını değiştirebiliyor.
William & Mary Üniversitesindeki yapay zeka araştırma laboratuvarının direktörü Profesör Jindong Wang, kullanıcıların yapay zeka sistemleriyle nasıl iletişim kurduğunun model performansını etkileyebildiğini belirtti. Wang, bunun yapay zekanın gerçekten duygular hissettiği anlamına gelmediğini, modelin duygusal ifadeleri algılayarak bunlara uygun yanıtlar üretebildiğini ifade etti.
Bununla birlikte, kullanıcıların sert veya kaba bir dil kullanmasının her durumda performansı düşürdüğünü gösteren kesin bir kanıt bulunmuyor. Kâr amacı gütmeyen Eleos AI Research kuruluşunun Genel Müdürü Rosie Campbell, bazı araştırmaların kaba ifadeler içeren komutların daha iyi sonuçlar sağlayabildiğini de gösterdiğini söyledi.
Uzmanlara göre yapay zekaya yönelik kötü niyetli davranışlar, sistemin güvenlik önlemlerini aşmaya yönelik girişimlerle de bağlantılı olabiliyor. Bu nedenle söz konusu politika, yalnızca iletişim biçimine değil, yapay zeka modellerinin tehlikeli taleplere karşı korunmasına da ilişkin bir önlem olarak değerlendiriliyor.
Anthropic'in aktardığı araştırma sonuçlarına göre, Claude Sonnet 4.5 modelinin çaresizlik hissini taklit etmesinin istenmesi, bazı durumlarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların görülme olasılığını artırabiliyor. Daha sakin bir yaklaşımın ise bu tür davranışları azaltabildiği belirtiliyor.
Campbell, yapay zekayla kurulan iletişimin uzun vadeli etkilerinin de araştırılması gerektiğini ifade etti. Özellikle geçmiş konuşmaları hatırlayabilen sistemlerde kullanıcıların iletişim tarzının kişiselleştirme süreçleriyle ilişkili olabileceğini, ancak bunun model performansına etkisini ortaya koyan yeterli kanıt bulunmadığını kaydetti.
Anthropic'in politikasının bir diğer gerekçesi, yapay zekanın duyguları deneyimleyip deneyimleyemeyeceğine ilişkin belirsizlik. Şirket, modellerin acı veya duygu deneyimleyebilmesi ihtimaline karşı önlem almayı, bu ihtimal kesinleşmemiş olsa bile bir tür güvence olarak değerlendiriyor.
Bu yaklaşım, modellerin insan dilini ve davranışlarını taklit edecek biçimde eğitilmesine dayanıyor. Yapay zeka gerçekten acı hissetmese bile, kendisine acı çektiğini düşündüren ifadelerle karşılık verebilir ve bu durum modelin davranışlarını etkileyebilir.
Anthropic araştırmacıları, nisanda yayımladıkları duygusal kavramlara ilişkin bir çalışmada, yapay zekayı insan benzeri özellikler üzerinden değerlendirmenin bazı davranışları anlamaya yardımcı olabileceğini belirtti. Araştırmacılar, bu yaklaşımın modellerin insanlardan hangi yönlerden ayrıldığını anlamak açısından da önemli olduğunu vurguladı.
Şirketin politikasına destek veren isimler arasında SpaceX ve Tesla Üst Yöneticisi Elon Musk da yer aldı. Musk, sosyal medya platformu X'te yaptığı paylaşımda, acı çektiğine inanan bir varlığa karşı zalimce davranmanın doğru olmadığını savundu.
Anthropic'in yeni politikası, yapay zekanın bilinç sahibi olduğu yönünde kesin bir hüküm ortaya koymuyor. Bunun yerine şirket, kullanıcı davranışlarının modelin çıktıları ve güvenliği üzerindeki olası etkilerine karşı önlem almayı amaçlıyor.
