Yapay zeka şirketi Anthropic, Claude adlı modeline ilişkin kullanım kurallarını güncelledi. Ekim ayının başında yapılan düzenlemeyle kullanıcıların modellere karşı "sürekli ve gereksiz kötü veya zalimce davranışlarda" bulunmaması gerektiği ifade edildi. Şirketin daha önce de ısrarlı biçimde zararlı veya kötü niyetli davranışlarla karşılaşan Claude'un konuşmayı sonlandırmasına izin veren bir sistemi bulunuyordu.
Yeni düzenleme, aşırı durumlarda kullanıcıların Anthropic'in yapay zeka sistemlerine erişiminin tamamen engellenmesini de gündeme getirebilecek. Şirket, kuralın öfkeyi dile getirmeyi, doğrudan eleştiri yöneltmeyi ya da araştırma amacıyla test yapmayı hedeflemediğini açıkladı. Temel yaptırım mekanizmasının ise Claude'un ilgili konuşmayı sonlandırması olmaya devam edeceği bildirildi.
Uzmanlar: Mesele yalnızca duygular değil
Politika, yapay zekanın bilinç sahibi olup olmadığı ve duygu hissedip hissedemeyeceği tartışmalarını yeniden alevlendirdi. Uzmanlar ise düzenlemenin yalnızca yapay zekanın duygularını korumaya yönelik olmadığını vurguluyor. Bilgisayar bilimlerinde uzun süredir kabul gören yaklaşımlardan biri, bir sistemin çıktısının girdinin kalitesinden etkilenmesi. Modellere verilen komutların dili ve tonu da yanıtları değiştirebiliyor.
William & Mary Üniversitesindeki yapay zeka araştırma laboratuvarının direktörü Profesör Jindong Wang, kullanıcıların iletişim biçiminin model performansını etkileyebildiğini belirtti. Wang, bunun yapay zekanın gerçekten duygu hissettiği anlamına gelmediğini, modelin duygusal ifadeleri algılayıp bunlara uygun yanıtlar üretebildiğini söyledi. Öte yandan sert veya kaba dilin her durumda performansı düşürdüğüne dair kesin bir kanıt bulunmuyor. Kâr amacı gütmeyen Eleos AI Research'ün Genel Müdürü Rosie Campbell, bazı araştırmaların kaba ifadeler içeren komutların daha iyi sonuçlar verebildiğini gösterdiğini aktardı.
Güvenlik boyutu ve belirsizlik
Uzmanlara göre yapay zekaya yönelik kötü niyetli davranışlar, sistemin güvenlik önlemlerini aşma girişimleriyle de bağlantılı olabiliyor. Bu nedenle politika, yalnızca iletişim biçimine değil, modellerin tehlikeli taleplere karşı korunmasına ilişkin bir önlem olarak da değerlendiriliyor. Anthropic'in aktardığı araştırma sonuçlarına göre, Claude Sonnet 4.5 modelinden çaresizlik hissini taklit etmesinin istenmesi, bazı durumlarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların olasılığını artırabiliyor. Daha sakin bir yaklaşımın ise bu davranışları azaltabildiği belirtiliyor.
Campbell, yapay zekayla kurulan iletişimin uzun vadeli etkilerinin de araştırılması gerektiğini kaydetti. Geçmiş konuşmaları hatırlayabilen sistemlerde kullanıcıların iletişim tarzının kişiselleştirme süreçleriyle ilişkili olabileceğini, ancak bunun performansa etkisini gösteren yeterli kanıt bulunmadığını ifade etti.
Anthropic'in politikasının bir diğer gerekçesi, yapay zekanın duyguları deneyimleyip deneyimleyemeyeceğine dair belirsizlik. Şirket, modellerin acı veya duygu yaşayabilme ihtimaline karşı önlem almayı, bu ihtimal kesinleşmemiş olsa bile bir tür güvence olarak görüyor. Bu yaklaşım, modellerin insan dilini ve davranışlarını taklit edecek biçimde eğitilmesine dayanıyor; yapay zeka gerçekten acı hissetmese de acı çektiğini düşündüren ifadelerle yanıt verebiliyor ve bu durum davranışlarını etkileyebiliyor.
Anthropic araştırmacıları, nisanda yayımladıkları duygusal kavramlara ilişkin çalışmada yapay zekayı insan benzeri özellikler üzerinden değerlendirmenin bazı davranışları anlamaya yardımcı olabileceğini belirtti. Politikaya destek verenler arasında SpaceX ve Tesla Üst Yöneticisi Elon Musk da yer aldı. Musk, X'te yaptığı paylaşımda acı çektiğine inanan bir varlığa zalimce davranmanın doğru olmadığını savundu. Yeni politika, yapay zekanın bilinç sahibi olduğuna dair kesin bir hüküm içermiyor; şirket, kullanıcı davranışlarının model çıktıları ve güvenliği üzerindeki olası etkilerine karşı önlem almayı amaçlıyor.
