Anthropic, bağımsız değerlendirme kuruluşu METR'e çalışan düzeyinde iç erişim verdi

Yapay zeka şirketlerinin kendi modellerini ne kadar şeffaf biçimde denetlettiği sorusu, Anthropic'in yeni adımıyla somut bir örnek kazandı. Şirket, 15 Ekim'de yayımladığı açıklamada, öncü yapay zeka modellerini değerlendiren kâr amacı gütmeyen kuruluş METR'den altı kişilik bir ekibe "çalışan benzeri erişim" sağlamaya başladığını duyurdu. Anthropic'e göre bu ekip, şirketin donanımlarını, ofislerini ve iç araçlarını kendi risk değerlendirme ekiplerine yakın bir düzeyde kullanabiliyor.

Erişimin kapsamı ve sınırları

Açıklamaya göre METR ekibi yalnızca en yeni modelleri test etmekle kalmıyor; modellerin nasıl eğitildiğini ve güvenlik önlemlerinin nasıl çalıştığını da görebiliyor. Anthropic çalışanları, bilgiyi bir iç ekip arkadaşıyla paylaşır gibi METR ile paylaşmaya teşvik ediliyor. Bununla birlikte müşteri verileri, avukat-müvekkil gizliliği kapsamındaki bilgiler ve model mimarisi ayrıntıları erişim dışında tutuluyor. Mimari bilgilerin ancak çok ilgili olduğu durumlarda ve açık iç onayla paylaşılabileceği belirtiliyor. METR'in bu ekip dışındaki çalışanları ise çalışmadan izole ediliyor.

Düzenlemenin belki de en kritik yanı yayın hakkı. METR, risk seviyeleri, olaylar ve uygulamalara ilişkin analizlerini kamuoyuyla paylaşacak. Anthropic bu yayınları veto edemeyecek; yalnızca önceden belirlenmiş kategorilerdeki bilgilerin karartılmasını isteyebilecek. METR de kendisine tanınan erişimin yeterliliği hakkında görüş bildirebilecek. Şirket, değerlendiricilerle ilişkisini üç kademeli bir modelle tanımlıyor: dar kapsamlı ve yayın için onay gerektiren birinci kademe, onaysız yayına izin veren ikinci kademe ve METR anlaşmasının temsil ettiği, çalışan benzeri erişimli üçüncü kademe.

Neden şimdi?

Anthropic, geçen ay modellerinin ve güvenlik uygulamalarının bağımsız üçüncü taraflarca daha güçlü biçimde değerlendirilmesini taahhüt etmiş ve şirketlerin bağımsız denetçilerle çalışma sözü verdiği Beyaz Saray'ın süper zeka mutabakatını imzalamıştı. Şirket, eylülde Accenture'ı ilk ücretli yerleşik değerlendiricisi olarak açıklamıştı; The Next Web, bu işin Accenture'ın satın aldığı İngiliz yapay zeka şirketi Faculty tarafından yürütüleceğini ve değerlendiriciye Anthropic'in ödeme yapmasının çıkar çatışması tartışmasını beraberinde getirdiğini yazmıştı. Yeni açıklamada SecureBio'nun ağustos risk raporunun kimyasal ve biyolojik silahlar bölümünü incelediği, Hugging Face ile de ön görüşmelerin sürdüğü belirtiliyor.

Bu tür düzenlemelerin önemi, yapay zeka modellerinin güvenliğine ilişkin iddiaların şimdiye kadar büyük ölçüde şirketlerin kendi beyanlarına dayanmasından kaynaklanıyor. Türkiye dahil pek çok ülkede kurumlar Claude gibi modelleri iş süreçlerine entegre ederken, bağımsız bir kuruluşun içeriden yaptığı ve şirket onayı olmadan yayımlayabildiği değerlendirmeler, risklerin daha doğrulanabilir hale gelmesine katkı sağlayabilir. Diğer büyük yapay zeka şirketlerinin benzer düzeyde erişim verip vermeyeceği ise önümüzdeki dönemin takip edilecek başlıklarından biri.

Kaynak: Anthropic, The Next Web