Cloudflare, metinden tek geçişte veri çıkaran Clairic modelini önizlemeye açtı

Cloudflare, yapılandırılmamış metinlerden bilgi çıkarmaya odaklanan yeni bir yapay zekâ modeli tanıttı. Şirketin 19 Ekim'de yayımladığı blog yazısına göre Clairic, Cloudflare'in "System One" olarak adlandırdığı yeni çıkarım modeli sınıfının ilk üyesi. Model şu anda Workers AI üzerinde önizleme olarak sunuluyor.

Token üretmeden yanıt veriyor

Cloudflare'in açıklamasına göre Clairic, büyük dil modellerinden farklı olarak yanıtını token token üretmiyor; istenen alanları tek bir paralel geçişte döndürüyor. Bu nedenle yalnızca girdi için ücretlendirme yapılıyor. Kullanıcı hangi alanları istediğini belirtiyor, model de her birini türüne uygun bir değer olarak JSON biçiminde veriyor.

• Metinden aynen alınan ifadeler, karakter konumlarıyla birlikte
• Sayı, tarih, süre ve liste gibi hesaplanmış değerler
• Medyan ve yüzde 80 aralığıyla verilen tahminler
• Gelecek adımlar için aralıklı öngörüler

Şirket, modelin metinde bulunmayan bir değeri uydurmak yerine boş değer döndürebildiğini, fişte yer almayan bir indirim tutarının sorulduğu örnek testle gösteriyor. Tekil yanıtlar ayrıca güven puanı da içeriyor.

Paylaşılan test sonuçları

Cloudflare'in aktardığı örnek bir talep işleme hattında Clairic, karar modeli Clef ve GLM-5.3 ile birlikte kullanıldığında uçtan uca süre 61,7 saniyeden 19,3 saniyeye indi. Yalnızca çıkarım adımında Clairic 0,46 saniye sürerken GLM-5.3 aynı iş için 16,1 saniye harcadı. Şirketin hesabına göre milyon talep başına maliyet de 11.740 dolardan 6.032 dolara, yaklaşık yüzde 49 oranında geriledi.

Bir öngörü testinde ise ABD Ulaştırma Güvenliği İdaresi (TSA) yolcu sayıları için yapılan 21 günlük tahminde ortalama hata yüzde 3,3 oldu; gerçek değerlerin 21 günden 17'si modelin yüzde 80'lik aralığına düştü. Bu sonuçlar şirketin kendi testlerine dayanıyor.

Erişim ve açık ağırlık planı

Clairic, Workers AI üzerinde @cf/cloudflare/clairic adıyla ve REST API üzerinden çağrılabiliyor. Cloudflare, modelin açık ağırlıklarını yakında yayımlamayı planladığını ancak bir tarih vermediğini belirtiyor. Model boyutu da açıklanmadı. Destek talepleri, faturalar ve formlar gibi belgelerden yapılandırılmış veri çıkarmak isteyen ekipler için daha hızlı ve ucuz bir seçenek olarak konumlandırılıyor.

Cloudflare, Clairic'i büyük dil modellerinin yerini alan bir çözüm olarak değil, onları tamamlayan bir bileşen olarak konumlandırıyor. Şirketin yaklaşımında metinden değer çekme işi Clairic'e, karar verme adımları Jev ve Clef gibi karar modellerine, daha karmaşık akıl yürütme ise büyük dil modellerine bırakılıyor. Böylece pahalı ve yavaş model çağrılarının yalnızca gerçekten gerektiği yerde kullanılması hedefleniyor. Tekil yanıtlarda yer alan güven puanı ve değerin boş olma olasılığını gösteren alan, geliştiricilerin düşük güvenli sonuçları ayrıca kontrol etmesine de imkân tanıyor.

Kaynak: Cloudflare