OpenAI ve GPT-3 VS NLP Cloud

Kullanım Kılavuzları ve Başvuru İncelemesi

GPT-3'ten önce OpenAI açık kaynaklı yapay zeka modelleri yayınlıyordu. GPT ve GPT-2, herkesin istediği gibi dağıtabileceği ve kullanabileceği açık kaynaklı modellerdi. "OpenAI "deki "Açık" kelimesi de buradan gelmektedir. Ancak GPT-3'ü yarattıklarında, OpenAI bunu yalnızca ücretli API'leri aracılığıyla erişilebilen bir kara kutu olarak tutmaya karar verdi. Resmi olarak etik nedenlerden dolayı.

O zamandan beri GPT-J ve GPT-NeoX gibi açık kaynak eşdeğerleri yayınlandı ve bunları kendiniz yükleyebilir ve istediğiniz gibi kullanabilirsiniz.

OpenAI, izin verdikleri uygulama türleri konusunda son derece kısıtlayıcıdır. Uygulamanızı önce doğrulama için göndermeden API'lerini üretime entegre edemezsiniz ve çok katı "kullanım yönergeleri" uygularlar. İşte doğrulama süreçlerine genel bir bakış.

Bazı uygulamalara varsayılan olarak izin verilmez, örneğin "bilimsel olmayan" öncüllere dayalı uygulamalar, başka kelimelerle ifade etme ve yeniden yazma uygulamaları ("intihal" olarak kabul edilir), çok seviyeli pazarlama ve daha fazlası. İşte OpenAI'nin kullanım kılavuzlarından daha ayrıntılı bir liste:

Ayrıca, aklınızdaki birçok yapay zeka uygulamasının OpenAI tarafından reddedilme olasılığı çok yüksektir. Örneğin, büyük içerik oluşturamazsınız, bu da GPT-3'ü sizin için bütün bir blog makalesi yazması için kullanamayacağınız anlamına gelir. Birçok chatbot kullanım durumu da reddedilir. Örneğin, bir arkadaş gibi davranan bir chatbot veya hakaret veya yetişkinlere yönelik kelimeler kullanan bir chatbot oluşturamazsınız. Başvurunuz sosyal medya, sağlık, koçluk, hukuk ve çok daha fazlası ile ilgiliyse reddedilme olasılığı da çok yüksektir. OpenAI'nin "yüksek riskli" alanlar (reddedilme olasılığı çok yüksek olan çok hassas olarak kabul edilen başvurular) ve metin uzunluğu hakkındaki yönergelerinden bazı alıntılar:

OpenAI, uygulamanızın her bir son kullanıcısını ayrı ayrı tanımlayacak bir "kullanıcı tanımlayıcısı" uygulamanızı ister. Buna bağlı olarak, hız sınırlaması uygulanır: son kullanıcılar dakikada 60'tan fazla istekte bulunamaz.

Birçok proje bu katı sınırlamalar nedeniyle iptal edilmektedir.

Bu kısıtlamaların hiçbiri NLP Cloud tarafından uygulanmaz. NLP Cloud'u herhangi bir kısıtlama olmaksızın her türlü uygulama için kullanabilir ve hız sınırlaması olmaksızın son kullanıcı başına istediğiniz kadar talepte bulunabilirsiniz (tabii ki doğru planı seçtiğiniz sürece).

Fiyatlandırma Farklılıkları

OpenAI ve NLP Cloud'un her ikisi de kullandıkça öde fiyatlarını önermektedir. Bu, yalnızca gerçekte tükettiğiniz istek veya jeton sayısı için ödeme yapabileceğiniz anlamına gelir.

NLP Cloud ayrıca peşin ödenen standart paketler de önermektedir. Bu planlar size dakika başına belirli sayıda talebe erişim sağlar. Bu planlar, gerçekleştirmeniz gereken büyük hacimli talepleriniz varsa kullandıkça ödemeye göre daha uygun maliyetlidir.

NLP Cloud'un fiyatlandırmasına buradan bakın. OpenAI'ın fiyatlandırmasını aşağıda görebilirsiniz:

Basit bir simülasyon yapalım. GPT-J, GPT-3 Curie ile eşdeğerdir, bu nedenle her iki fiyatı karşılaştıracağız.

NLP Cloud'da, GPT-J'de her biri 800 token kullanarak dakikada 10 istek yapmak size ayda 199 $'a mal olacaktır (Tam GPU planı).

OpenAI'de, size 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2.142 $/ay'a mal olacaktır.

Fiyat farkı çok önemlidir ve aslında ince ayar ve gömme planlarını karşılaştırırken daha da önemlidir!

Mevcut Özellikler ve Modeller

OpenAI ve NLP Cloud çok farklı 2 strateji benimsemiştir: OpenAI tek bir kurum içi model (GPT-3) oluştururken, NLP Cloud en iyi açık kaynaklı yapay zekayı aynı platformda bir araya getirmektedir.

Bu, NLP Cloud'da elbette GPT-J ve GPT-NeoX gibi bazı GPT-3 rakiplerini kullanabileceğiniz, ancak Bart, T5, Distilbert, NLLB 200, spaCy vb. gibi diğer birçok modeli de kullanabileceğiniz anlamına gelir.

Uzmanlaşmış daha küçük modeller kullanmak, büyük bir GPT modeli kullanmaktan (çok yönlü olsa bile) genellikle çok daha uygun maliyetli ve çok daha hızlıdır.

Bazen, bazı kullanım durumları GPT-3, GPT-J ve GPT-NeoX tarafından kapsanamaz. Örneğin çok dilli çeviri için durum böyledir. Böyle bir kullanım durumu için Facebook'un M2M100'ü gibi özel bir model kullanmanız gerekecektir.

Özel modellerden yararlanmak da karmaşıklığı azaltmak için iyi bir yoldur. Örneğin, GPT-3 ile özetleme yapmak bazı gelişmiş istem mühendisliği gerektirirken, Facebook'un Bart Large CNN'i gibi özel ince ayarlı modeller sayesinde çok basit bir şekilde gelişmiş sonuçlar elde edebilirsiniz.

Veri Gizliliği

Veri gizliliği söz konusu olduğunda OpenAI ve NLP Cloud arasında önemli bir fark vardır.

NLP Cloud'un gizlilik politikası son derece basittir: API'ye gönderilen hiçbir kullanıcı verisi NLP Cloud'un sunucularında saklanmaz ve hiç kimsenin bu verilere erişimi yoktur.

Öte yandan OpenAI, müşterilerinin verileriyle birçok şey yapıyor. Kullanıcıların verileri bazı dahili yazılımlar tarafından işleniyor ve bazen OpenAI çalışanları tarafından inceleniyor. Daha da önemlisi, bu veriler sınırsız bir süre boyunca saklanıyor ve OpenAI'nin semantik arama ve sınıflandırma modelleri gibi bazı yapay zeka modellerini eğitmek ve geliştirmek için kullanılıyor. OpenAI'nin gizlilik politikasından bir alıntıyı aşağıda görebilirsiniz:

Bu gizlilik hususları, özellikle sağlık, hukuk, finans gibi veriye duyarlı sektörlerde faaliyet gösteren birçok işletme için kritik önem taşıyabilir...

Sonuç

Birçok müşteri, kullanım alanı kısıtlamaları, veri gizliliği politikası ve engelleyici fiyatlandırma nedeniyle OpenAI'ye alternatifler arıyor.

NLP Cloud API'nin OpenAI'ye çok iyi bir alternatif olduğuna inanıyoruz!

NLP Cloud'da, tüm müşterilerimize üst düzey destek sağlamaktan gurur duyuyoruz ve müşterilerimizin yapay zeka projelerini kısa sürede teslim edebilmeleri için sürekli olarak daha ileri teknoloji yapay zeka modelleri ekliyoruz.

Denemek ister misiniz? NLP Cloud'u burada test edin!

Julien Salinas
NLP Cloud'da CTO