OpenAI와 NLP 클라우드

사용 제한 사항

OpenAI는 허용하는 애플리케이션의 종류에 대해 매우 제한적입니다. 2022년 11월까지는 프로덕션에 들어가기 전에 OpenAI에 애플리케이션을 검토하고 승인해 달라고 명시적으로 요청해야 했습니다. 그 이후에는 다음과 같이 말합니다: "더 이상 애플리케이션을 OpenAI에 등록할 필요가 없습니다. 대신 자동화된 방법과 수동 방법을 함께 사용하여 정책 위반 여부를 모니터링할 것입니다."

의역 및 재작성('표절'로 간주), 다단계 마케팅, 성적인 토론을 기반으로 한 애플리케이션 등 일부 애플리케이션은 기본적으로 허용되지 않습니다. 또한 최종 사용자에게 애플리케이션에 AI를 사용한다는 사실을 명시적으로 알려야 하는 경우가 많습니다(요약, 뉴스 생성 및 의료, 법률, 금융 산업과 관련된 모든 것이 이에 해당합니다). 다음은 OpenAI의 사용 정책입니다:

NLP Cloud에서는 고객이 현지 법률과 개인 윤리에 따라 최선의 판단을 내려 AI 모델을 사용하는 방법을 결정해야 한다고 믿습니다. 고객의 요청을 검사하고 필터링하는 것은 저희의 역할이 아니라고 생각합니다.

데이터 개인 정보 보호

데이터 개인 정보 보호와 관련하여 OpenAI와 NLP Cloud에는 상당한 차이가 있습니다.

OpenAI는 고객의 데이터로 다양한 작업을 수행합니다. OpenAI로 전송된 데이터는 다양한 용도로 검토되고 사용됩니다. 가장 중요한 부분은 고객의 데이터가 무제한으로 저장되어 ChatGPT와 같은 OpenAI의 AI 모델을 훈련하고 개선하는 데 사용된다는 점입니다. 아래에서 OpenAI의 개인정보 처리방침에서 발췌한 내용을 확인하세요:

이러한 개인정보 보호 고려 사항은 많은 기업, 특히 의료, 법률, 금융 등 데이터에 민감한 산업을 다루는 기업에게 매우 중요할 수 있습니다.

NLP Cloud는 HIPAA / GDPR / CCPA를 준수하며 SOC 2 인증을 위해 노력 중입니다. 사용자의 데이터를 볼 수 없고, 사용자의 데이터를 저장하지 않으며, 사용자의 데이터를 사용하여 자체 AI 모델을 학습시키지 않습니다.

가격 차이

OpenAI와 NLP 클라우드는 모두 종량제 가격을 제안합니다. 즉, 실제로 사용한 요청 또는 토큰 수에 대해서만 사후에 지불할 수 있습니다.

NLP Cloud에서는 선불로 지불하는 표준 패키지도 제안합니다. 이러한 요금제를 사용하면 분당 특정 수의 요청에 액세스할 수 있습니다. 이러한 요금제는 사용량을 미리 예측하고 그에 따라 서비스를 더 잘 확장할 수 있도록 도와주므로 수행해야 할 요청이 많은 경우 종량제보다 더 비용 효율적입니다.

여기에서 NLP Cloud의 가격을 확인하세요.

아래에서 OpenAI의 가격을 확인하세요:

간단한 시뮬레이션을 해보겠습니다. Chat돌핀은 ChatGPT(GPT 3.5 터보)와 동일하므로 두 가격을 비교해 보겠습니다.

NLP 클라우드에서 각각 2048개의 토큰을 사용하여 ChatDolphin에서 분당 20건의 요청을 하면 월 $699(엔터프라이즈 GPU 요금제)의 비용이 듭니다.

OpenAI에서는 0.002/1000 x 2048 x 20 x 60 x 24 x 31 = 월 $3,656의 비용이 듭니다.

가격 차이는 매우 크며, 미세 조정, 시맨틱 검색, 임베딩, 음성-텍스트, 텍스트-이미지 변환과 같은 다른 기능을 비교할 때 실제로는 훨씬 더 중요합니다.

예를 들어, 각 오디오 파일의 길이가 200초인 Whisper Large에서 분당 5개의 음성-텍스트 변환 요청을 하면 월 $699(엔터프라이즈 GPU 요금제)의 비용이 발생합니다.

OpenAI에서는 (0.006/60) x 200 x 5 x 60 x 24 x 31 = 월 $4,464의 비용이 듭니다.

이미지 생성의 마지막 예입니다. NLP Cloud에서는 OpenAI DALL-E와 동일한 Stable Diffusion을 사용합니다. 768 x 768 픽셀 형식의 Stable Diffusion에서 분당 5개의 이미지 생성 요청을 하면 월 $699(엔터프라이즈 GPU 요금제)의 비용이 듭니다.

OpenAI에서 512 x 512 픽셀 형식(768 x 768보다 낮은)을 사용하면 0.018 x 5 x 60 x 31 x 24 = 월 $4,017의 비용이 듭니다.

사용 가능한 기능 및 모델

OpenAI와 NLP Cloud는 매우 다른 두 가지 전략을 채택했습니다: OpenAI는 몇 가지 자체 모델(GPT-3, ChatGPT, GPT-4, DALL-E...)을 구축하는 반면, NLP Cloud에서는 최고의 오픈 소스 AI 모델(Bart, MPNet, Stable Diffusion...)을 동일한 플랫폼에서 자체 모델(Dolphin, ChatDolphin...)과 혼합합니다.

즉, NLP 클라우드에서는 물론 GPT-NeoX 및 ChatDolphin과 같은 일부 ChatGPT 경쟁 업체를 사용할 수 있지만 Bart, T5, Distilbert, spaCy 등과 같은 다른 많은 모델도 사용할 수 있습니다.

전문화된 소규모 모델을 사용하는 것이 거대한 제너레이티브 AI 모델을 사용하는 것보다 훨씬 더 비용 효율적이고 훨씬 빠른 경우가 많습니다.

때때로 일반 AI 모델로는 다룰 수 없는 사용 사례도 있습니다. 예를 들어 다국어 AI가 이에 해당합니다. 200개 언어로 AI를 사용하려면 NLP Cloud의 다국어 애드온(무료)을 사용할 수 있습니다. OpenAI는 현재로서는 그렇게 많은 언어를 제안하지 않습니다.

전문 모델을 활용하는 것도 복잡성을 줄이는 좋은 방법입니다. 예를 들어, GPT-3 또는 ChatGPT로 요약 작업을 수행하려면 약간의 신속한 엔지니어링이 필요하지만, Facebook의 Bart Large CNN과 같이 사전 학습된 전용 모델을 사용하면 매우 간단하게 고급 결과를 얻을 수 있습니다.

마지막으로 NLP Cloud는 "비동기" 모드를 제안합니다. 즉, 오래 실행되는 백그라운드 작업을 트리거할 수 있습니다. 예를 들어 매우 큰 문서(최대 100만 토큰)를 요약하거나 매우 긴 오디오 파일을 텍스트로 변환하려는 경우에 유용합니다. OpenAI는 이러한 기능을 제안하지 않습니다.

안정성, 할당량 및 지원 품질

OpenAI와 NLP Cloud를 비교할 때는 API의 안정성, 할당량, 지원 품질이라는 세 가지 측면을 추가로 살펴볼 것을 권장합니다.

OpenAI는 지난 몇 달 동안, 특히 ChatGPT와 GPT-4 출시 이후 심각한 서비스 중단을 여러 차례 경험했습니다. 또한 최근에는 심각한 보안 침해로 이어진 버그에 직면하여 많은 고객을 불안에 떨게 했습니다.

최근 OpenAI 보안 이슈에 대한 자세한 내용은 여기를 참조하세요.

저희는 강력한 인프라를 제공하며, 2020년 3월(OVH 데이터센터 화재로 인한) 이후 단 한 번도 심각한 서비스 중단을 겪은 적이 없습니다.

또한 OpenAI는 신규 사용자에게 엄격한 할당량을 자동으로 적용한다는 점에 유의해야 합니다. 기본적으로 신규 사용자의 경우, 애플리케이션을 프로덕션 환경으로 이동하기 전에 잠시 기다렸다가 추가 할당량을 신청해야 합니다. NLP Cloud에서는 이러한 할당량을 적용하지 않으므로 즉시 프로덕션 환경으로 이동할 수 있습니다.

마지막으로, 일반적으로 OpenAI 지원팀으로부터 신속하고 정교한 답변을 받기가 매우 어렵다는 점에 유의하는 것이 중요합니다. NLP Cloud의 전략은 항상 모든 고객에게 고급 전문 지식을 제공하는 것이었습니다. 따라서 신속한 엔지니어링, 모델 선택, 미세 조정 등과 관련된 질문이 있으시면 주저하지 마시고 문의해 주시기 바랍니다.

결론

많은 고객이 사용 사례 제한, 데이터 개인정보 보호 정책, 가격, 서비스 중단 등의 이유로 OpenAI의 대안을 찾고 있습니다.

저희는 NLP 클라우드 API가 OpenAI의 매우 훌륭한 대안이라고 믿습니다!

NLP Cloud는 모든 고객에게 높은 수준의 지원을 제공하는 것을 자랑스럽게 생각하며, 고객이 AI 프로젝트를 신속하게 제공할 수 있도록 지속적으로 최첨단 AI 모델을 추가하고 있습니다.

한번 사용해 보시겠어요? 여기에서 NLP 클라우드를 테스트하세요!

Juliette
NLP 클라우드의 마케팅 관리자