Chutes AI는 분산형, 분산 서버리스 AI 컴퓨팅 플랫폼으로, 사용자가 대규모 언어 모델(LLM) 및 기타 인공 지능 도구를 실행, 확장 및 배포할 수 있도록 설계되었습니다. 기존 클라우드 인프라 관리의 복잡성 없이 주문형 GPU 리소스에 대한 액세스를 제공하는 것을 목표로 사용량 기반 요금제를 운영합니다. ^[1]

개요

Chutes AI는 백엔드 개발자 Cxmplex, Florian S, Kyle 등을 포함한 엔지니어, 연구원 및 빌더의 글로벌 네트워크에 의해 개발 및 설립되었습니다. 프론트엔드 개발자 Bonoliver, 마케팅 및 영업 담당자 Veight 등이 있습니다. CEO/중앙 의사 결정자는 없으며, 조직은 분산되어 있고 책임은 집단적 의사 결정 프로세스를 통해 당사자 간에 공유됩니다. ^[6]

Chutes AI는 출시 이후 수요가 크게 증가했습니다. 2025년 5월 28일까지 이 플랫폼은 하루 1,000억 개의 토큰을 처리하는 이정표에 도달했으며, 이는 한 달에 3조 개의 실제 토큰에 해당합니다. 이는 2025년 1월 이후 수요가 250배 증가한 것으로, 분산형 AI 컴퓨팅 솔루션의 채택이 증가하고 있음을 반영합니다. 이 플랫폼의 토큰 기반 결제 시스템은 사용량 기반 모델을 향한 광범위한 산업 트렌드와 일치하며, 기존 공급업체에 비해 최대 40%의 비용 절감을 제공할 수 있습니다. ^{[1] [2] [3] [5]}

기술

Chutes AI는 사용자가 분산형 GPU 제공업체 네트워크에서 "슈트"라고 하는 컨테이너를 "실행"할 수 있도록 하여 작동합니다. 이러한 노드는 사용자 코드를 실행하고 결과를 효율적이고 안전하게 반환하여 광범위한 클라우드 엔지니어링 전문 지식이 필요하지 않습니다. 이 플랫폼은 다양한 AI 작업에 대한 사용자 정의 Docker 컨테이너 또는 사전 구성된 템플릿의 사용을 지원합니다.

기본 인프라는 광부에게 컴퓨팅 리소스를 제공하도록 장려하는 Bittensor 네트워크를 기반으로 구축되었습니다. 이 분산형 접근 방식은 AI 모델 배포 및 추론을 위한 강력하고 확장 가능한 환경을 제공하는 것을 목표로 합니다. 사용자는 소비된 컴퓨팅 리소스에 대해서만 비용을 지불하므로 유휴 GPU 비용이나 구독료를 피할 수 있습니다. ^[1]

주요 기능

Chutes AI는 AI 개발 및 배포를 간소화하도록 설계된 여러 기능을 제공합니다.

• 서버리스 배포: 복잡한 DevOps 구성 없이 몇 초 만에 AI 모델을 빠르게 배포할 수 있습니다.
• 분산 컴퓨팅: Bittensor 네트워크의 분산 GPU 리소스를 활용하여 탄력적이고 확장 가능한 인프라를 촉진합니다.
• 개방형 인프라: 사용자 제공 Docker 컨테이너를 지원하고 DeepSeek, Meta-Llama 및 Mistral과 같은 일반적인 AI 모델에 대한 사전 구성된 템플릿을 제공합니다.
• 유연한 SDK 및 CLI: 배포 및 관리 작업을 자동화하기 위한 개발자 친화적인 도구를 제공합니다.
• 사용량 기반 요금제: 기존 GPU 호스팅과 관련된 고정 비용을 제거하여 실제 리소스 소비를 기준으로 사용자에게 요금을 부과합니다. ^[1]

사용 사례 및 통합

Chutes AI는 LLM 미세 조정, 임베딩 생성 및 이미지 합성을 포함한 다양한 AI 애플리케이션을 위해 설계되었습니다. 모델 이름, 프록시 URL 및 API 키를 구성하여 사용자가 Chutes AI 모델을 연결할 수 있도록 Janitor AI 및 KoboldAI와 같은 인기 있는 프론트엔드 채팅 도구와 통합됩니다.

이 플랫폼은 또한 Chutes AI 계정에 크레딧을 추가하여 액세스할 수 있는 Qwen 3 Coder 480B A35B와 같은 특정 모델의 가용성을 지원합니다. ^{[1] [2]}

스타트업 액셀러레이터 플랫폼

Chutes AI는 신흥 AI 프로젝트를 지원하기 위해 스타트업 액셀러레이터 플랫폼을 출시했습니다. 이 프로그램은 최대 $20,000 상당의 Chutes 크레딧과 적격 스타트업을 위한 포괄적인 지원 프로그램을 제공합니다. 액셀러레이터는 직원 수가 50명 미만이고, 시리즈 A 이전 자금을 지원받고, 모금액이 200만 달러 미만(또는 자금 지원이 없는 경우)이고, 높은 처리량 컴퓨팅이 필요한 회사를 대상으로 합니다. 이 플랫폼은 새로운 스타트업을 적극적으로 온보딩하고 있으며, 신청서는 지속적으로 접수됩니다. ^[2]

향후 개발

Chutes AI는 비용 효율성과 분산형 액세스 측면에서 장점을 제공하지만 저비용 Web2 솔루션과의 경쟁과 Bittensor의 경제 모델에 대한 의존성과 같은 문제에 직면해 있습니다. Bittensor 핫키를 통한 API 키 관리도 일부 사용자에게는 학습 곡선을 제시할 수 있습니다.

진화하는 요구와 규제 환경에 대응하여 Chutes AI는 새로운 결제 옵션을 도입하고, 향상된 데이터 개인 정보 보호 및 보안을 위해 안전한 TEE(Trusted Execution Environments)를 통합하고, 워크플로를 간소화할 계획입니다. 이러한 개발은 투명성, 공정성 및 책임성을 강조하는 EU AI 법과 같은 규정에 맞춰 지능형 컴퓨팅을 더욱 안전하고 접근 가능하게 만드는 것을 목표로 합니다. ^{[1] [3]}