Chutes AI는 사용자가 대규모 언어 모델(LLM) 및 기타 인공 지능 도구를 실행, 확장 및 배포할 수 있도록 설계된 분산형 서버리스 AI 컴퓨팅 플랫폼입니다. 이 플랫폼은 종량제 모델로 운영되며, 기존 클라우드 인프라 관리의 복잡성 없이 GPU 리소스에 대한 온디맨드 액세스를 제공하는 것을 목표로 합니다. ^[1]

개요

Chutes AI는 Bittensor 생태계 내의 분산형 솔루션 발전에 중점을 둔 Rayon Labs에서 개발했습니다. 이 플랫폼은 기여자가 컴퓨팅 성능을 제공하고 $TAO 토큰으로 보상받는 분산형 네트워크인 Bittensor의 서브넷 64를 활용합니다. 이 인프라를 통해 Chutes AI는 서버리스 컴퓨팅 솔루션을 제공하여 개발자, 데이터 과학자 및 스타트업 창업자가 AI 프로젝트를 빠르고 비용 효율적으로 배포 및 확장할 수 있도록 합니다.

Chutes AI는 출시 이후 수요의 급증을 보였습니다. 2025년 5월 28일 기준으로 하루 1,000억 개의 토큰을 처리하는 이정표에 도달했으며, 이는 월 3조 개의 실제 토큰에 해당합니다. 이는 2025년 1월 이후 수요가 250배 증가한 것을 나타내며, 분산형 AI 컴퓨팅 솔루션의 채택이 증가하고 있음을 보여줍니다. 이 플랫폼의 토큰 기반 결제 시스템은 사용량 기반 모델로의 업계 전반적인 추세와 일치하며, 기존 제공업체에 비해 최대 40%의 비용 절감 효과를 제공할 수 있습니다. ^{[1] [2] [3] [6] [5]}

기술

Chutes AI는 사용자가 분산된 GPU 제공업체 네트워크에서 "chute"라고 하는 컨테이너를 "런칭"할 수 있도록 합니다. 이 노드는 사용자 코드를 실행하고 효율적이고 안전하게 결과를 반환하여 광범위한 클라우드 엔지니어링 전문 지식이 필요하지 않습니다. 이 플랫폼은 사용자 지정 Docker 컨테이너 또는 다양한 AI 작업을 위한 사전 구성된 템플릿을 지원합니다.

기반 인프라는 Bittensor 네트워크를 기반으로 구축되어 채굴자가 컴퓨팅 리소스를 제공하도록 유도합니다. 이 분산형 접근 방식은 AI 모델 배포 및 추론을 위한 강력하고 확장 가능한 환경을 제공하는 것을 목표로 합니다. 사용자는 사용한 컴퓨팅 리소스에 대해서만 비용을 지불하므로 유휴 GPU 비용이나 구독료가 발생하지 않습니다. ^[1]

주요 기능

Chutes AI는 AI 개발 및 배포를 간소화하기 위해 설계된 여러 기능을 제공합니다.

• 서버리스 배포: 복잡한 DevOps 구성이 필요 없이 몇 초 만에 AI 모델을 빠르게 배포할 수 있습니다.
• 분산형 컴퓨팅: Bittensor 네트워크의 분산된 GPU 리소스를 활용하여 탄력적이고 확장 가능한 인프라를 구축합니다.
• 개방형 인프라: 사용자 제공 Docker 컨테이너를 지원하며 DeepSeek, Meta-Llama 및 Mistral과 같은 일반적인 AI 모델을 위한 사전 구성된 템플릿을 제공합니다.
• 유연한 SDK 및 CLI: 배포 및 관리 작업을 자동화하기 위한 개발자 친화적인 도구를 제공합니다.
• 종량제 가격: 사용자가 실제로 사용한 리소스에 따라 요금을 청구하므로 기존 GPU 호스팅과 관련된 고정 비용이 발생하지 않습니다. ^[1]

사용 사례 및 통합

Chutes AI는 LLM 미세 조정, 임베딩 생성 및 이미지 합성을 포함한 다양한 AI 애플리케이션을 위해 설계되었습니다. Janitor AI 및 KoboldAI와 같은 인기 있는 프런트엔드 채팅 도구와 통합되어 사용자가 모델 이름, 프록시 URL 및 API 키를 구성하여 Chutes AI 모델을 연결할 수 있습니다.

이 플랫폼은 Qwen 3 Coder 480B A35B와 같이 Chutes AI 계정에 크레딧을 추가하여 액세스할 수 있는 특정 모델도 지원합니다. ^{[1] [2]}

스타트업 액셀러레이터 플랫폼

Chutes AI는 신흥 AI 프로젝트를 지원하기 위해 스타트업 액셀러레이터 플랫폼을 출시했습니다. 이 프로그램은 자격을 갖춘 스타트업에 최대 2만 달러 상당의 Chutes 크레딧과 포괄적인 지원 프로그램을 제공합니다. 이 액셀러레이터는 직원 수가 50명 미만이고 시리즈 A 이전 투자를 받았으며 200만 달러 미만을 조달했거나 (또는 자금 조달을 받지 않은) 고 처리량 컴퓨팅이 필요한 회사를 대상으로 합니다. 이 플랫폼은 지속적으로 신청서를 접수하며 새로운 스타트업을 적극적으로 온보딩하고 있습니다. ^[2]

향후 개발

Chutes AI는 비용 효율성과 분산형 액세스라는 장점을 제공하지만 저렴한 Web2 솔루션과의 경쟁 및 Bittensor의 경제 모델에 대한 의존과 같은 과제에 직면해 있습니다. Bittensor 핫키를 통한 API 키 관리는 일부 사용자에게 학습 곡선을 제시할 수도 있습니다.

변화하는 요구 사항과 규제 환경에 대응하여 Chutes AI는 새로운 결제 옵션을 도입하고, 향상된 데이터 개인 정보 보호 및 보안을 위해 안전한 신뢰 실행 환경(TEE)을 통합하고, 워크플로를 간소화할 계획입니다. 이러한 개발은 투명성, 공정성 및 책임성을 강조하는 EU AI 법과 같은 규정에 맞춰 지능형 컴퓨팅을 더욱 안전하고 접근 가능하게 만드는 것을 목표로 합니다. ^{[1] [3]}

모회사: Rayon Labs

Chutes AI는 Bittensor 생태계 내에서 분산형 솔루션 개발에 전념하는 Rayon Labs의 제품입니다. Rayon Labs는 Namoray와 BonOliver에 의해 설립되었으며 Bittensor에서 세 개의 서브넷을 관리합니다.

• Chutes (서브넷 64): 서버리스 AI 컴퓨팅에 중점을 둡니다. 2025년 4월 기준으로 6,000만 달러의 자본금으로 Rayon Labs의 서브넷 중 선두를 달리고 있습니다.
• Gradients (서브넷 56): 2025년 4월 기준으로 3,000만 달러의 자본금으로 비전문가도 모델 훈련에 액세스할 수 있도록 하는 것을 목표로 합니다.
• Nineteen (서브넷 19): 2025년 4월 기준으로 1,500만 달러의 자본금으로 고주파수 추론에 집중합니다.

Rayon Labs는 원격 근무 환경을 조성하고 Python, Kubernetes 및 Docker와 같은 기술을 사용하여 제품을 구축합니다. ^{[3] [4] [5] [6]}