소개

ORA에서 발명하고 개발한 opML(Optimistic Machine Learning)은 머신 러닝을 블록체인 기술과 통합하는 획기적인 접근 방식을 도입했습니다. 낙관적 롤업과 유사한 원리를 활용하여 opML은 분산된 방식으로 계산의 유효성을 보장합니다. 이 프레임워크는 AI 계산의 온체인 검증을 허용하여 머신 러닝 추론의 투명성을 향상시키고 신뢰를 조성합니다. ^[1]

아키텍처

OpML은 다음과 같은 주요 구성 요소로 구성됩니다.

1. 사기 증명 가상 머신(오프체인 VM): 머신 러닝 추론을 실행하는 강력한 오프체인 엔진입니다. 이 구성 요소는 머신 러닝 추론을 실행하여 새로운 VM 상태를 출력으로 생성합니다. 불일치가 발생하여 다른 VM 상태로 나타나면 MIPS VM은 이분법을 사용하여 발산이 시작되는 정확한 단계 또는 명령을 정확히 찾아냅니다.
2. opML 스마트 계약(온체인 VM): 계산 결과의 정확성을 보장하는 계산 결과 검증에 사용됩니다. 이러한 계약을 통해 단일 MIPS 명령을 실행할 수 있으므로 온체인 환경에서 계산 프로세스의 특정 단계를 확인할 수 있습니다. 이 기능은 분쟁을 해결하고 오프체인 계산의 무결성을 보장하는 데 중요합니다.
3. 사기 증명: 분쟁 발생 시 검증자가 생성한 사기 증명은 결정적인 증거 역할을 하여 계산의 불일치를 보여주고 opML 스마트 계약을 통해 해결 프로세스를 용이하게 합니다.

검증 게임

검증 게임은 둘 이상의 당사자가 동일한 프로그램을 실행하는 것으로 가정하는 프로세스입니다. 그런 다음 당사자는 논쟁의 여지가 있는 단계를 찾기 위해 핀포인트 스타일로 서로에게 이의를 제기할 수 있습니다. 이 단계는 검증을 위해 스마트 계약으로 전송됩니다. 시스템이 의도한 대로 작동하려면 다음을 확인하는 것이 중요합니다.

• 결정적 ML 실행 opML은 고정 소수점 산술 및 소프트웨어 기반 부동 소수점을 사용하여 일관된 ML 실행을 보장하여 무작위성을 제거하고 상태 전환 함수를 통해 결정적 결과를 달성합니다.
• 증명과 별도의 실행 opML은 최적화된 기본 실행을 위한 컴파일과 안전한 검증을 위한 사기 방지 VM 명령을 위한 컴파일이라는 이중 컴파일 방법을 활용합니다. 이를 통해 빠른 실행과 안정적인 머신 독립적 증명을 모두 보장합니다.
• VM에서 AI 모델 추론의 효율성 낙관적 롤업 시스템에서 널리 채택되는 기존 사기 증명 시스템은 전체 계산을 사기 증명 VM 명령으로 교차 컴파일해야 하므로 비효율적인 실행과 막대한 메모리 소비가 발생합니다. opML은 반네이티브 실행 및 지연 로딩을 허용하는 새로운 다단계 프로토콜을 제안하여 사기 증명 프로세스 속도를 크게 향상시킵니다.

전체 opML 프로세스에는 다음 단계가 포함됩니다.

1. 요청자는 먼저 ML 서비스 작업을 시작합니다.
2. 그런 다음 서버는 ML 서비스 작업을 완료하고 결과를 체인에 커밋합니다.
3. 검증자는 결과를 검증합니다. 결과가 잘못되었다고 선언하는 검증자가 있다고 가정합니다. 서버와 함께 검증 게임(이분법 프로토콜)으로 검증 게임을 시작하고 하나의 구체적인 오류 단계를 정확히 찾아내어 주장을 반증하려고 시도합니다.
4. 마지막으로 단일 단계에 대한 중재가 스마트 계약에서 수행됩니다.

다단계 검증 게임

컴퓨팅 리소스를 더 잘 활용할 수 있도록 단일 단계 검증 게임을 확장한 것입니다. 단일 단계 검증 게임은 전체 ML 추론 코드를 사기 증명 VM 명령으로 교차 컴파일합니다. 이 방법은 기본 실행보다 효율성이 떨어집니다(GPU/TPU 가속 및 병렬 처리의 잠재력을 최대한 활용하지 않음). 사기 증명 VM은 메모리도 제한되어 있어 대규모 모델을 메모리에 직접 로드할 수 없습니다. 위의 문제를 해결하기 위해 다단계 검증 게임은 다음과 같은 속성을 도입합니다.

• 반네이티브 실행 다단계 설계를 통해 단일 단계 프로토콜과 유사하게 최종 단계에서만 VM에서 계산을 수행하면 됩니다. 다른 단계에서는 CPU, GPU 또는 TPU의 병렬 처리 기능을 활용하여 기본 환경에서 상태 전환을 유도하는 계산을 수행할 수 있는 유연성이 있습니다. VM에 대한 의존도를 줄임으로써 오버헤드를 크게 최소화하여 기본 환경과 거의 유사한 opML의 실행 성능을 현저하게 향상시킵니다.
• 지연 로딩 설계 사기 증명 VM의 메모리 사용량과 성능을 최적화하기 위해 지연 로딩 기술을 구현합니다. 즉, 모든 데이터를 한 번에 VM 메모리에 로드하는 것이 아니라 각 데이터 항목을 식별하는 키만 로드합니다. VM이 특정 데이터 항목에 액세스해야 하는 경우 키를 사용하여 외부 소스에서 가져와 메모리에 로드합니다. 데이터 항목이 더 이상 필요하지 않으면 메모리에서 스왑되어 다른 데이터 항목을 위한 공간을 확보합니다. 이렇게 하면 메모리 용량을 초과하거나 VM의 효율성을 저하시키지 않고도 많은 양의 데이터를 처리할 수 있습니다.

추가 자료

• opML에 대한 자세한 설명은 연구 논문에서 확인할 수 있습니다. ^[1]
• ORA의 오픈 소스 구현 리포지토리를 확인하세요. ^[2]