소개

FuriosaAI의 Tensor Contraction Processor(TCP)는 추론 워크로드를 위한 대규모 병렬 AI 가속기입니다. PyTorch나 XLA 같은 고수준 프레임워크는 메모리 레이아웃과 하드웨어 스케줄링을 추상화해 감춥니다. 이와 달리 TCP는 저수준 커널 API처럼 바이트 단위까지 따지지 않아도 프로그래머가 직접 제어할 수 있게 합니다.

TCP의 가상 명령어 집합 아키텍처(Virtual ISA, 또는 vISA)는 이러한 제어 기능을 제공하는 프로그래밍 인터페이스입니다. vISA를 사용하면 프로그래머는 텐서 단위로 사고하면서 메모리 할당과 Tensor Unit 스케줄링을 직접 관리할 수 있습니다. 이 매뉴얼은 주로 작성자가 AI 에이전트를 이끌어 vISA 커널을 작성, 검증, 최적화하도록 돕습니다. 또한 컴파일러 개발자가 vISA를 생성할 때 필요한 기술 자료도 제공합니다. 공개된 릴리스의 API는 furiosa-opt-std rustdoc을 공식 기준으로 삼습니다. 이 책은 커널 설계 결정을 내리고 검토하는 방법을 설명합니다. 두 독자층 모두 Rust의 기초를 알고 있다고 가정합니다. 필요하다면 언어 매뉴얼을 참고하십시오.

작업별로 이 책 읽기

빠른 시작에서는 기본 템플릿 커널 패턴과 함께 매핑, 이동, 계산, 엔드투엔드 사례, 스케줄링, 도구로 이어지는 학습 경로를 소개합니다.

Warning

알파 테스트 빌드: 실험적 소프트웨어

이 소프트웨어는 기술 평가와 내부 테스트만을 위한 초기 단계의 실험적이고 불완전한 빌드입니다.

이 소프트웨어를 프로덕션 작업이나 중요한 작업, 또는 중요한 데이터에 사용하기 전에 반드시 Furiosa 엔지니어와 상의하십시오.

여러분의 피드백은 저희 개발에 매우 중요합니다. 피드백을 보내 주십시오.

라이선스

이 문서와 furiosa-opt 저장소 전체는 Apache License Version 2.0에 따라 라이선스가 부여됩니다.