1.58-bit FLUX

1.58-bit FLUX는 극단적인 삼진 양자화가 고품질 이미지 생성에서도 작동할 수 있음을 보여준다.

이 논문은 -1, 0, +1 값을 갖는 삼진 가중치를 사용해 FLUX.1-dev를 위한 데이터 없는 양자화 방식인 1.58-bit FLUX를 제시한다. 이 방법은 이미지 데이터에 접근하는 대신 원본 FLUX.1-dev 모델의 자기 지도에 의존하며, 고해상도 1024×1024 텍스트-이미지 생성을 목표로 한다. 1.58-bit 연산에 최적화된 맞춤 커널은 큰 효율 향상을 제공한다. 모델 저장 공간은 7.7배, 추론 메모리는 5.1배 감소하고 지연 시간도 개선된다. GenEval과 T2I CompBench 평가는 연산 및 메모리 요구량이 급격히 감소하면서도 이미지 품질이 비슷하게 유지됨을 보여주며, 이는 대규모 확산 계열 모델의 실용적 배치에 의미가 있다.

핵심 요약

• 방법은 FLUX.1-dev를 삼진 -1, 0, +1 가중치로 양자화하여, 대규모 텍스트-이미지 모델에 대해 1.58-bit 표현에 도달한다.
• 데이터 요건 측면에서 양자화는 데이터 없이 이루어지며, 외부 이미지 데이터셋 대신 원본 모델의 자기 지도를 사용한다.
• 효율 면에서 보고된 향상에는 저장 공간 7.7배 감소, 추론 메모리 5.1배 감소, 그리고 맞춤형 저비트 커널을 통한 지연 시간 감소가 포함된다.
• 결과적으로 벤치마크는 극단적인 압축에도 불구하고 1024×1024 이미지 품질이 비슷함을 시사한다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.