Seonglae ChoPython Context Manager
모델의 파라미터나 입력 데이터의 데이터타입을 half()를 사용하여 변경하지 않고 그대로 넣어도 자동적으로 precision을 mixing
loss 계산과 forward pass만 사용하길 권장 backward passes는 비추천
Python Decorator
Supported Operations
Automatic Mixed Precision package - torch.amp — PyTorch 2.0 documentation
Community
https://pytorch.org/docs/stable/amp.html#autocast-op-reference