PyTorch operation이 broadcast를 지원하면, 그 텐서 매개변수들은 자동적으로 동일한 size로 확장
broadcastable
조건 2가지 (동일 shape는 항상 broadcastable)
- 각 텐서는 최소한 한 차원(dimension)
- 차원 크기에 따라 반복할 때, 뒤 쪽에서 시작하여 차원의 크기는 동일해야하고, 그 중 하나는 1이거나 존재하지 않아야 한다.
x,y차원수가 다르다면, 1을 더 적은 차원을 가진 텐서 앞에 붙여서 길이를 같게 만든다
- resulting dimension size는,
x와y크기 중 최대 차원이 되도록 맞춰준다.
Pytorch docs 요약] Broadcasting Semantics
원본 BROADCASTING SEMANTICS 많은 pytorch operation은 NumPy Broadcasting Semantics을 지원한다. 짧게 말해, PyTorch operation이 broadcast를 지원하면, 그 텐서 매개변수들은 자동적으로 (데이터를 복사하지 않고서) 동일한 크기(size)로 확장될 수 있다. GENERAL SEMANTICS 만약 다음 두 가지 규칙을 유효하면, 두 개의 텐서는 "broadcastable"하다. 각 텐서는 최소한 한 차원(dimension)은 가지고 있다. 차원 크기에 따라 반복할 때, 뒤 쪽에서 시작하여 차원의 크기는 동일해야하고, 그 중 하나는 1이거나 존재하지 않아야 한다. 예를 들어 >>> x=torch.empty(5,7,3) >>> y=torc..
https://mclearninglab.tistory.com/85

Seonglae Cho