Lipschitz Assumption

인공신경망은 거의 Lipschitz 가정을 만족하는 함수라서 업데이트된 새로운 형태의 변수공간에서 성능향상이 가능한 것

변화율이 상수로 제한되어 있다는 의미

When

f : X\rightarrow Y

, every

x_1, x_2 \in X

satisfy for some

L \ge 0

for

||f(x_1)- f(x_1) ||\le L||x_1 - x_2||

L

(Lipschitz constant) exists.

L

is limit condition that constraint rate of change