전체 글

hook PyTorch에서 hook은 nn.Module 클래스의 메소드 중 하나로, 모델의 특정 레이어에 훅(hook)을 등록하여 해당 레이어의 입력, 출력, 혹은 중간값을 추적할 수 있도록 합니다. hook은 register_forward_hook 메소드와 register_backward_hook 메소드를 사용하여 등록할 수 있습니다. register_forward_hook 메소드는 해당 레이어의 순전파(forward) 연산이 실행되기 전에 호출되는 함수를 등록합니다. 반면, register_backward_hook 메소드는 해당 레이어의 역전파(backward) 연산이 실행되기 전에 호출되는 함수를 등록합니다. hook 함수는 다음과 같은 인자를 가질 수 있습니다. module: 훅이 등록된 nn.M..

만든 모델의 내부 module 목록을 보고 싶을 때 model.named_children #한 단계 아래 모듈만 보여줌 model.named_modules #전체 하위 module을 보여줌 만약 module만 필요하다면?? model.modules() model.children() 위 함수는 module만 가져온다. 특정 모듈만 가져오고 싶다면?? model.get_submodule(이름) 바로 밑에 단의 모듈들을 검색 할 수 있기 때문에 더 밑에 있는 모듈을 가져오려면 . 으로 연결 시켜서 가져와야한다. 특정 파라미터도 볼 수 있지 않을까?? model.named_parameters() 이것 또한 이름 없이 parameter만 가져올 수 있지만 그러면 어떤 파라미터에 속해있는지 알수없기 때문에 보통 쓰..

Module, model, layer, function module: PyTorch에서 제공하는 기본적인 구성 요소로서, 모델의 각 구성 요소를 캡슐화하는 클래스입니다. nn.Module 클래스를 상속하여 사용되며, 레이어와 함수 등을 포함할 수 있습니다. model: 모델은 레이어와 함수 등을 조합하여 구성된 전체 딥러닝 모델을 나타냅니다. 모델은 PyTorch의 nn.Module 클래스를 상속받아 정의되며, 레이어와 함수 등을 조합하여 전체 모델을 구성합니다. layer: 레이어는 모델을 구성하는 기본 구성 요소입니다. 레이어는 입력 데이터를 받아들이고 출력 데이터를 생성하는 함수를 나타내며, PyTorch에서 제공하는 nn.Module을 상속하여 정의됩니다. function: 함수는 레이어와 유사하..

torch.linalg torch.linalg 모듈은 선형 대수(Linear Algebra)와 관련된 다양한 함수를 제공하는 PyTorch의 서브모듈입니다. 이 모듈은 CPU와 GPU에서 실행될 수 있는 고성능의 BLAS 및 LAPACK 라이브러리에 의존합니다. 주요 기능은 다음과 같습니다. torch.linalg.norm: 텐서의 노름을 계산합니다. torch.linalg.matrix_power: 주어진 행렬의 거듭제곱을 계산합니다. torch.linalg.eig: 정방행렬(e.g., covariance matrix)의 고유값과 고유벡터를 계산합니다. torch.linalg.svd: 특이값 분해(Singular Value Decomposition, SVD)를 계산합니다. torch.linalg.chol..

PyTorch의 Document https://pytorch.org/docs/stable/index.html PyTorch documentation — PyTorch 1.13 documentation Shortcuts pytorch.org PyTorch의 여러 기능 함수들에 대해 볼 수 있다. Torch 목차의 순서대로 3가지씩 함수를 뽑아 정리하였습니다 Random sampling randn PyTorch의 torch.randn() 함수는 정규 분포(가우시안 분포)에서 난수를 생성하는 함수입니다. 함수는 입력된 shape에 따라 주어진 차원을 가진 텐서를 반환합니다. torch.randn(*size, out=None, dtype=None, layout=torch.strided, device=None, ..

주간 학습 정리 - Tistory 첫 주 Python 기초, NumPy, Pandas, AI & Math 강의를 들었다. 강의 분량이 상당해서 일주일 간 강의 듣고 정리 하기의 반복이었다. 주말이 되어서야 어느정도 정리를 끝낼 수 있었다. 여러가지 생소한 용어들과 처음 보는 함수들이 즐비하게 나왔다. 너무 많은 내용이 머리에 들어와 정리를 하지 않았으면 다시 기억하기 힘들었을 것 같다. Python과 NumPy는 그래도 몇 번 해본 경험이 있기 때문에 괜찮았는데 Pandas 와 Math 쪽이 조금 힘들었다. 엑셀조차 많이 다뤄본 적이 없었는데 코딩으로 엑셀을 다루는 것과 같은 느낌이었다. 부랴부랴 정리 했지만 Pandas는 직접 코드를 쳐보면서 감각을 길러야 할 것 같다. Math 쪽도 어려운 개념이 많..