C:\\Program Files\\NVIDIA GPU Computing Toolkit\\CUDA\\v11.2\\bin에 zlibwapi.dll 파일 없어서 생기는 오류이다. [다운로드] https://docs.nvidia.com/deeplearning/cudnn/install-guide/index.html#install-zlib-windows에서 윈도우 버전의 zlibwapi.dll을 설치하면 된다.

https://arxiv.org/pdf/1512.03385.pdf ResNet은 기존의 다층 Layer의 문제점인 Gradien Vanishing(가중치가 0으로 수렴: 기울기 소실)을 개선한 모델이다. 다층 Layer 특성상 가중치를 갱신하면서 원래 가진 값과 갱신 단계가 많아져 원래 값을 잘 찾아가지 못하는 문제가 생긴다. ResNet에서는 잔차를 이용해 Layer의 층을 높이 쌓지 않은 반면 Error는 줄이는 방법을 고안해냈다.

https://www.kaggle.com/datasets/gpiosenka/100-bird-species BIRDS 400 - SPECIES IMAGE CLASSIFICATION 58388Train, 2000 Test, 2000 Validation images 224X224X3 jpg format www.kaggle.com [Birds 400] Test Model List - Resnet - mobilevit

BPE 단계 - 빈도수와 함께 주어진 데이터셋에서 단어 추출 - 어휘 사전 크기 정의 (vocab_dict) - 단어를 문자 시퀀스로 분할 - 문자 시퀀스의 모든 고유 문자를 어휘 사전에 추가 - 빈도가 높은 기호 쌍을 선택하고 병합 - 어휘 사전 크기에 도달할 때까지 앞 다섯 단계 반복

* 하위단어 Pretrained -> Pre + train + -ed * OOV (Out of Vocabulary) 단어 사전에 없는 용어를 말한다. * 하위 단어 토큰화는 트랜스포머 계열에서 널리 쓰인다. Pre-trained 모델에서 발생하는 OOV 단어 처리에 효과적인 결과를 가져다준다. - 나는 영화를 즐겼다. - 나는 영화를 보았다. 두 문장은 동일한 문장이다. '보았다'를 OOV로 보았을 때 모델은 같은 의미인지 파악하지 못한다. 이때 하위 단어 Tokenized를 통해 모델에 의미를 좀더 명확히 전달할 수있다. ex) (즐기다,-했다) (보다,-했다)

* BERT모델에 사용되는 사전 학습 전략 (Pretrained Training) 다음 문장 예측에 대한 방법은 이진 분류로 진행한다. EX) A : 종합소득세 신고는 어디서하나요? B : 홈텍스에서 합니다. A의 후속 문장으로 B가 알맞음을 알 수 있다. 이 경우 isNext(True)로 표시 한다. A : 종합소득세 신고는 어디서하나요? B : SSEM에서 합니다. A의 후속 문장이 B가 맞는지 알 수 없다. 이 경우 notNext(False)로 표시한다. 이렇게 is / not으로 이진 분류를 진행한다. 학습 초기에는 피드포워드 네트워크(ReLU)의 가중치가 정확하지 않아 올바르게 반환하지 못한다. 최적의 가중치를 찾으면서 다음 문장에 대한 관계를 정확하게 판단하게 된다. * 사전 학습 절차 MLM..