[Day17 - 5/18] 모델공유

[Heeseok-Jeong]

모델 bin, pth파일 드라이브

https://drive.google.com/drive/folders/1-5b_bweIbRne0RzRGzRNXhH1nAcqR1VH?usp=sharing

감사합니다

멘토링

[시도한거]

1. CHAN-DST 문종

• 총300에포크 돌리는중, 100에포크 -> 28%

2. TransformerDST 재우

• 30에포크 돌렸는데 -> 3%
• 전처리 문제로 다시 학습

3. SomDST 희석

• 30에포크 돌렸는데 -> 3%
• 2와 마찬가지로 다시 학습

4. 웹서빙 재우

[시도중]

1. COCO 유진
2. TAPT 문종

• TRADE 에 10에포크 적용 -> 성능약간 향상

[일정]
수요일(19일)

• 점심 12시에 각 실험 종료
  -> 가장 괜찮은 모델로 마지막 학습
  목요일
• 마지막 학습된 모델 앙상블

[느꼈던 점]

• 협업의 중요성
• 논문 보고 했던 시간이 귀중했던 것 같다.
• 논문을 보고 코드로 구현하는 것이 정말 좋았던 것 같다.
  개개인이 하나의 논문을 가지고 분배하는 것은 정말 좋은 경험인 것 같다.
• 이것을 왜 해야하는가에 대한 중요함

1위가 하고 싶다면 kaggle 1등 코드를 베끼면됨

구현이 목적이 아닌 의사결정에서 나오는 '왜 해야하는가'에 대한 경험이 진짜 중요

• 부캠에서 생긴 습관들을 꼭 가지고 갔으면 좋겠다.
  ex) 헬스를 마치고 돌아가는 헬린이처럼..
  논문을 계속 보고 하는 습관을 계속 가지고 가자!
• P-stage4에서 다시 새로운 것을 시작할텐데 이러한 스타트 '스킬'을 잘 가지고 가자

[전반적인 프로세스에서 궁금한 점]

• 논문을 보고 이 논문을 구현을 했는데 잘 구현했는지에 대한 의문 (희석님)
  • 단순하게 validation을 하는 방법을 사용하지만, 이러한 방법이 연구쪽에서와 같은 방법인지 모르겠다.
  • 애초부터 잘 짜는 연습을 하는 습관을 들이는 것이 중요
  • Simple한 것부터 연습하는 것
• 일정에 대해서
  • 성능이나 순위 보다는 우리가 노력한 것들을 보여주는 것들이 중요하다고 생각
• 실패를 딛고 일어서는 능력
  • 부캠에서 그런 것들을 느낄 수 있다는 것이 축복 받은 것!
  • 실패던 성공이던 배워가는 것들이 많은 시간이었다고 생각