14주차 회고

2024-11-18 (월)

---

• 대면
• SAM 오류 수정

회고

주말 동안 SAM 이식을 못 끝냈다. 진짜조금ㅅ살짝울고싶었나? 암튼

다같이 코드 뜯어보면서 수정했다. 29개의 segmentation map을 출력해야 하지만 1개만 출력하고 있는 문제를 다중 클래스 출력이 가능하도록 구조를 수정해서 해결했다. 이 과정에서 iou token을 mask token에 그냥 더해서 갖고 다닌다는 것도 알게 됐다. 두 번째 문제는 decoder의 출력 이미지 크기가 원본 이미지 크기와 맞지 않는 문제였는데 이건 interpolation을 수행하는 postprocess 메서드를 사용했다....(이런거있는줄몰랐다 하)

 

근데 딱 저 문제 해결하자마자 머리가 지끈지끈하더니 몸 으슬으슬하고 아 이거 백퍼 열난다 싶어서 집에 갔다. 원래 시험 끝나고나 중요한 플젝 끝나면 열 크게 나서 한 번씩 앓아눕는 편이긴 한데... 야 고작 이걸로?진짜장난하나어이없네 근데 진짜 열이 나긴 했다 38.8도................... 인간핫팩.. 근데 핫팩 본인은 추워하는 

 

 

2024-11-19 (화)

---

• SAM preprocess 가져와서 적용

회고

열나고 아파서 거의 아무것도 못한 것 같다. SAM preprocess 사용하도록 코드 수정하고 그 과정에서 생긴 오류들 해결했다.

 

 

2024-11-13 (수)

---

• SAM 돌려보기~ 가중치 로드 부분 수정

회고

드디어 에러가 하나도 안 나길래 ㄴSAM을 돌려봤는데 0.5의 벽 뭐지

loss가 0.5xxx에서 절대 안 떨어지더라... 가중치 로드하는 부분 문제인가? 싶어서 에러 뜨는 가중치만 골라서 제외하고 학습 돌려도 똑같더라 허허

 

2024-11-14 (목)

---

• SAM encoder freeze
• CosineAnnealingWarmupRestarts

회고

실험 중간에 안 끊고 밤새 돌려놓은 다음에 wandb로 loss 그래프를 확인해보니까 

이렇게 나오더라......... 그래서 CosineAnnealingWarmupRestarts을 적용해봤다. 그치만 달라지는 건 없었고?

학습 되는 이미지를 시각화해볼까 싶었는데 지금 하기엔 SAM에 시간을 너무 많이 쏟는 것 같아 그만뒀다. 

근데 사실 마스크가 잘 안 들어가고 있거나 내가 인코더, 디코더를 떼올 때 코드를 이상하게 짰거나 둘 중 하나인데 SAM 코드 너무 많이 들여다봐서 봐도 다 맞는 것 같아서 문제다. 아 그리고 이미지 인코더, 프롬프트 인코더도 freeze해서 돌려보니까 loss가 0.5의 벽은 깨졌는데 이번엔 0.2? 의 벽이 새로 생겼더라 그리고 loss 떨어지는 속도나 val matric 오르는 속도도 너무너무너무너무 느렸다. 심지어 val matric은 일정 수준 이상으로 오르지도 않았다. (0.49였나....ㅋㅋ)

우리 팀이 이번 플젝에서 다같이 해보기로한 게 있어서 SAM은 여기까지 하고 그만하는 걸로 애기했다. 어차피 리더보드 점수를 위해서 하고 있는 건 아니었어서... 그치만 아쉽긴 하다. 일단 왜 loss가 저따구로 나오는지가 정말 궁금한데 이건 코드 보면서 분석을 해봐야겠다.아니진짜왜지? 그치만 컴퓨터는 거짓말을 안 해 무조건 사람잘못 내잘못이야

 

 

2024-11-15 (금)

---

• BERT, BEiT, clipseg 논문, 과제

회고

FCN-32s, DeconvNet, DeepLab 구현 과제를 해서 제출하고 논문을 읽었다. sam 보내니까 갑자기 할 게 없어진 느낌임

그치만그만하고싶음..아니그만이라기보단..걘좀쉬었다가보고싶음

ㅋㅋ