Pro-tuning: Unified Prompt Tuning for Vision Tasks

2022년 10월 07일 (금) | 발표자: 조상영

NLP 나 Multi-modal 학습을 위해서 사용되는 prompt learning 을 vision model의 성능을 boost 하는 방식으로 적용한 연구입니다. Frozen pre-training model에 prompt block를 추가하여 feature 각 layer 마다 나오는 feature 에 prompt 를 섞어 feature 를 만들어 학습합니다.15개의 벤치마크 데이터셋에서 실험한 결과 적은 파라미터로 성능을 향상시킬 수 있음을 보여주었습니다.