개인공부를 선택한 이유와 진행방법

자기주도학습의 필요성
개인 공부하는 것이 Gap year가 되지 않을까 많은 걱정이 되었고, 대학원 진학을 고민하였습니다. 그러던 중, Chris Olah의 'Do I Need a Degree?'라는 글을 보게 되었습니다. Chris Olah는 학사 학위 없이 Google Brain에서 Research Scientist로 근무하신 분입니다. 그의 글에서 "학위가 필요한가"라는 질문 대신에 "연구자로서 더 성장할 좋은 기회는 무엇인가"라는 질문을 스스로에게 해보는 것이 좋다는 문구를 보았습니다. 저는 제 스스로가 대학원에 들어간다 하더라도 기초 과목 공부 때문에 연구가 힘들 것이라고 판단하였고, 기초 과목이랑 연구에 분산해서 집중하기에 어느 것에서도 애매한 성과를 이룰 것이라 생각했습니다. 따라서, 개인 스스로 공부하는 것이 더 성장하기 좋은 환경이라고 판단하였습니다. Chris Olah의 글에서도 본인도 3년 정도의 개인 공부로 많은 성장을 하였다고 했지만, 스스로가 정말 몰두해서 노력할 수 있는지 판단하는 것이 중요하다고 했습니다. 저는 제 스스로에게 질문을 던진 결과 몰두해서 할 수 있다고 판단하였고, 그 결과 매일 평균 10~12시간 정도 개인 역량 강화에 투자하고 있습니다.

자기주도학습의 방향성 – 기본기 집중 & 트렌드 Follow-up

Lex Fridman의 유튜브 채널에서 Andrej Karpathy 와, Exaltitude 유튜브 채널에서 Netflix의 Senior Research Scientist Moumita Bhattacharya가 어떻게 ML 직군을 준비해야 하는지에 대한 의견을 보았습니다. 그들은 ML의 기본 지식에 깊이 파고들면서 집중할 것을 조언했습니다. 특히, Netflix의 Senior Research Scientist 는 1년 전에 학회에서 발표된 내용들이 1년 후에는 쓸모없어지는 경우가 많기에, 기본기를 잘 다져야 빠르게 새로운 내용을 따라잡을 수 있다고 강조했습니다. 최근에는 Google ML Expert이자 Huggingface Contributor로 활동하시는 박찬성 님께서 페이스북에 "애매하게 최신 기술들을 따라가기보다는 AI Core 지식에 힘을 쏟는 것이 훨씬 낫다"는 게시물을 올리신 것을 보았습니다. 또한, 30년 경력의 업계 선배님께서도 Bottom-up 방식으로 리서치 역량과 기본기에 집중하라는 조언을 해주셨습니다. 이러한 조언들을 바탕으로, 저는 Computer Science의 기본기와 Machine Learning의 기초 지식, 그리고 수학에 집중하며 개인 공부를 진행하고 있습니다.기본기에 집중하는 것은, 남들에 비해 상당히 돌아가는 방식처럼 여겨지기도 하고, 남들이 최신 기술에 집중하는 것을 보면 마음이 조급해지기도 합니다. 하지만, 커리어는 마라톤과 같기에 저는 지금 당장이 아닌 몇 년 후의 제 자신을 생각하면서 개인 공부에 집중합니다. 최신 기술의 디테일한 부분은 모르더라도 동향과 트렌드 정도는 파악해야 하기에 이러한 부분은 YouTube와 Article의 도움을 받고 있습니다. YouTube로는 AIexplained 채널과 Yannic Kilcher 채널을 통해 최신 트렌드를 Follow up하려고 하고, Article로는 OpenAI의 Lilian Weng님의 글로부터 도움을 받고 있습니다 . YouTube와 Article로 트렌드를 파악하는 것은 두 가지 큰 이점이 있습니다. 첫째, YouTube를 통해 다양한 전문가들이 최신 기술 개발과 관련된 업계 동향을 쉽게 접할 수 있습니다. AIexplained 채널과 Yannic Kilcher 채널에서는 학계와 산업계의 선도적 연구를 소개하며, 이를 통해 AI 분야의 주요 트렌드와 기술적 발전을 신속하게 파악할 수 있습니다. 둘째, Article에서는 전문가들이 자신의 경험과 통찰을 공유하며, 심층적인 기술 분석과 예측을 제공합니다. OpenAI의 Lilian Weng님의 글처럼, 심도 있는 기술적 지식을 획득할 수 있어, 기술 동향을 이해하고 향후 발전 방향을 예측하는 데 도움이 됩니다. 이러한 접근법은 저에게 최신 기술에 대한 흥미와 이해를 높이는 데 중요한 역할을 합니다. 기본기가 탄탄한 상태에서 최신 트렌드를 파악하면, 빠르게 변화하는 AI 분야에서도 항상 준비 상태를 유지할 수 있습니다.

자기주도학습을 하는 방법-active learning & spaced repetition

저는 자기주도학습의 방법으로 active learnig과 spaced repetition 방법을 채택하였습니다. 단순히 , 강의를 듣고 공부한 내용을 다시 읽는 passive learning을 하는게 더 빠르고 편하긴 하지만, 저는 제가 공부한 내용들을 제 평생의 커리어동안 기억하고 최신 기술을 공부할 때 응용하고 싶었습니다. Active learning은 백지에서 제가 공부한 내용을 기억함으로써 더 오랫동안 기억에 남는다는 장점이 있습니다. 시간은 더 오래 걸리고, 심리학에서 말하는 Uncomfortable을 불러 일으킵니다. 하지만, 이를 극복함으로서 좀 더 견고한 지식을 갖게 되었습니다.또한, 여기에 Spaced Repettition 방식을 결합하였습니다. 망각곡선을 기준으로 3시간, 1일,3일,7일,14일,30일,

60일,120일300일정도의 간격으로 spaced repetition방법을 적용하였습니다. 3시간, 1일뒤의 복습시에는 passive learning 방식으로 다시 읽기만 하고 , 3일 뒤 부터는 active learning 방식을 적용하여 공부를 진행하였습니다.강의 형식의 수업의 경우 2배속으로 수강하여 수강시간을 단축하였습니다. 이렇게 , 공부를 진행함으로서 , 14일의 term 이후에는 약 80프로 이상의 지식을 기억하게 되었습니다. 나머지 ,20프로의 짜잘한 부분을 기억하기 위해서 틀린 부분에만 따로 spaced repetition과 active learning 방식을 적용하여 복습을 하였습니다. 전체를 다시 복습하기에는 시간이 너무 오래걸리기에 효율성과 학습효과의 trade off를 고려해서 이러한 방법을 채택하였습니다. 따라서, 1달 정도가 지나면 대략 공부한 내용의95~99%정도를 기억하게 되었습니다.

공부하는 내용으로는 공부한지 아직 1달이 지나지 않은 내용 – 1 ,  새로운 내용 -2 , 1달이 지난 내용 – 3 그리고 짜잘한 부분 - 4으로 나눌 수 있습니다. 집중이 잘되는 시간대(기상 후 2시간부터)에는 1과 2을 위주로 공부하였고 집중력이 떨어지는 시간대에는 3과 4를 위주로 공부를 진행하였습니다. 공부의 우선순위는 1,2,3,4의 우선순위를 부여하여 진행하였는데 , 특히 1의 경우는 기한이 밀리지 않도록 신경을 많이 썻습니다. 4의 경우는 매일 1시간 조깅시에 스마트폰을 이용해서 복습을 진행함으로서 시간을 효율적으로 사용하였습니다.

이러한 세세한 시간 관리는 제가 일일이 기억하기 힘들기에 MicroSoft의 Todo라는 스케줄링 앱의 도움을 받았습니다. 우선순위와 기한설정의 기능이 있고 , UI가 간단하고 스마트폰에서도 구동이 되기에 선택하게 되었습니다. 이 앱을 통하여 체계적인 공부계획을 세울 수 있게 되었습니다 

자기주도학습을 하는 방법-interleaving

학습을 할 때, 대부분의 사람들은 한 가지 과목에 집중하여 깊이 파고드는 방법을 선호합니다. 하지만 저는 조금 다른 방법을 선택했습니다. 여러 과목을 동시에 공부하는 interleaving 방법을 통해 다양한 과목을 균형 있게 학습하는 방식을 채택했습니다. 이 방법을 선택한 이유는 여러 과목을 번갈아 가며 학습함으로써 집중력을 유지하고, 다양한 정보가 서로 연관되어 기억에 오래 남을 수 있기 때문입니다.

Interleaving 학습 방법은 처음에는 낯설고 조금 혼란스럽게 느껴졌습니다. 한 과목에 깊이 빠져들기보다, 매일 다른 과목을 공부하는 것은 익숙하지 않았기 때문입니다. 하지만 시간이 지나면서 이 방법의 장점이 점차 드러나기 시작했습니다. 다양한 과목을 번갈아 가며 학습하면서 각 과목의 개념들이 서로 연결되어 이해의 폭이 넓어졌습니다. 또한, 한 과목에 지치지 않고 새로운 과목으로 전환함으로써 학습에 대한 흥미와 동기부여가 지속되었습니다.

이러한 경험은 제가 자기주도적으로 학습하는 데 큰 도움이 되었습니다. Interleaving 방법을 통해 저는 스스로 학습 계획을 세우고, 각 과목의 중요성을 균형 있게 고려할 수 있게 되었습니다. 앞으로도 이 방법을 지속적으로 활용하여 더 깊이 있고 다양한 지식을 쌓아갈 계획입니다. 자기주도학습의 중요성을 깨닫게 해준 이 방법은 학습의 즐거움을 배가시키는 도구로 자리잡았습니다