본문 바로가기

책읽기

[fastai와 파이토치가 만나 꽃피운 딥러닝](제레미 하워드, 실뱅 거거 著, 박찬성, 김지은 譯, 2021)

  • 상향식 학습
    • 뭔가를 설명할 때는 기초부터 고급까지 차근차근 올라가는 것이 일반적이다.
    • 더하기 빼기를 배워야 곱하기 나누기를 알 수 있고, 미분과 적분처럼 어려운 것들은 나중에 배운다.
    • 이를 상향식(bottom-up) 접근이라고 하며 공교육과 사교육을 막론하고 일반적인 접근이다.
    • "이런거 배워서 어디에 써요?"라는 질문은 공부하기 싫은 이의 핑계처럼 여겨지기도 하고,
      "크면 다 알게 돼"라는 답이 여기에 더해지면 지식과 무관한 나이가 권위처럼 여겨진다.

 

  • 하향식 학습
    • 학교를 벗어나 사회에 나와서 뭔가를 배우다 보면 당장 성과를 내야 할 때가 잦다.
    • 기초부터 차근차근 배우기를 기대하기는 어렵고 일단 일이 되게 만드는 것이 최우선이다.
    • 왜 그런지는 나중에 배우는데 안 배워도 되는 경우, 배울 수 없는 상황도 많다.
    • 흔히 이런 상황을 몸으로 배운다고 하는데, 나중에라도 원리나 개념을 익히면 하향식(top-down) 학습이 된다.

 

  • 북극점 정복하기
    • 상향식의 가장 큰 단점은 결과물을 만져보기까지 시간이 오래 걸린다는 것이다.
    • 재미를 느끼지 못하는 기간이 길어지면 지치기 마련이고, 결과물을 만져보지 못했으니 가치도 못 느낀다.
    • 특히 빠르게 발전하는 분야는 공부하는 사이에 목표가 저만치 달려가고 있어서 절대로 끝이 나지 않는다.
    • 탐험가들은 남극점보다 북극점이 다다르기 어렵다고들 한다.
    • 남극점은 육지에 속해있어서 나만 열심히 달려가면 언젠가 다다를 것이라는 희망이 있는데,
      북극점은 바다 위를 떠다니는 얼음덩어리 위에 있기 때문에 죽어라 가봐야 얼음이 반대로 흘러가면 끝이다.
    • 대부분 북극점까지 가는 루트를 확보하는 것이 목적이 아니라 북극점에 도착하는 게 목적이다.
    • 눈밭을 뚫고 달릴 것 없이 일단 비행기에서 낙하산을 메고 뛰어내려 북극점에 도달하고 천천히 돌아와도 된다.

 

  • 극단적인 하향식 기술서
    • 대부분의 딥러닝 책의 진도는 이렇다.
    • 행렬연산 배우고, 역전파 배우고, FCN 만들고, CNN 만들고, .... 레이블 스무딩 배우고, 웹 애플리케이션 개발.
    • 트리 모델 같은 고전 머신 러닝을 같이 배운다면 딥러닝 배우기 전에 배운다.
    • 이 책의 진도는 이렇다.
    • 웹 애플리케이션 만들고, CNN 모델 만들면서 역전파 배우고, 레이블 스무딩 배우고, 트리 모델을 배운다.
    • 그 다음에서야 합성곱 연산이 어떻게 되는지, 행렬끼리 곱셈은 어떻게 하는지, 데이터 로더를 배운다.

 

  • 에반게리온을 처음 봤을 때 느낌.
    • 처음에 굉장히 혼란스럽다.
    • 뭐가 뭔지 모르겠는데 건물이 부서지고 있다.
    • 그 속에서 차 한대가 달려오더니 설명도 없이 주인공을 로봇에 태우고 적을 무찌르란다.
    • 이게 어떻게 된 세상인지는 회차가 진행되면서 하나씩 밝혀진다. (그나마도 마지막까지 모르는게 많다)
    • 이 책이 그렇다.
    • 다짜고짜 웹 애플리케이션을 만들더니 내가 알던 진도와 거꾸로 간다.
    • 심지어 딥러닝 경험이 많은 사람들이나 고민할만한 AI 윤리부터 짚고 넘어간다.

 

  • 내가 생각하는 최적의 독자: 컴퓨터를 조금은 다뤄보셨는데 딥러닝은 처음인 분들
    • 하향식은 당장 결과를 손에 쥘 수 있기 때문에 흥미를 잃지 않고 달릴 수 있다.
    • 특히 딥러닝처럼 계속 새로운 모델이 나오는 분야라면 필수적인 방식이다.
    • 그런데 컴퓨터 자체가 낯설다면 문제가 될 것 같다.
    • 갑자기 딥러닝 붐이 불면서 클릭과 드래그로만 컴퓨터를 사용해보신 분들이 딥러닝에 입문한다.
    • 메모장같은 터미널에 어려서 영어단어를 외우듯 외운 명령어를 입력하는 방식은 피할 수 없다.
    • 적어도 이 과정이라도 손에 익어야 이 극단적인 하향식을 따라갈 수 있지 않을까 생각한다.
    • 이 정도만 가능해도, 초반부터 등장하는 코드를 조금씩만 바꿔도 결과물을 얻을 수 있다.

 

  • 두 번 읽으면 더 좋을 책.
    • 에반게리온은 제레의 인류보완계획을 웬만큼 이해하고 다시 보면 또 다른 재미가 있다.
    • 이 책도 마찬가지. 저자의 설계를 따라 책을 한번쯤 따라간 뒤, 다시 보면 더 좋을 것 같다.
    • "이게 이래서 그렇구나?" 라는 즐거움은 뇌에 상당한 양의 도파민을 분비시킨다.
    • 즐거움이 묻은 기억은 오래 간다.

 

※ 한빛미디어 2021 도서 서평단 "나는 리뷰어다"의 일원으로 도서를 제공받아 작성한 리뷰입니다.