평균적으로 올바른 손실값을 계산하는 것과, 올바른 방향으로 파라미터를 갱신하는 것은 다르다. 샘플을 뽑는 확률분포까지 모델에 달려 있다면 그 분포의 변화도 미분해야 한다.
7편 — 자기학습은 언제 멈추고, 언제 적응해야 할까에서는 자기학습의 적용 범위와 테스트 시점 학습(Test-Time Training)을 구분했다. 이번에는 그 안에서 사용하는 엔트로피 최소화(Entropy minimization)의 계산을 해부한다. 핵심 질문은 하나다. 실제로 역전파하는 식이 우리가 줄이려는 엔트로피의 경사와 같은가?
기준은 Hung-yi Lee의 NTU Machine Learning 2026 Spring, Self-Improving 상편 PDF 36–40쪽이다. 공식 시간표의 강의일은 2026년 5월 8일이며 표지를 1쪽으로 센다. 공식 시간표 · 원본 PDF
#영상, 원본 수식, 추가 해설을 구분한다
상편 영상의 zh-TW 제공 자막을 실제 조회했다. 도구가 보고한 트랙 종류는 manual이다. 2026년 11월 18일 한국 시간 기준으로 확인한 자막을 한국어로 요약했으며, 전체 자막의 번역·재배포나 음성 전수 검증은 아니다. 아래 시간은 주제가 대응하는 발언 구간이다. 영상 프레임의 슬라이드 전환 시각을 정확히 측정한 것은 아니다.
| 원본 | 영상에서 확인한 주제 | 본문의 추가 설명 |
|---|---|---|
| 36쪽 | 36:00–36:33 — 수학 구간과 연구 소개 | 현재 열람 가능한 논문 판본, 기호·가정 정리 |
| 37쪽 | 36:33–39:55 — 문장과 토큰 엔트로피, 기대값 관계 | 연쇄 법칙, 두 토큰 확률나무 계산 |
| 38쪽 | 39:55–41:11 — 샘플을 고정한 경사 계산 | 샘플링 분포가 바뀌는 경로와 자동미분의 구분 |
| 39쪽 | 41:11–42:44 — 기대값을 미분할 때 빠진 항 | 곱의 미분, 로그 미분 항등식, 원본 표기 정정 |
| 40쪽 | 42:44–43:24 — 선택한 경로의 엔트로피를 낮추는 항 | 경사의 부호, 수치 반례, 구현용 대리 손실 |
먼저 알아둘 수식 정정. 원본 39·40쪽의 두 번째 기대값 항에는 로그 없이 확률 자체의 경사가 적혀 있다. 이 글은 원본 이미지를 그대로 보존하되, 본문에서는 논문 식 (8f)에 맞게 로그 확률의 경사를 사용한다. 39쪽 절에서 왜 필요한지 직접 유도한다. 원본을 출처로 붙였다는 이유로 잘못된 표기까지 복사하지 않는다. Huang et al., PDF 3쪽 식 (8)–(9)
본 강의 이미지 다섯 장 중 36·39쪽의 중국어 문구만 영어로 편집했다. 37·38·40쪽은 이미 영어·수식 중심이므로 원본을 그대로 렌더링했다. 보충 자료는 논문 그림 1개, Stanford 강의 노트 발췌 1개, Berkeley 원본 영어 슬라이드 2개다. 원본 도해와 수식은 다시 그리지 않았다.
#36쪽 — 값의 등식이 경사의 등식까지 보장할까
영상 설명 · 36:00–36:33. 강사는 가능한 답을 모두 나열하기 어려운데 어떻게 엔트로피를 손실로 쓰는지 질문한다. 이어 연구실의 연구를 소개하며 수학적 설명으로 들어간다.
원본에 적힌 연구는 Rethinking Entropy Minimization in Test-Time Adaptation for Autoregressive Models이다. 원본에는 arXiv 업로드 중이라는 문구가 있지만, 이번에는 실제로 열람 가능한 arXiv:2605.08186v1, PDF에 기재된 날짜 2026년 5월 5일을 대조했다. 강의 영상의 발언과 현재 열람한 문서의 상태를 구분하며, 그 시간 차이의 원인을 추정하지 않는다. 이 글은 해당 프리프린트의 수식을 읽는 것이며 학회 최종 채택 상태를 주장하지 않는다. 논문 v1
#함께 읽기 A — 두 가지 손실이 왜 함께 등장하는가
그림 위쪽은 이미 주어진 토큰 열을 문맥으로 읽으면서 각 위치의 분포를 좁힌다. 아래쪽은 여러 출력 경로를 만들고, 비용이 낮은 경로를 더 선택하도록 학습하는 쪽이다. 그림은 개념도이므로 화살표·곱셈 표기만으로 코드를 작성하지 말고, 본문의 정확한 미분식과 함께 읽는다. 논문 Figure 1 및 식 (8)–(9)
이번 다섯 장을 읽을 때 다음 네 가지를 섞지 않는 것이 중요하다.
| 구분 | 질문 |
|---|---|
| 목표의 값 | 모델이 만들 수 있는 모든 답의 엔트로피는 얼마인가? |
| 샘플의 추정값 | 한 번 생성한 답을 이용해 그 값을 어떻게 추정하는가? |
| 고정 샘플의 경사 | 이미 뽑은 토큰은 고정하고 손실만 미분하면 무엇이 나오는가? |
| 전체 목표의 경사 | 파라미터가 바뀌어 다른 답을 뽑게 되는 효과까지 포함했는가? |
뒤에서 사용할 기호도 고정하자. 는 입력, 는 확률변수인 토큰 열, 는 실제로 뽑은 한 토큰 열이다. 는 모델이 그 열을 생성할 확률이다. 이 글의 로그는 자연로그이고 엔트로피 단위는 nat이다.
먼저 고정된 유한 길이와 유한 어휘 집합으로 설명한다. 이 범위에서는 모든 출력을 합으로 쓸 수 있고, 확률이 양수이며 미분 가능하면 아래의 미분을 직접 확인할 수 있다. 종료 토큰(EOS)을 포함한 가변 길이는 별도 조건이 필요하므로 37쪽 끝에서 구분한다.
#37쪽 — 문장 전체의 엔트로피를 토큰별 계산으로 바꾸기
영상 설명 · 36:33–39:55. 강사는 분류 모델의 유한한 출력과 문장 생성의 큰 출력 공간을 대비한다. 이어 다음 토큰의 확률분포를 계산하고, 생성된 경로에서 토큰별 엔트로피를 합하는 방법을 설명한다. 그 합의 기대값과 전체 엔트로피의 관계가 다음 단계의 출발점이다.
#‘계산할 수 없다’는 말의 범위를 좁히자
어휘 수가 V이고 길이가 T이면 가능한 고정 길이 토큰 열은 V의 T제곱 개다. 엔트로피가 정의되지 않는다는 뜻이 아니라, 대형 모델에서 모든 열을 정확히 열거하는 것이 계산상 비현실적이라는 뜻이다. 작은 모형에서는 전부 열거할 수 있고, 뒤의 검증도 그렇게 한다.
전체 출력의 엔트로피는 다음과 같다.
자기회귀 모델(Autoregressive model)의 확률은 앞선 토큰들에 조건부인 확률의 곱이다.
여기서 곱을 합으로 바꿀 수 있다고 해서 토큰들이 서로 독립이라는 뜻은 아니다. 조건부 확률의 연쇄 법칙이다. 앞 토큰이 달라지면 뒤 토큰의 분포도 달라진다.
#원본의 H는 이미 선택한 토큰 하나의 불확실성이 아니다
접두사(Prefix) s까지 읽었을 때, 다음 토큰의 분포 전체에서 엔트로피를 계산하자.
원본의 는 처음의 빈 접두사, 그 아래의 H들은 이전에 뽑힌 토큰들이 있는 접두사에 대응한다. 이 글에서는 혼동을 줄이기 위해 빈 접두사를 로 쓴다. ‘이미 A를 뽑았으니 엔트로피가 0이다’라고 읽으면 안 된다. 우리가 계산하는 것은 그 문맥에서 다음 토큰을 선택하기 전의 분포다.
한 경로에서 방문한 접두사들의 엔트로피 합을 다음처럼 정의하자. 원본의 대리 손실에 대응하며, 파라미터 의존성을 보이려고 아래첨자를 붙였다.
이 값은 일반적으로 해당 경로의 음의 로그 확률과 다르다. 그러나 모델 자신의 분포로 경로를 샘플링하면 기대값이 같다.
이것이 값에 관한 불편성(Unbiasedness)이다. 같은 분포에서 많은 경로를 뽑아 평균하면 전체 엔트로피를 추정한다. 한 경로의 값이 전체 엔트로피와 정확히 같다는 뜻도, 그 경로를 미분한 값이 전체 경사와 같다는 뜻도 아니다. 논문 §3.1, 식 (3)–(7)
#함께 읽기 B — 연쇄 법칙에는 조건부 엔트로피가 들어간다
Stanford 노트는 두 확률변수의 결합 엔트로피를 하나의 엔트로피와 나머지의 조건부 엔트로피로 나눈다. 여기서 조건부 엔트로피는 조건을 주는 변수의 가능한 값들에 대해서도 평균한 양이다. 이 노트의 기본 로그는 밑이 2이며, 이 글의 자연로그와 수치 단위가 다르다. 관계식은 같고 단위 변환만 필요하다. 정의 및 로그의 밑 · 연쇄 법칙
#직접 계산 — 가능한 답이 네 개뿐인 작은 모델
다음은 논문 실험값이 아니라 이 글의 설명용 모형이다. 첫 토큰은 A 또는 B를 각각 0.5로 낸다. A 뒤에서는 0과 1을 0.9와 0.1로, B 뒤에서는 0과 1을 각각 0.5로 낸다. 두 토큰 뒤에는 확률 1로 종료한다고 두자. 이 마지막 종료에는 추가 엔트로피가 없다.
| 출력 경로 | 경로의 확률 | 방문한 토큰 분포의 엔트로피 합 g |
|---|---|---|
| A0 | 0.45 | 1.018230 nat |
| A1 | 0.05 | 1.018230 nat |
| B0 | 0.25 | 1.386294 nat |
| B1 | 0.25 | 1.386294 nat |
이진 엔트로피를 h로 쓰면 계산은 다음과 같다.
네 경로의 확률로 전체 엔트로피를 직접 계산해도 같은 값이다.
여기서 A0 한 경로를 택하면 g는 1.018230이다. 그 값을 전체 엔트로피 1.202262와 같다고 할 수 없다. 가장 가능성이 높은 A0만 항상 고르는 탐욕 디코딩(Greedy decoding) 역시 원래 분포에서의 기대값을 대신하지 않는다.
가변 길이의 조건. 논문은 EOS로 끝나는 유한한 토큰 열을 대상으로, 엔트로피가 유한할 때 토큰 추정값의 불편성을 보인다. 구현에서는 EOS를 포함하고 그 뒤의 패딩을 제외해야 한다. 최대 길이로 잘라 버리거나 토큰 평균으로 나누면 목적 함수가 바뀔 수 있다. 또 값의 불편성에 필요한 조건만으로 미분과 무한합의 교환까지 자동 정당화되지는 않는다. 아래 미분 유도는 우선 고정된 유한 출력 공간에서 수행한다. 논문 Theorem 1과 증명
#38쪽 — 샘플을 고정하고 미분하면 무엇이 빠질까
영상 설명 · 39:55–41:11. 강사는 먼저 하나의 토큰 열을 뽑고, 그 접두사들을 다시 모델에 넣어 토큰별 엔트로피의 경사를 계산하는 구현을 설명한다. 매번 다른 경로를 샘플링하므로 이 업데이트의 평균을 기대값으로 쓴다.
그림의 아래쪽에서는 이미 뽑힌 토큰을 입력으로 준다. 이때 자동미분(Automatic differentiation)은 고정된 토큰 ID를 연속 변수처럼 미분하지 않는다. 그 토큰을 문맥으로 받았을 때의 로짓과 확률, 엔트로피가 파라미터에 따라 변하는 효과를 미분한다.
이렇게 얻는 한 샘플의 경사는 다음과 같다.
이 경사를 샘플에 대해 평균낸 양을 A라고 쓰자.
그러나 실제 목표의 경사는 다음처럼 생겼다.
두 식에서 경사의 위치만 다른 것처럼 보인다. 중요한 차이는 기대값을 계산하는 확률분포에도 같은 파라미터가 들어 있다는 점이다. 가중치가 바뀌면 같은 접두사에서의 엔트로피뿐 아니라, 그 접두사에 도달할 확률도 바뀐다.
이를 식으로 쓰면 기대값 안에는 두 개의 파라미터 의존 항이 곱해져 있다.
샘플을 충분히 늘리면 A의 추정 오차는 줄어들 수 있다. 그렇다고 A 자체가 전체 경사가 되는 것은 아니다. 빠진 항 때문에 생긴 편향(Bias)은 같은 계산을 더 많이 반복한다고 없어지지 않는다.
‘샘플링을 미분할 수 없으니 포기해야 한다’는 결론도 틀리다. 샘플의 ID를 직접 미분하는 대신, 그 ID가 선택될 확률의 경사를 사용하는 방법이 있다. 다음 절의 로그 미분 항등식이 그 연결을 만든다.
#39쪽 — 곱의 미분을 하면 두 항이 나온다
영상 설명 · 41:11–42:44. 강사는 목표 손실과 계산 가능한 대리 손실의 값이 기대값으로 연결되더라도, 미분을 안으로 옮기는 과정에서 항 하나가 빠질 수 있음을 강조한다.
#한 줄씩 유도하기
앞에서 정한 유한 출력 공간에서 확률이 양수이고 미분 가능하다고 하자. 입력 x는 고정했다. 먼저 곱의 미분을 적용한다.
첫째 합은 이미 확률로 가중된 기대값이다. 둘째 합을 같은 분포의 기대값으로 바꾸려면 확률을 곱하고 나누어야 한다.
따라서 정확한 분해는 다음과 같다.
A는 방문한 경로의 비용을 직접 바꾸는 항이다. B는 어떤 경로가 더 자주 선택되는지를 바꾸는 항이다. B에서 비용을 음의 보상으로 보면 정책 경사(Policy gradient)와 연결된다. 이 분해는 값의 등식에서 곱의 미분으로 도출되며, 원 논문의 식 (8f)에도 같은 로그 확률의 경사가 나온다. 논문 PDF 3쪽
#원본 표기 정정 — 합에서는 ∇p, 기대값에서는 ∇log p
원본 이미지의 마지막 항은 다음 형태로 적혀 있다.
이 형태는 일반적으로 맞지 않는다. 확률의 경사를 그대로 사용하는 것은 확률 가중치가 없는 합일 때다. 같은 항을 p에 따른 기대값으로 쓸 때는 로그 확률의 경사를 사용해야 한다.
원본을 조용히 바꾸어 원저자가 그렇게 썼다고 보이게 하지 않았다. 이미지와 캡션에는 원본을 남기고, 본문 수식·계산·코드는 오른쪽의 정확한 형태를 따른다. 40쪽에도 같은 누락이 반복된다.
#함께 읽기 C — Berkeley의 로그 미분 항등식
파란 상자의 등식이 방금 사용한 로그 미분 기법(Log-derivative trick)이다. Berkeley 슬라이드는 보상 최대화 문맥이고, 여기서는 엔트로피 비용 최소화 문맥이다. 보상과 비용의 부호를 그대로 뒤섞으면 업데이트 방향이 바뀐다. 또 그림의 보상과 달리 이 글의 g는 파라미터에도 직접 의존하므로 B뿐 아니라 A도 남겨야 한다. 원본 PDF 5쪽
#직접 검증 — 값은 정확하지만 경사는 0이 되는 경우
37쪽의 두 토큰 모델을 다시 사용하자. 이번에는 첫 토큰 A의 확률 q만 바꿀 수 있다고 하고, A 뒤의 0.9와 B 뒤의 0.5는 고정한다. q는 로짓 z의 시그모이드다.
정확한 미분은 다음과 같다.
q가 0.5이면 첫 토큰 자체의 엔트로피 경사는 0이다. 하지만 A 뒤의 분포는 B 뒤보다 덜 불확실하다. 그 차이가 전체 목표의 경사에 남는다.
| 계산 방법 | z에 대한 경사 | 경사하강법에서 일어나는 일 |
|---|---|---|
| 네 경로 전체 엔트로피를 직접 미분 | −0.092016 | z를 늘려 A의 선택 확률을 높임 |
| 고정 샘플의 토큰 엔트로피 경사 A만 사용 | 0 | 첫 분기의 선택 확률을 바꾸지 못함 |
| A와 올바른 B를 모두 사용 | −0.092016 | 전체 엔트로피의 미분과 일치 |
| 원본의 log 없는 기대값 항을 그대로 사용 | +0.017725 | 이 예에서는 첫 분기를 반대 방향으로 움직임 |
이 비교는 경로 네 개를 전부 합산한 정확한 계산이다. 마지막 행의 양수는 반올림 때문에 생긴 차이가 아니다. p로 이미 가중한 기대값 안에 다시 확률의 경사를 넣으면 가중이 달라진다. 실제 유한차분(Finite difference)으로 전체 목표를 미분한 값도 −0.092016과 일치한다.
해석의 한계. A 경로의 답이 사실상 맞는지는 이 모형에 정의하지 않았다. 우리는 엔트로피의 경사를 검증했지, 정답률 향상을 증명하지 않았다. 잘못된 답의 분포를 더 확신하게 만들 수도 있다는 6편의 주의는 여전히 유효하다.
#40쪽 — 선택한 경로를 더 확실하게 만드는 항
영상 설명 · 42:44–43:24. 강사는 분기하는 토큰 경로를 보여주며, 먼저 선택한 경로에서 엔트로피를 낮추는 항의 의미를 설명한다. 다른 경로를 선택할 확률을 바꾸는 해석은 다음 41쪽으로 이어진다.
빨간 화살표는 어떤 경로를 따라 계산했는지 보여준다. ‘정답 방향을 알아서 찾는다’는 그림이 아니다. A는 고정된 접두사에서 분포를 좁히는 경사를 제공하지만, 그것만으로 모든 경로의 선택 확률 효과를 포함했다고 볼 수 없다.
원본은 경사를 업데이트 방향처럼 부르지만, 최소화에서 실제 파라미터 변화는 음의 경사 방향이다.
#추가 해설 — 한 토큰의 엔트로피는 로짓을 어떻게 바꾸는가
한 문맥에서 로짓 벡터를 z, 소프트맥스 확률을 p라고 두자. 토큰 엔트로피의 로짓별 미분은 다음과 같다.
이 식은 확률의 정규화 때문에 각 로짓이 다른 확률에도 영향을 준다는 사실을 포함한다. 균등분포에서는 경사가 0이다. 단순히 ‘엔트로피를 줄이면 언제나 가장 좋은 답이 강해진다’고 설명할 수 없는 이유다. 위 확률나무에서 첫 분포가 정확히 0.5 대 0.5일 때 A가 첫 분기를 못 바꾸는 현상과도 연결된다. 이 식은 이 글의 추가 유도이며 원본 슬라이드의 새 실험 결과가 아니다.
#함께 읽기 D — 자동미분에 맞는 대리 손실을 만든다
이 슬라이드의 핵심은 ‘원하는 경사가 나오도록 계산 그래프를 구성한다’는 것이다. 역전파에 넣는 대리 손실(Surrogate loss)의 숫자가 원래 평가 지표와 같아야 하는 것은 아니다. 그 미분이 필요한 추정 경사와 일치하도록 만드는 것이 목적이다. Berkeley PDF 20쪽
샘플 y를 고정하고 미분한다고 하자. sg는 값은 그대로 두고 그 경로의 미분만 막는 연산, 즉 Stop-gradient다. 논문 식 (9)에 대응하는 구현용 손실은 다음과 같다.
여기서 b는 샘플 답에 의존하지 않는 고정 기준값(Baseline)이다. 처음에는 0으로 두면 된다. 한 샘플의 미분을 구하면 다음과 같다.
기준값은 기대 경사를 바꾸지 않는다. 확률의 합이 1이기 때문이다.
그러나 같은 샘플 자신까지 포함한 배치 평균을 무조건 b로 대입하면, 그 기준값이 해당 샘플과 의존할 수 있다. 불편성을 주장하려면 별도 설계·보정이 필요하다. 이 글의 검증 코드는 고정 스칼라 기준값만 사용한다.
#PyTorch에서 중요한 계산
다음 코드는 입력의 형상·자료형·마스크를 검증한 함수 내부의 핵심이다. logits는 각 샘플 접두사에서 다시 계산한 로짓, sampled_tokens는 실제로 뽑은 토큰 ID, valid_mask는 EOS까지 참이고 패딩은 거짓인 마스크다. 완전한 입력 검증 함수와 재현 검사는 아래 저장소 파일에 함께 보존했다.
# logits: [batch, time, vocabulary]
# sampled_tokens: [batch, time], dtype=torch.long
# valid_mask: [batch, time], dtype=torch.bool
logp = torch.nn.functional.log_softmax(logits, dim=-1)
token_entropy = -(logp.exp() * logp).sum(dim=-1)
token_logp = logp.gather(-1, sampled_tokens.unsqueeze(-1)).squeeze(-1)
entropy_sum = (token_entropy * valid_mask).sum(dim=1)
sequence_logp = (token_logp * valid_mask).sum(dim=1)
loss = (entropy_sum + (entropy_sum.detach() - baseline) * sequence_logp).mean()
detach()는 두 번째 항의 비용을 가중치로만 사용하도록 한다. 이곳에서 detach를 빼면 로그 확률과 곱해진 비용까지 다시 미분하는 불필요한 항이 추가된다. 반대로 첫 번째 entropy_sum까지 detach하면 A를 잃는다. 이 코드의 부호는 비용 최소화 기준이다. 논문 식 (9) · PyTorch detach 문서 · log_softmax 문서
입력 검증을 포함한 전체 함수와 자동미분 검사는 설명용 코드다. 완성된 TTA 학습기나 Whisper 실험 재현 코드가 아니다. 함수는 시퀀스별 손실을 반환하므로 호출한 쪽에서 평균 후 역전파한다.
구현에서 반드시 확인할 조건. 샘플을 만든 정책과 손실의 확률분포가 일치해야 한다. 임의의 top-k·top-p 필터, 다른 온도, 오래된 모델의 샘플을 그대로 쓰면 위 불편성 주장이 유지되지 않을 수 있다. 모델은 샘플링과 재계산 사이에 갱신하지 않고, 드롭아웃 등 확률적 동작도 일관되게 처리해야 한다. model.eval()은 드롭아웃을 끄는 모드이며, 그 자체로 역전파를 금지하는 no_grad()와는 다르다.
또한 입력 프롬프트의 토큰과 생성 답의 토큰을 섞지 않고, EOS를 포함한 실제 생성 부분만 합한다. 길이별 평균은 합과 다른 목적을 만들 수 있다. 코드의 확률 계산은 저정밀도에서 수치 문제가 나기 쉬우므로 전체 함수는 half/bfloat16 로짓을 float32로 계산한다. 이 점검으로 계산 조건을 명확히 할 수 있지만, 최종 정답률이나 적응 안정성이 자동 보장되지는 않는다.
#검증 — 무엇을 확인했고, 무엇은 확인하지 않았는가
이 글의 작은 확률나무는 네 경로를 모두 열거할 수 있다. 따라서 추정값의 평균, 전체 엔트로피, 직접 미분, 유한차분을 서로 대조했다. 다음 검사는 본문 설명용 계산과 코드의 검사이지, 논문의 ASR·LLM 성능 재현이 아니다.
| 검사 묶음 | 확인한 내용 |
|---|---|
| 표준 Python 수치 검사 30개 | 연쇄 법칙, 추정값의 기대값, 경사 분해, 기준값, log 누락의 반대 부호, 입력 확률 검증 |
| PyTorch CPU 자동미분 검사 8개 | 모든 경로를 가중합한 실제 엔트로피 경사와 대리 손실 경사의 일치, 패딩·잘못된 입력 처리 |
로컬 자동미분 검사의 환경은 PyTorch 2.10.0+cpu였다. 이를 최신 버전이라고 주장하지 않는다. 정답률 향상, 대형 모델 학습 시간, 실제 로봇의 안전성을 검증한 것은 아니다. 재현용 수치 검사는 verify_examples_08.py에 보존했다.
#이번 다섯 장의 결론
토큰 엔트로피를 합한 값은 적절한 샘플링 조건에서 문장 엔트로피의 불편 추정값이 될 수 있다. 그러나 샘플을 고정한 채 그 합만 미분하면, 경로를 선택하는 분포의 변화가 빠질 수 있다.39쪽의 두 항은 다른 목적을 억지로 더한 것이 아니다. 하나의 기대값을 정확히 미분하면 비용의 변화와 확률의 변화가 함께 나온다. 원본의 log 누락처럼 작아 보이는 차이도 실제 경사 방향을 뒤집을 수 있으므로, 수식·코드·작은 계산 예제를 함께 대조하는 것이 중요하다.
다음은 9편, 원본 41–45쪽이다. 경로 선택 확률을 바꾸는 항의 직관과 이후 강의 흐름을 이어간다. 이번 편에서는 41쪽 이후의 이미지나 결과를 미리 발행하지 않는다.
#원문과 열람 범위
| 자료 | 사용한 범위 | 역할 |
|---|---|---|
| NTU 상편 영상 | zh-TW 제공 자막, 주제 대응 36:00–43:24 | 강사의 설명을 한국어로 요약 |
| NTU Self-Improving PDF | 36–40쪽 | 본 강의 원본 이미지, 36·39쪽 문구만 영어 편집 |
| Huang et al., arXiv:2605.08186v1 | Figure 1, §3.1–3.2, 식 (3)–(9) | 추정값의 조건, 정확한 경사, stop-gradient |
| Stanford EE376A 강의 노트 | 2018-01-16 Lecture 3, 1·5쪽 | 엔트로피 단위와 연쇄 법칙 |
| Berkeley CS 185/285 강의 슬라이드 | 열람본 PDF 5·20쪽 | 로그 미분 항등식과 자동미분용 대리 손실 |
원본 39·40쪽의 수식은 이미지에 남기고 정정을 명시했다. 영상의 발언, 공개 논문의 수식, 본문에서 만든 확률나무와 코드 검증을 구분한다. 출처 표시는 제3자 저작물 전체의 재사용 허가를 뜻하지 않는다.