Chapter 05

인공 뉴런 (가중합과 활성화)

인공 뉴런. 입력을 받아 가중합을 계산하고 활성화 함수를 적용한 단위이다.

챕터별 딥러닝 도식화

챕터를 하나씩 진행할 때마다 아래 도식이 조금씩 채워져요. 지금까지의 구조예요.

뉴런w1w2w3X1X2X3w·x + bReLUYB

점선 원 안이 인공 뉴런 하나예요. 입력(X)에 가중치(w)를 곱해 더하고(w·x+b), ReLU를 거쳐 출력(Y)이 나옵니다.

딥러닝에서 보는 인공 뉴런

인공 뉴런(Artificial Neuron)은 딥러닝의 가장 작은 계산 단위예요. 하는 일은 딱 두 단계: ① 입력에 가중치를 곱해 더하고 편향을 더하기(가중합: Z = W·X + b), ② 그 결과에 활성화 함수 씌우기(Y = ReLU(Z) 또는 Sigmoid(Z)).

우리 뇌의 뉴런에서 영감을 받았어요. 뇌 뉴런도 '여러 신호가 들어오면 → 각각 세기를 다르게 해서 합치고 → 일정 이상이면 반응(발화)'하잖아요. 인공 뉴런은 이걸 수식으로 단순화한 거예요.

정리하면: 입력(X)가중합(Z = W·X + b)활성화(Y = f(Z))출력(Y). 이 흐름이 인공 뉴런의 전부예요.

한 뉴런의 출력이 다음 층의 여러 뉴런의 입력이 되고, 그렇게 이어져서 수천~수억 개가 연결되면 이미지 인식, 글 생성, 음성 인식 같은 복잡한 일이 가능해져요.

번역기, 챗봇, 이미지 인식(강아지/고양이), 추천(영화·상품), 스팸 필터 같은 모델은 모두 이 뉴런을 엄청 많이 이어 붙인 것이에요. 뉴런 하나를 이해하면 '모델이 뭘 하고 있는지' 전체 그림을 읽을 수 있어요.

AI 학습이란, 이 뉴런들의 가중치(W)와 편향(b)을 조금씩 조정해서 '정답에 더 가까운 출력'을 내게 만드는 과정이에요. 한 뉴런의 W, b가 출력에 어떻게 영향을 주는지 알면, 역전파·경사 하강의 의미도 이해할 수 있어요.

뉴런 하나는 내적 + 편향 + 활성화이니까, 지금까지 배운 내적, 행렬 곱, 선형 계층, 활성화 함수가 모두 합쳐진 것이에요. 이 챕터가 앞선 개념들을 하나로 묶어주는 역할을 해요.

실생활 비유 - 시험 합격 예측: '국어×0.4 + 수학×0.4 + 영어×0.2 + 5 = 75'를 구한 뒤(가중합), '60 이상이면 합격(1), 미만이면 불합격(0)'으로 바꾸는 것(활성화)이 바로 뉴런 하나의 동작이에요.

이미지·비디오 인식: 사진의 한 부분을 입력받아 가중합 후 ReLU를 거쳐 '가로선', '모서리', '눈·코' 같은 특징 점수를 내요. 이런 뉴런이 많이 모이면 '강아지', '차량', '표지판'을 구분해요.

번역·챗봇: 문장의 각 부분을 숫자로 바꾼 뒤, 뉴런들이 '어떤 패턴·의미인지' 점수를 내고, 다음 층으로 전달되면서 문맥을 이해하고 답을 만들어요. 이미지 생성에서는 '노이즈가 얼마나 줄어들지'를 뉴런들이 단계마다 예측해요.

1단계 - 가중합(Z): Z = W·X + b를 계산해요. W의 한 행과 X를 내적한 뒤 b를 더하면 돼요. 빈 칸이 Z에 있으면 이 단계에서 채울 수 있어요.

2단계 - 활성화(Y): 구한 Z에 문제에서 지정한 활성화 함수를 적용해요. ReLU면 Z > 0일 때 Y = Z, Z ≤ 0일 때 Y = 0. Sigmoid면 표를 보고 Z가 어느 구간인지 확인해서 Y를 정해요.

빈 칸이 W나 b에 있을 때: Y와 X가 주어져 있으면, 활성화를 역추적해서 Z를 먼저 구하고, Z = W·X + b 식에서 빈 칸을 풀면 돼요. 한 단계씩 거꾸로 올라가는 게 핵심이에요.

인공 뉴런은 가중합 Z=WX+bZ = W \cdot X + b 를 계산한 뒤 ReLU·Sigmoid·Tanh 같은 활성화 함수를 적용해 출력 Y를 냅니다.

W
1
-1
·
X
3
1
+
b
1
=
Z
3
→ ReLU →
Y
3

계산 순서: (W·X) 곱한 값 + b 더한 값 = Z → ReLU(Z) = Y

Z = (W·X) + b = (1×3 + (-11) + 1 = 2 + 1 = 3
Y = ReLU(Z) = max(0, 3) = 3

문제

인공 뉴런: ReLU, Sigmoid, Tanh 중 지정된 활성화를 적용해 Y를 구하고, 빈 칸(?)을 채우세요.

X
0
-1
·
W
-2
-1
+
b
-2
=
Z
-1
~ ReLU
Y
1 / 20