⚠️ = 기출 함정 포인트. 여기 있는 건 전부 ⭐⭐⭐
01. AI 개요
정의와 역사
- 튜링 테스트 (1950, 튜링) : 사람과 대화해서 기계인지 구분 못 하면 지능 있다고 봄
- 다트머스 회의 (1956, 매카시) : “인공지능” 용어 탄생
- 흐름 : 기호주의(규칙·논리, 전문가 시스템) → AI 겨울 2번 → 기계학습 → 딥러닝 (2012 AlexNet) → 생성형 AI (2022 ChatGPT)
| 구분 | 의미 |
|---|---|
| 약한 AI | 특정 작업만 (지금의 모든 AI) |
| 강한 AI / AGI | 사람처럼 범용 |
AI ⊃ 기계학습 ⊃ 딥러닝
1 | |
⚠️ 전문가 시스템은 AI지만 기계학습이 아님 (사람이 규칙을 넣음)
02. 탐색
무정보 탐색 (Blind)
| 탐색 | 자료구조 | 특징 |
|---|---|---|
| BFS (너비 우선) | 큐 | 최단 경로 보장, 메모리 많이 씀 |
| DFS (깊이 우선) | 스택 | 메모리 적음, 최단 보장 X, 무한 루프 가능 |
| 균일 비용 탐색 | 우선순위 큐 | 경로 비용 최소 (다익스트라) |
| 반복 깊이 심화 | – | DFS를 깊이 제한하며 반복. BFS 장점 + DFS 메모리 |
정보 탐색 (Heuristic)
| 탐색 | 평가 함수 | 특징 |
|---|---|---|
| 언덕 오르기 | h(n) | 현재보다 좋은 이웃으로만 이동 → 지역 최적해에 갇힘 |
| 최상 우선 (Best-First) | h(n) 만 | 빠르지만 최적 보장 X |
| A* | f(n) = g(n) + h(n) | g = 지금까지 비용, h = 남은 추정. h가 과대평가 안 하면(허용적) 최적 보장 |
⚠️ A* = g + h. “h(n)만 쓴다”는 최상 우선 ⚠️ 휴리스틱이 실제 비용보다 작거나 같아야(허용적) 최적
게임 트리
- Minimax : 나는 최대(MAX), 상대는 최소(MIN)로 가정해 최선 수 선택
- 알파-베타 가지치기 : 결과에 영향 없는 가지를 잘라내 탐색량 감소 (결과는 Minimax와 동일)
03. 지식 표현과 추론
지식 표현 방법
| 방법 | 형태 | 예 |
|---|---|---|
| 규칙 (생성 규칙) | IF 조건 THEN 결론 | 전문가 시스템 |
| 의미망 | 노드(개념) + 링크(관계) 그래프 | 새 —is-a→ 동물 |
| 프레임 | 객체의 슬롯-값 구조 (상속) | 객체지향과 유사 |
| 논리 | 명제 논리 / 술어 논리 (변수·한정자 ∀ ∃) | 형식적, 정확 |
| 온톨로지 | 개념과 관계의 명시적 명세 | 시맨틱 웹 |
추론 방식
| 전향 추론 (Forward) | 후향 추론 (Backward) |
|---|---|
| 사실 → 규칙 적용 → 결론 (데이터 주도) | 목표(가설) → 그걸 뒷받침하는 사실 찾기 (목표 주도) |
| 가능한 결론을 모두 도출 | 특정 결론 검증에 효율적 |
- 연역(일반 → 특수, 확실) / 귀납(사례 → 일반, 불확실) / 유추
전문가 시스템
- 구성 : 지식 베이스 (규칙) + 추론 엔진 + 사용자 인터페이스 + 설명 기능 + 지식 획득 모듈
- 한계 : 지식 획득 병목 (전문가 지식을 규칙으로 옮기기 어려움), 유연성 부족
불확실성 처리
-
베이즈 정리 : P(A B) = P(B A)·P(A) / P(B) → 사전 확률을 증거로 갱신 (사후 확률) - 확신도 (CF) : MYCIN. −1 ~ +1
- 퍼지 논리 : 참/거짓이 아니라 0~1 사이 소속도 (“약간 덥다” 0.3). 퍼지화 → 추론 → 비퍼지화
⚠️ 퍼지 = 확률 아님. 확률은 “일어날 가능성”, 퍼지는 “얼마나 그 집합에 속하나”
04. 기계학습 기초
학습 유형
| 유형 | 데이터 | 하는 일 | 알고리즘 |
|---|---|---|---|
| 지도 학습 | 정답(레이블) 있음 | 분류 (범주), 회귀 (수치) | 선형·로지스틱 회귀, kNN, 결정트리, SVM, 신경망 |
| 비지도 학습 | 정답 없음 | 군집, 차원 축소, 연관 규칙 | k-means, 계층 군집, PCA, Apriori |
| 강화 학습 | 정답 대신 보상 | 에이전트가 환경과 상호작용하며 보상 최대화 정책 학습 | Q-learning, DQN |
| 준지도 | 일부만 레이블 | – | – |
⚠️ 분류 = 미리 정해진 범주로 (지도) / 군집 = 범주를 새로 찾음 (비지도) ⚠️ 회귀 출력은 연속값, 분류 출력은 범주
강화 학습 용어
- 에이전트, 환경, 상태(S), 행동(A), 보상(R), 정책(π)
- 탐험(새로운 시도) vs 활용(아는 최선) 트레이드오프
- Q-learning : Q(s, a) 테이블 갱신. 마르코프 결정 과정(MDP) 기반
데이터 분할
- 훈련 / 검증 / 테스트 = 학습 / 하이퍼파라미터 조정 / 최종 평가
- k-fold 교차 검증 : 데이터를 k등분해 k번 돌려가며 검증 → 데이터 적을 때 유리
- ⚠️ 테스트 데이터는 학습에 절대 쓰면 안 됨
과적합 / 과소적합
| 과적합 (Overfitting) | 과소적합 (Underfitting) |
|---|---|
| 훈련 데이터에 너무 맞춤 → 훈련 정확도 ↑, 테스트 ↓ | 너무 단순 → 둘 다 낮음 |
| 분산(Variance) 큼 | 편향(Bias) 큼 |
| 대응 : 데이터 ↑, 정규화(L1/L2), 드롭아웃, 조기 종료, 모델 단순화, 교차 검증 | 대응 : 모델 복잡도 ↑, 특성 추가 |
⚠️ “훈련 정확도 99%, 테스트 60%” = 과적합
평가 지표 (혼동 행렬)
| 예측 양성 | 예측 음성 | |
|---|---|---|
| 실제 양성 | TP | FN |
| 실제 음성 | FP | TN |
| 지표 | 식 | 의미 |
|---|---|---|
| 정확도 (Accuracy) | (TP+TN) / 전체 | 전체 중 맞춘 비율. 불균형 데이터에선 무의미 |
| 정밀도 (Precision) | TP / (TP+FP) | 양성이라 한 것 중 진짜 양성 (스팸 필터) |
| 재현율 (Recall) | TP / (TP+FN) | 실제 양성 중 찾아낸 비율 (암 진단) |
| F1 | 2·P·R / (P+R) | 정밀도·재현율 조화 평균 |
| ROC / AUC | – | AUC 1에 가까울수록 좋음 |
⚠️ 정밀도 분모 = FP, 재현율 분모 = FN. 둘은 트레이드오프 ⚠️ 암 진단처럼 놓치면 안 되는 건 재현율, 스팸처럼 오탐이 싫은 건 정밀도
- 회귀 지표 : MSE, RMSE, MAE, R²
05. 주요 알고리즘
| 알고리즘 | 유형 | 핵심 |
|---|---|---|
| 선형 회귀 | 회귀 | y = wx + b, 최소제곱법(오차 제곱 합 최소) |
| 로지스틱 회귀 | 분류 | 시그모이드로 0~1 확률 출력. 이름은 회귀지만 분류 |
| kNN | 분류·회귀 | 가장 가까운 k개 다수결. 학습 없음(게으른 학습). k 작으면 과적합 |
| 결정 트리 | 분류·회귀 | 정보 이득(엔트로피)·지니 지수로 분할. 해석 쉬움, 과적합 쉬움 → 가지치기 |
| 랜덤 포레스트 | 앙상블 | 결정 트리 여러 개 배깅 → 과적합 완화 |
| SVM | 분류 | 클래스 간 마진 최대화하는 초평면. 서포트 벡터가 결정. 커널 트릭으로 비선형 |
| 나이브 베이즈 | 분류 | 베이즈 정리 + 특성 독립 가정. 스팸 필터, 텍스트 |
| k-means | 군집 | k개 중심 → 할당 → 중심 재계산 반복. k를 미리 정해야, 초기값에 민감 |
| PCA | 차원 축소 | 분산이 최대인 축(주성분)으로 투영. 비지도 |
| Apriori | 연관 규칙 | 지지도, 신뢰도, 향상도. 장바구니 분석 |
앙상블
| 배깅 (Bagging) | 부스팅 (Boosting) |
|---|---|
| 데이터를 복원 추출해 여러 모델 병렬 학습 → 투표·평균 | 틀린 데이터에 가중치 올려 순차 학습 |
| 분산 ↓ (과적합 완화) | 편향 ↓ (성능 ↑, 과적합 주의) |
| 랜덤 포레스트 | AdaBoost, XGBoost, LightGBM |
⚠️ 로지스틱 회귀는 분류. kNN의 k와 k-means의 k는 다른 것 (이웃 수 vs 군집 수)
06. 신경망
퍼셉트론
- 입력 × 가중치 합 + 편향 → 활성화 함수 → 출력
- 단층 퍼셉트론은 XOR 못 품 (선형 분리 불가) → 다층 퍼셉트론(MLP) + 은닉층으로 해결
⚠️ XOR 문제 = 단층 퍼셉트론 한계 → 다층으로 해결 (1차 AI 겨울 원인)
활성화 함수
| 함수 | 범위 | 특징 |
|---|---|---|
| 시그모이드 | 0 ~ 1 | 이진 분류 출력. 기울기 소실 문제 |
| tanh | −1 ~ 1 | 시그모이드보다 낫지만 소실 여전 |
| ReLU | max(0, x) | 기울기 소실 완화, 계산 빠름. 은닉층 기본. 죽은 뉴런 문제 |
| 소프트맥스 | 합 = 1 | 다중 분류 출력층 (확률 분포) |
⚠️ 이진 분류 출력 = 시그모이드 / 다중 분류 출력 = 소프트맥스 / 은닉층 = ReLU
학습 과정
1 | |
- 손실 함수 : 회귀 = MSE / 분류 = 교차 엔트로피
- 경사 하강법 : 가중치를 기울기 반대 방향으로 학습률만큼 이동. w ← w − η·∂L/∂w
- 학습률 너무 크면 발산, 너무 작으면 느림
- 종류 : 배치(전체) / SGD(하나씩) / 미니배치(묶음, 실무 표준). 개선 : 모멘텀, Adam
- 에포크 = 전체 데이터 1회 학습
학습 문제와 해결
| 문제 | 원인 | 해결 |
|---|---|---|
| 기울기 소실 | 시그모이드 미분 ≤ 0.25 가 층마다 곱해져 0으로 | ReLU, 배치 정규화, 잔차 연결(ResNet) |
| 과적합 | 모델 너무 복잡 | 드롭아웃(뉴런 무작위 끔), 정규화, 조기 종료, 데이터 증강 |
| 지역 최소값 | – | 모멘텀, Adam, 학습률 조정 |
07. 딥러닝 모델
| 모델 | 데이터 | 핵심 |
|---|---|---|
| CNN | 이미지 | 합성곱(필터로 특징 추출) + 풀링(크기 축소, 맥스 풀링) + 완전 연결층. 파라미터 공유, 위치 불변 |
| RNN | 순차 데이터 (시계열, 텍스트) | 이전 출력을 다시 입력(순환). 장기 의존성 문제(기울기 소실) |
| LSTM / GRU | 순차 | RNN 개선. 게이트(망각·입력·출력)로 장기 기억 |
| 트랜스포머 | 텍스트·전부 | 셀프 어텐션(“어느 단어에 집중할지”), 순환 없이 병렬 처리. BERT, GPT의 기반 |
| GAN | 생성 | 생성자 vs 판별자 경쟁 학습 (위조범 vs 경찰) |
| 오토인코더 | 비지도 | 입력 → 압축(인코더) → 복원(디코더). 차원 축소, 이상 탐지 |
⚠️ CNN = 이미지·합성곱·풀링 / RNN = 순차·순환 / 트랜스포머 = 어텐션·병렬 ⚠️ RNN 장기 의존성 문제 → LSTM이 해결
CNN 계산
- 출력 크기 = (입력 − 필터 + 2·패딩) / 스트라이드 + 1
- 예 : 입력 32, 필터 3, 패딩 0, 스트라이드 1 → 30
- 풀링 : 파라미터 없음, 특징 맵 크기만 줄임
학습 기법
- 전이 학습 : 큰 데이터로 미리 학습한 모델을 가져와 미세 조정(Fine-tuning) → 데이터 적어도 OK
- 데이터 증강 : 회전·자르기 등으로 데이터 늘림 (과적합 완화)
- 배치 정규화 : 층 입력을 정규화 → 학습 안정·빠름
08. 자연어 처리 · 생성형 AI
NLP 기초
- 전처리 : 토큰화 → 불용어 제거 → 어간 추출/표제어 → 벡터화
- 벡터화 : BoW / TF-IDF(단어 빈도, 순서 무시) → Word2Vec(의미 유사 단어는 가까운 벡터, 임베딩) → 문맥 임베딩(BERT)
- TF-IDF : 문서에 자주(TF) 나오지만 전체 문서엔 드문(IDF) 단어가 중요
LLM (대규모 언어 모델)
- 트랜스포머 기반, 다음 토큰 예측으로 사전 학습 → 미세 조정 / RLHF(사람 피드백 강화 학습)
- BERT : 인코더, 양방향, 이해 / GPT : 디코더, 생성
- 프롬프트 엔지니어링 : Zero-shot(예시 없이), Few-shot(예시 몇 개), Chain-of-Thought(단계적 사고)
- RAG : 외부 문서 검색 후 답변 생성 → 환각 완화, 최신 정보
- 환각 (Hallucination) : 그럴듯한 거짓을 생성. 토큰·컨텍스트 윈도우 제한
생성형 AI 종류
- 텍스트 : GPT, Claude / 이미지 : 확산 모델(Diffusion, 노이즈 → 복원), GAN / 멀티모달
09. AI 윤리
| 이슈 | 내용 |
|---|---|
| 편향 | 학습 데이터 편향이 결과 차별로 (채용, 대출) |
| 설명 가능성 (XAI) | 딥러닝은 블랙박스 → 왜 그런 결론인지 설명 필요 |
| 프라이버시 | 학습 데이터 개인정보, 딥페이크 |
| 책임 | 자율주행 사고 책임 소재 |
| 안전·정렬 | AI가 사람 의도대로 작동하도록 |
- 국내 : AI 기본법 (2026 시행), 고영향 AI 규제 / 해외 : EU AI Act (위험 등급별 규제)
⚡ 마지막 1분 함정 체크
| 함정 | 정답 |
|---|---|
| 전문가 시스템은 기계학습? | X (규칙 기반) |
| BFS는 스택? | 큐 (DFS가 스택) |
| A* 평가 함수? | f = g + h |
| A* 최적 조건? | h가 과대평가 안 함 |
| 알파-베타는 결과가 다름? | 같음, 탐색만 줄임 |
| 전향 추론은 목표에서 출발? | 사실에서 (후향이 목표) |
| 퍼지 = 확률? | X, 소속도 |
| 군집은 지도 학습? | 비지도 |
| 로지스틱 회귀는 회귀? | 분류 |
| 과적합 = 편향 큼? | 분산 큼 |
| 훈련 99%, 테스트 60%? | 과적합 |
| 정밀도 분모? | TP + FP (재현율은 FN) |
| 암 진단에 중요한 지표? | 재현율 |
| 랜덤 포레스트는 부스팅? | 배깅 |
| 단층 퍼셉트론이 못 푸는 것? | XOR |
| 다중 분류 출력층? | 소프트맥스 |
| 기울기 소실 해결? | ReLU |
| 드롭아웃 목적? | 과적합 방지 |
| CNN 핵심 연산? | 합성곱 + 풀링 |
| RNN 문제? | 장기 의존성 → LSTM |
| 트랜스포머 핵심? | 어텐션, 병렬 |
| GAN 구성? | 생성자 + 판별자 |
| GPT는 인코더? | 디코더 (BERT가 인코더) |
| RAG 목적? | 검색 결합으로 환각 완화 |
| 32 입력, 3 필터, 패딩 0, 스트라이드 1 출력? | 30 |