[다이나믹 프로그래밍] 개념 정리
다이나믹 프로그래밍(동적 계획법)?!
- 메모리를 적절히 사용하여 수행 시간 효율성을 비약적으로 향상시키는 방법임
- 이미 계산된 결과(작은 문제)는 별도의 메모리 영역에 저장하여 다시 계산하지 않도록 함
- 구현은 일반적으로 2가지 방식(탑다운 & 보텀업)으로 구성됨
- '동적 계획법' 이라고도 부르는데,
- 흔히 프로그래밍에서 다이나믹은 '프로그램이 실행되는 도중에' 라는 의미임
- 예를 들어, 자료구조에서 동적 할당은 프로그램 실행 중에 프로그램 실행에 필요한 메모리를 할당하는 기법임
- 하지만 다이나믹 프로그래밍에서의 '다이나믹'은 동적 할당(Dynamic Allocation)에서의 다이나믹과는 다른 의미임
다이나믹 프로그래밍의 기본적인 아이디어
1줄 요약 : 다이나믹 프로그래밍이란 큰 문제를 작게 나누고, 같은 문제라면 한 번씩만 풀어 문제를 효율적으로 해결하는 알고리즘 기법
# 다이나믹 프로그래밍을 사용하기 위한 조건
- 주어진 문제가 다음의 조건을 만족할 때 사용할 수 있음
1. 최적 부분 구조 (Optimal Substructure)
→ 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아서 큰 문제를 해결할 수 있음
2. 중복되는 부분 문제 (Overlapping Subproblem)
→ 동일한 작은 문제를 반복적으로 해결해야 함
# 구현 방법
## 메모이제이션(Memoization) - 개념적 용어
- 메모이제이션은 다이나믹 프로그래밍을 구현할 때 사용하는 방법임(중복되는 부분 문제 해결을 위한 방법 중 하나)
- 한 번 계산한 결과를 메모리 공간에 메모하는 기법
- 같은 문제를 다시 호출하면 메모했던 결과를 그대로 가져옴
- 값을 기록해 놓는다는 점에서 캐싱(Caching)이라고도 함 (컴퓨터 구조 수업에서도 지금 Cache Memory에 대해 공부하고 있는데, 알고리즘에서도 캐싱 기법이 적용될 수 있다니..! 흥미롭다😲)
## 탑다운 VS. 보텀업
- 탑다운 방식은 하향식이라고도 하며, 보텀업 방식은 상향식이라고도 함
- 다이나믹 프로그래밍의 전형적인 형태는 보텀업 방식임
- 결과 저장용 리스트는 DP 테이블이라고 부름
- 엄밀히 말하면, 메모이제이션은 이전에 계산된 결과를 일시적으로 기록해 놓은 넓은 개념을 의미함
- 메모이제이션은 다이나믹 프로그래밍에 국한된 개념이 아님
- 한 번 계산된 결과를 담아 놓기만 하고 다이나믹 프로그래밍을 위해 활용하지 않을 수도 있음
## 탑다운(Top-Down) 방식
→ 재귀 함수를 이용하여 다이나믹 프로그래밍 소스코드를 작성하는 방법
→ 큰 문제를 해결하기 위해 작은 문제를 호출한다고 하여 탑다운 방식이라고 함 (하향식)
## 보텀업(Bottom-Up) 방식
→ 반복문을 이용하여 다이나믹 프로그래밍 소스코드를 작성하는 방법
→ 작은 문제부터 차근차근 답을 도출함 (상향식)
다이나믹 프로그래밍으로 해결할 수 있는 예시 - 피보나치 수열
# 기존 구현 방식
def fibo(x):
if x == 1 or x == 2:
return 1
return fibo(x-1) + fibo(x-2)
print(fibo(50))문제점 :
fibo(x) 함수에 x 가 커질수록 수행 시간이 기하급수적으로 늘어남
동일한 함수가 반복적으로 호출됨 → 이미 한 번 계산했지만, 계속 호출할 때마다 계산함
# 다이나믹 프로그래밍 적용 방식
구현1) 메모이제이션 기법을 사용한 피보나치 수열 코드 by 탑다운(Top-Down) 방식 - 재귀적
import java.util.*;
public class fibonacci_with_memoization {
// 한 번 계산된 결과를 메모이제이션(Memoization)하기 위한 배열 초기화
public static long[] result = new long[100];
// 피보나치 함수를 재귀함수로 구현 (with 탑다운 다이나믹 프로그래밍)
public static long fibo(int x){
if(x == 1 || x == 2){ // 재귀 종료 조건
return 1;
}
if(result[x] != 0){ // 이미 계산한 적이 있는 값이라면 배열의 값 그대로 반환
return result[x];
}
result[x] = fibo(x-1) + fibo(x-2); // 계산한 적이 없는 겂이라면 점화식에 따라 피보나치 결과 반환
return result[x];
}
public static void main(String[] args){
System.out.println(fibo(50));
}
}→ 재귀적으로 수행하다가 같은 정보가 필요할 때는 이미 구한 정답을 그대로 리스트에서 가져오면 됨
구현2) 메모이제이션 기법을 사용한 피보나치 수열 코드 by 보텀업(Bottom-Up) 방식 - 반복적
import java.util.*;
public class fibonacci_with_memoization_iterative {
public static long[] result = new long[1000000];
public static void main(String[] args){
// 첫 번째와 두 번째 값은 1로 고정
result[1] = 1;
result[2] = 1;
int val = 100; // 찾고자 하는 값
// 피보나치 함수를 반복문으로 구현(다이나믹 프로그래밍 보텀업 방식)
for(int i = 3; i <= val; i++){
result[i] = result[i-1] + result[i-2];
}
System.out.println(result[val]);
}
}→ 시간 복잡도 : O(N)
→ 이유 : f(1)을 구한 다음 그 값이 f(2)를 푸는데 사용되고, f(2)의 값이 f(3)을 푸는데 사용되는 방식으로 이어짐. 즉 한 번 구한 결과는 다시 구해지지 않음
다이나믹 프로그래밍 VS. 분할 정복
- 모두 최적 부분 구조를 가질 때 사용 가능함
- 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아서 큰 문제를 해결할 수 있는 상황
- 차이점은 부분 문제의 중복
- 다이나믹 프로그래밍 문제에서는 각 부분 문제들이 서로 영향을 미치며 부분 문제가 중복됨
- 분할 정복 문제에서는 동일한 부분 문제가 반복적으로 계산되지 않음
다이나믹 프로그래밍 문제에 접근하는 방법
# 주어진 문제가 다이나믹 프로그래밍 유형인지 파악하기
- 주어진 문제가 다이나믹 프로그래밍 유형임을 파악하는 것이 중요함
- 가장 먼저 그리디, 구현, 완전 탐색 등의 아이디어로 문제를 해결할 수 있는지 검토할 수 있음
- 다른 알고리즘으로 풀이 방법이 떠오르지 않으면 다이나믹 프로그래밍을 고려해 보자!
- 특정한 문제를 완전 탐색 알고리즘으로 접근했을 때 시간이 매우 오래 걸리면 다이나믹 프로그래밍을 적용할 수 있는지 즉 해결하고자 하는 부분 문제들의 중복 여부를 확인해봐야 함
# 비효율적인 코드 개선하기
- 일단 재귀 함수로 비효율적인 완전 탐색 프로그램을 작성한 뒤에 (탑다운) 작은 문제에서 구한 답이 큰 문제에서 그대로 사용될 수 있으면, 코드를 개선하는 방법을 사용할 수 있음
- 가능하다면 재귀 함수로 먼저 구현하기보다 보텀업 방식(반복문)으로 구현하는 것이 좋음 (이유: 시스템상 재귀 함수의 스택 크기가 한정되어 있을 수 있음)
- 일반적인 코딩 테스트 수준에서는 기본 유형의 다이나믹 프로그래밍 문제가 출제되는 경우가 많음
참고) 이것이 취업을 위한 코딩 테스트다 with 파이썬