728x90 QKV1 RNN·LSTM·GRU·Transformer 차이: 어텐션 Q·K·V까지 문장은 단어 순서가 바뀌면 의미도 달라진다. 시계열도 앞선 값과 현재 값의 관계가 중요하다. RNN·LSTM·GRU는 상태를 다음 시점으로 전달하고, Transformer는 각 위치가 필요한 위치를 직접 참고한다. 차이는 “기억한다”와 “집중한다”의 구현 방식에 있다. 이 글의 목표: RNN 계열의 순환 구조부터 Transformer의 Q·K·V 계산까지 한 흐름으로 이해하고, 어떤 상황에서 어떤 구조를 선택할지 판단한다. 긴 문장에서 멀어진 정보를 순차 상태·게이트 기억·어텐션이 처리하는 차이 목차 시퀀스 문제의 입출력 형태 RNN의 순환 상태 LSTM과 GRU의 게이트 Transformer와 Q·K·V Self·Cros.. 2026. 7. 30. 이전 1 다음 728x90
