AI에 문서를 올리면 모델이 새로 학습할까?

AI에 문서를 올린 뒤 그 내용에 맞는 답을 받았다고 해서, 그때 모델을 새로 훈련했다는 뜻은 아닙니다. 답변에 참고할 자료를 제공하는 일과 모델 자체를 바꾸는 일은 구별해야 합니다.

여기서 ‘모델 훈련’은 데이터와 훈련 절차를 통해 가중치 같은 모델 내부 수치인 파라미터를 조정하는 일을 말합니다. ‘학습’이라는 단어가 문맥 속 예시를 이용하는 뜻으로도 쓰이므로, 무엇이 달라지는지 살펴보는 편이 명확합니다.

같은 문서도 쓰이는 과정이 다릅니다

다음 안내문과 사용 상황은 모두 설명을 위해 만든 가상 예시입니다. 실제 서비스에서 시험한 결과가 아닙니다.

느티 독서모임 안내: 모임은 토요일 오후 3시, 2층 세미나실에서 열립니다. 개인 컵을 준비해 주세요.

이 안내문을 바탕으로 ‘모임에 언제, 어디로 가면 되나요?’라는 질문을 처리한다고 해 보겠습니다.

문맥 참고: 이번 답변에 자료를 함께 제공합니다

안내문과 질문을 모델의 입력에 함께 넣어, 답할 때 참고하게 할 수 있습니다. 이처럼 제공된 문맥을 이용하면 파라미터를 갱신하지 않아도 답이 달라질 수 있습니다. 따라서 안내문을 반영한 답만으로 모델에 그 내용이 영구적으로 학습됐다고 판단할 수는 없습니다.

예시를 보고 과제 수행 방식을 맞추는 경우에는 ‘문맥 내 학습’이라는 표현도 씁니다. Brown 등의 2020년 논문은 답변 시 예시를 제공하는 few-shot 방식과 가중치를 갱신하는 미세조정(fine-tuning)을 구분합니다. 여기서의 ‘학습’이 모두 같은 수치 갱신을 뜻하지는 않습니다. Brown 등, §2 Approach, 3쪽

검색을 통한 참고: 필요한 자료를 찾아 문맥에 넣습니다

여러 모임 안내가 담긴 자료집을 검색할 수 있도록 구성했다면, 질문에 관련된 안내를 찾아 답변의 참고로 제공할 수 있습니다. 이렇게 외부 자료를 검색해 답변 생성에 보태는 방식을 RAG(검색 증강 생성)라고 합니다. 문서를 검색 대상에 추가하거나 찾기 위한 색인을 갱신하는 작업은 생성 모델의 파라미터를 훈련하는 작업과 다릅니다.

다만 ‘업로드’라는 기능 이름만으로 이런 검색 과정이 있다고 단정할 수는 없습니다. 문서 내용을 입력에 제공하는지, 검색으로 일부를 골라 제공하는지 등 실제 처리 방식은 기능 설명에서 확인해야 합니다. 검색하더라도 필요한 안내를 놓치거나 관련 없는 부분을 찾을 수 있으므로, 답변의 정확성과 자료의 최신성이 자동으로 보장되지는 않습니다.

모델 훈련: 별도 절차로 내부 수치를 조정합니다

가상 안내문이나 이를 바탕으로 만든 질문·답변을 훈련 자료로 삼는 경우도 생각할 수 있습니다. 이때는 자료를 넣고 답을 요청하는 것에 그치지 않고, 훈련 대상으로 정한 내부 수치를 조정하는 절차를 실행합니다. 이미 훈련된 모델을 추가 데이터로 조정하는 미세조정도 이쪽에 해당합니다.

모든 내부 수치를 반드시 바꾸는 것은 아니며, 훈련을 문서 파일을 원문 그대로 영구 보관하는 일로 이해해서도 안 됩니다. 훈련했다는 사실만으로 안내의 시간과 장소를 이후에 항상 정확히 답한다고 보장할 수도 없습니다.

문서 참고·검색·훈련에서 달라지는 것과 추정할 수 없는 것

구분	제공하거나 바꾸는 것	이것만으로 알 수 없는 것
문맥 참고	이번 답변 입력에 제공하는 문서·예시	다음 대화에서도 같은 내용을 참고할 수 있는지
검색을 통한 참고	검색 대상 자료와 찾아서 문맥에 보태는 부분	필요한 근거가 모두 검색됐는지, 모델 훈련도 함께 했는지
모델 훈련·미세조정	훈련 대상으로 정한 모델 내부 수치	정확한 암기 여부, 원문 파일의 보관·삭제 조건

세 가지는 함께 사용할 수 있습니다

위 표는 서로 배타적인 제품 종류를 나눈 것이 아닙니다. 별도로 훈련하거나 미세조정한 모델이 검색한 안내문과 현재 질문을 함께 참고할 수 있습니다. 검색용 자료를 바꾸는 일과 모델을 훈련하는 일은 다른 작업이지만, 한 시스템에서 둘 다 수행할 수 있습니다.

실제로 Lewis 등의 2020년 RAG 연구에도 검색기와 생성기를 함께 훈련하는 과정이 있습니다. 따라서 ‘RAG는 모델 훈련과 무관하다’거나 ‘RAG는 훈련할 수 없다’고 설명하면 부정확합니다. 이 연구의 특정 구성은 현재 모든 서비스의 구현을 뜻하지 않습니다. Lewis 등, §2 및 §§2.2–2.4, 2–4쪽

다시 참고하는 기능과 데이터 이용 정책도 구별하세요

다음 대화에서 같은 안내를 다시 활용했다는 사실만으로 모델이 훈련됐다고 결론 내릴 수는 없습니다. 문서를 보관해 두었다가 다시 참고하는 방식으로도 설명할 수 있기 때문입니다. 반대로 이번 답변에서 파라미터를 갱신하지 않았다는 설명만으로 파일을 저장하지 않는다거나 향후 훈련에 이용하지 않는다고 결론 내릴 수도 없습니다. 다른 사용자의 접근 범위 역시 별도로 확인할 사항입니다.

사용하는 기능의 공식 설명과 데이터 이용 관련 문서·설정에서 다음을 나누어 확인하세요.

• 기능의 동작: 문서를 답변에 어떻게 제공하는지, 검색을 거치는지, 다음 대화에서도 다시 참고할 수 있는지와 그 범위.
• 보관과 이용 조건: 파일·대화의 보관 및 삭제 조건, 향후 모델 개선·훈련에 이용하는지, 접근 범위와 계정·플랜·설정에 따른 적용 조건.

문서에 맞게 답했다는 관측으로 확인할 수 있는 범위와, 실제 처리 방식·보관·향후 이용에 관한 설명이 필요한 범위는 다릅니다. ‘내 문서를 학습했나요?’라는 질문을 이번 답변에 무엇을 제공했는지, 모델 수치를 바꿨는지, 자료를 어떻게 보관하고 이용하는지로 나누면 확인할 지점이 분명해집니다.