먼저 모델과 문서를 준비합니다

로컬 대화가 가능한 모델을 준비한 뒤 필요한 자료만 넣은 폴더를 정합니다. 일반 채팅에 폴더 경로를 입력하는 것과 LocalDocs에 폴더를 등록하는 것은 다릅니다.

공식 설정 문서의 기본 확장자는 .txt, .pdf, .md, .rst입니다. PDF라는 확장자만으로 본문이 모두 읽힌다고 가정하지 마세요. 스캔 이미지만 있는 자료는 먼저 검색·복사할 수 있는 텍스트가 있는지 확인하는 편이 좋습니다.

처음에는 큰 폴더 전체보다 짧고 공개 가능한 원문 두 개로 시작합니다. 파일 수·색인 상태·참고할 문장을 쉽게 확인할 수 있기 때문입니다.

폴더를 컬렉션으로 등록합니다

  1. LocalDocs에서 + Add Collection을 선택합니다.
  2. 컬렉션 이름을 정하고 준비한 폴더를 연결합니다.
  3. Create Collection으로 생성을 시작합니다.
  4. LocalDocs 화면의 진행 상태와 Ready 표시를 확인합니다.
  5. 설정을 바꿔 컬렉션을 다시 만들어야 하는 경우에는 재구축 상태도 확인합니다.

공식 문서는 전체 준비 전에도 완료된 파일과 대화할 수 있다고 설명합니다. 다만 답이 없을 때 자료 자체에 내용이 없는지, 아직 색인이 끝나지 않은 것인지 구분하려면 Ready 상태부터 맞추는 것이 이해하기 쉽습니다.

자체 원문 두 개로 근거 관계를 확인합니다

다음은 직접 읽고 복사해 사용할 수 있는 가상 원문입니다. 실제 회사·회의 자료가 아닙니다.

workshop.md

Workshop note
The workshop takes place on November 12, 2026.
It starts at 2 PM in Room B.
Bring a laptop and a charging cable.

travel.txt

Travel note
The practice travel budget is 25,000 KRW per person.
Keep the receipt when claiming the travel cost.
연습 질문 원문에서 확인할 기준
Which room is the workshop in? Cite the source. workshop.md의 Room B 문장
What should participants bring? laptop과 charging cable
Where will lunch be served? 두 원문에 점심 장소가 없으므로 자료 밖 질문

이 표는 모델의 실제 응답이 아니라 답과 출처를 대조할 기준입니다. 한국어로 ‘워크숍 장소를 제공 자료에서 찾아 주세요’라고 물을 수도 있지만, 대화 모델과 임베딩의 언어 처리에 따라 결과가 달라집니다. 한국어 검색 정확도를 검증했다고 표현하지 않습니다.

채팅에서 컬렉션을 연결하고 Sources를 엽니다

Chats에서 사용할 모델을 고르고, 오른쪽 위 LocalDocs 버튼으로 해당 컬렉션을 연결합니다. 컬렉션을 만들었어도 이번 대화에 연결했는지 확인하세요.

질문에는 ‘제공한 파일에서’, ‘자료에 없으면 없다고 답하기’처럼 범위를 명시할 수 있습니다. 응답 아래 Sources를 열어 어느 파일의 어떤 문장을 참고했는지 읽고 답과 비교합니다. 출처 파일 제목이 보이는 것과 그 파일의 문장이 답을 뒷받침하는 것은 다른 확인입니다.

예를 들어 출처는 travel.txt인데 답이 Room B라면, 파일 목록이 표시됐다는 이유만으로 통과시키지 않습니다. 반대로 점심 장소를 지어냈다면 관련 자료를 추가하거나 답을 유보해야 합니다. 공식 문제 해결 문서도 작은 모델 등이 참고 조각을 제대로 사용하지 않을 수 있다고 설명합니다.

로컬 임베딩과 선택 API의 차이

설정·단계 확인할 내용
로컬 컬렉션 색인 폴더의 텍스트 조각과 임베딩을 기기에서 준비
Embeddings Device 현재 환경에서 사용하는 CPU·GPU·Metal 등의 선택
Use Nomic Embed API API 키를 쓰는 기기 밖 임베딩, 공식 문서상 기본 Off
채팅 모델 실제 답을 만드는 로컬/원격 모델 선택을 별도로 확인

색인은 로컬인데 채팅 모델은 원격일 수도 있으므로 각 단계의 설정을 따로 봅니다. ‘문서 질문’이라는 기능명만으로 모든 자료가 무조건 기기 밖으로 나가지 않는다고 판단하지 마세요. 개인 자료를 사용하기 전에는 현재 설정과 공급자 조건을 직접 확인해야 합니다.

자료를 못 찾을 때의 확인 순서

  1. 폴더와 확장자·텍스트 추출 가능 여부를 확인합니다.
  2. 컬렉션의 준비 상태를 확인합니다.
  3. 이번 채팅에 맞는 컬렉션을 연결했는지 봅니다.
  4. 자료의 정확한 표현에 가까운 짧은 질문부터 시도합니다.
  5. Sources와 원문 문장을 대조해 검색 문제와 답변 해석 문제를 나눕니다.

조각 크기나 검색 문맥을 늘린다고 항상 정확해지는 것은 아닙니다. 공식 설정도 정확도 가능성과 생성 속도의 차이를 설명하므로, 자료와 질문을 좁힌 뒤 필요한 설정을 검토하세요.

목적별 가이드

하려는 일 가이드
앱·모델·RAM·로컬 설정부터 준비 GPT4All 첫 사용
다른 문서 질문 서비스의 흐름 확인 NotebookLM 사용법

참고 자료