본문 바로가기
AI/LLM

파인튜닝이란? LLM을 우리 업무에 맞게 학습시키는 방법

by eplus 2026. 8. 4.

공개형 LLM을 설치하고 RAG를 연결하면 회사 문서를 기반으로 답변하는 AI를 만들 수 있습니다.

하지만 다음과 같은 요구사항은 RAG만으로 해결하기 어려울 수 있습니다.

  • 항상 정해진 형식으로 답변
  • 회사 고유의 문체 사용
  • 문의 내용을 지정된 항목으로 분류
  • 제조업 전문용어를 일관되게 표현
  • 특정 업무 절차에 맞춰 응답
  • 입력자료를 정해진 JSON 형식으로 변환

이러한 경우 검토할 수 있는 기술이 파인튜닝(Fine-tuning)입니다.

1. 파인튜닝이란?

파인튜닝은 이미 대규모 데이터로 학습된 LLM을 특정 업무, 분야 또는 답변 방식에 맞게 추가로 학습시키는 과정입니다.

우리말로는 다음과 같이 표현할 수 있습니다.

  • 미세조정
  • 추가학습
  • 특화학습
  • 업무 맞춤 학습

예를 들어 일반 LLM에 제조업 품질관리 관련 학습 예시를 제공하면 다음 작업을 더 일관되게 수행하도록 조정할 수 있습니다.

  • 불량내용 분류
  • 부적합 보고서 작성
  • 고장 증상 분류
  • 작업지시 내용 표준화
  • 고객 불만 유형 분류
  • MES 입력자료 구조화
 
 
 

2. 사전학습과 파인튜닝의 차이

사전학습

대규모 문서와 코드 등을 이용해 언어의 구조와 일반지식을 학습하는 과정입니다.

  • 막대한 데이터 필요
  • 많은 GPU 필요
  • 높은 비용
  • 오랜 학습시간
  • 모델 개발사가 주로 수행

파인튜닝

이미 사전학습된 모델에 비교적 작은 업무 데이터를 추가로 학습하는 과정입니다.

  • 특정 업무에 맞게 조정
  • 상대적으로 적은 데이터
  • 사전학습보다 적은 비용
  • 기존 모델의 언어능력 활용
  • 기업과 개발자가 수행 가능

자동차에 비유하면 사전학습은 자동차 자체를 만드는 과정이고, 파인튜닝은 자동차를 특정 경주나 작업환경에 맞게 조정하는 과정입니다.

3. 파인튜닝은 무엇을 바꾸는가?

파인튜닝은 단순히 문서를 모델에 저장하는 기술이 아닙니다.

주로 다음과 같은 모델의 행동을 조정합니다.

답변 형식

현상:
가능 원인:
점검 항목:
조치 방법:
주의사항:
 

답변 문체

  • 전문적인 표현
  • 쉬운 한국어
  • 짧고 명확한 문장
  • 작업자용 안내 문체
  • 경영자용 요약 문체

분류 방식

설비고장
품질불량
자재부족
작업지연
안전문제
기타
 

업무 처리 규칙

  • 데이터가 없으면 임의로 답하지 않기
  • 안전 관련 질문은 경고문 포함
  • 결과를 지정된 JSON으로 출력
  • LOT 번호 형식 확인
  • 불량유형을 회사 코드로 변환

전문 분야 적응

  • MES
  • ERP
  • 설비관리
  • 품질관리
  • 회계
  • 의료
  • 법률
  • 고객지원

4. 파인튜닝으로 회사 문서를 외우게 하면 될까?

가능은 하지만 일반적으로 권장되는 첫 번째 방법은 아닙니다.

다음과 같은 정보를 파인튜닝으로 학습시키면 관리가 어렵습니다.

  • 자주 개정되는 작업표준서
  • 제품별 최신 사양
  • 현재 재고
  • 오늘의 생산실적
  • 설비 점검주기
  • 인사 및 조직정보
  • 변경되는 법률과 규정

이유는 다음과 같습니다.

  • 자료가 바뀔 때 다시 학습해야 함
  • 모델이 내용을 정확히 기억한다는 보장이 없음
  • 정보 출처를 표시하기 어려움
  • 잘못 학습된 정보를 삭제하기 어려움
  • 최신판과 구버전을 구분하기 어려움

따라서 지식과 문서는 RAG로 제공하고, 행동과 답변방식은 파인튜닝으로 조정하는 것이 좋습니다.

5. RAG와 파인튜닝 비교

구분RAG파인튜닝
주요 목적 외부 지식 검색 모델 행동과 응답방식 조정
회사 문서 검색 후 LLM에 전달 학습 데이터로 사용
최신정보 반영 문서 재색인 재학습 필요
출처 표시 비교적 쉬움 어려움
데이터 삭제 인덱스 삭제 모델에서 제거 어려움
답변 형식 프롬프트에 의존 일관성 향상 가능
전문 분류 가능하지만 제한적 적합
구축비용 비교적 낮음 GPU와 학습작업 필요
환각 감소 검색 품질에 따라 감소 환각을 없애지는 못함
권한관리 검색 단계에서 적용 학습된 지식 분리 어려움

6. 언제 RAG를 사용해야 할까?

다음 요구사항에는 RAG가 적합합니다.

  • 사내 문서에서 답을 찾아야 함
  • 최신 문서가 자주 변경됨
  • 답변에 출처가 필요함
  • 문서별 접근권한이 필요함
  • 많은 문서를 검색해야 함
  • 모델을 다시 학습하고 싶지 않음

예:

프레스 2호기의 최신 점검기준은 무엇인가요?

RAG가 최신 승인 문서를 검색해 답변하도록 구성하는 것이 좋습니다.

7. 언제 파인튜닝을 사용해야 할까?

다음 요구사항에는 파인튜닝이 적합합니다.

  • 같은 형식으로 반복 출력
  • 특정 분야의 질문 분류
  • 회사 고유 문체 적용
  • 입력 내용을 표준용어로 변환
  • 코드나 항목을 지정된 형식으로 생성
  • 많은 예시를 통해 업무 패턴 학습
  • 프롬프트만으로 일관성이 부족함

예:

“기계가 심하게 흔들려요”를 설비 이상유형으로 분류해 주세요.

원하는 출력:

 
{
  "category": "설비이상",
  "code": "VIBRATION",
  "severity": "점검필요"
}
 

이러한 반복 분류 작업은 파인튜닝에 적합합니다.

8. RAG와 파인튜닝을 함께 사용하기

실무에서는 둘 중 하나만 선택하지 않고 함께 사용할 수 있습니다.

 
 
 

예를 들어 다음과 같이 역할을 분리합니다.

RAG 역할

  • 최신 작업표준서 검색
  • 설비 매뉴얼 검색
  • 품질규정 검색
  • 문서 출처 제공

파인튜닝 모델 역할

  • 회사 지정 양식으로 답변
  • 제조업 전문용어 사용
  • 조치유형 분류
  • JSON 구조로 출력
  • 안전 안내문 자동 포함

이를 간단히 정리하면 다음과 같습니다.

지식은 RAG로 제공하고,
행동은 파인튜닝으로 가르친다.

9. 파인튜닝의 주요 종류

파인튜닝은 학습 목적과 범위에 따라 여러 방식으로 나뉩니다.

전체 파인튜닝

모델의 전체 파라미터를 다시 학습합니다.

장점

  • 모델 전체를 조정할 수 있음
  • 충분한 데이터가 있으면 높은 적응 가능
  • 전문 분야에 깊게 특화 가능

단점

  • 많은 GPU 메모리 필요
  • 학습시간과 비용이 큼
  • 모델 전체를 별도로 저장
  • 기존 능력이 약해질 수 있음
  • 중소기업에서 직접 수행하기 부담

대형 LLM의 전체 파인튜닝은 일반적인 업무시스템 구축에는 과도할 수 있습니다.

10. PEFT란?

PEFT는 Parameter-Efficient Fine-Tuning의 약자로, 우리말로는 파라미터 효율적 미세조정이라고 합니다.

모델 전체를 학습하지 않고 일부 파라미터나 작은 추가 계층만 학습하는 방법입니다.

대표적인 방식은 다음과 같습니다.

  • LoRA
  • QLoRA
  • Adapter
  • Prefix Tuning
  • Prompt Tuning

현재 공개형 LLM의 파인튜닝에서는 LoRA와 QLoRA가 널리 사용됩니다.

11. LoRA란?

LoRA는 Low-Rank Adaptation의 약자입니다.

기본 모델의 가중치는 고정하고, 작은 학습용 행렬을 추가해 해당 부분만 학습합니다.

 
 
 

LoRA 원 논문은 Transformer 계층에 작은 저차원 행렬을 추가해 학습할 파라미터 수를 크게 줄이는 방식을 제안했습니다. LoRA 원 논문

장점

  • 전체 파인튜닝보다 GPU 메모리 절감
  • 학습시간 단축
  • Adapter 파일 크기가 작음
  • 기본 모델 재사용
  • 업무별 Adapter를 따로 관리
  • 필요에 따라 Adapter 교체 가능

적용 예

하나의 기본 모델에 다음 Adapter를 각각 적용할 수 있습니다.

기본 모델: Qwen

Adapter 1: 설비관리
Adapter 2: 품질관리
Adapter 3: 고객상담
Adapter 4: MES 코드 생성
 

LoRA는 원본 모델을 고정하고 작은 저차원 행렬만 학습하므로 효율적인 파인튜닝의 대표적인 출발점으로 사용됩니다. Hugging Face PEFT LoRA 문서

12. QLoRA란?

QLoRA는 양자화된 모델에 LoRA를 적용하는 방식입니다.

일반적인 흐름은 다음과 같습니다.

  1. 기본 모델을 4비트 등으로 양자화
  2. 기본 모델 가중치는 고정
  3. LoRA Adapter만 학습
  4. 적은 GPU 메모리로 파인튜닝
 
 
 

QLoRA 논문에서는 4비트로 양자화한 기본 모델을 고정하고 LoRA Adapter를 학습함으로써 메모리 사용량을 크게 줄이는 방법을 제안했습니다. QLoRA 원 논문

장점

  • LoRA보다 메모리 사용량 감소
  • 비교적 작은 GPU에서 학습 가능
  • 대형 모델의 실험 가능
  • 개인과 중소규모 개발팀에 유리

단점

  • 양자화 과정으로 인한 품질 영향 가능
  • 라이브러리 호환성 문제
  • 학습속도가 느려질 수 있음
  • 배포 환경과 형식 확인 필요
  • 모델별 지원 여부가 다름

13. SFT란?

SFT는 Supervised Fine-Tuning의 약자로 지도형 파인튜닝을 의미합니다.

사람이 작성한 입력과 정답 예시를 모델에 학습시킵니다.

예:

입력:
베어링에서 소음이 나고 설비가 흔들립니다.

정답:
분류: 설비 이상
유형: 진동 및 소음
우선조치: 설비를 정지하고 보전담당자에게 보고
 

SFT는 다음 작업에 적합합니다.

  • 질문과 답변 학습
  • 문서 분류
  • 정보 추출
  • 보고서 형식 생성
  • 표준용어 변환
  • JSON 출력
  • 고객상담 답변

14. Continued Pretraining이란?

Continued Pretraining은 기본 모델을 특정 분야의 대량 문서로 추가 사전학습하는 방식입니다.

예를 들면 다음과 같습니다.

  • 제조업 기술문서
  • 법률문서
  • 의료논문
  • 회계자료
  • 특정 프로그래밍 언어 코드

이 방식은 모델이 특정 분야의 언어와 표현에 익숙해지도록 할 수 있습니다.

그러나 다음과 같은 부담이 있습니다.

  • 많은 원문 데이터 필요
  • 높은 GPU 비용
  • 학습 난이도 증가
  • 데이터 저작권 검토
  • 기존 능력 저하 가능
  • 상세한 성능평가 필요

중소기업에서는 처음부터 Continued Pretraining을 수행하기보다 RAG와 SFT 또는 LoRA부터 검토하는 것이 현실적입니다.

15. 선호도 학습

정답 하나만 가르치는 것이 아니라 여러 답변 중 어떤 답변이 더 좋은지 학습시키는 방식입니다.

학습 예시는 다음과 같습니다.

질문:
설비에서 이상 진동이 발생했습니다.

선호 답변:
설비를 즉시 정지한 후 안전절차에 따라 점검하고
보전담당자에게 보고하세요.

비선호 답변:
일단 계속 운전하면서 상태를 지켜보세요.
 

대표적인 방식에는 다음이 있습니다.

  • RLHF
  • DPO
  • ORPO
  • KTO

이러한 방식은 모델의 말투, 안전성, 응답 선호와 거절 행동을 조정하는 데 사용됩니다.

기업의 첫 파인튜닝 프로젝트에는 일반적인 SFT가 더 이해하고 검증하기 쉽습니다.

16. 학습 데이터 형식

파인튜닝 데이터는 주로 JSONL 형식으로 만듭니다.

JSONL은 한 줄에 하나의 JSON 객체를 저장하는 형태입니다.

대화형 데이터

 
{"messages":[
  {"role":"system","content":"당신은 설비관리 전문가입니다."},
  {"role":"user","content":"베어링에서 소음이 납니다."},
  {"role":"assistant","content":"설비를 정지하고 베어링의 마모, 윤활상태와 체결상태를 점검하세요."}
]}
 

실제 JSONL에서는 객체 하나를 한 줄로 작성합니다.

지시·응답 데이터

 
{
  "instruction": "다음 고장내용을 분류하세요.",
  "input": "프레스 설비가 흔들리고 소음이 납니다.",
  "output": "설비이상|진동·소음|긴급점검"
}
 

분류 데이터

 
{
  "text": "작업에 필요한 원자재가 입고되지 않았습니다.",
  "label": "자재부족"
}
 

구조화 출력 데이터

 
{
  "input": "PRS-002에서 이상 진동이 발생했습니다.",
  "output": {
    "equipment": "PRS-002",
    "category": "VIBRATION",
    "action": "STOP_AND_INSPECT"
  }
}
 

학습 프레임워크가 요구하는 데이터 형식에 맞게 정확히 변환해야 합니다.

17. 좋은 학습 데이터의 조건

파인튜닝의 성능은 데이터 양보다 품질에 더 크게 좌우될 수 있습니다.

정확성

정답이 실제 회사 규정과 업무절차에 맞아야 합니다.

일관성

같은 상황을 서로 다른 코드와 표현으로 작성하면 모델이 혼란스러워질 수 있습니다.

다양성

같은 의미를 여러 표현으로 포함해야 합니다.

설비가 흔들립니다.
기계에서 진동이 납니다.
장비의 떨림이 심합니다.
프레스가 평소보다 크게 진동합니다.
 

업무 대표성

실제 현장에서 자주 발생하는 질문과 데이터를 포함해야 합니다.

안전성

위험하거나 잘못된 조치방법이 포함되지 않아야 합니다.

개인정보 제거

사원 이름, 전화번호, 주민등록번호와 고객정보 등은 제거하거나 익명화해야 합니다.

18. 데이터 양은 얼마나 필요할까?

필요한 데이터 수는 작업의 복잡성과 기본 모델의 성능에 따라 달라집니다.

대략적인 시작 기준은 다음과 같이 생각할 수 있습니다.

작업시험용 데이터
단순 분류 수백 건
고정된 출력 형식 수백~수천 건
업무 질의응답 수천 건 이상 검토
복잡한 전문 모델 대량의 고품질 데이터
추가 사전학습 매우 많은 원문 데이터

중요한 것은 무조건 많은 데이터를 만드는 것이 아닙니다.

잘못된 예시 10,000개보다 정확하고 일관된 예시 1,000개가 더 유용할 수 있습니다.

처음에는 200~500개 정도의 고품질 예시로 가능성을 확인한 뒤 오류 유형을 분석하며 추가하는 방법이 좋습니다.

19. 데이터 분리

전체 데이터를 모두 학습에 사용하면 모델의 실제 성능을 평가할 수 없습니다.

일반적으로 다음과 같이 나눕니다.

구분목적
학습 데이터 모델 학습
검증 데이터 학습 중 성능과 과적합 확인
테스트 데이터 최종 성능평가

예시:

학습 데이터: 80%
검증 데이터: 10%
테스트 데이터: 10%
 

같은 문장을 일부만 바꾼 데이터가 학습과 테스트에 동시에 들어가면 실제보다 성능이 높게 측정될 수 있습니다.

이를 데이터 누수라고 합니다.

20. 파인튜닝 전체 절차

 
 
 

21. 1단계: 목표 정의

파인튜닝의 목적을 명확히 해야 합니다.

나쁜 목표:

제조업을 잘 아는 AI를 만든다.

좋은 목표:

사용자가 입력한 설비 이상내용을 12개 고장유형으로 분류하고, 점검 우선순위와 담당부서를 JSON으로 출력한다.

목표에는 다음이 포함돼야 합니다.

  • 입력 데이터
  • 출력 데이터
  • 분류 기준
  • 성공 조건
  • 허용 오류율
  • 응답시간
  • 적용 사용자
  • 사용하지 않을 업무

22. 2단계: 기본 모델 선정

기본 모델은 다음 기준으로 선택합니다.

  • 한국어 성능
  • 모델 크기
  • GPU 요구사항
  • 라이선스
  • 상업적 이용 가능 여부
  • 최대 컨텍스트
  • 구조화 출력
  • 코드 생성 능력
  • Ollama 지원 여부
  • LoRA 학습도구 지원 여부

후보 예시는 다음과 같습니다.

  • Qwen 계열
  • Gemma 계열
  • Llama 계열
  • Mistral 계열
  • Phi 계열
  • gpt-oss 계열

파인튜닝 전에 기본 모델만으로 평가해 기준 성능을 기록해야 합니다.

기본 모델이 이미 충분한 성능을 제공한다면 프롬프트와 RAG만으로 해결할 수 있습니다.

23. 3단계: 기준 성능 측정

파인튜닝을 시작하기 전에 같은 테스트 데이터로 기본 모델을 평가합니다.

예:

평가항목기본 모델
고장유형 분류 정확도 72%
JSON 형식 준수율 81%
존재하지 않는 코드 생성률 8%
평균 응답시간 3.2초

파인튜닝 후 동일한 테스트를 실행합니다.

평가항목기본 모델파인튜닝 모델
분류 정확도 72% 91%
JSON 형식 준수율 81% 98%
잘못된 코드 생성률 8% 2%
평균 응답시간 3.2초 3.3초

이런 비교가 있어야 파인튜닝 효과를 객관적으로 판단할 수 있습니다.

24. 4단계: 학습

공개형 LLM 파인튜닝에는 다음과 같은 도구가 많이 사용됩니다.

  • Hugging Face Transformers
  • Hugging Face PEFT
  • TRL
  • Axolotl
  • Unsloth
  • LLaMA-Factory
  • PyTorch
  • DeepSpeed

초기 시험에서는 설정과 데이터 형식을 쉽게 관리할 수 있는 도구를 선택하는 것이 좋습니다.

Ollama는 주로 모델 실행과 API 제공을 담당합니다. 파인튜닝 자체는 별도의 학습 프레임워크에서 진행하는 것이 일반적입니다.

25. 주요 학습 설정

Learning Rate

모델 가중치를 얼마나 크게 변경할지 결정합니다.

너무 크면 기존 능력이 손상되거나 학습이 불안정할 수 있고, 너무 작으면 충분히 학습되지 않을 수 있습니다.

Epoch

전체 학습 데이터를 몇 번 반복해서 학습할지 결정합니다.

반복이 너무 많으면 학습 데이터를 외우는 과적합이 발생할 수 있습니다.

Batch Size

한 번에 처리하는 학습 데이터 수입니다.

GPU 메모리와 학습 안정성에 영향을 줍니다.

Sequence Length

한 학습 예시에서 허용할 최대 토큰 길이입니다.

너무 길면 메모리 사용량이 크게 증가합니다.

LoRA Rank

LoRA Adapter의 학습 표현력과 크기를 결정하는 주요 값입니다.

값이 커지면 학습할 파라미터가 많아지고 메모리와 저장용량도 증가합니다.

설정값은 무조건 크게 하는 것이 아니라 모델, 데이터와 업무를 기준으로 비교시험해야 합니다.

26. 과적합이란?

과적합은 모델이 학습 데이터를 지나치게 외워 새로운 입력에 제대로 대응하지 못하는 현상입니다.

과적합 징후

  • 학습 데이터에는 정확함
  • 새로운 표현에서는 오류 발생
  • 답변이 학습 예시와 지나치게 비슷함
  • 입력이 조금만 바뀌어도 분류 실패
  • 기존 일반능력 저하
  • 특정 답변을 반복

대응 방법

  • 다양한 표현 추가
  • 중복 데이터 제거
  • Epoch 축소
  • Learning Rate 조정
  • 검증 데이터 사용
  • Early Stopping 적용
  • 학습 데이터 품질 개선

27. 치명적 망각이란?

특정 업무를 지나치게 학습하면서 기본 모델이 원래 가지고 있던 일반적인 능력을 잃는 현상입니다.

예를 들어 설비분류 데이터만 과도하게 학습하면 모든 질문을 설비고장으로 판단하려 할 수 있습니다.

대응 방법:

  • LoRA 등 PEFT 사용
  • 일반적인 대화 예시 일부 포함
  • 특정 분류 데이터의 편향 완화
  • 낮은 Learning Rate
  • 기본 모델과 회귀시험
  • 업무 범위를 명확히 제한

28. 파인튜닝 모델 평가

분류 모델

  • Accuracy
  • Precision
  • Recall
  • F1 Score
  • 유형별 오분류표

정보 추출

  • 항목 누락률
  • 잘못된 값 생성률
  • 코드 매핑 정확도
  • JSON 유효성

질의응답

  • 정답 정확성
  • 질문 관련성
  • 답변 완전성
  • 환각 여부
  • 안전성
  • 형식 준수

운영 평가

  • 평균 응답시간
  • GPU 메모리
  • 동시 사용자 처리
  • 모델 로딩시간
  • 사용자 만족도

29. Ollama에 파인튜닝 모델 적용하기

Ollama는 별도 도구에서 만든 파인튜닝 모델이나 LoRA Adapter를 가져와 실행할 수 있습니다.

Ollama 공식 문서에서는 Safetensors 형식의 Adapter를 Modelfile의 ADAPTER 명령으로 연결하는 방법을 안내합니다. Ollama 모델 가져오기

Modelfile 예시

 
FROM llama3.2:3b
ADAPTER ./adapter

SYSTEM """
당신은 eMES Lite의 설비관리 도우미입니다.
답변은 지정된 업무규칙과 JSON 형식을 따릅니다.
"""
 

모델을 생성합니다.

 
ollama create emes-equipment-ai -f Modelfile
 

실행합니다.

 
ollama run emes-equipment-ai
 

기본 모델과 Adapter를 학습할 때 사용한 모델은 정확히 일치해야 합니다. 다른 기본 모델을 사용하면 결과가 비정상적으로 나올 수 있습니다. Ollama Modelfile 문서

30. Adapter 병합과 분리

Adapter 분리 방식

기본 모델과 LoRA Adapter를 별도로 보관합니다.

장점:

  • Adapter 크기가 작음
  • 업무별 교체 가능
  • 기본 모델 하나를 재사용
  • 버전관리가 쉬움

병합 방식

LoRA Adapter를 기본 모델에 합쳐 하나의 모델로 만듭니다.

장점:

  • 배포 구조가 단순
  • 일부 환경에서 실행 편리
  • Adapter 호환 문제 감소

단점:

  • 모델 파일이 커짐
  • 업무별로 전체 모델을 저장
  • 원본과 파생 모델 관리 필요

31. 파인튜닝 데이터 보안

회사 문서와 업무이력으로 학습하면 정보가 모델에 반영될 가능성이 있습니다.

따라서 다음 자료를 그대로 학습시키면 안 됩니다.

  • 주민등록번호
  • 전화번호
  • 개인 이메일
  • 계좌번호
  • 고객 개인정보
  • 비밀번호
  • API 키
  • DB 접속정보
  • 기밀 원가
  • 계약상 비공개 정보
  • 저작권이 제한된 외부 문서

권장 보안 절차

원본 수집
→ 개인정보 탐지
→ 익명화·마스킹
→ 중복 제거
→ 담당자 검수
→ 학습 승인
→ 접근 제한 저장
→ 학습이력 기록
 

파인튜닝된 모델과 Adapter도 회사의 정보자산으로 관리해야 합니다.

32. 라이선스 확인

공개형 모델을 파인튜닝했다고 해서 새로운 모델의 권리를 모두 자유롭게 행사할 수 있는 것은 아닙니다.

확인할 항목은 다음과 같습니다.

  • 기본 모델 라이선스
  • 상업적 이용 가능 여부
  • 파생 모델 배포 조건
  • 모델명 표시 조건
  • 월간 사용자 수 제한
  • 매출 기준 제한
  • 금지된 사용 목적
  • 학습 데이터 저작권
  • 학습도구 라이선스

Llama처럼 자체 커뮤니티 라이선스를 사용하는 모델도 있고, Apache 2.0이나 MIT를 사용하는 모델도 있습니다.

33. 제조업 파인튜닝 사례

설비 이상 분류

입력:

모터가 뜨거워지고 타는 냄새가 납니다.
 

출력:

 
{
  "category": "MOTOR_OVERHEAT",
  "severity": "HIGH",
  "department": "MAINTENANCE",
  "immediate_action": "STOP_EQUIPMENT"
}
 

불량유형 분류

입력:

도장면에 작은 기포가 여러 개 발생했습니다.
 

출력:

 
{
  "process": "PAINTING",
  "defect": "BUBBLE",
  "inspection_required": true
}
 

작업일보 정규화

입력:

오전에 자재 늦게 와서 한 시간 정도 작업 못함
 

출력:

 
{
  "delay_type": "MATERIAL_DELAY",
  "delay_minutes": 60,
  "responsible_department": "MATERIAL",
  "description": "원자재 입고 지연으로 작업 대기"
}
 

고객 불만 분류

  • 납기
  • 품질
  • 수량
  • 포장
  • 운송
  • 기술문의
  • 기타

34. MES Lite 적용 권장 구조

 
 
 

역할 분담

업무권장 방식
작업표준서 검색 RAG
최신 품질규정 RAG
생산량 조회 SQL
현재 재고 조회 SQL
불량유형 분류 파인튜닝
자연어를 MES 코드로 변환 파인튜닝
회사 형식의 보고서 파인튜닝 또는 템플릿
문서 근거 포함 답변 RAG
혼합 업무 RAG+SQL+파인튜닝

35. 중소기업 권장 도입 단계

1단계: 프롬프트 개선

파인튜닝 전에 시스템 프롬프트와 출력규칙만으로 목표를 달성할 수 있는지 확인합니다.

2단계: RAG 적용

회사 문서와 최신정보가 필요한 업무는 RAG로 해결합니다.

3단계: 데이터 수집

프롬프트와 RAG로 처리하면서 실패 사례와 수정 답변을 축적합니다.

4단계: LoRA·QLoRA 시험

반복적으로 실패하는 분류와 출력 형식을 대상으로 작은 파인튜닝을 수행합니다.

5단계: 성능 비교

기본 모델과 파인튜닝 모델을 같은 테스트 데이터로 평가합니다.

6단계: 제한된 업무에 배포

한 가지 업무부터 적용하고 사용자가 결과를 확인하도록 합니다.

7단계: 지속적인 개선

실제 오류를 수집하고 검증된 데이터만 추가해 새 버전을 학습합니다.

36. 파인튜닝을 하지 않아도 되는 경우

다음 상황에서는 파인튜닝보다 다른 방법이 적합할 수 있습니다.

프롬프트만으로 해결 가능

출력 형식과 역할을 명확하게 지시했을 때 충분히 일관된 결과가 나온다면 파인튜닝이 필요하지 않습니다.

최신 문서가 필요한 경우

RAG가 적합합니다.

정확한 수치조회가 필요한 경우

SQL과 업무 API가 적합합니다.

학습 데이터가 부족한 경우

적은 양의 잘못된 데이터로 파인튜닝하면 기본 모델보다 성능이 나빠질 수 있습니다.

요구사항이 계속 변경되는 경우

업무규칙이 안정된 후 학습하는 것이 좋습니다.

37. 파인튜닝 실패 원인

  • 목적이 불명확함
  • 잘못된 기본 모델 선택
  • 학습 데이터 오류
  • 데이터 형식 불일치
  • 동일한 질문에 서로 다른 답변
  • 중복 데이터 과다
  • 테스트 데이터 누수
  • Epoch 과다
  • 기존 능력의 손실
  • 운영환경과 학습환경 불일치
  • RAG로 처리할 지식을 파인튜닝함
  • 효과를 측정할 기준이 없음

파인튜닝은 학습 명령을 실행하는 것보다 데이터 설계와 평가가 더 중요합니다.

38. 현실적인 권장 방향

중소 제조업의 MES·ERP·문서관리시스템에 AI를 적용한다면 다음 순서가 가장 현실적입니다.

기본 LLM
→ 프롬프트 설계
→ RAG
→ SQL·API 연결
→ 실패 사례 수집
→ LoRA·QLoRA 파인튜닝
→ 통합 평가
→ 제한적 운영
 

처음부터 모델을 학습하기보다 기본 모델과 RAG로 실제 업무를 운영하면서 다음 자료를 축적하는 것이 좋습니다.

  • 실제 사용자 질문
  • 잘못된 답변
  • 담당자가 수정한 답변
  • 올바른 분류 결과
  • 표준 출력 예시
  • 예외 처리 사례

이 자료가 향후 고품질 파인튜닝 데이터가 됩니다.

마무리

파인튜닝은 LLM에 회사 문서를 단순히 저장하는 기술이 아닙니다.

모델이 특정 업무를 더 일관되게 수행하도록 행동과 응답 패턴을 조정하는 기술입니다.

핵심을 정리하면 다음과 같습니다.

  • 최신 문서와 사실은 RAG로 제공합니다.
  • 생산량과 재고 같은 수치는 DB에서 조회합니다.
  • 답변 형식과 업무 분류는 파인튜닝을 검토합니다.
  • 전체 학습보다 LoRA·QLoRA가 현실적입니다.
  • 데이터 품질이 모델 크기보다 중요할 수 있습니다.
  • 기본 모델과 파인튜닝 모델을 반드시 비교합니다.
  • 중요한 업무 결과는 담당자가 최종 검증합니다.

MES Lite에 적용한다면 작업표준서와 설비 매뉴얼은 RAG로 검색하고, 불량유형·고장유형 분류와 MES 코드 변환은 파인튜닝 모델이 처리하는 구성이 적합합니다.

지식은 RAG로 제공하고,
행동은 파인튜닝으로 가르치며,
수치는 업무시스템에서 조회한다.

조그만 기술로 세상을 이롭게

반응형

'AI > LLM' 카테고리의 다른 글

ChatGPT GPT-5.6 모델 종류와 특징 정리  (0) 2026.08.09
LLM을 로컬 서버에 구축할 때 필요한 사양과 무료·공개 모델별 구성  (0) 2026.08.05
RAG란? 사내 문서와 LLM을 연결하는 검색증강생성 완벽 이해  (0) 2026.08.04
Ollama란? 설치·사용법·API·RAG 구축까지 완벽 정리  (0) 2026.08.04
무료 LLM이란? Meta·OpenAI 등 공개형 AI 모델 비교  (0) 2026.08.03

관련글

티스토리툴바