모델 종류와 생성 제어

개요

업무 제약으로 모델 후보와 설정을 좁힌다.

먼저 토큰·문맥·Transformer의 핵심 개념을 확인하세요.

핵심 개요

모델은 텍스트·이미지·음성 등 지원 입력과 작업, 실행 환경을 기준으로 선택합니다. 기반 모델과 지시를 따르도록 조정된 모델, 큰 모델과 작은 모델의 구분은 후보를 좁히지만 실제 품질을 결정하지는 않습니다.

생성 제어는 출력 길이·형식·샘플링에 영향을 줍니다. 낮은 temperature가 모든 환경에서 동일한 출력이나 사실성을 보장하지 않으며, 모델마다 지원 매개변수가 다를 수 있습니다.

필요한 용어

• Temperature: 지원되는 모델에서 출력 샘플링 분포를 조절하는 매개변수
• 기반 모델: 넓은 자료에서 사전 학습한 모델로 작업용 조정의 출발점이 될 수 있는 모델

작동 과정

1. 필수 입력 종류·출력 계약·지역·배포 제약을 정합니다.
2. 지원되는 생성 설정을 문서와 최소 호출로 확인합니다.
3. 같은 업무 요청으로 품질·지연·비용을 비교합니다.

풀이 예제

아래 입력과 기록은 직접 만든 교육용 가상 자료입니다.

입력·조건

영수증 사진에서 품목을 추출해야 하는데 텍스트 전용 모델과 이미지 입력 모델 두 후보가 있습니다.

판단·결과

이미지 입력 모델 또는 OCR 후 텍스트 처리 흐름을 비교합니다. 모델의 이름이나 크기보다 필요한 입력 지원 여부를 먼저 검사합니다.

이렇게 판단한 이유

지원하지 않는 입력은 프롬프트를 바꾸어도 직접 처리되지 않습니다. OCR을 추가하면 글자·레이아웃 누락이라는 다른 실패 경로도 생깁니다.

흔한 실패와 복구

큰 모델을 먼저 확정한 뒤 요구사항을 맞추지 않습니다. 입력 지원·실행 제약을 통과한 후보끼리 측정합니다.

확인 문제

참고 자료

1. Google ML Crash Course  — 학습 방식·회귀·분류·손실·평가의 기초.
2. NVIDIA: NCA-AMAD exam topics  — 모델·데이터·추론·맞춤화·에이전트·운영 범위.

자료 확인: 2026-10-21. 사례·문항·실습은 자체 제작했습니다. 외부 서비스 호출과 실제 모델 품질 측정은 학습자가 별도 환경에서 수행합니다.

단말기에서 짧은 분류 결과가 필요합니다. 큰 원격 모델과 작은 로컬 모델을 비교할 실험과 temperature를 낮춘 뒤 남는 검증을 설계하세요.