전체 강의
1장. 문제에서 출발하는 AI 기초
0/4- 1강AI·머신러닝·생성형 AI의 역할
업무 네 가지를 규칙·예측·생성으로 분류한다.
- 2강학습 방식과 데이터의 관계
라벨 유무와 목적에 맞는 학습 방식을 선택한다.
- 3강AI를 도입할 가치 계산
기준 성능·비용·실패 손실로 도입 여부를 판단한다.
- 4강성능 지표와 데이터 누출 입문
혼동행렬에서 precision·recall·F1을 계산한다.
2장. LLM의 동작과 모델 선택
0/5- 1강토큰·문맥·Transformer
입력이 토큰에서 출력으로 바뀌는 과정을 설명한다.
- 2강임베딩과 유사도
숫자 벡터가 의미 비교에 쓰이는 방식과 한계를 설명한다.
- 3강모델 종류와 생성 제어
업무 제약으로 모델 후보와 설정을 좁힌다.
- 4강환각과 불확실성
근거 부족·오래된 정보·계산 오류를 구분한다.
- 5강품질·지연·비용 실험
동일 평가셋으로 두 모델의 차이를 비교한다.
3장. 요구사항·프롬프트·문맥 설계
0/4- 1강명확한 요청과 출력 계약
모호한 요청을 검증 가능한 요구사항으로 고친다.
- 2강예시와 프롬프트 실험
zero/few-shot의 효과를 동일 문제로 비교한다.
- 3강Context Engineering
긴 자료에서 필요한 근거와 상태를 보존한다.
- 4강추론·자기검토·프롬프트 버전
결과 근거를 외부 증거와 계산으로 검증한다.
4장. 데이터를 읽고 검산하는 능력
0/5- 1강JSON·CSV·SQL·표의 의미
행·열·타입·단위를 고정해 데이터를 해석한다.
- 2강Python·노트북·라이브러리 읽기
작은 데이터 처리 코드의 입출력과 오류를 읽는다.
- 3강결측·이상·중복·데이터 권리
정제 규칙을 원본 추적이 가능하게 정한다.
- 4강통계·시각화·인과의 한계
분모와 층화를 확인해 원인 후보를 제시한다.
- 5강문서·PDF·Excel 추출과 대사
원문 위치와 합계를 보존하여 추출값을 검증한다.
5장. 데이터 분석과 머신러닝 실습 기반
0/4- 1강데이터 분할·특징·전처리
평가셋 정보가 학습에 새지 않는 파이프라인을 설계한다.
- 2강분류·회귀·군집 기준선
문제에 맞는 단순 모델과 비교 기준을 고른다.
- 3강신경망·학습·과적합
학습 곡선으로 과적합을 찾고 개선 실험을 고른다.
- 4강ML 수명주기와 설명 가능성
실험에서 운영·재학습까지 점검 기준을 세운다.
6장. 구조화 출력과 도구 호출
0/4- 1강출력 형식과 사실의 정확성
JSON Schema 검증과 업무 규칙 검증을 분리한다.
- 2강Tool Calling의 실행 경계
모델의 호출 제안과 앱의 실제 실행을 구분한다.
- 3강권한·승인·멱등성·재시도
중복 실행과 권한 상승을 막는 실행 정책을 설계한다.
- 4강작은 도구 연결 실습
조회·계산·검증을 분리한 처리 흐름을 검증한다.
7장. 검색과 RAG
0/6- 1강RAG: 근거 찾기와 오류 진단
RAG가 필요한 상황을 고르고, 기록에서 검색·입력·생성 오류를 구분한다.
- 2강문서 수집·분할·출처 보존
문단의 조건과 버전이 분리되지 않게 색인을 설계한다.
- 3강키워드·벡터·하이브리드 검색
고유 코드와 의미 검색을 함께 비교한다.
- 4강재순위화·질의 분해·Agentic Retrieval
추가 검색 단계의 이득과 비용을 평가한다.
- 5강근거·권한·답변 보류
권한과 적용 시점에 맞는 근거로 답변한다.
- 6강RAG 평가와 오류 진단
검색 실패와 생성 실패를 따로 측정한다.
8장. Agent와 Workflow
0/5- 1강Agent를 써야 하는 조건
일반 코드·고정 workflow·agent를 구분한다.
- 2강계획·행동·관찰과 상태
작업 진행·도구 결과·오류를 상태로 표현한다.
- 3강기억과 Context 관리
사용자 기억과 현재 작업 상태의 수명을 분리한다.
- 4강다중 Agent와 사람의 개입
분업의 이득과 조정 실패를 평가한다.
- 5강Agent 실행 추적과 회복
실패를 재현하고 최소 수정으로 개선한다.
9장. MCP와 Agent 간 통신
0/3- 1강API·MCP의 역할
기존 API 위에서 MCP가 표준화하는 부분을 설명한다.
- 2강MCP 연결·권한·신뢰 경계
원격·로컬 연결의 위험과 책임을 구분한다.
- 3강A2A와 비동기 협업
Agent 간 메시지·작업 상태 계약을 읽는다.
10장. 멀티모달 입력과 생성
0/5- 1강이미지 이해·위치·접근성
캡션과 시각 근거 답변을 구분하고 검증한다.
- 2강OCR·레이아웃·필드 추출
이미지 표에서 구조와 원본 위치를 보존한다.
- 3강텍스트 분석·번역·도메인
전용 NLP와 LLM 중 업무에 맞는 방법을 고른다.
- 4강음성·실시간 상호작용
음성 인식·합성·번역의 오류 전파를 분석한다.
- 5강이미지·영상 생성·편집·안전
생성·편집 제어와 결과 검증 계획을 세운다.
11장. 모델 맞춤화와 추론 운영
0/4- 1강Prompt·RAG·Fine-tuning 선택
실패 원인과 데이터 조건으로 개선 수단을 고른다.
- 2강맞춤화 방식과 위험
방법 이름보다 바꾸는 대상과 검증 조건을 설명한다.
- 3강Serving과 추론 최적화
처리량·지연·메모리의 상충을 읽는다.
- 4강모델 실험과 안전한 교체
새 모델을 제한된 트래픽으로 비교하고 되돌린다.
12장. 평가와 검증
0/5- 1강평가셋·정답·누출 통제
업무 위험을 대표하는 평가 항목을 만든다.
- 2강생성 결과와 평가자 검증
문장 유사도와 사실·업무 성공을 분리한다.
- 3강RAG·Agent·도구 통합 평가
중간 단계와 최종 업무 상태를 함께 검증한다.
- 4강Trace·Observability·회귀
로그로 오류를 재현하고 변경의 영향을 확인한다.
- 5강품질·안전·비용 출시 기준
실패 비용에 맞는 통과선과 보류 조건을 정한다.
13장. 보안·책임·거버넌스
0/4- 1강Prompt Injection의 신뢰 경계
문서의 명령과 사용자의 의도를 분리한다.
- 2강데이터·인증·최소 권한
데이터 접근과 도구 실행을 서버 정책으로 제한한다.
- 3강책임 있는 AI와 설명
편향·안전·투명성의 측정과 한계를 제시한다.
- 4강감사·출처·데이터 수명
근거·승인·삭제를 추적 가능한 기록으로 남긴다.
14장. AI 시스템 아키텍처와 운영
0/4- 1강최소 아키텍처와 기술 선택
업무 요구를 데이터·실행·검증 책임으로 나눈다.
- 2강배포·CI/CD·버전·재현성
모델·프롬프트·색인 변경을 함께 추적한다.
- 3강큐·확장·쿼터·비용
부하와 장애에서 예산을 지키는 정책을 만든다.
- 4강운영 피드백과 장애 대응
감지에서 복구까지 runbook을 작성한다.
15장. AI를 활용하는 소프트웨어 개발
0/4- 1강AI에게 위임할 작업 정의
개발 요청을 수락 조건과 독립 작업으로 나눈다.
- 2강코드 읽기·리뷰·변경 범위
변경 diff에서 핵심 동작과 위험을 설명한다.
- 3강테스트·재현·원인 분석
실패 재현에서 회귀 방지까지 검증 증거를 만든다.
- 4강AI 개발 도구 비교와 유지보수
편의성·통제·비용으로 도구를 선택한다.
16장. 해커톤과 종합 문제 해결
0/5- 1강제한시간과 도구 예산
제약을 먼저 읽고 풀이·검증 시간을 배분한다.
- 2강문서·수치·규칙 복합 문제
여러 자료의 조건을 구조화해 정답을 검산한다.
- 3강문서 QA 프로젝트
검색·답변·권한 평가를 갖춘 최소 QA를 설계한다.
- 4강분석·보고서 프로젝트
결론이 원자료와 수치로 대조되는 보고서를 만든다.
- 5강업무 Agent·AI 개발 프로젝트
상태·승인·실패 복구·가치 검증을 종합한다.
17장. AI-103 추가: Foundry와 Azure
0/16- 1강모델과 Foundry
요구별 모델·도구·지식 연결 서비스를 정한다.
- 2강운영 배포와 변경 관리
지역·용량·격리 조건에 맞게 배포를 설계한다.
- 3강Python으로 모델 호출하기
Foundry 프로젝트에 연결해 워크플로를 호출한다.
- 4강CI/CD 보충 실습
모델·Agent 변경에 평가 gate와 rollback을 붙인다.
- 5강비용·성능·장애 관리
token·rate·규모 제약을 관측하고 상한을 정한다.
- 6강인증·권한·네트워크
키 없는 연결과 최소 권한을 확인한다.
- 7강위험 입력과 행동 통제
필터와 승인·추적을 실제 실행 정책에 연결한다.
- 8강검색 데이터 만들기
문서·이미지·음성·영상 수집과 enrichment를 구성한다.
- 9강검색 결과로 답변하기
hybrid/vector/semantic 검색을 앱·Agent에 연결한다.
- 10강도구와 에이전트
역할·도구·memory·대화·handoff를 구성한다.
- 11강프롬프트와 평가
앱·Agent의 오류를 추적하고 수정 효과를 평가한다.
- 12강이미지 생성·편집하기
참조·mask·inpainting 제어를 검증한다.
- 13강영상 생성·분석하기
구간별 이해와 생성·편집 작업을 구분한다.
- 14강이미지 이해하기
캡션·시각 QA·영역 추출을 증거로 검증한다.
- 15강텍스트와 음성
도메인 정보 추출과 음성 Agent 흐름을 구성한다.
- 16강문서에서 정보 추출하기
OCR·layout·field를 structured/Markdown으로 연결한다.
18장. AIF-C01 추가: AWS 기술 선택
0/10- 1강AWS 기반과 실행·저장 서비스
입력·실행·응답 조건에 맞는 AWS 기본 구성과 추론 방식을 선택한다.
- 2강관리형 AI 서비스 선택
입력과 원하는 결과로 AWS 관리형 AI·개발·업무 서비스의 역할을 비교한다.
- 3강Bedrock·모델·프롬프트·평가
Bedrock 모델·프롬프트 후보를 고정 평가와 총비용으로 비교한다.
- 4강AWS RAG와 벡터 저장소
Knowledge Bases의 수집·저장·검색·근거 전달을 구분해 진단한다.
- 5강AWS Agent·MCP·AI 개발 도구
AWS 에이전트의 개발·실행·기억·도구·정책을 업무 조건에 연결한다.
- 6강SageMaker와 ML 수명주기
자료와 목표에 맞는 모델 맞춤화 및 학습·배포·관측 흐름을 선택한다.
- 7강책임 있는 AI와 설명 가능성
책임 있는 AI의 요구를 집단별 평가·설명·모델 기록의 증거로 연결한다.
- 8강AI 보안과 데이터 보호
AI 자료와 도구의 신원·권한·네트워크·콘텐츠 경계를 설계한다.
- 9강감사·준수·거버넌스
감사 질문에 맞는 AWS 증거와 데이터 수명주기 검사를 선택한다.
- 10강전체 서비스 점검과 시험 판단
종합 사례의 서비스 선택과 출시 판단을 공식 영역별 근거로 설명한다.
19장. NCA-AMAD 추가: NVIDIA 배포 생태계
0/8- 1강모델 계열과 GPU 병렬 처리
모델의 입출력과 자원·품질 요구에 맞는 종류와 실행 후보를 비교한다.
- 2강데이터 처리와 Flywheel
자료 수집·정제·검토·평가를 운영 피드백의 개선 순환으로 연결한다.
- 3강NIM·Triton·TensorRT-LLM·Dynamo
서빙 구성과 최적화 방법을 품질·지연·메모리 조건으로 비교한다.
- 4강NeMo 맞춤화·RAG
실패 원인과 자료 조건으로 검색·프롬프트·모델 맞춤화를 선택한다.
- 5강NVIDIA Agent 도구와 안전
에이전트의 패턴·기억·실행 통제를 실제 업무 결과로 검증한다.
- 6강AI Enterprise·Blueprint·AI Factory
기업 AI의 배포 계층·참조 구성·실행 위치와 운영 책임을 연결한다.
- 7강Physical AI와 시뮬레이션
학습·시뮬레이션·현장 추론을 나누고 실제 환경 전이를 검증한다.
- 8강Sizing·Run:ai·운영 관측
요청별 자원 적합성과 확장·관측·복구 정책을 함께 설계한다.
20장. AICE Associate: 데이터 분석·전처리·모델링
0/5- 1강Python·노트북 환경과 재실행
공식 범위에 맞춰 재현 가능한 Python 노트북 학습 환경을 준비한다.
- 2강데이터 구성과 품질 점검
표의 구조·품질·분포를 코드와 그래프로 확인하고 해석한다.
- 3강전처리와 데이터 분할
예측 시점과 자료 의미를 보존하는 분할·전처리를 구성한다.
- 4강ML·DL 모델 학습
타깃에 맞는 ML 기준선과 신경망을 학습·검증하는 코드를 구성한다.
- 5강평가·개선·시각화와 제한시간
예측 지표·오류 그래프·학습 곡선으로 개선과 제출을 검증한다.
21장. 문서·스프레드시트 AI 기능 개발
0/6- 1강자연어를 편집 명령으로 변환
자연어 요청을 허용 명령·대상·인수로 변환하고 검증한다.
- 2강셀 범위·수식·단위 검증
AI 편집 계획의 셀·수식·단위·권한을 검사한다.
- 3강트랜잭션·Undo·협업 연동
AI 변경을 원자적으로 적용하고 Undo·공동편집 일관성을 검증한다.
- 4강문서·표 추출과 원문 대사
원문 위치를 보존해 표 추출·단위·합계를 대사한다.
- 5강Office AI 평가·회귀·보안
문서 편집 AI의 금지 변경·수식·권한·회귀를 평가한다.
- 6강시트 편집 AI 종합 실습
미리보기·승인·실행·되돌리기를 연결한 시트 편집 경로를 구현한다.
22장. 로컬 AI와 C++ 연동
0/6- 1강로컬·원격 추론과 실행 환경
자료·자원·지연·배포 조건으로 로컬과 원격 추론을 비교한다.
- 2강ONNX 모델과 입출력 계약
ONNX 모델의 이름·자료형·형상·전처리 계약을 확인해 추론한다.
- 3강Tensor 수명과 RAII
텐서 버퍼·세션·결과의 수명을 관리하고 잘못된 입력을 거절한다.
- 4강비동기 추론·취소·동시성
UI와 추론을 분리하고 취소·수명·오래된 결과를 안전하게 처리한다.
- 5강프로파일링·양자화·배포
C++ 추론의 품질·지연·메모리와 배포 호환을 검증한다.
- 6강C++ AI 통합 프로젝트
모델·전처리·비동기·엔진 명령·배포 검사를 연결한다.