1장 문제: AI 앱과 Foundry 기초

스트리밍 상담 앱에서 사용자가 첫 글자를 보기까지의 대기 시간을 줄이려 합니다. 모델 후보를 비교할 때 우선 볼 벤치마크는?

1. Time to first token (TTFT)
2. Generated tokens per second (GTPS)
3. Quality index
4. Groundedness

풀이 기록 기능을 불러오는 중…

배포 점검 기록에서 아직 완료되지 않은 기능은?

model_deployment: chat-prod / inference_test=200
agent_definition: helper-v2 / tools=[get_order]
tool_connection: get_order / credential=unset
evaluation_dataset: support-v3 / run=not_started
출시 조건: 주문 조회 성공 + 평가 기준 통과

1. 도구 스키마와 모델 배포 이름을 수정한다
2. 도구 인증과 평가 실행을 각각 완료한다
3. 도구 호출 지침과 평가 임계값을 조정한다
4. 도구 응답 캐시와 평가 결과 캐시를 비운다

풀이 기록 기능을 불러오는 중…

포털에서는 성공하고 앱에서는 배포를 찾지 못합니다. 가장 좁은 수정은?

포털: endpoint=resource-A / deployment=support-prod / HTTP 200
앱:   endpoint=resource-A / model=support-test / HTTP 404
resource-A 배포 목록: [support-prod]
앱의 같은 ID로 support-prod 호출: HTTP 200

1. 앱의 배포 인수를 support-prod로 맞춰 재호출한다
2. 앱의 엔드포인트를 resource-B로 바꿔 재호출한다
3. 앱의 실행 ID를 포털 사용자 ID로 바꿔 재호출한다
4. 앱의 패키지 버전을 이전 버전으로 내려 재호출한다

풀이 기록 기능을 불러오는 중…

아래 코드는 의사 코드입니다. 추론은 성공하고 프로젝트 조회만 실패할 때 첫 확인은?

client = InferenceClient(endpoint=MODEL_ENDPOINT)
client.generate(...)       # HTTP 200
client.projects.list()     # AttributeError: projects
요구: 추론 호출과 프로젝트 리소스 조회
설치된 패키지 이름·버전: 확인 전

1. 설치 SDK의 작업별 클라이언트·엔드포인트 계약을 대조한다
2. 추론 클라이언트의 토큰 권한을 프로젝트 관리자까지 넓힌다
3. 같은 메서드를 유지하고 MODEL_ENDPOINT의 지역을 바꾼다
4. 같은 클라이언트에서 모델 배포 인수를 프로젝트명으로 바꾼다

풀이 기록 기능을 불러오는 중…

두 실행의 인증 결과를 비교했습니다. 현재 403을 좁힐 대상은?

project_client = AIProjectClient(
    endpoint=os.environ["PROJECT_ENDPOINT"],
    credential=DefaultAzureCredential(),
)
두 실행의 endpoint·토큰 audience: 동일하고 유효
로컬: principal=dev17 / project_read=allowed / HTTP 200
배포: principal=mi42 / project_read=denied  / HTTP 403

1. dev17의 로컬 토큰 캐시를 비우고 다시 실행한다
2. mi42의 대상 프로젝트 역할과 범위를 확인한다
3. PROJECT_ENDPOINT를 모델 추론 주소로 바꿔 실행한다
4. DefaultAzureCredential을 유지하고 배포 이름을 바꾼다

풀이 기록 기능을 불러오는 중…