NeMo Curator로 텍스트 큐레이션 파이프라인 구축하기
이 가이드는 NVIDIA NeMo Curator를 활용해 대규모 언어 모델(LLM) 학습에 필요한 고품질 데이터셋을 구축하는 방법을 다룹니다. 우리는 간단한 테스트 예시를 해 데이터 수집부터 클리닝, 중복 제거, 언어 라벨링까지, 체계적인 텍스트 큐레이션 파이프라인을 구축하고 실행하는 엔드투엔드 절차를 실습 중심으로 정리했습니다.
Topic
Products
데이터 인텔리전스 플랫폼 통합을 위한 오픈소스 기술 검토 및 실험 결과를 제공합니다. 다양한 데이터 처리 기술의 성능, 확장성, 호환성에 대한 심층 분석과 실제 구현 사례를 살펴볼 수 있습니다.
NeMo Evaluator로 LLM 평가하기: 표준 벤치마크부터 커스텀까지 엔드투엔드 가이드
이번 가이드는 PAASUP DIP 환경에서 NVIDIA NeMo Evaluator를 활용해 OpenAI 호환 엔드포인트(NIM Proxy) 에 연결하고, 표준 벤치마크(LM Evaluation Harness)와 커스텀 데이터로 LLM을 일관된 절차로 평가하는 방법을 다룹니다. 설정 → 타깃 등록 → 실행 → 결과 해석까지 엔드투엔드 흐름을 실습 중심으로 정리했습니다.
PAASUP DIP로 구축하는 엔터프라이즈 LLM 서빙 가이드: Nvidia NIM #2
PAASUP DIP 환경에서 NVIDIA NIM Microservice를 활용해 Private 환경에 LLM 모델(예: llama-3.2-3b-instruct)을 안전하고 효율적으로 배포하는 방법을 단계별로 안내합니다.
Python 코드 호출과 Flowise 노코드 워크플로우를 모두 지원해 다양한 엔터프라이즈 AI 서비스 구축에 최적화된 실전 가이드입니다.
PAASUP DIP로 구축하는 엔터프라이즈 LLM 서빙 가이드: vllm #1
PAASUP DIP 플랫폼에서 vLLM 백엔드 기반으로 KServe를 활용해 엔터프라이즈 LLM 서빙 환경을 구축하고, OpenWebUI와 Flowise를 통해 프로그래밍부터 노코드 웹 인터페이스까지 다양한 AI 서비스 운영법을 제시하는 실전 가이드입니다.
Apache Superset에서 Custom Map Chart 만들기
Apache Superset에서 GIS 데이터를 활용해 맞춤형 지도를 시각화하는 단계별 가이드를 제공합니다.
NeMo Microservices를 활용한 LLM 파인튜닝과 평가 실습
이번 가이드에서는 PAASUP DIP 환경에서 NVIDIA NeMo Microservices를 활용해 llama-3.2-3b-instruct 모델을 KoAlpaca 데이터로 LoRA 파인튜닝하고, 튜닝 전후 성능을 직접 비교해보는 실전 워크플로우를 다룹니다.
Roo Code 사용 가이드
VS Code 내에서 자연어로 코드를 작성하고, 버그를 수정하며, 복잡한 프로젝트를 관리할 수 있는 AI 기반 확장 프로그램 Roo Code 사용 가이드을 소개합니다.
NeMo Framework를 활용한 LLM 파인튜닝과 SQuAD 평가 실습
NVIDIA NeMo Framework로 LLaMA 3 8B 모델을 LoRA 기반 PEFT 튜닝하고 SQuAD 데이터셋으로 평가하는 실습 가이드를 소개합니다.
실험 결과 Base 모델 대비 LoRA 모델의 Exact Match가 81%나 향상되어, 기업용 QA 모델 구축에 실질적인 인사이트를 제공합니다.
Roo Code와 함께하는 바이브 코딩
생성형 AI와 함께하는 직관적 개발 방식인 '바이브 코딩'과 이를 현실로 만들어주는 VSCode 확장 프로그램 Roo Code를 소개합니다.
NeMo Framework와 NeMo Microservices 개요
대규모 AI 모델 개발부터 배포까지 모든 과정을 지원하는 NVIDIA NeMo 플랫폼의 완전 가이드를 소개합니다. 연구용 NeMo Framework와 엔터프라이즈용 NeMo Microservices의 차이점과 파스업DIP에서의 실제 활용 방법을 알아보세요.