PAASUP DIP로 구축하는 엔터프라이즈 LLM 서빙 가이드: Nvidia NIM #2

PAASUP DIP 환경에서 NVIDIA NIM Microservice를 활용해 Private 환경에 LLM 모델(예: llama-3.2-3b-instruct)을 안전하고 효율적으로 배포하는 방법을 단계별로 안내합니다. Python 코드 호출과 Flowise 노코드 워크플로우를 모두 지원해 다양한 엔터프라이즈 AI 서비스 구축에 최적화된 실전 가이드입니다.

PAASUP DIP로 구축하는 엔터프라이즈 LLM 서빙 가이드: vllm #1

PAASUP DIP 플랫폼에서 vLLM 백엔드 기반으로 KServe를 활용해 엔터프라이즈 LLM 서빙 환경을 구축하고, OpenWebUI와 Flowise를 통해 프로그래밍부터 노코드 웹 인터페이스까지 다양한 AI 서비스 운영법을 제시하는 실전 가이드입니다.

Apache Superset에서 Custom Map Chart 만들기

Apache Superset에서 GIS 데이터를 활용해 맞춤형 지도를 시각화하는 단계별 가이드를 제공합니다.

NeMo Microservices를 활용한 LLM 파인튜닝과 평가 실습

이번 가이드에서는 PAASUP DIP 환경에서 NVIDIA NeMo Microservices를 활용해 llama-3.2-3b-instruct 모델을 KoAlpaca 데이터로 LoRA 파인튜닝하고, 튜닝 전후 성능을 직접 비교해보는 실전 워크플로우를 다룹니다.

Roo Code 사용 가이드

VS Code 내에서 자연어로 코드를 작성하고, 버그를 수정하며, 복잡한 프로젝트를 관리할 수 있는 AI 기반 확장 프로그램 Roo Code 사용 가이드을 소개합니다.

NeMo Framework를 활용한 LLM 파인튜닝과 SQuAD 평가 실습

NVIDIA NeMo Framework로 LLaMA 3 8B 모델을 LoRA 기반 PEFT 튜닝하고 SQuAD 데이터셋으로 평가하는 실습 가이드를 소개합니다. 실험 결과 Base 모델 대비 LoRA 모델의 Exact Match가 81%나 향상되어, 기업용 QA 모델 구축에 실질적인 인사이트를 제공합니다.

Roo Code와 함께하는 바이브 코딩

생성형 AI와 함께하는 직관적 개발 방식인 '바이브 코딩'과 이를 현실로 만들어주는 VSCode 확장 프로그램 Roo Code를 소개합니다.

NeMo Framework와 NeMo Microservices 개요

대규모 AI 모델 개발부터 배포까지 모든 과정을 지원하는 NVIDIA NeMo 플랫폼의 완전 가이드를 소개합니다. 연구용 NeMo Framework와 엔터프라이즈용 NeMo Microservices의 차이점과 파스업DIP에서의 실제 활용 방법을 알아보세요.

파스업DIP로 구현하는 현대적 데이터 파이프라인: 프레임워크 적용과 ELT모니터링 대시보드 #4

파스업DIP 개발팀의 spark-batch 프레임워크를 활용해 개발 생산성 50% 향상과 ELT 모니터링 대시보드 구축을 소개합니다. 순수 라이브러리 대비 코드 복잡도 현저히 감소하고 Apache Superset 기반 실시간 운영 모니터링 체계를 구현했습니다.

파스업, 데이터플랫폼 DIP ‘엄지 척’

파스업의 데이터 인텔리전스 플랫폼 DIP가 국내 최고 소프트웨어 품질인증 GS 1등급을 획득했습니다. 하루 4억건, 누적 760억건 이상 실시간 처리하며 금융·공공기관에서 입증된 안정성과 성능을 자랑합니다.