AI 자동화 어플리케이션 개발 - 02. Dify 기본 기능 챗봇 사용 방법

🧠 LLM 앱 가장 쉽게 만들기!

– Dify 기본 기능 3가지 완전 정복 (챗봇, 에이전트, 텍스트 생성기)

LLM을 활용한 AI 앱을 직접 만들고 싶은데,
“코딩도 복잡하고 프롬프트 설계도 어려워요…”
이런 고민, 한 번쯤 해보셨죠? 😥

Dify는 (LLM)GPT 기반의 앱을 쉽게 만들 수 있는 프레임워크로(2025.04.20 - [데이터 엔지니어링] - AI 자동화 어플리케이션 개발 - 01. Dify 설치 방법) 기초 기능 3가지 중 챗봇에 대해 우선 소개합니다.

---

🔹 0. 사전 준비 – Ollama 설치

기존에 ChatGPT(또는 Claude)를 유료구독 한다면 이 과정을 생략해도 됩니다!

Ollama 사이트에서(https://ollama.com/) 우선 Ollama를 다운로드 합니다. 다운로드 후 모델(ChatGPT의 mini-o 와 같은 모델)을 다운로드 받습니다. 이번 글에서는 25년 4월 기준 최신 모델 중 gemma3(https://ollama.com/library/gemma3)를 다운로드합니다.

ollama 설치

• ollama 설치 후 gemma3 모델 다운로드(터미널 또는 명령어)

ollama run gemma3

 

🪟 Windows (WSL 기반)

Ollama는 Windows에서는 WSL2(우분투 환경)에서 실행하는 것을 권장합니다.

1. WSL2 설치
2. 우분투 터미널 실행 후 아래 명령어 입력:

curl -fsSL https://ollama.com/install.sh | sh ollama run gemma3

🐧 Linux (Ubuntu 기반)

curl -fsSL https://ollama.com/install.sh | sh ollama run gemma3

 

Ollama - Dify 연결

ollama와 Dify 연결을 위해선 다음과 같이 플러그인 설정이 필요합니다.

• (Dify에서) 플러그인 > 마켓플레이스에 접속, ollama를 검색합니다.

• (Dify에서) 프로필 > 설정 > 모델 공급자를 선택합니다.

다양한 모델을 선택할 수 있습니다

 

ollama를 검색하여 선택한 뒤 다음과 같이 설정합니다.

현재 저는 Mac 환경으로 다른 OS에서 사용한다면 Dify의 가이드(https://docs.dify.ai/development/models-integration/ollama)를 참고하시기 바랍니다

• Dify가 Docker 환경에서 실행 중이기에 host.docker.internal로 도커 외부의 ollama에 접속할 수 있도록 설정합니다.
• Vision support(이미지 기반 질문)은 지원하지 않아 No로 선택, Function call support 또한 No로 선택합니다.

🔹 1. 챗봇 만들기 – 나만의 ChatGPT를 손쉽게 구축

Dify의 가장 대표적인 기능은 커스터마이징 가능한 챗봇 앱입니다.
관리자 페이지에서 프롬프트만 입력하면 누구나 OpenAI, Claude, Mistral 등 다양한 모델로 챗봇을 만들 수 있어요.

✅ 주요 기능

• System Prompt + User Prompt 조합 구성
• 토큰 수, 모델 종류, 응답 형식까지 설정 가능
• UI까지 자동 생성 (별도 코딩 X)
• 사용자 입력값을 변수로 받아 동적 응답도 구현 가능

🔨 생성 및 사용 예시

• 스튜디오 > 빈 상태로 시작 클릭 > 클릭 후 챗봇 선택하여 앱을 생성합니다.
• 저는 챗봇-01 이라는 이름으로 생성했습니다.

 

이후 UI 상단에서 모델을 선택하여 챗봇 앱을 생성할 수 있습니다.

한글 위주의 프롬프트를 사용한다면 exaone 모델도 좋습니다.

모델 선택 후 매개변수 설정은 생략합니다. 추후 고급 튜닝을 위해 사용합니다.

🎯 변수 추가 및 챗봇 실행

변수를 추가하여 뉴스를 요약하는 챗봇을 만들어봅니다. 아래 사진과 같이 설정합니다.

1. 변수 - 문단 선택 후 최대길이 10,000 설정

 

2. 디버그 및 미리보기

디버그 및 미리보기를 통해 LLM 챗봇을 미리 실행할 수 있습니다. 저는 글에 대한 요약을 명령어로 입력했으며 다음과 같이 결과를 확인할 수 있습니다.

국세청 보도자료에 대한 요약을 요청했습니다

3. 챗봇 실행

이후 챗봇 실행 화면에서 다음과 같이 input 창과 챗봇 창을 확인할 수 있습니다.

• input 필드에 챗봇으로 다루고 싶은 내용(예: 뉴스기사 등)을 입력 후

사용 에시 1) 해당 글을 요약해줘, 2) 글에서 주로 확인해야 할 사항은 뭐야? 3) 1문장으로 요약해줘 등

위와 같이 LLM 모델을 사용하여 직접 챗봇을 구현할 수 있습니다.

🌟 사용 예시

“회사 내부 정책을 요약해주는 GPT 챗봇 만들기”
→ 문서 업로드 + 프롬프트 설정만으로 자동 구축
→ 외부 고객 상담봇, 내부 헬프데스크, 취업 면접 챗봇 등 다양하게 활용 가능

 

🎯 Next: 에이전트 및 텍스트 생성기 사용

다음글에서는 에이전트와 텍스트 생성기에 대해 설명하고 예시 앱을 생성해보겠습니다.