General AI

한국어 잘하는 로컬모델로 챗봇 만들기한국어에 특화된 로컬 언어 모델을 사용하여 챗봇을 만드는 방법을 소개해드리려고 합니다. 이 프로젝트에서는 Llama-3 한국어 모델과 Ollama, 그리고 Streamlit을 활용하여 간단하면서도 강력한 챗봇을 구현하겠습니다.이 프로젝트에서는 Llama-3 기반의 한국어 모델을 사용하여 챗봇을 만들고, 두 가지 다른 버전의 모델 성능을 비교해 보겠습니다.Ollama 설치 및 모델 생성Ollama 설치 관련된 내용은 이전 포스팅 [ollama 소개 및 WSL 환경 설정] 를 참고하세요. Ollama가 설치되면, 다음 단계로 모델을 생성해야 합니다. 우리는 두 가지 버전의 Llama-3 한국어 모델을 사용할 것입니다:Llama-3-Open-Ko-8B-FP16 (링크)Lla..

Langchain과 mistral 모델을 이용한 텍스트 요약 예제인공지능 기술의 발전으로 텍스트 요약이 더욱 정교해지고 있습니다. 이번 포스트에서는 Langchain과 mistral 모델을 활용하여 텍스트를 효과적으로 요약하는 방법을 소개하고자 합니다.전체 코드먼저, 텍스트 요약을 위해 사용한 Python 코드 전체를 살펴보겠습니다:import osfrom langchain_community.llms import Ollamafrom langchain.prompts import PromptTemplatefrom langchain.chains.summarize import load_summarize_chainfrom langchain_core.documents import Document# Ollama 모델..

'24년 7월 현재 ollama 모델 리스트ollama는 강력한 AI 모델들을 로컬 환경에서 쉽게 실행할 수 있게 해주는 혁신적인 플랫폼입니다. 2024년 현재, ollama의 모델 라이브러리는 다양한 용도와 특성을 가진 AI 모델들로 구성되어 있습니다. 이 글에서는 ollama에서 제공하는 주요 모델들을 간략히 소개하고, 이들의 특징을 살펴보겠습니다.ollama 모델은 무엇인가요ollama에서 각 모델은 특정 작업이나 도메인에 최적화된 고유한 AI 도구입니다. 사용자는 자신의 필요에 가장 적합한 모델을 선택하여 텍스트 생성, 코드 작성, 대화, 분석 등 다양한 작업을 수행할 수 있습니다.주요 모델 리스트모델명주요 특징llama2일반적인 텍스트 생성 및 대화에 적합한 Meta AI의 대규모 언어 모델co..

ollama 첫번째 AI 모델 실행하기안녕하세요! ollama 블로그 강좌 시리즈의 두 번째 강의에 오신 것을 환영합니다. 이번 강의에서는 ollama를 사용하여 첫 번째 AI 모델을 다운로드하고 실행하는 방법을 알아보겠습니다.1. 기본 모델 다운로드ollama에서는 다양한 사전 훈련된 모델을 제공합니다. 우리는 가장 일반적으로 사용되는 'llama2' 모델을 사용할 것입니다. 모델을 다운로드하려면 다음 명령어를 실행합니다:ollama pull llama2이 명령은 llama2 모델을 다운로드합니다. 모델 크기에 따라 시간이 걸릴 수 있으니 기다려주세요.2. 모델 실행 및 대화형 인터페이스 사용모델 다운로드가 완료되면, 다음 명령어로 대화형 인터페이스를 시작할 수 있습니다:ollama run llama2..

ollama 소개 및 WSL 환경 설정안녕하세요! ollama 블로그 강좌 시리즈에 오신 것을 환영합니다. 이번 1강에서는 ollama의 기본 개념을 소개하고, WSL Ubuntu 22.04 환경에서 ollama를 설치하고 설정하는 방법을 알아보겠습니다.1. ollama란 무엇인가?ollama는 대규모 언어 모델(LLM)을 로컬 환경에서 쉽게 실행할 수 있게 해주는 오픈소스 플랫폼입니다. 주요 특징은 다음과 같습니다:다양한 LLM 모델 지원사용자 친화적인 인터페이스로컬 환경에서의 빠른 추론 속도GPU 가속 지원로컬 LLM 실행의 장점개인정보 보호: 데이터가 로컬에서 처리되어 외부 서버로 전송되지 않습니다.비용 절감: 클라우드 API 사용료가 없습니다.커스터마이징: 모델을 자유롭게 수정하고 fine-tun..