General AI

Streamlit과 Langchain으로 TTS 지원 챗봇 만들기Streamlit과 Langchain을 이용해 음성 지원 기능이 있는 대화형 AI 챗봇을 만드는 방법을 알아보겠습니다. 이 프로젝트를 통해 우리는 텍스트 기반의 대화뿐만 아니라 AI의 응답을 음성으로도 들을 수 있는 챗봇을 구현할 것입니다.1. 프로젝트 개요이 포스팅에서 소개할 챗봇은 다음과 같은 특징을 가집니다:Streamlit을 사용한 웹 기반 사용자 인터페이스Langchain을 이용한 대화 관리 및 AI 모델 연동실시간 토큰 생성 속도 표시TTS(Text-to-Speech) 기능으로 AI 응답을 음성으로 변환2. 환경 설정먼저, 프로젝트를 위한 가상 환경을 만들어 봅시다:python -m venv chatbot_envsource cha..

로컬 모델로 Streamlit 챗봇 만들기로컬 AI 모델을 사용하여 Streamlit으로 챗봇을 만드는 방법에 대해 알아보겠습니다. 이 방법을 통해 OpenAI의 API에 의존하지 않고도 자신만의 ChatGPT 스타일 챗봇을 만들 수 있습니다.챗봇 만들기사용할 주요 도구들은 다음과 같습니다:Langchain: 대화 관리와 AI 모델 연동을 위한 프레임워크Streamlit: 웹 인터페이스 구현을 위한 라이브러리Ollama: 로컬에서 AI 모델을 실행하기 위한 도구먼저, 필요한 라이브러리를 설치해야 합니다.pip install langchain streamlit ollama 그리고 Ollama를 설치하고 원하는 모델(예: llama2)을 다운로드해야 합니다. llama2 는 자동으로 다운로드 됩니다.'''주..

Streamlit으로 PDF 추출기 만들기: 전체 코드 및 단계별 설명Streamlit을 사용하여 PDF 파일의 내용을 추출하고 Markdown 형식으로 변환하는 웹 애플리케이션을 만드는 방법을 단계별로 알아보겠습니다. 이 도구는 PDF 파일을 업로드하고, 내용을 추출한 후 Markdown 형식으로 다운로드할 수 있게 해줍니다.전체 코드먼저 전체 코드를 살펴보겠습니다:import streamlit as stimport osfrom datetime import datetimefrom pdf2image import convert_from_pathimport pytesseractfrom PIL import Imageimport io# Tesseract 경로 설정 (시스템에 따라 다를 수 있음)pytessera..

RAG vs Non-RAG: 지하철 정보 검색 실험이번 포스트에서는 Retrieval-Augmented Generation (RAG)와 일반 언어 모델의 성능을 비교하는 실험을 진행했습니다. 지하철 역 정보를 기반으로 두 방식의 답변 능력을 테스트했습니다.실험 환경운영체제: WSL Ubuntu 22.04데이터: 지하철 역 정보 (약 500줄)샘플 데이터:전철역코드 전철역명 전철명명(영문) 호선 외부코드 전철명명(중문) 전철명명(일문)1904 망월사 Mangwolsa 01호선 112 望月寺 マンウォルサ1007 신도림 Sindorim 01호선 140 新道林 シンドリム1708 금정 Geumjeong ..

ollama API 활용 - 애플리케이션에 AI 통합하기이번 포스팅에서는 ollama API를 활용하여 애플리케이션에 AI 기능을 쉽게 구현하는 방법을 정리합니다.1. ollama API 소개ollama API는 RESTful 인터페이스를 제공하여 다양한 프로그래밍 언어와 환경에서 ollama의 기능을 쉽게 활용할 수 있게 해줍니다. 아래와 같이 ollama를 실행하면 API 서버는 로컬호스트의 http://localhost:11434에서 실행됩니다.ollama serve2. API 엔드포인트 살펴보기ollama API의 주요 엔드포인트:/api/generate: 텍스트 생성/api/chat: 대화형 응답 생성/api/embeddings: 텍스트 임베딩 생성/api/pull: 모델 다운로드/api/sho..

OpenAI API를 활용한 디스코드 챗봇 만들기이번 포스팅에서는 OpenAI의 최신 API를 사용하는 버전을 만들어보겠습니다. 이 봇은 지정된 채널에서만 사용자의 메시지에 응답하며, OpenAI API의 최신 버전과 호환됩니다.준비 사항Python 3.7 이상discord.py 라이브러리openai 라이브러리 (1.0.0 이상 버전)python-dotenv 라이브러리Discord 봇 토큰OpenAI API 키챗봇을 사용할 Discord 채널 ID필요한 라이브러리 설치:pip install discord.py openai python-dotenv업데이트된 코드ex4-openai-chatbot.py 파일을 작성합니다.import osimport discordfrom discord.ext import com..