General AI

Streamlit과 Langchain으로 만드는 LLaMA 3.1 기반 챗봇최신 LLaMA 3.1 모델을 활용하여 실시간 토큰 생성 속도를 보여주는 대화형 챗봇을 만드는 방법을 알아보겠습니다. 이 프로젝트에서는 Streamlit을 사용해 웹 인터페이스를 구축하고, Langchain을 통해 LLaMA 모델을 사용하겠습니다.1. 프로젝트 설정먼저, 우리의 개발 환경을 설정해 봅시다.가상 환경 생성프로젝트의 의존성을 관리하기 위해 가상 환경을 사용하는 것이 좋습니다.python -m venv chatbot_envsource chatbot_env/bin/activate # Windows: chatbot_env\Scripts\activate필요한 패키지 설치pip install streamlit langchai..

RAG vs Non-RAG: 지하철 정보 검색 실험이번 포스트에서는 Retrieval-Augmented Generation (RAG)와 일반 언어 모델의 성능을 비교하는 실험을 진행했습니다. 지하철 역 정보를 기반으로 두 방식의 답변 능력을 테스트했습니다.실험 환경운영체제: WSL Ubuntu 22.04데이터: 지하철 역 정보 (약 500줄)샘플 데이터:전철역코드 전철역명 전철명명(영문) 호선 외부코드 전철명명(중문) 전철명명(일문)1904 망월사 Mangwolsa 01호선 112 望月寺 マンウォルサ1007 신도림 Sindorim 01호선 140 新道林 シンドリム1708 금정 Geumjeong ..