LangChain
-
Agentic RAGDEV 2024. 11. 22. 20:54
이전글2024.11.15 - [DEV] - AI Agent concept AI Agent conceptAgentAI agent workflow가 올해 엄청난 AI 진전을 이끌 것이라고 생각합니다. 아마도 차세대 기초 모델보다 더 큰 진전이 있을 것입니다.-앤드류 응(Andrew Ng)기업의 대부분(82%)이 1~3년 내에developer-as-job.tistory.com2024.11.16 - [DEV] - AI agent frameworks AI agent frameworks이전글 - AI agent, CoT, ReAct에 대한 설명2024.11.15 - [DEV] - AI Agent concept AI Agent conceptAgentAI agent workflow가 올해 엄청난 AI 진전을 이끌 것이..
-
simple RAG pipelineDEV 2024. 11. 8. 21:10
RAGRetrieval augmented generation (RAG: 검색 증강 생성)할루시네이션, 학습되지 않은 최신 데이터, 메모리 이슈해결RAG의 간단한 인덱싱 파이프라인 4단계원본 데이터에서 데이터 로딩(load data)큰 문서를 작은 덩어리(chunking)로 나눕니다.청크를 고밀도 임베딩(embedding)으로 변환임베딩을 벡터 데이터베이스(load vectorDB)에 저장합니다.RAG 생성 파이프라인의 3가지 구성요소지식베이스에서 정보를 검색하는검색기(retirever)몇 번의 샷 프롬핑, 사고의 사슬 등과 같은 신속한 엔지니어링 기술을 통해 이루어지는 프롬프트 증강최종 응답 생성을 담당하는 LLM Naive RAGdata crawl → text를 chunk로 분할 → Transforme..
-
LLM 기반 챗봇 설계, 구조 변화DEV 2024. 11. 7. 21:22
많은 곳에서 LLM을 활용한 챗봇 서비스를 만들고 있는데, 챗봇 개발의 설계, 구조의 흐름이 어떻게 변하고 있는지 조사해 보자.1. LLM api만을 사용2. prompt chainingprompt chaining을 이용SequentialChain, Router Chain → Langchain여러 단계가 필요한 문제 해결과정을 프롬프트를 각 단계로 나누고, 체이닝 하여 해결하는 방식위 구조는 하나의 LLM에게 프롬프트를 여러 단계로 나눠 추론아래 구조는 하나의 제너럴 LLM이 각각 도메인 또는 역할에 맞게 파인튜닝된 LLM에게 추론하도록 하고 추론된 결과를 취합https://www.aitimes.com/news/articleView.html?idxno=153902아래 나오는 agent구조와 더 비슷해 보..
-
LLM기반 chatBot 설계, 구조 변화DEV 2023. 12. 29. 21:25
많은 곳에서 LLM을 활용한 챗봇 서비스가 만들어지고 있다. langchain 코드 예제를 통해 챗봇 개발의 설계, 구조의 흐름이 어떻게 변하고 있는지 조사해 보자. 1. LLM api만을 사용 단순히 LLM에게 하나의 prompt로 질의 약간 아재개그 같지만, 미국에선 먹히는 것 같다. from langchain.chat_models import ChatOpenAI from langchain.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser prompt = ChatPromptTemplate.from_template("Tell me a short joke about {topic}") mode..
-
LangChain에 대하여DEV 2023. 12. 3. 12:06
LangChain의 component소개, 테스트 코드, 그리고 LangChain과 관련된 그 외 프로젝트들... LangChain LangChain is a framework for developing applications powered by language models. 언어 모델이 API를 통해 호출하는 것뿐 아니라 아래의 기능도 수행할 것이라고 믿는다. 1. 외부 데이터 인식 2. 외부 환경과 상호작용 Lang + Chain - LLM에 프롬프트를 채이닝하여 한번에 복잡한 명령을 내릴 수 있는 기능이 핵심인 것 같다. Component Schema, Models, Prompts, Indexes, Memory, Chains, Agents…. Model, Prompts, Output Parsers ..