RAG6 [초소형 프로젝트 회고] 형태는 기술을 따르는가: 5일간의 챗봇 개발로 느낀 기획과 도구의 경계 들어가며저번주 목요일부터 오늘까지, 워킹데이로 5일 간 간단한 챗봇을 구현해 보았다.실제로 개발한 것은 거의 2일이고, 이번 주에는 조금씩 개선하기 정도로 진행했다. 웹 개발도 꽤 이전에 했다 보니 사실 자신감이 좀 부족했었다.그래서 Claude Code와 Antigravity 등 바이브 코딩(이 가능하게 해 준) 도구의 위대함이 더더욱 크게 느껴졌다. 목표국립중앙박물관의 학습 보조 챗봇을 개발하기로 했고, (목표는 욕심 없이.. 완성하기) 간단하게 다음과 같았다.LLM 기반 학습 보조 챗봇 프로토타입 완성Streamlit 과 Gemini API를 활용한 학습 지원 서비스의 핵심 기능(문제 풀이 및 해설) 구현 완료 개발 과정1. 프로젝트 주제 및 목표 설정학습 챗봇의 도메인 결정: 박물관 안내 챗봇의 .. 2026. 1. 16. LLM 맞춤화 방법 기존 LLM을 맞춤형으로 사용하기 위한 과제로, 사전학습된 모델(이미 존재하는 데이터를 학습함)이어서 생기는 문제가 있습니다.맞춤형 출력(Tailored Outputs)이 필요함부족한 콘텍스트(Missing Context)로 특정 문서가 사전 학습 데이터에 포함되지 않음전문 용어(Specialized Vocabulary)와 같은 고유한 용어나 개념을 다루지 못함이와 같은 문제를 해결하고 LLM을 맞춤화하기 위한 튜닝(Tuning)이 필요함 LLM 맞춤화 방법 (4가지)Prompt Engineering: 입력 프롬프트를 설계 및 개선하여 모델 출력을 조정별도의 전문지식이 필요하지 않음모델 파라미터를 학습하지 않고(사전 학습된 모델은 이미 파라미터가 학습되어 있음) 입력 프롬프트를 설계해서 출력 형식을 유도.. 2026. 1. 7. AI Agent 개요 및 구조 Physical AI의 발전 뿐 아니라, AI Agent의 발전으로 로보틱스와 AI가 함께 발전하게 됨 Agent 개요Traditional Chatbot : 원래는 키워드를 넣으면 준비된 응답을 제공하는 형식이었음RAG: 사용자가 질문하면 검색을 해서 정보를 찾고 + LLM이 붙어서 응답AI Agent: 질문을 하면 의도 파악을 해서(추론) 해결 계획을 세우고 [Plan], 그 중 도구를 선택한 후 [Tool] 작업을 수행. 'A도구는 언제 사용하는 것이니까 이 경우에 사용하면 돼.' 로 Agent에 미리 안내해두면 그에 맞추어 실행함. 모델에 도구의 사용법을 알려주는 경우 입력하는 개발자마다 역량 차이로 설명 방식의 규격화(표준)를 정하기도 했음. 같은 모델이라면 설명 방식이 동일하게 정리. 기술이 발.. 2026. 1. 6. 논문 리뷰 - Graph Retrieval-Augmented Generation: A Survey (2024) 1. 논문 정보 제목: Graph Retrieval-Augmented Generation: A Survey RAG저자: Pengcheng Jiang, et al.연도: 2024링크: arXiv:2408.089212. 왜 이 논문을 읽어야 하는가현실 문제: 기존 RAG는 문서 파편화로 인해 여러 문서에 흩어진 정보를 연결하는 "복합 추론(Multi-hop Reasoning)"과 전체 맥락을 요약하는 "전역적 질문"에 답변하지 못하고 할루시네이션을 일으킨다.기존의 한계: 단순히 텍스트를 벡터로 변환해 유사도만 비교하는 방식은 데이터 간의 명시적인 구조적 관계(Entity-Relation)를 포착하지 못한다.핵심 정리: 이 논문은 단순 검색을 넘어 그래프 구조(Graph Structure)를 인덱싱, 검색, .. 2026. 1. 6. LangChain: RAG 구현에 사용되는 프레임워크 정의LangChain은 LLM을 활용한 어플리케이션을 개발하기 위한 오픈소스 프레임워크LLM과 외부 도구를 사슬처럼 엮어 결합하는 것 LangChain 기초 문법PromptTemplate: 언어 모델에 프롬프트를 입력하기 위해 사용할 수 있는 템플릿ChatPrompt Template: 대화형 언어 모델과 소통하기 위한 템플릿답이 확실히 있는 것이 아니라 실험적인 영역사용자가 위의 프롬프트를 무시하고 맛집을 추천해줘-라고 입력해서 악용하는 걸 방지하는 법시스템 프롬프트를 간단하고 정교하게 설계해서 방지 - 시스템 롤을 1순위로 두라고 명시결국 코딩보다는 조리있게 정리하는 것이 중요메시지 역할 지정해 대화의 흐름과 맥락을 반영할 수 있음 (아래 예시)system: 시스템 메시지로, 모델의 행동이나 역할을 지.. 2026. 1. 5. RAG: 검색, 증강, 생성 LLM의 한계점에 대한 해결 방법PEFT(Parameter-Efficient Fine Tuning): 일부 파라미터만 튜닝 (0.1~0.01퍼센트 정도 극히 적은 파라미터만을 학습시켜 파인튜닝을 함)P-Tuning: 입력 임베딩 자체를 튜닝LoRA(Low-Rank Adaptation): Pre-trained model의 일부 Dense Layer의 가중치(Adapter)를 학습, 학습 종료 후 원본 모델과 결합하는 방식으로 파인튜닝MOE(Mixture of Experts): 다양한 도메인 지식을 각 전문가 레이어로 라우팅 하는 기법 - 필요한 도메인만 활성화할 수 있음프롬프트 증강: 질문에 따른 적절한 데이터를 프롬프트에 자동으로 추가 프롬프트 증강을 하는 RAGRAG: 검색을 통해 LLM의 생성 과정을.. 2026. 1. 5. 이전 1 다음
