KIKIIK의 데이터 분석 도전기

오늘도 개발을 할 수 있음에 재밌다. 처음 기획은 논문을 볼 때 매번 GPT나 MoonLight에 업로드해서 보는게 귀찮아서였다.그래서 내가 권한을 준 폴더 안의 pdf를 열면 자동으로 모델을 로드하고 청킹을 진행한 후 학습을 도와주는 에이전트를 만들기로 했다.지금은 일단 streamlit에 pdf를 로드한 후 챗봇 형식으로 대화를 한다.추후 mac 환경에서 바로 사용할 수 있게 디벨롭 할거다: 개발을 하면서 문제가 발생했다.이 과정을 기록하려고 한다. 상황 : 저자를 묻는 질문에 대답도 못하는 챗봇. 아주 간단한 질문인데도 내가 만든 챗봇은 대답도 못 한다.프로젝트 설계를 잘 못한 것일까? 차근차근 원인을 찾아나섰다. 원인 01 : English에 대해 한국어로 질문한다? 영문 PDF를 DB에 인덱싱 ..

구글링으로 최신 기술을 구현할 수 있을까?/RAG 활용하기 2026. 3. 20. 17:45

Streamlit UI + RAGAS 정량 평가 연결 RAG는 만들었다.그런데 이 시스템은 정말 잘 동작하고 있는 걸까? 3일차의 목표는 단순 구현이 아니었다.이제부터는 측정 가능한 RAG 시스템으로 고도화하는 단계다. 오늘 진행한 내용은 크게 세 가지다.RAG 엔진 구조 재정리Streamlit 기반 실험 환경 구축RAGAS 기반 RAG 평가 자동화이번 글의 핵심 키워드는 RAG 평가 자동화다.왜 “평가”가 필요한가?RAG(Retrieval-Augmented Generation)는 다음 구조를 가진다. Query → Retriever → Context → LLM → Answer 문제는 여기서 발생한다.Retriever가 잘못된 문서를 가져오면?LLM이 context를 왜곡하면?답변이 그럴듯하지만 사실..

구글링으로 최신 기술을 구현할 수 있을까?/RAG 활용하기 2026. 2. 25. 19:24

단순 구현을 넘어, 실제 출력 로그와 함께 Retriever 전략을 비교 실험해본 기록입니다.1️⃣ 실험 환경LLM: llama3.2:3b (Ollama)Embedding: all-MiniLM-L6-v2 (384d)VectorStore: FAISS문서: CNN 기반 음악 예측 논문 PDFchunk_size=1000 / overlap=2002️⃣ Retriever 전략 비교 실험2.1 Similarity Search (k 실험)코드retriever = vectorstore.as_retriever(search_type="similarity",search_kwargs={"k": 3},)docs = retriever.invoke("What was the CNN model accuracy?") 🔎 실행 결과..

구글링으로 최신 기술을 구현할 수 있을까?/RAG 활용하기 2026. 2. 20. 14:57

안녕하세요! 오늘도 AI 분야의 개발자가 되기 위해 도전 중인 하킴입니다.오늘은 LangChain 학습의 꽃이라고 할 수 있는 RAG(Retrieval-Augmented Generation) 시스템을 직접 구현해 본 과정을 정리해 보려 합니다.단순히 LLM에게 질문하는 것을 넘어, "내가 가진 PDF 논문이나 특정 웹사이트 데이터를 바탕으로 답변하게 만들기"가 이번 실습의 핵심이었는데요.폴더에 있는 5개의 단계별 코드를 하나씩 실행하며 깨달은 점들을 공유합니다!💡 RAG가 뭐야?RAG는 쉽게 말해 "LLM에게 전용 참고서를 쥐어주는 기술"입니다. 모델이 모르는 외부 데이터를 찾아서(Retrieval), 질문과 함께 전달해 답변을 생성(Generation)하는 방식이죠.학습 중인 파이프라인의 흐름은 다음..

구글링으로 최신 기술을 구현할 수 있을까?/AI Agent 만들기 2026. 2. 19. 15:05

1. LLM은 왜 프롬프트에 민감할까?LLM(Large Language Model)은 질문에 대해 확률적으로 다음 토큰을 예측하는 모델입니다. 즉, 우리가 던지는 질문(프롬프트)이 문제 정의 그 자체가 됩니다.같은 질문이라도:"강아지 설명해줘""강아지 품종별 특징을 표로 정리해줘"결과 품질이 달라지는 이유가 바로 여기에 있습니다.➡️ Prompt Engineering이란,LLM이 문제를 정확히 이해하도록 질문을 설계하는 기술 2. PromptTemplate – 재사용 가능한 프롬프트 설계LangChain에서는 프롬프트를 코드 레벨에서 구조화할 수 있습니다. 그 핵심이 PromptTemplate입니다. from langchain_core.prompts import PromptTemplateprompt =..

구글링으로 최신 기술을 구현할 수 있을까?/AI Agent 만들기 2026. 2. 9. 18:14

비전공자도 이해할 수 있는, 그러나 실제 서비스로 이어지는 LLM 개발 기록 최근 ChatGPT를 비롯한 LLM 서비스가 빠르게 확산되면서, 단순히 모델을 사용하는 수준을 넘어 LLM을 실제 서비스에 어떻게 연결하고 운영할 것인가가 중요한 역량이 되었다고 생각해요. 호기롭게 개발자가 되기 위해 부트캠프와 공모전, 인턴을 수행하면서 현재까지도 취업을 위한 공부를 하고 있습니다. 그 동안 앱과 웹, LLM챗봇 모델 만들기, 데이터 수집, 적재 등등 많은 것을 하면서 AI는 사용하지 않은 적이 없을 정도 입니다. 개념이 이해가 되어야 실습으로 진행할 수 있는 사람이라 책을 통해서 공부를 많이 했습니다. 실습과 보여지는 것을 우선으로 하는 수업에서는 집에서 이해를 위해 강의와 추가 공부를 하면서 부캠을 따라 ..

구글링으로 최신 기술을 구현할 수 있을까?/AI Agent 만들기 2025. 11. 12. 15:29

https://arxiv.org/abs/2407.01502 AI Agents That MatterAI agents are an exciting new research direction, and agent development is driven by benchmarks. Our analysis of current agent benchmarks and evaluation practices reveals several shortcomings that hinder their usefulness in real-world applications. First,arxiv.org 논문 선정 이유 소개1. 다른 평가지표를 고려하지 않는 좁은 관점Sota는 지나치게 복잡하고 비용이 많이 들어 정확도를 얻는 데에 있어 결함이..

카테고리 없음 2025. 11. 11. 14:37

경사 하강법 (Gradient Descent)그래디언트는 함숫값이 가장 가파르게 증가하는 방향을 가리킨다.따라서 현재 위치에서 그래디언트를 구한 후, 그 반대 방향으로 이동하면 Loss를 줄일 수 있다. 두 가지 문제1. 계산 속도가 느리다.Loss 함수가 모든 데이터를 고려하고 있다.최소점에 수렴하기까지 매우 오랜 시간이 걸린다. 2. 좋지 않은 Local Minimum에 빠질 수 있다.Local Minimum : 주변의 작은 영역에서는 가장 낮은 값을 가지지만, 전체 영역에서 반드시 가장 낮은 값은 아닌 지점.Global Minimum(전체 영역에서 가장 낮은 값)과 상반되는 개념. Local Minimum 해결방법확률적 경사 하강법 [Stochastic Gradient Descent]단 하나의 데..

카테고리 없음 2025. 11. 11. 14:36