임베딩이 모냐 임베딩은 여러 개념이 있는데 우선은 word_embedding 을 기준으로 설명하려고 한다.사람은 king - queen 이라는 두 단어를 봤을 때 유사한 단어라고 인지를 한다.하지만 컴퓨터는 이걸 못한다. 그래서 AI 가 이 단어가 어떤 단어에 근접한지 판단을 해서 점수를 적어, 좌표에 놓는다. 예를 들면 이런식이다. 성별에 관한 용어임?남자임?여자임?멋있음?킹0.91-11퀸0.9-111 ㅋㅋ 이걸로 하나하나 정해서 좌표에 던져 놓는다. 저 질문 하나하나를 차원이라고 한다. Ollama 의 임베딩 모델은 1024text-embedding-3-small 은 1536 개 였나 그렇다. (large 하면 더 많아짐) 어쨌든 이렇게 차원이 있는데 이 차원이 많아질 수록 당연히 임베딩하는데 돈이..
ToolCalling 이란?도구 부르기다. LangChain 과 LangGraph 에서 통용되는 개념이다LLM 이 어떤 도구를 쓸지 알아서 정해서 그 도구를 사용한다는 것이다.알아보자Tool도구다.무슨 도구냐 이 도구는 뭐든지 될 수 있다.API 호출, 요즘 유행인 MDC, 심지어 LangChain 과 LangGraph 또한 도구가 될 수 있으며, 날짜 계산, 라이브러리 등등 모든 것이 도구가 될 수 있다.하지만 지켜야 될 것이 있다 단일 책임의 원칙 이건 지켜야된다. 그래야 도구로써 사용하기에 적합하게 된다. 도구는 세가지 정보를 가진다.이름: 도구의 이름을 정한다. (ex. 날씨 도구)설명: LLM 이 이 설명을 보고 도구를 고를 수 있게 설명을 적어야한다. (ex. 사용자가 날짜를 입력하면 해당 날..
LangGraph 위주로 작성하겠습니다.둘은 철학 자체가 다르다⛓️💥 - 체인은 서로 순서대로 연결이 되어있다.즉 선형적으로 이루어져있다. 그렇다. 랭Chain 은 선형적인 구조를 이룬다.파이프라인을 만든다는 것이다. Graph - 그래프는 각자 연결이 되어있다.알고리즘 풀면서 그래프 문제 많이 풀었을텐데 그 그래프 맞다.즉 그래프 문제 풀면서 사이클 조정이나, 우선 순위를 조정했듯이 랭Graph 도 상황에 따라 세밀한 조정이 가능하다!!이게 무슨 소리냐? 파이프 라인이 아닌 각 노드에 따라서 자동으로 왔다갔다 한다는 것이다!!이해가 됐으려나? LangGraph 단어 설명Langgraph 는 다중 에이전트 프레임워크 입니다.사이클 지원과 세밀한 제어가 가능하며 내장 지속성 기능으로 상태 및 흐름을 정..
6버전 기준으로 작성되었습니다.Clerk 란?인증과 사용자 관리를 제공하는 SaaS 서비스이다.구글, 깃허브, 페이스북, X, 노션 등..OAuth, 이메일/비밀번호, Magic Link, Web3 Wallet 등 다양한 로그인 방식을 지원한다.Next.js, Remix, React Native 등과 쉽게 통합을 할 수 있어서 스타트업, 1인 개발자 등 프로토타입 개발 환경에서 개발 시간을 단축시키는 데 도움을 줄 수 있다.물론, 각 Provider 마다 어느정도 설정은 해줘야한다. 이건 Clerk 에서 못한다. Clerk 설정 이 설정을 기본으로 하고 시작 Personal Information 의 Name 은 하는 순간 귀찮아지니 생략저게 뭐냐면 Google 로그인 시 구글의 First Name, La..
RAG란RAG(Retreival-Augumented Generation)는 검색 기반 증강 생성으로, LLM 모델에서 출력을 최적화하여 응답을 생성하기 전, 학습 데이터 외부의 지식 베이스를 참조하도록 하는 프로세스다.단순히 외부 데이터를 참조하는 것이 아닌, 벡터 DB 등의 검색 시스템을 이용하여 LLM의 프롬프트에 추가하는 방식이다. RAG 가 왜 나왔을까?우리는 ChatGPT 의 초기 버전을 기억한다.이때 생겨난 문제점은 LLM 이 그렇게 완벽하지 않다는 것이다.LLM 의 대표적인 문제점은 다음과 같다. 답변이 없을 때 허위 정보를 제공한다.사용자가 구체적이고 최신의 응답을 기대할 때, 오래거나 일반적인 정보를 제공한다.신뢰할 수 없는 출처로부터 응답을 생성한다.용어 혼동으로 인해 응답이 정확하지 ..
📢 각 도메인 별 Repository 에 의존할 경우 도메인 규칙을 정해놓은 서비스를 이용하지 않아 유지보수성이 떨어지게 됩니다. 예를 들어 지갑(Wallet) 엔티티에 돈을 빼는 메서드가 있다고 합시다. Wallet에 돈을 빼면 땅바닥에 둘 수 없으니, 다른 Wallet (ex. Admin Wallet) 에 보관합니다. 위 로직은 Entity 내에 작성할 수 없는 코드입니다. 이를 간단한 예시로 설명 드리겠습니다.문제 상황초기 상태WalletService 는 돈을 빼는 비즈니스 로직을 가지고 있습니다. 돈을 뺀 후에는 특정 규칙(여기서는 어드민 지갑에 추가) 이 적용됩니다.public class WalletService { private final WalletRepository walletRepos..
