복실복실 개발자

개요AI agent는 다양한 형태의 데이터를 다룬다. ChatGPT나 Anthropic을 사용하다보면 왼측에 대화 히스토리도 확인할 수 있고, 사용자의 눈엔 보이지 않지만 GPU vRAM 내에 자기회귀를 통해 생성된 kv cache 데이터가 존재하며 에이전트 서비스 내에서는 컨텍스트 엔지니어링과 연결되는 컨텍스트 윈도우 영역이 있다.단 세줄의 문단을 작성했을 뿐인데, 생소한 개념들이 한가득이다. AI와 관련된 지식들은 기존 개발자에게 인지부하를 줄 만큼 방대하고 복잡하다. 그 중에서도 서두에 나열한 메모리/영속성 데이터 관리는 agent를 개발함에 있어 반드시 알아야 할 핵심적인 요소들이다. 목적과 용도를 확실히 정리해두지 않으면 설계 자체가 틀어질 수 있으니, 이번 기회에 이론적인 부분을 정리하도록 한..

개요현재 개인적으로 k8s환경에 lgtm stack (+open telemetry) 을 배포한 후 spring ai기반으로 모니터링을 도와주는 agent를 개발하고 있다. 개발은 바이브코딩으로 진행하며, 전체적인 설계와 구현 결과에 대한 검토는 직접 진행한다.이 글에서는 agent 환경 구성 중 발생한 이슈와 그에 대한 트러블 슈팅, 그리고 잘 몰랐던 개념/용어에 대한 정리를 진행할 것이다. 개념 및 용어 정리topK란?백터 데이터베이스는 백터 값의 쿼리가 전달되면 유사도를 검색하여 가장 유사한 것 (가까운 것)부터 순서대로 정렬한다. 이 때에, 상위 몇 개 까지 가져올지를 정하는 정수값이다.topK값이 지나치게 작을 경우 -> 필요한 데이터가 누락될 위험이 존재topK값이 지나치게 클 경우 -> 프롬프..

로컬에 ollama model을 설치하고, 추론 모델과 임베딩 모델을 설치한 후 kind cluster에 helm chart 기반으로 Qdrant를 올릴 것이다. 환경macos - m1 pro, 32g 작업 내역ollama model 설치qwen 3:14b 설치embedding model 설치helm chart로 Qdrant 설치 1. ollama model 설치curl -fsSL https://ollama.com/install.sh | shollama --version 설치가 완료되면 아래의 커맨드를 실행하여 구동해준다.export OLLAMA_HOST=0.0.0.0:11434ollama serve 2. qwen 3:14b 설치ollama 설치가 완료되면 추론 모델인 qwen3:14b를 설치한다. (용..

배경개인적으로 다중 에이전트 환경을 바이브 코딩으로 구현해보고 있다. k8s 환경에 lgtm stack 및 redis cluster를 배포한 후 spring ai로 구성된 agent backend에서 redis 및 k8s cluster의 log/trace/metrics/state 를 조회하여 트러블슈팅을 도와주는 역할을 수행할 것이다. 이전까지 agent를 직접 구성해본 경험이 없어 ai의 도움을 받아 설계를 진행하고, 완성된 코드를 분석하며 라우팅 절차와 구조 등을 학습하고 있다.(바이브 코딩을 사용할 때에도 코드 컨벤션이나, 설계 및 구현 절차를 잘 정리하여 전달할 필요성을 느꼈다. 일반 개발을 지시할 땐 느끼지 못했는데, 다중 에이전트 환경을 부탁하니 토큰이 폭발하여 월 quota가 모두 소모되는 ..

최근 청와대 정책 실장의 국민 배당금 발언이 기사화되면서 논란이 일어난 것으로 보인다. 반도체 기업의 막대한 수익으로 발생하는 초과 세수를 국민 배당금으로 사용하여 사회 전체의 이익을 실현하자는 논리이다.이 글에서는 해당 발언과 사람들의 반응에 대한 개인적인 생각을 정리해보고자 한다.나 또한 주식을 하는 사람의 입장에서 해당 발언이 기사화 되었을 때 달갑지 않았던 것 같다. 기사를 읽을 당시 여러 생각이 들었다.사기업의 이윤을 왜 국가가 통제하려 하지? 기업의 성장이 둔화되면 그 만큼 주가가 떨어질텐데? 국가가 간접적으로 생산 수단을 통제하는 게 아닌가? 사실 위 발언의 취지는 "초과 세수의 활용 방안"의 일환으로 제시된 것이기 때문에 내가 가졌던 의문과는 거리가 멀다. 기업의 막대한 이윤을 국가가 강제..