![]()
ORM 서버 (vCPU 4Core/24GB memory) 를 평생 무료로 분양받을 수 있다는 소식을 듣고 분양 받았습니다.Airflow 실습 및 스터디 용으로 사용하려고 합니다. (p.s. 한국 지역은 A1 수급이 안돼서, 저는 일단 AMD 기반 VM 으로 받았습니다. 받을 수 있는 방법이 있다고 하는데 다음에 시도해보려합니다. ) 참고한 블로그: https://obtuse.kr/dev/oracle-cloud-free-arm-server/ 오라클 평생 무료 ARM서버 만들기부터 포트열기 까지 A to Z 가이드 | obTech 블로그오라클 클라우드 ARM서버 만드는 방법부터 Out of host capacity오류 해결방법, 고정 IP 설정방법, SSH 연결방법, 포트포워딩 방법까지 A 부터 Z까지 클라..
![]()
2025년 4월 29일, 테디노트님의 주주총회 라이브를 듣고 왔습니다. 내용이 너무 감명 깊어서, 바로 재구성해서 블로그 포스팅 해봅니다. AgentReAcT FrameWork❓ 똑같은 LLM을 사용하는데, 왜 Agent가 적용되면 더 똑똑하지?친구(LLM)한테 물 떠다 달라고 하면, 원래는 물 뜨는 방법을 알려주는 걸로 끝났다. 그런데 지금은 친구(Agent)가 물을 직접 떠오더라.🤠 Agent야! 2024 노벨 문학상 수상자 누구야? Thought 🤖 도구 없이 풀 수 있는 문제인가? 🤖 어떤 도구(웹 검색, 문서 검색, 코드 실행, Custom Tools) 를 사용해야하지? 🤖 검색어(쿼리)를 어떻게 작성해야하지? Action 검색 진행 ..
Rust 기반의 강력한 파이썬 의존 패키지가 나왔다고 합니다. 사용해야하는 이유PIP 보다 10 ~ 100배 빠른 패키지 설치 및 의존성 해결 속도올인원 패키지 (pip, pipx, pyenv, twine, virtualenv ...)완전한 PEP 지원 설치Linuxcurl -LsSf https://astral.sh/uv/install.sh | sh# 업데이트uv self update그 외uv docs 참고 (https://docs.astral.sh/uv/getting-started/installation/#standalone-installer) UV 파이썬 설치 및 가상환경원하는 파이썬 버전 설치uv python install 3.10 3.11 3.12 파이썬 설치 버전 확인uv python list..
![]()
Output ConfigurationOutput LengthHigher Cost, Slower Response Time을 고려하여 적절히 제한Sampling ControlsTemperature (T)Next Token Prediction에 대해, 마치 Softmax Func을 생각하면 됨. 0에 가까울수록, 분포가 뾰족해짐 (= Greedy Decoding, 정해진 답변, 결정론적)1에 가까울수록, 분포가 느슨해짐 (= 불확실성 강화, 창의적인 답변, 무작위)Top-K다음으로 올 Token에 대해, Top K 개의 토큰들 만큼을 후보로 가져오겠다.K = 1 (= Greedy Decoding, Next Token에 대한 후보가 1개)Top-P토큰 누적 확률 샘플링, 토큰들을 학률이 높은 것부터 누적하여, ..
