Nacho

ReAct AgentReAct는 LLM 기반 Agent 설계에서 주목받는 프레임워크 중 하나로, 추론과 행동을 긴밀하게 통합하는 독특한 접근 방식을 취한다.https://arxiv.org/pdf/2210.03629 ReAct의 핵심 동기는 LLM 연구에서 개별적으로 발전해 온 두 가지 주요 능력, 즉 Chain-of-Thought (CoT)와 같은 추론 능력과 WebGPT, SayCan 등에서 보여준 행동(도구 사용, 환경 상호작용) 능력을 시너지 효과를 내도록 결합하는 것이다. 이는 인간이 계획 수립, 진행 상황 추적, 예외 처리 등을 위해 언어적 추론(내적 발화)과 실제 작업 수행을 자연스럽게 결합하는 방식과 유사하다. 핵심 메커니즘: 추론과 행동의 교차 수행ReAct 프레임워크는 LLM에게 추론 흔..

AI Agent 란?아마존에서는 AI Agent를 다음과 같이 정의하고 있다.환경과 상호 작용하고, 데이터를 수집하고, 데이터를 사용하여 사전 결정된 목표를 달성하기 위해 필요한 작업을 스스로 결정해서 수행할 수 있는 소프트웨어 프로그램으로 AI 에이전트는 목표를 달성하기 위해 필요한 최적의 조치를 독립적으로 선택해야 한다.AI 에이전트란 무엇인가요? - 인공 지능의 에이전트 설명 - AWS AI 에이전트란 무엇인가요? - 인공 지능의 에이전트 설명 - AWS인공 지능 에이전트는 환경과 상호 작용하고, 데이터를 수집하고, 데이터를 사용하여 사전 결정된 목표를 달성하기 위해 필요한 작업을 스스로 결정해서 수행할 수 있는 소프트웨어 프로그램입aws.amazon.com AI Agent는 사전에 설정된 목표를 ..

모델 학습을 위해 형의 컴퓨터를 ssh로 연결해서 gpu를 빼다 쓰는 발칙한 생각을 하였다...    우선 많은 시행착오가 있었다... 그림과 같은 과정을 통해 wsl에 외부 접속을 할 수 있다. 대충 보고 마지막에 다시보면 이해가 될 것이라 믿는다. 우선 wsl2가 설치되었다는 가정하에 포스팅을 이어가겠다. WSL2에서 ssh 실행ssh server 설치sudo apt updatesudo apt install openssh-server sshconfig 수정sudo nano /etc/ssh/sshd_config nano를 실행하여 수정을 진행Port 22 # wsl 에서 사용항 port 번호 (변경 가능)ListenAddress 0.0.0.0PubkeyAuthentication yes PasswordA..

본문에서는...끝까지 해결하지 못한 오류OpenAi 한테 호구당한 이야기Flask 서버EC2LLama3.1 파인튜닝웹 크롤링 (완료)과 같은 내용을 다룹니다.. 8. Flask 서버 구축Flask 는 대표적인 파이썬 프레임워크로 작은 프로젝트를 할 때 주로 사용한다고 알려져 있습니다.레시피 api 또한 굉장히 작은 프로젝트이기 때문에 Flask를 사용 했습니다. FLASK_APP/ ├── public/ │ └── index.html ├── static/ │ ├── script.js │ └── styles.css └── app.py 우선 필요한 라이브러리를 import 합니다.from flask import Flask, request, jsonify, rende..

본문에서는...끝까지 해결하지 못한 오류OpenAi 한테 호구당한 이야기Flask 서버EC2LLama3.1 파인튜닝웹 크롤링 (완료)과 같은 내용을 다룹니다..  5. OpenAi API 사용하기Llama3.1 모델 로드를 실패하고 Colab 비용을 확인하니 chat gpt 비용이랑 별 다를 게 없는 슬픈 사실을 발견.. 어차피 모델 로드도 안되는 거 GPT API나 사용해보자는 심정으로 GPT 결제하고 API 충전했다. API 키를 발급받고나서 사용할만큼 지갑을 채워준다. gpt-4o 기준 답변 1개당 14원 정도였다.  발급받은 api 키를 복사해서 환경변수에 선언해준다.vi ~/.zshrc #vi ~/.bashrc export OPENAI_API_KEY = "여기에 키 입력" 사용하는 zsh, ba..

본문에서는...끝까지 해결하지 못한 오류OpenAi 한테 호구당한 이야기Flask 서버EC2LLama3.1 파인튜닝웹 크롤링 (완료)과 같은 내용을 다룹니다..3. Llama 3.1 파인튜닝 AI 학습에 있어 가장 중요한 역량이 있다. 이전엔 수학, 영어 등 학문적인 고민을 했지만 생각이 바뀌었다. 가장 중요한 요소는 "돈"이다. 이전 포스팅에 밝힌바 있지만,  난 돈도 없고 능력도 없다. LLM 깔짝 쓰고 싶은 나에게 저렴한 ai는 없다.  따라서, 직접 만든다..! (파인튜닝에 앞서 나는 Google Colab Pro 를 구독하여 사용하였다.)A100 을 사용해야 GPU 메모리에 Llama가 간신히 올라간다.. !pip install -U accelerate==0.29.3 peft==0.10.0 tr..