AI: Aprende a ejecutar un modelo en LLAMA2 con Matthew Berman
- sudo apt-get update
- sudo apt-get upgrade
- sudo apt-get install wget bzip2
- wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O miniconda.sh
- source ~/.bashrc
- conda --version
- bash miniconda.sh
- sudo apt-get install libopenblas-dev libblas-dev m4 cmake python3-dev python3-yaml python3-setuptools
- sudo apt-get install python3-pip
- pip3 install --upgrade pip
- conda create -n llama2env python=3.11.5
- conda init
- cd llama2env/
- conda activate llama2env
- conda env list
- pip3 install torch torchvision torchaudio
- pip install -e .
- git clone https://github.com/oobabooga/text-generation-webui.git
- pip install -r requirements.txt
- cd :~/miniconda3/envs/llama2env/
- cd text-generation-webui/
- python server.py
Después ir a http://127.0.0.1:7860/ y seguir los pasos indicados en el vídeo para parametrizar y ejecutar un modelo
Comentarios
Publicar un comentario