Ir al contenido principal

Entradas

Mostrando las entradas etiquetadas como LLAMA2

AI: Pasos para usar llama2 en windows usando WSL - Ubuntu

Dado que no consguía hacer funcionar llama2 en windows y en Linux siguiendo los pasos salía todo a la primera, opté por instalar ubuntu dentro de Windows y realizar ahí la instalación. 1.- Instalé ubuntu y luego lo moví de disco porque toda la instalación ocupa mucho para hacerlo en la unidad c: -  Para ello seguí los pasos que se indican en "Instalar WSL en otra unidad en Windows"  2.- Después instalé miniconda 3.- Instalar pytorch: tienes varias opciones de url, se pueden ver en https://pytorch.org/get-started/locally/ Yo elegí inicialmente la url de CPU porque en mi pc de programación no tenía nvidia. En cualquier caso esto no me funcionó así que recomiendo instalar la versión con GPU y tener una GPU de nvida para trabajar con IA. En mi casó instalé una vieja GTX1080 pero ya os adelanto que la GPU es muy limitada en desempeño para esta aplicación. 4.- Seguir los pasos que se indican en el readme de llama2 en github: https://github.com/facebookresearch/llama 5.- Crear un ...

AI: Aprende a ejecutar un modelo en LLAMA2 con Matthew Berman

sudo apt-get update sudo apt-get upgrade sudo apt-get install wget bzip2  wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O miniconda.sh source ~/.bashrc conda --version bash miniconda.sh sudo apt-get install libopenblas-dev libblas-dev m4 cmake python3-dev python3-yaml python3-setuptools sudo apt-get install python3-pip pip3 install --upgrade pip conda create -n llama2env python=3.11.5 conda init cd llama2env/ conda activate llama2env conda env list pip3 install torch torchvision torchaudio pip install -e . git clone https://github.com/oobabooga/text-generation-webui.git pip install -r requirements.txt cd :~/miniconda3/envs/llama2env/ cd text-generation-webui/ python server.py Después ir a http://127.0.0.1:7860/ y seguir los pasos indicados en el vídeo para parametrizar y ejecutar un modelo