1- LLM local con Ollama

 

Cómo crear tu primer LLM local con Ollama (y construir un tutor de francés gratis)

¿Te gustaría ejecutar un Large Language Model (LLM) directamente en tu ordenador, sin depender de servicios en la nube ni pagar suscripciones? En este tutorial, te mostraré cómo instalar Ollama (o Llama), un framework que permite ejecutar modelos de lenguaje en tu máquina usando C++, y cómo usarlo para crear un tutor de francés gratuito. ¡Sin costes ocultos!

¿Qué es Ollama (o Llama)?

Ollama es una plataforma que te permite descargar y ejecutar modelos de IA localmente, como el famoso Llama 3 de Meta (Facebook). Su ventaja:

  • Totalmente gratuito (open-source).

  • Funciona en Mac, Windows y Linux.

  • No requiere conexión constante a internet después de la instalación.

¿Por qué se llama "Llama"? El nombre viene del modelo original de Meta, que revolucionó el mundo de los LLM open-source.

Paso 1: Instalar Ollama

  1. Descarga: Ve a ollama.com y haz clic en Download (el sitio detectará tu sistema operativo automáticamente).

    • Windows: Ejecuta el .exe (siguiente, siguiente…).

    • Mac: Arrastra la app a tu carpeta de Aplicaciones.

    • Linux: Sigue las instrucciones para tu distribución.

  2. Terminal/Consola:

    • Abre tu terminal (PowerShell en Windows, Terminal en Mac/Linux).

    • Ejecuta el comando que Ollama te indica tras la instalación:

      bash
      Copy
      Download
      ollama run llama3

    • La primera vez, descargará el modelo (¡paciencia! Son ~2GB).

Paso 2: Usar Ollama como tutor de idiomas

Imagina que quieres aprender francés pero no pagar por apps como Duolingo (sí, esa del búho). Con Ollama, puedes crear tu propio tutor:

  1. Inicia el chat: Escribe en la terminal (tras ejecutar ollama run llama3):

    "Estoy aprendiendo francés desde cero. Por favor, habla conmigo en francés básico y corrígeme si me equivoco."

  2. Ejemplo de interacción:

    • El modelo responderá en francés adaptado a tu nivel:
      "Bonjour! Comment ça va aujourd'hui? (¿Cómo estás hoy?)"

    • Si cometes errores, te los señalará amablemente.

    • Puedes pedir ejercicios de vocabulario o conversaciones temáticas (ej: "Hablemos de videojuegos en francés").

Ventaja clave:

  • Sin límites de mensajes (a diferencia de apps freemium).

  • Personalizable: Pídele que ajuste la dificultad o que te explique gramática.

¿Por qué hacer esto?

  • Ahorro: Evitas suscripciones caras.

  • Privacidad: Todo se procesa en tu equipo.

  • Aprendizaje activo: El modelo se adapta a tus necesidades (no es un chatbot preprogramado).

Conclusión

Ollama es una herramienta poderosa y accesible para cualquiera que quiera experimentar con LLMs o usarlos para tareas prácticas (como aprender idiomas). ¿Qué otro uso creativo se te ocurre? ¿Un asistente de programación? ¿Un generador de ideas para tu negocio?

¡Descarga Ollama y comparte tus experimentos en los comentarios!

Bonus

Si te interesa profundizar, en futuros posts puedo enseñarte:

  • Cómo elegir otros modelos (ej: Mistral para tareas más complejas).

  • Integrar Ollama con herramientas como Python para automatizar tareas.

¿Te ha gustado? ¡Comparte el post y sígueme para más guías de IA! 🚀

Notas adicionales:

  • Incluye capturas de pantalla de la instalación y el chat con Ollama para hacerlo más visual.

  • Si prefieres un tono más técnico, puedo ajustarlo para hablar de arquitecturas de modelos o rendimiento.

Comentarios

Publicar un comentario

Entradas populares de este blog

Los 3 mejores LLMs ligeros y open source para tu caso

   Los 3 mejores LLMs ligeros y open source para tu caso 1. Phi-2 (Microsoft) Tamaño : ~2.7B parámetros. Rendimiento : Excelente comprensión de texto para su tamaño. Ideal para : Tareas de NLP como resumen, clasificación, QA. Requisitos : Funciona bien en CPU (8-16 GB RAM). Uso en Python : transformers + torch o ggml con llama-cpp-python . Ventajas : Entrenado en corpus limpio. Ligero y rápido en CPU. Instalación rápida : bash Copiar Editar pip install transformers torch python Copiar Editar from transformers import AutoTokenizer, AutoModelForCausalLM model = AutoModelForCausalLM.from_pretrained( "microsoft/phi-2" ) tokenizer = AutoTokenizer.from_pretrained( "microsoft/phi-2" ) 2. TinyLlama (1.1B) Tamaño : 1.1B parámetros. Modelo : Basado en arquitectura LLaMA optimizada. Rendimiento : Sorprendentemente bueno en tareas como resumen y chat general. Ventajas : Extremadamente ligero (corre en CPU sin problemas). ...
Leer más

Mistral 7B Instruct cuantizado

 Perfecto. Te explico cómo puedes usar Mistral 7B Instruct cuantizado (Q4) en tu computadora local (Core i5, 16 GB de RAM) usando Python y la biblioteca llama-cpp-python . Este modelo es excelente para generar resúmenes estructurados como actas de audiencia judicial. ✅ Requisitos Python 3.9+ Modelo cuantizado de Mistral 7B Instruct (formato GGUF, Q4 o Q5) Bibliotecas : llama-cpp-python , requests (opcional) 🔹 Paso 1: Instalar dependencias bash pip install llama-cpp-python Si usas Windows y tienes problemas con dependencias, instala con: bash pip install llama-cpp-python --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu 🔹 Paso 2: Descargar el modelo Ve a TheBloke/Mistral-7B-Instruct-v0.1-GGUF y descarga el archivo: ✅ mistral-7b-instruct-v0.1.Q4_K_M.gguf (versión ligera que funciona en CPU) Guárdalo en una carpeta, por ejemplo: bash Copiar Editar ./modelos/mistral-7b-instruct-v0.1.Q4_K_M.gguf 🔹 Paso 3: Script en Python para ge...
Leer más

editor de texto enriquecido nativo

  Analizando tu código, veo que estás utilizando un editor de texto enriquecido nativo del navegador mediante el elemento HTML con el atributo   contenteditable="true"   (en tu archivo index.html): html < div id = " editor " contenteditable = " true " spellcheck = " true " > </ div > Este es el editor de texto enriquecido más básico y nativo que puedes usar, que aprovecha la funcionalidad integrada del navegador.
Leer más