LLM de código abierto: IA segura y sin censura a nivel local con RAG

Publicado: domingo, ago. 24, 2025 - Post actualizado: domingo, ago. 24, 2025

Categoría: Programación Y Desarrollo Udemy

@ Consiguelogratis

Open-source LLMs: Uncensored & secure AI locally with RAG

Alternativas a Chat privado GPT: Llama3, Mistral y más con llamadas a funciones, RAG, bases de datos vectoriales, LangChain, agentes de IA

Este curso tiene un peso aproximado de (11 GB)

Lo que aprenderás

• ¿Por qué optar por un LLM de código abierto? Diferencias, ventajas y desventajas entre los LLM de código abierto y los de código cerrado

• ¿Qué son los LLM como ChatGPT, Llama, Mistral, Phi3, Qwen2-72B-Instruct, Grok, Gemma, etc.?

• ¿Qué programas de máster (LLM) hay disponibles y cuál debería usar? Cómo encontrar los mejores LLM

• Requisitos para utilizar LLM de código abierto localmente

• Instalación y uso de LM Studio, Anything LLM, Ollama y métodos alternativos para operar LLM

• LLM censurados vs. sin censura

• Ajuste de un modelo de código abierto con Huggingface o Google Colab

• Visión (Reconocimiento de imágenes) con LLM de código abierto: Llama3, Llava y Phi3 Vision

• Detalles del hardware: Descarga de GPU, CPU, RAM y VRAM

• Todo sobre HuggingChat: una interfaz para usar LLM de código abierto

• Avisos del sistema en Ingeniería de avisos + Llamada de funciones

• Fundamentos de ingeniería de indicaciones: asociación semántica, indicaciones estructuradas y de roles

• Groq: Uso de LLM de código abierto con un chip LPU rápido en lugar de una GPU

• Bases de datos vectoriales, modelos de incrustación y generación aumentada por recuperación (RAG)

• Creación de un chatbot RAG local con Anything LLM y LM Studio

• Vinculación de Ollama y Llama 3, y uso de llamadas de funciones con Llama 3 y cualquier aplicación LLM

• Llamada de funciones para resumir datos, almacenarlos y crear gráficos con Python

• Uso de otras funciones de Anything LLM y API externas

• Consejos para mejorar las aplicaciones RAG con Firecrawl para datos de sitios web y una RAG más eficiente con LlamaIndex y LlamaParse para archivos PDF y CSV.

• Definición y herramientas disponibles para agentes de IA, instalación y uso de Flowise localmente con Node (más fácil que Langchain y LangGraph)

• Creación de un agente de IA que genera código Python y documentación, y uso de agentes de IA con llamadas de funciones, acceso a Internet y tres expertos

• Alojamiento y uso: ¿Qué agente de IA debería crear? Alojamiento externo, texto a voz (TTS) con Google Colab

• Ajuste de LLM de código abierto con Google Colab (Alpaca + Llama-3 8b, Unsloth)

• Alquiler de GPU con Runpod o Massed Compute

• Aspectos de seguridad: fugas de la cárcel y riesgos de seguridad derivados de ataques a LLM con fugas de la cárcel, inyecciones rápidas y envenenamiento de datos

• Privacidad y Seguridad de sus Datos, así como Políticas de Uso Comercial y Venta de Contenido Generado

Requisitos

• No se requieren conocimientos previos, todo se mostrará paso a paso.

• Es ventajoso tener un PC con una buena tarjeta gráfica, 16 GB de RAM y 6 GB de VRAM (las series M de Apple, Nvidia y AMD son ideales), pero esto no es obligatorio.

Descripción

ChatGPT es útil, pero ¿has notado que hay muchos temas censurados, te impulsan hacia ciertas direcciones políticas, algunas preguntas inofensivas quedan sin respuesta y nuestros datos podrían no estar seguros con OpenAI? Aquí es donde los LLM de código abierto como Llama3, Mistral, Grok, Falkon, Phi3 y Command R+ pueden ayudarte.

¿Estás listo para dominar los matices de los LLM de código abierto y aprovechar todo su potencial para diversas aplicaciones, desde el análisis de datos hasta la creación de chatbots y agentes de IA? ¡Este curso es para ti!

Introducción a los LLM de código abierto

Este curso ofrece una introducción completa al mundo de los LLM de código abierto. Aprenderá las diferencias entre los modelos de código abierto y de código cerrado, y descubrirá por qué los LLM de código abierto son una alternativa atractiva. Se abordarán en detalle temas como ChatGPT, Llama y Mistral. Además, aprenderá sobre los LLM disponibles y cómo elegir el modelo que mejor se adapte a sus necesidades. El curso hace especial hincapié en las desventajas de los LLM de código cerrado y las ventajas y desventajas de los LLM de código abierto como Llama3 y Mistral.

Aplicación práctica de los LLM de código abierto

El curso te guiará por la forma más sencilla de ejecutar LLM de código abierto localmente y lo que necesitas para esta configuración. Aprenderás sobre los prerrequisitos, la instalación de LM Studio y métodos alternativos para operar LLM. Además, aprenderás a usar modelos de código abierto en LM Studio, a comprender la diferencia entre LLM censurados y no censurados, y a explorar diversos casos de uso. El curso también abarca el perfeccionamiento de un modelo de código abierto con Huggingface o Google Colab y el uso de modelos de visión para el reconocimiento de imágenes.

Ingeniería rápida e implementación en la nube

Una parte importante del curso es la ingeniería de indicaciones para LLM de código abierto. Aprenderás a usar HuggingChat como interfaz, a utilizar las indicaciones del sistema en la ingeniería de indicaciones y a aplicar técnicas básicas y avanzadas de ingeniería de indicaciones. El curso también te enseñará a crear tus propios asistentes en HuggingChat y a usar LLM de código abierto con chips LPU rápidos en lugar de GPU.

Llamada de funciones, RAG y bases de datos vectoriales

Aprenda qué es la llamada a funciones en LLM y cómo implementar bases de datos vectoriales, modelos de incrustación y generación aumentada por recuperación (RAG). El curso le muestra cómo instalar Anything LLM, configurar un servidor local y crear un chatbot RAG con Anything LLM y LM Studio. También aprenderá a realizar llamadas a funciones con Llama 3 y Anything LLM, así como a resumir datos, almacenarlos y visualizarlos con Python.

Optimización y agentes de IA

Para optimizar tus aplicaciones RAG, recibirás consejos sobre la preparación de datos y el uso eficiente de herramientas como LlamaIndex y LlamaParse. Además, te introduciremos en el mundo de los agentes de IA. Aprenderás qué son, qué herramientas están disponibles y cómo instalar y usar Flowise localmente con Node.js. El curso también ofrece información práctica sobre la creación de un agente de IA que genere código y documentación en Python, así como sobre el uso de llamadas a funciones y el acceso a internet.

Aplicaciones y consejos adicionales

Finalmente, el curso introduce la conversión de texto a voz (TTS) con Google Colab y el perfeccionamiento de LLM de código abierto con Google Colab. Aprenderás a alquilar GPU de proveedores como Runpod o Massed Compute si tu PC local no es suficiente. Además, explorarás herramientas innovadoras como Microsoft Autogen y CrewAI, y aprenderás a usar LangChain para desarrollar agentes de IA.

Aproveche el poder transformador de la tecnología LLM de código abierto para desarrollar soluciones innovadoras y ampliar su comprensión de sus diversas aplicaciones. ¡Inscríbase hoy y comience su camino para convertirse en un experto en el mundo de los modelos lingüísticos de gran tamaño!

¿Para quién es este curso?

• Para todos aquellos que quieran aprender algo nuevo y profundizar en los LLM de código abierto con RAG, llamadas de función y agentes de IA.
• Para emprendedores que quieren ser más eficientes y ahorrar dinero.
• Para desarrolladores, programadores y entusiastas de la tecnología.
• Para cualquiera que no quiera las restricciones de las grandes empresas tecnológicas y quiera utilizar IA sin censura.