2025 Perfeccionamiento de LLM con Transformadores de Caras Abrazadas para PNL

Publicado: miércoles, ago. 20, 2025 - Post actualizado: miércoles, ago. 20, 2025

Categoría: Programación Y Desarrollo Udemy

@ Consiguelogratis

2025 Fine Tuning LLM with Hugging Face Transformers for NLP

Modelos de transformadores maestros como Phi2, LLAMA; variantes de BERT y destilación para aplicaciones avanzadas de PNL en datos personalizados

Este curso tiene un peso aproximado de (8 GB)

Lo que aprenderás

• Comprender los transformadores y su papel en la PNL.

• Obtenga experiencia práctica con Hugging Face Transformers.

• Obtenga información sobre los conjuntos de datos relevantes y las métricas de evaluación.

• Ajuste los transformadores para la clasificación de texto, la respuesta a preguntas, la inferencia de lenguaje natural, el resumen de texto y la traducción automática.

• Comprender los principios del ajuste fino del transformador.

• Aplicar el ajuste fino del transformador a problemas de PNL del mundo real.

• Aprenda sobre los diferentes tipos de transformadores, como BERT, GPT-2 y T5.

• Experiencia práctica con la biblioteca de Transformers de caras abrazadas

Requisitos

• Comprensión básica del procesamiento del lenguaje natural (PLN)

• Habilidades básicas de programación

• Familiaridad con los conceptos de aprendizaje automático

• Acceso a una computadora con una GPU

Descripción

No tomes este curso si eres principiante en aprendizaje automático. Está diseñado para quienes estén interesados en la programación pura y quieran perfeccionar sus LLM en lugar de centrarse en la ingeniería rápida. De lo contrario, podría resultarte difícil de entender.

Bienvenido a “Dominando los Modelos Transformer y el Ajuste Fino LLM” , un curso completo y práctico diseñado para todos los niveles, desde principiantes hasta profesionales avanzados en Procesamiento del Lenguaje Natural (PLN). Este curso profundiza en el mundo de los modelos Transformer, las técnicas de ajuste fino y la destilación de conocimientos, con especial atención a las variantes populares de BERT como Phi2, LLAMA, T5, BERT, DistilBERT, MobileBERT y TinyBERT.

Descripción del curso:

Sección 1: Introducción

• Obtenga una descripción general del curso y comprenda los resultados del aprendizaje.

• Introducción a los recursos y archivos de código que necesitarás a lo largo del curso.

Sección 2: Entendiendo los Transformers con Cara Abrazadora

• Aprenda los fundamentos de los Transformers de Caras Abrazadas.

• Explora las canalizaciones, puntos de control, modelos y conjuntos de datos de Hugging Face.

• Obtenga información sobre espacios de abrazos faciales y clases automáticas para una gestión perfecta de modelos.

Sección 3: Conceptos básicos de los transformadores y los LLM

• Profundice en las arquitecturas y los conceptos clave detrás de Transformers.

• Comprender las aplicaciones de los transformadores en diversas tareas de PNL.

• Introducción al aprendizaje por transferencia con Transformers.

Sección 4: Análisis profundo de la arquitectura BERT

• Exploración detallada de la arquitectura de BERT y su importancia en la comprensión del contexto.

• Obtenga información sobre el modelado de lenguaje enmascarado (MLM) y la predicción de la siguiente oración (NSP) en BERT.

• Comprender las técnicas de evaluación y ajuste fino de BERT.

Sección 5: Ajuste práctico con BERT

• Sesiones prácticas para perfeccionar BERT para la clasificación de sentimientos en datos de Twitter.

• Guía paso a paso sobre carga de datos, tokenización y entrenamiento de modelos.

• Aplicación práctica de técnicas de ajuste fino para construir un clasificador BERT.

Sección 6: Técnicas de destilación de conocimientos para BERT

• Introducción a la destilación de conocimiento y su importancia en la optimización de modelos.

• Estudio detallado de DistilBERT, incluidas funciones de pérdida y tutoriales en papel.

• Explore MobileBERT y TinyBERT, con un enfoque en sus técnicas de destilación únicas e implementaciones prácticas.

Section 7: Applying Distilled BERT Models for Real-World Tasks like Fake News Detection

• Use DistilBERT, MobileBERT, and TinyBERT for fake news detection.

• Practical examples and hands-on exercises to build and evaluate models.

• Benchmarking performance of distilled models against BERT-Base.

Section 8: Named Entity Recognition (NER) with DistilBERT

• Techniques for fine-tuning DistilBERT for NER in restaurant search applications.

• Detailed guide on data preparation, tokenization, and model training.

• Hands-on sessions to build, evaluate, and deploy NER models.

Section 9: Custom Summarization with T5 Transformer

• Practical guide to fine-tuning the T5 model for summarization tasks.

• Detailed walkthrough of dataset analysis, tokenization, and model fine-tuning.

• Implement summarization predictions on custom data.

Section 10: Vision Transformer for Image Classification

• Introduction to Vision Transformers (ViT) and their applications.

• Step-by-step guide to using ViT for classifying Indian foods.

• Practical exercises on image preprocessing, model training, and evaluation.

Section 11: Fine-Tuning Large Language Models on Custom Datasets

• Theoretical insights and practical steps for fine-tuning large language models (LLMs).

• Explore various fine-tuning techniques, including PEFT, LORA, and QLORA.

• Hands-on coding sessions to implement custom dataset fine-tuning for LLMs.

Section 12: Specialized Topics in Transformer Fine-Tuning

• Learn about advanced topics such as 8-bit quantization and adapter-based fine-tuning.

• Review and implement state-of-the-art techniques for optimizing Transformer models.

• Practical sessions to generate product descriptions using fine-tuned models.

Section 13: Building Chat and Instruction Models with LLAMA

• Learn about advanced topics such as 4-bit quantization and adapter-based fine-tuning.

• Techniques for fine-tuning the LLAMA base model for chat and instruction-based tasks.

• Practical examples and hands-on guidance to build, train, and deploy chat models.

• Explore the significance of chat format datasets and model configuration for PEFT fine-tuning.

Enroll now in “Mastering Transformer Models and LLM Fine Tuning on Custom Dataset” and gain the skills to harness the power of state-of-the-art NLP models. Whether you’re just starting or looking to enhance your expertise, this course offers valuable knowledge and practical experience to elevate your proficiency in the field of natural language processing.

Unlock the full potential of Transformer models with our comprehensive course. Master fine-tuning techniques for BERT variants, explore knowledge distillation with DistilBERT, MobileBERT, and TinyBERT, and apply advanced models like RoBERTa, ALBERT, XLNet, and Vision Transformers for real-world NLP applications. Dive into practical examples using Hugging Face tools, T5 for summarization, and learn to build custom chat models with LLAMA.

Keywords: Transformer models, fine-tuning BERT, DistilBERT, MobileBERT, TinyBERT, RoBERTa, ALBERT, XLNet, ELECTRA, ConvBERT, DeBERTa, Vision Transformer, T5, BART, Pegasus, GPT-3, DeiT, Swin Transformer, Hugging Face, NLP applications, knowledge distillation, custom chat models, LLAMA.

¿Para quién es este curso?

• NLP practitioners: This course is designed for NLP practitioners who want to learn how to fine-tune pre-trained transformer models to achieve state-of-the-art results on a variety of NLP tasks.
• Researchers: This course is also designed for researchers who are interested in exploring the potential of transformer fine-tuning for new NLP applications.
• Students: This course is suitable for students who have taken an introductory NLP course and want to deepen their understanding of transformer models and their application to real-world NLP problems.
• Developers: This course is beneficial for developers who want to incorporate transformer fine-tuning into their NLP applications.
• Hobbyists: This course is accessible to hobbyists who are interested in learning about transformer fine-tuning and applying it to personal projects.