LLM, Prompt Engineering e LangChain – Usare la moderna Intelligenza Artificiale
Descrizione
Il corso propone una introduzione ai concetti di trasformatori e LLM, con una panoramica dello scenario tecnologico attuale (2024) ed un breve riassunto di come si è arrivati al concetto di Trasformatori (GPT, ChatGPT, BERT).
Propone poi una serie di esercizi concreti basati su Python, che utilizzano le AI di OpenAI (famiglia ChatGPT) e Hugging Face (AI Open Source, gratuite ed espandibili), portando a mostrare come realizzare alcune applicazioni pratiche delle AI.
Durante lo sviluppo e la creazione delle applicazioni viene sviluppata la tecnica del Prompting, per guidare la AI nella generazione dei risultati.
Prerequisiti
Conoscenze base di Python.
Contenuti
Giornata 1: Fondamenti di LangChain e Integrazione con Modelli Generativi
Introduzione a LangChain e AI Generativa
- Panoramica della Generative AI
- Ruolo di LangChain nell'integrazione di modelli di linguaggio
Costruire Pipeline AI con LangChain
- Cos'è una pipeline AI e come LangChain la gestisce
- Componenti principali di una pipeline LangChain
Catene di LLM (Large Language Models)
- Creare e gestire catene con modelli di linguaggio di grandi dimensioni
- Come LangChain ottimizza l'interazione con gli LLM
Prompts Avanzati e Personalizzazione dei Modelli
- Tecniche per progettare prompts efficaci
- Personalizzare i modelli di linguaggio per casi d’uso specifici
Utilizzo delle API con LangChain
- Integrazione di API esterne con LangChain
- Creazione di applicazioni AI basate su API generative
Giornata 2: Applicazioni Avanzate e Deployment di Soluzioni AI Generative
Catene Multimodali e Complesse
- Gestire dati strutturati e non strutturati
- Integrazione di testo, immagini e altre forme di input
Gestione della Memoria in LangChain
- Memoria contestuale per migliorare l'interazione AI
- Archiviazione e richiamo delle conversazioni e dei dati
Integrazione di Modelli Esterni e Plug-in
- Utilizzo di modelli preaddestrati e librerie esterne
- Integrazione di strumenti e servizi AI aggiuntivi
Ottimizzazione delle Performance e della Scalabilità
- Migliorare l'efficienza delle catene
- Strategie di scaling per applicazioni LangChain
Deployment e Monitoraggio di Applicazioni AI
- Deploy di applicazioni AI in ambienti di produzione
- Monitoraggio e gestione delle performance
Source
Generative AI with LangChain
By Ben Auffarth