HomeCorsiFondamenti degli LLM con Python

Scoprire l'architettura Transformer

Capitolo 2 · Scoprire i grandi modelli linguistici (LLM) · lezione 8 su 36
Riservato agli abbonati — ecco l'inizio
Dopo aver scoperto le diverse applicazioni dei grandi modelli linguistici, è importante capirne la progettazione e l'architettura interna. Cos'è un Transformer? I Transformer sono architetture di deep learning progettate per elaborare, comprendere e generare testi simili a quelli prodotti dagli esseri umani. La maggior parte dei grandi modelli linguistici attuali si basa su questa architettura. Il loro principale vantaggio è la capacità di elaborare sequenze di testo lunghe in parallelo, anziché analizzare ogni parola in successione. Esistono tre grandi architetture di Transformer: I modelli a solo encoder. I modelli a solo decoder. I modelli
Il seguito di questa lezione è riservato agli abbonati Crea il tuo account gratuito per provare gli esercizi di esempio, poi passa all'accesso completo quando vuoi.

Crea il tuo account gratuito

Senza carta di credito, in trenta secondi.
Continua con Google
oppure
Iscriviti con un'e-mail
Già registrato? Accedi
Continuando, accetti le condizioni d'uso e la politica sulla privacy. I tuoi dati sono ospitati nell'Unione europea.

Accesso completo DATAGOZ

19 €/ mese — oppure 190 € / anno
  • Tutti i corsi pubblicati e i percorsi professionali
  • Esercizi e quiz corretti automaticamente
  • Allenamento, esame e attestato di frequenza
  • Senza impegno, disdettabile online
Vedi i piani
Questa lezione fa parte del corso

Fondamenti degli LLM con Python

short_training5 capitoli · 36 lezioni

Scopri i fondamenti degli LLM con Python.

  • La piattaforma di formazioneiscritti
  • Introduzione ai grandi modelli linguistici (LLM)iscritti
  • Creare una pipeline di sintesi del testoiscritti
  • Pulire e migliorare le risposte generateiscritti
  • Sfruttare LLM pre-addestratiiscritti
  • Generare testo con un modello linguisticoiscritti
  • Tradurre testo con un LLMiscritti
  • Scoprire l’architettura Transformersei qui
  • Identificare i componenti di un Transformeriscritti
  • Scegliere un'architettura di modello adattaiscritti
  • Preparare un modello per il suo fine-tuningiscritti
  • Comprendere e applicare la tokenizzazione del testoabbonati
  • Visualizzare il processo di tokenizzazioneabbonati
  • Adattare un LLM tramite addestramentoabbonati
  • Definire i parametri di addestramentoabbonati
  • Configurare i parametri del processo di addestramentoabbonati
  • Utilizzare un modello dopo il suo fine-tuningabbonati
  • Scoprire i diversi metodi di fine-tuningabbonati
  • Applicare il transfer learning con il metodo one-shotabbonati
  • Confrontare gli approcci di transfer learningabbonati
  • Scoprire gli strumenti di valutazione degli LLMabbonati
  • Caricare metriche di valutazione con Pythonabbonati
  • Comprendere i principali indicatori di prestazioneiscritti
  • Applicare le metriche per misurare i risultatiiscritti
  • Valutare i compiti linguistici con la perplessità e BLEUiscritti
  • Misurare la perplessità dei modelli linguisticiiscritti
  • Valutare la qualità delle traduzioni con BLEUiscritti
  • Scoprire le metriche ROUGE, METEOR ed Exact Matchiscritti
  • Misurare la qualità dei testi generati con ROUGEiscritti
  • Valutare i risultati con la metrica METEORiscritti
  • Verificare l’accuratezza delle risposte con Exact Matchiscritti
  • Rafforzare la sicurezza degli LLMiscritti
  • Rilevare i contenuti tossici generatiiscritti
  • Valutare la pertinenza e la qualità delle risposteiscritti
  • Fare il bilancio delle competenze acquisiteabbonati
  • Conclusione del corsoiscritti
Lezione successiva

Individuare i componenti di un Transformer

Vedi il programma Crea un account per continuare