Notiziario dell'Ordine dei Medici Chirurghi e Odontoiatri di Brescia – aut. Tribunale di Brescia n. 195/1962

Definizione

Il Generative Pre-trained Transformer (GPT) è una famiglia di modelli di intelligenza artificiale generativa basati sull’architettura Transformer, progettata per elaborare e generare testo in modo autonomo. Fa parte dei cosiddetti modelli fondativi (Foundation models). I modelli GPT, similmente agli altri foundation models, sono addestrati in due fasi principali:

  1. Pre-training: il modello viene addestrato su enormi quantità di testo con apprendimento auto-supervisionato, imparando strutture linguistiche, relazioni semantiche e contesto.
  2. Fine-tuning: il modello viene ottimizzato su compiti specifici (ad esempio, rispondere a domande mediche o generare referti clinici) per migliorarne l’accuratezza e l’adattabilità.

Grazie all’uso dei Transformer e del meccanismo di attenzione, GPT può generare testo coerente, rispondere a domande e completare frasi basandosi sul contesto.

Applicazioni in Medicina