Definizione
Il Generative Pre-trained Transformer (GPT) è una famiglia di modelli di intelligenza artificiale generativa basati sull’architettura Transformer, progettata per elaborare e generare testo in modo autonomo. Fa parte dei cosiddetti modelli fondativi (Foundation models). I modelli GPT, similmente agli altri foundation models, sono addestrati in due fasi principali:
- Pre-training: il modello viene addestrato su enormi quantità di testo con apprendimento auto-supervisionato, imparando strutture linguistiche, relazioni semantiche e contesto.
- Fine-tuning: il modello viene ottimizzato su compiti specifici (ad esempio, rispondere a domande mediche o generare referti clinici) per migliorarne l’accuratezza e l’adattabilità.
Grazie all’uso dei Transformer e del meccanismo di attenzione, GPT può generare testo coerente, rispondere a domande e completare frasi basandosi sul contesto.
Applicazioni in Medicina
- Supporto alla scrittura di referti medici: GPT può assistere i medici nella generazione automatizzata di referti radiologici, istopatologici e clinici, riducendo il tempo di compilazione.
- Traduzione e interpretazione di testi medici: aiuta a tradurre documentazione clinica tra lingue diverse mantenendo un alto grado di accuratezza.