Definizione
Il Fine-Tuning è una tecnica che consiste nel riaddestrare parzialmente o completamente un modello pre-addestrato su un nuovo dataset, adattandolo a un compito specifico. Questo processo permette di specializzare un modello già addestrato su un dominio generale, migliorandone le prestazioni in un contesto più specifico.
A grandi linee, gli step per una procedura di fine-tuning sono i seguenti:
- Il modello pre-addestrato viene caricato con i pesi appresi su un dataset di grandi dimensioni.
- Gli strati finali (o, in alcuni casi, l’intera rete) vengono riaddestrati su un nuovo dataset più piccolo e specifico.
- Durante il training, si utilizza un tasso di apprendimento ridotto per evitare di perdere le conoscenze già apprese.
Applicazioni in medicina
Adattamento di un modello di visione artificiale (pre-addestrato su immagini generiche) per la diagnosi di malattie da immagini mediche (es. radiografie o TAC).
Fine-Tuning di un modello NLP (come GPT) su referti medici per migliorare l’analisi automatica del linguaggio clinico.