MOC : [[INTELLIGENCE ARTIFICIELLE]]
Auteur : [[The Batch]]
Source : https://www.deeplearning.ai/the-batch/issue-283/
***
Assembler plusieurs modèles avec une moyenne de poids sur chaque neurone donne des résultats médiocres. En revanche, la méthode localize-and-stitch consiste à fine-tuner chaque modèle individuellement. Puis faire une moyenne des poids communs. Et enfin conserver l'ensemble des poids différents. En gros : optimiser, déconstruire, reconstruire. Cette méthode donne d'excellents résultats même sur des tâches spécialisées.