Des chercheurs testent des dispositifs conçus par l’IA pour aider des modèles plus faibles

Un nouvel article examine si un modèle « bâtisseur » plus puissant peut améliorer un modèle plus faible au moment du test en construisant des dispositifs d’inférence, sans modifier les paramètres du modèle plus faible. Sur quatre benchmarks de théorie de l’esprit, les bâtisseurs ont utilisé 5 % des données comme jeu de validation pour affiner ces dispositifs, puis les ont évalués sur l’ensemble du jeu de test. L’approche a presque doublé la performance moyenne des modèles cibles, de 0,49 à 0,91, les gains étant principalement attribués à du code déterministe, à un routage propre à chaque benchmark et à un formatage strict des réponses.