Salut,
Les composants qui permettent un gain assez conséquent en terme de perfs sont, dans un ordre aléatoire, l'SSD, le processeur et la carte graphique.
Le choix de la carte mère se fait par rapport aux composants qu'on va installer dessus. Par exemple, on choisira une carte mère avec des vrm de haute qualité si on veut mettre un processeur très performant. Avec des vrm de haute qualité, leurs températures ne sont pas trop élevées et le système peut aller au max de ses perfs, sinon, pour éviter la surchauffe, un composant throttle, c'est-à-dire qu'il fonctionne moins vite : imagine que tu roules à 100 km/h et dès que tu dépasses cette vitesse, tu lâches l'accélérateur pour ralentir à 80 et reprendre l'accélération, c'est ça le throttling.
Je n'ai pas trouvé comment est le boîtier du PC HP et comment il est ventilé, ainsi que les composants. Mais, il est probable que ce ne soit pas bien ventilé. Tu pourrais prendre un boîtier PC compatible avec ta carte mère qui devrait être au format microATX. De plus, si dans ton boîtier actuel tu ne peux mettre que des cartes graphiques low-profile, avec un boîtier plus grand, tu pourras mettre n'importe quelle carte graphique compatible avec ta carte mère.
Pour la bride, rien qu'en prenant un meilleur boîtier, tu gagneras en refroidissement et en espacement pour améliorer le matériel. Le gain à changer de carte mère pour ne pas brider les nouvelles RAM est minime et en plus, comme c'est un PC de marque, ta licence Windows 10 est de type OEM et il est illégal de la transférer.
En conclusion, tu dis posséder un SSD, donc, pas d'amélioration en vue de ce côté. Ton processeur était le haut de gamme de cette génération, même conclusion que pour l'SSD. Il reste donc la carte graphique. Problème, et j'en ai pour preuve hier mes "analyses" sur ebay, les GTX 1650 Super et plus se négocient à au moins 400 € avec pas mal de prix à 700, 800 € et quelques unes à 1000 voire 2000 €, et d'occasion !
Donc, de tête, mieux qu'une GTX 960, je dirais une GTX 1650 Super minimum voire une 1070 mais c'est aux alentours de 650, 700 € d'occasion sur ebay.