Il faut mettre optifine dans le dossier mods.
Vérifies qu'optifine est bien compatible avec ta version de forge.
Pour cela il faut aller sur
https://www.optifine.net/downloads, cliquer sur "changelog" de la version voulu. à la fin du changelog il y a écrit " - compatible with Forge #numéro de version".
Par exemple, pour OptiFine 1.8.9_HD_U_L5 :
- compatible with Forge #1902
Il faut donc utiliser forge "11.15.1.1902" (d'autres versions peuvent fonctionner, mais c'est mieux de prendre celle indiquée).