L'exercice n'est pas sympa car il ne te donne aucune indication sur la manière de procéder alors que ce type d'intégrale est très particulier.
En fait il faut faire une double intégration par partie qui te donne une équation dont l'inconnue est I qu'il faudra résoudre. (rien que ça !)
Bon ce n'est pas si compliqué, d'ailleurs tu as bien commencé. Partant de l'intégrale de excosx tu refais une intégration par partie de la même manière que tu l'as faite la première fois. Tu retombes alors sur l'intégrale de départ I ! Il te suffit alors de résoudre l'équation I=f(I) que tu viens d'obtenir.
