L’utilisation du machine Learning et plus spécifiquement des IA génératives a fait bondir la consommation énergétique du numérique, de quelles manières pouvons-nous réduire cet impact ?
Le Why du stage:
L'objectif de ce stage est d'évaluer les impacts environnementaux et économiques de différents matériels pour le déploiement de modèles de ML (hardware, cloud, etc)
Les missions du stage:
Le déroulement du stage:
Montée en compétence:
Comment évaluer l’impact environnemental d’un modèle (proposer une méthodologie de mesure en équivalent carbone d'un entraînement / inférence de modèle) ?
Recherche bibliographique, créer ou se baser sur un package existant.
Découverte et Cadrage:
Choisir un modèle de référence. L’idéal serait un modèle de type LLM car les plus consommateurs et seront très utilisés.
Expérimentations:
Comment optimiser l’inférence d’un tel modèle.
Réalisations:
- Optimisation software (rust vs python par ex)
- Optimisation hardware (cpu, gpu, tpu). - (optionnel)
Se procurer une puce type ‘Mythic’ (processeur analogique) et comparer aux méthodes précédentes.
Restitution à OCTO:
L'optimisation software devra aboutir à une contribution pour OCTO, soit dans la contribution à un projet open source (package python d’évaluation carbone type codeCarbon) ou par la publication d’un package open source maintenu par OCTO. Le livrable final devra être un outil automatisable et réutilisable pour les prochains projets, générable et déployable sur les architectures matérielles (CI/CD).
Partage aux Octos pendant et à la fin du stage, et rédaction d’un article.
Vous préparez un BAC+5 et vous êtes à la recherche d'un stage de fin d'études
Vous avez une appétence pour le machine learning et le hardware et êtes sensible aux enjeux du numérique responsable
Vous aimez rechercher la performance et l'aspect hardware du numérique
Vous êtes curieux/se et sensible aux enjeux responsables du numérique
Premier cabinet d’architectes IT fondé en 1998, pionnier du delivery agile et véritable concentrateur de talents. Nous incarnons les nouvelles façons de faire du conseil et du Delivery. Digital Doers & Thinkers est notre marque de fabrique.
Nous privilégions aujourd'hui notre positionnement Agile & DeepTech et sommes engagés quant à notre responsabilité sociale et environnementale.
OCTO Rewards
Sans oublier les fondamentaux :
OCTO priority
Collaborer avec des personnes talentueuses issues de différents horizons. Aussi, ce que nous cherchons avant tout, ce sont des personnalités qui enrichiront OCTO.
En respectant l'égalité des chances, les candidatures sont examinées sans aucun préjugé quant à l'âge, l'ethnie, l'identité de genre, l’expression de genre, le handicap, la nationalité, la religion ou l'orientation sexuelle.
Nous sommes également signataire de la Charte de l’Autre Cercle concernant l’inclusion des personnes LGBTQIA+ en entreprise, depuis juin 2022.
