Stagiaire compilation IA pour LLM
REF : LLM
Montbonnot / STAGE
Kalray recherche
Un(e) stagiaire en compilation IA pour LLM
REF : LLM
SUJET
Rattaché(e) à notre département de développement logiciel, au sein de l’équipe « Accélération d’inférence de LLM » (Large Language Model), vous participerez au développement de briques applicatives permettant des optimisations conjointes sur le moteur d’inférence (par exemple : vLLM, oLLama, kServe, Triton).
Vous travaillerez sur un système complexe, multi-device, innovant et compétitif, basé sur l’architecture RISC-V et développé par Openchip.
Cette mission constitue une opportunité unique de découvrir et d’enrichir vos connaissances dans les domaines des accélérateurs de calcul, de l’algorithmique dédiée à l’analyse du langage ou de l’image (Transformers, NLP, LLM, CNN), ainsi que des mécanismes de communication inter-device (CCL).
A ce titre, vos missions principales sont les suivantes :
- Comprendre l’écosystème logiciel dédié aux moteurs d’inférence (vLLM par exemple)
- Contribuer à l’identification et au portage de fonctionnalités clés sur un accélérateur basé sur RISC-V.
- Développer et contribuer à l’analyse des performances (tooling, benchmarking) pour aider les équipes de développement à optimiser leurs solutions.
Ce stage vous permettra d’acquérir une expertise pointue dans l’optimisation des performances logicielles pour l’IA
COMPETENCES REQUISES ET A DEVELOPPER
- Python : niveau intermédiaire.
- C++ et/ou C : niveau débutant à intermédiaire.
- OpenCL et/ou CUDA : notions appréciées.
- Curieux(se), autonome et doté(e) d’un esprit critique
- Notions appréciées en calculs parallèles
PROFIL
- Étudiant(e) en 3e année d’école d’ingénieurs ou master informatique. Stage de 6 mois.
- Fort intérêt pour le secteur de l’intelligence artificielle, ses applications et l’optimisation logicielle.
- Bonnes à solides connaissances en programmation orientée objet et algorithmie
CONTRAT
- Type de contrat : Convention de stage
- Gratification : Selon niveau d’étude
- Convention collective : Métallurgie
- Avantages : Travail hybride, titres restaurant, teambuilding et autre activités telles que laser game, escape game, voile, ski, karting, karaoké et bien plus encore !
- Lieu : Montbonnot (38)
KALRAY : UN ACTEUR EUROPEEN DE REFERENCE EN MATIERE DE PROCESSEURS INTELLIGENTS
Essaimage du CEA fondé en 2008, Kalray est un acteur européen de référence dans les technologies matérielles et logicielles pour le traitement intensif des données, du Cloud à l’Edge.
Grâce à leur architecture « manycore » brevetée, les processeurs intelligents MPPA® de Kalray (dits DPU ou xPU) sont capables de gérer en parallèle – et sans goulets d’étranglement – de multiples flux de données, permettant ainsi aux applications qui exploitent des quantités massives de données d’être plus intelligentes, plus efficaces et économes en énergie, en complément des approches traditionnelles (CPU et GPU).
L’offre de Kalray comprend des solutions d’accélération matérielle et logicielle, ainsi qu’une offre de co-développement – ou de design à la demande – de processeurs et de solutions d’accélération optimisées pour des usages spécifiques.
Travailler chez Kalray, c’est rejoindre une entreprise où technologie, expertise et passion se conjuguent pour créer des infrastructures et des applications de demain dans des secteurs à forte croissance comme les data centers, les gigafactories d’IA, les réseaux 5G, l’industrie 4.0, ou encore le spatial et la défense.
OPENCHIP : UN PARTENAIRE EUROPEEN AU CŒUR DES ENJEUX DE SOUVERAINETE INDUSTRIELLE
Créée en 2021, Openchip est une entreprise pionnière dans le développement de Systèmes sur Puce (SoC) modulaires et économes en énergie, basés sur RISC-V. Openchip conçoit des solutions sécurisées, évolutives et durables pour l’intelligence artificielle, le calcul haute performance et l’edge computing, avec un impact direct sur des domaines à forte valeur sociétale comme la génomique, la science du climat ou l’aérospatiale.
Reconnue par la Commission européenne pour ses projets stratégiques (PIIEC, Next Generation EU, Horizon Europe) et soutenue par des acteurs majeurs comme GTD (un important groupe d’ingénierie européen spécialisé dans les logiciels et systèmes critiques) et le Barcelona Supercomputing Center, Openchip allie puissance industrielle et excellence scientifique.
UNE COOPERATION STRATEGIQUE AU CŒUR DES ENJEUX DE SOUVERAINETE INDUSTRIELLE
La collaboration entre Kalray et Openchip représente un partenariat unique en Europe autour du développement de solutions européennes souveraines en matière de traitement intelligent des données, fondée sur des technologies ouvertes, efficaces et compétitives à l’échelle mondiale.
Ensemble, elles développent une version du DPU de Kalray visant tout particulièrement les prochains systèmes de calcul à haute performance et les gigafactories d’IA.
Grâce à la collaboration entre Kalray et Openchip, les talents ont l’opportunité de travailler sur un projet d’envergure internationale, de contribuer à bâtir les technologies de demain et d’évoluer dans un environnement stimulant où recherche et industrie avancent main dans la main.
