Phd Exploitation de la Criticité pour la Fiabilisation des IA Physiques H/F - Orange

L'ambition de la Division Innovation est de porter plus loin l'innovation d'Orange et de renforcer son leadership technologique, en mobilisant nos capacités de recherche pour nourrir une innovation responsable au service de l'humain, éclairer les choix stratégiques du Groupe à long terme et influencer l'écosystème digital mondial.
Nous formons les expertes et les experts des technologies d'aujourd'hui et de demain, et veillons à une amélioration continue de la performance de nos services et de notre efficacité. La division Innovation rassemble, dans le monde, 6000 salariés dédiés à la recherche et l'innovation dont 740 chercheurs. Porteurs d'une vision globale avec une grande diversité de profils (chercheurs, ingénieurs, designers, développeurs, data scientists, sociologues, graphistes, marketeurs, experts en cybersécurité...), les femmes et les hommes de Innovation sont à l'écoute et au service des pays, des régions et des business units pour faire d'Orange un opérateur multiservices de confiance.

« Au sein de l'Innovation, vous intégrerez une équipe pluridisciplinaire dédiée à la recherche et à l'exploration, intervenant principalement sur les enjeux liés à l'environnement de travail de demain, à la performance des entreprises et à l'optimisation de leurs processus. Vous évoluerez au sein d'un écosystème de recherche en lien étroit avec les unités opérationnelles, avec pour ambition de concevoir des solutions d'orchestration, d'intégration et de simplification des serviLes systèmes agentiques, basés sur les LLM, visent à automatiser la prise de décision et?d'action dans le monde?réel?grâce à l'IA. L'émergence de protocoles standardisés accélère l'intégration de ces outils. Toutefois, les IA génératives restent sujettes à l'erreur, ce qui limite leur adoption industrielle [1]. Pour Orange, fiabiliser ces systèmes est stratégique : cela renforce la confiance, différencie l'offre et ouvre de nouveaux marchés.?

La criticité correspond au niveau d'importance d'un risque, d'un incident, d'un équipement ou d'une situation, en fonction de ses conséquences et de sa probabilité d'occurrence.
Elle doit permettre de guider les choix des systèmes agentiques qui interagissent avec le monde réel, afin de limiter les erreurs et d'anticiper les conséquences (sécurité, environnement, coût) et d'adapter dynamiquement le comportement de l'agent au niveau de risque associé à son contexte d'action. La problématique est de réussir à la modéliser et l'exploiter.
?
Les travaux viseront en particulier à :
proposer une définition de la criticité dans le contexte de l'IA agentique
développer des méthodes permettant d'évaluer dynamiquement cette criticité, par exemple à l'aide de simulations, d'apprentissage par renforcement ou de modèles hybrides
intégrer cette mesure dans l'architecture des agents, que ce soit au niveau du guidage de la planification, de la spécialisation de LLM, de la sélection d'outils, ou de la conception de planificateurs dédiés
valider expérimentalement l'approche sur des cas d'usage industriels, tels que l'orchestration ou des environnements de type workspace
produire des résultats valorisables sous forme de publications scientifiques ou de brevets
En s'appuyant sur la bibliographie existante, les travaux s'articuleront en trois étapes : la définition d'un cadre théorique définissant la criticité pour les systèmes agentiques, son évaluation expérimentale sur des données réelles et des cas d'usage représentatifs, puis la généralisation des résultats en recommandations et méthodes réutilisables dans d'autres contextes opérationnels.
[1] F. Lei et al., "MCPVerse: An Expansive, Real-World Benchmark for Agentic Tool Use, 2025.
[2] Y. Wu, et al., "?SELP: Generating Safe and Efficient Task Plans for Robot Agents with Large Language Models?", ICRA 2025.
[3] J. Fan, et al., "?SafeGen-LLM: Enhancing Safety Generalization in Task Planning for Robotic Systems?", 2026.

Le ou la candidate devra disposer de solides connaissances en intelligence artificielle et en machine learning, ainsi que de bonnes compétences en algorithmique et en programmation Python. Une appétence pour la recherche, de la curiosité scientifique, de la rigueur et une capacité à travailler de manière autonome seront particulièrement appréciées.
Le poste s'adresse à un ou une candidate titulaire d'un Master 2 Recherche ou d'un diplôme d'ingénieur dans le domaine de l'IA, du machine learning ou d'un domaine proche.
Une première expérience en recherche ou R&D (par exemple sous la forme d'un stage ou d'une participation à la rédaction d'un article scientifique) constituera un atout. Une expérience préalable sur les systèmes agentiques sera également appréciée.