PC5: GENUINE

Développement de systèmes interactifs pour l'interaction humain-jumeau numérique via VR, AR, environnements collaboratifs et technologies de visualisation immersive

PC5: GENUINE

Aperçu

Par sa nature même, un jumeau numérique s’appuie fortement sur la visualisation de données et les interactions utilisateur. En effet, un JN intègre généralement des systèmes interactifs qui permettent aux utilisateurs de visualiser et d’interagir avec les jumeaux physiques et numériques et leurs grandes quantités de données associées.

Ces systèmes interactifs peuvent prendre plusieurs formes, des systèmes immersifs VR entièrement numériques aux systèmes AR hybrides, mais aussi des interfaces graphiques utilisateur 2D et des systèmes impliquant des dispositifs d’entrée physiques. Ils proposent souvent des situations interactives collaboratives asymétriques (AV/VR/2D), ce qui peut également être un défi.

Construire de tels systèmes interactifs à partir de zéro ou sans automatisation prend du temps et peut empêcher la généralisation des JN en tant qu’outils industriels. Premièrement, de nouvelles approches sont nécessaires pour construire la représentation visuelle du JN, qui peut être des modèles 3D (à construire, par exemple, en combinant des modèles CAO, des scans 3D, des images et d’autres sources médias) ou diverses sortes d’informations 2D. Les utilisateurs peuvent ensuite finaliser interactivement certaines parties du JN. Des outils de visualisation supplémentaires peuvent également aider à réduire le biais de la reconstruction automatique.

Ensuite, les JN viennent avec des usages qui soulèvent des questions de recherche concernant, du point de vue IHM, comment aider les utilisateurs à visualiser les données et à interagir avec elles, en particulier lorsque nous utilisons la 3D. La visualisation concerne non seulement le modèle “brut” du jumeau physique mais aussi toutes les données qui peuvent être utilisées pour enrichir le modèle (informations supplémentaires sur comment l’utiliser). Cela soulève de nouveaux défis sur comment afficher de grands ensembles de données d’informations et comment et quand interagir avec eux.

Enfin, tous ces points nécessitent des validations, à différentes échelles. Pour réduire le coût de développement des facettes IHM des JN, le projet doit proposer de nouvelles techniques qui se concentrent sur leur ingénierie.

Le projet se concentre sur la reconstruction 3D, la visualisation de données, l’ingénierie d’interaction, la navigation spatio-temporelle et la validation avec des objectifs clairs : développer des techniques de construction semi-automatiques, créer des métaphores de visualisation, concevoir des approches d’interaction, implémenter des transitions fluides et établir des méthodes d’évaluation d’utilisabilité.

Cas d’Usage Associés

Les cas d’usage associés au PC5 pourraient couvrir plusieurs échelles :

  • Échelle Territoriale : Reconstruire le JN d’une ville ou d’une zone et le peupler d’humains virtuels pour mieux comprendre les limitations actuelles et comment le JN peut l’améliorer
  • Échelle Bâtiment/Usine : Reconstruire le JN d’une chaîne d’assemblage reconfigurable, fournir une augmentation AR pour les ouvriers et une visualisation VR pour les experts qui peuvent aider à distance
  • Échelle Objet Technique : Reconstruire le JN d’un système complexe (voiture, satellite) pour former les gens aux tâches de maintenance en utilisant des interactions VR, puis utiliser des augmentations AR lorsqu’ils sont physiquement devant le jumeau physique

Investigateur et Partenaires du Projet

Investigateurs Principaux :

Thierry Duval

Thierry Duval

Professeur des Universités et Responsable du Département Informatique à IMT Atlantique

Thierry Duval est Professeur des Universités et responsable du Département Informatique D’IMT Atlantique campus de Brest. Il membre de l’équipe INUIT du Lab-STICC. Il a obtenu un doctorat en informatique de Centrale Nantes et de l’Université de Nantes en 1993, et une Habilitation à Diriger des Recherches de l’Université de Rennes 1 en 2012. Ses intérêts de recherche incluent la Réalité Virtuelle, Augmentée, Étendue et Mixte, l’Immersive Analytics, les Environnements Virtuels Collaboratifs, ainsi que l’Ingénierie Logicielle pour les systèmes interactifs. Il est actuellement impliqué dans plusieurs projets collaboratifs (5G Metaverse, Reclassif, eNSEMBLE) où il mène des recherches en AR/VR/XR/MR/CVE principalement appliquées à l’Industrie du Futur où les jumeaux numériques d’usines sont des éléments centraux des projets. Il a publié plus de 100 communications dans des conférences et revues internationales.

Arnaud Blouin

Arnaud Blouin

Maître de Conférences à l'INSA Rennes

Arnaud Blouin est Maître de Conférences habilité à diriger des recherches à l’INSA Rennes, en France, où il mène des travaux au sein du groupe de recherche DiverSE. Il développe une activité de recherche dans le domaine du génie logiciel, en mettant l’accent sur l’ingénierie de l’interaction homme-machine, la maintenance et la validation de logiciels, ainsi que les langages spécifiques à un domaine et leurs environnements de développement. Il codirige actuellement le groupe de travail du CNRS GDR-IHM sur l’ingénierie des systèmes interactifs.

Partenaires Participants :

Institut National de Recherche en Informatique et en Automatique
IMT Atlantique
Université de Toulouse
UGA-INP
Université Bourgogne Europe
Commissariat à l'énergie atomique et aux énergies alternatives
Institut National des Sciences Appliquées de Rennes
CESI Rouen
Institut national de l'information géographique et forestière
École Nationale d'Ingénieurs de Brest
Conservatoire national des arts et métiers

Mise en Œuvre du Projet

Le projet est structuré en trois workpackages de travail complémentaires, abordant la reconstruction et la visualisation des Jumeaux Numériques, leur exploration spatiale et temporelle, et la modélisation des interactions des utilisateurs.

Workpackage1 : Reconstruction et Visualisation du JN

Partenaires : Univ. Bourgogne, CEA LIST, Inria Aviz, Inria Seamless

Objectifs :

  • Développer des techniques automatiques ou semi-automatiques pour la construction 2D/3D des visualisations de jumeaux numériques et de leurs données associées
  • Gérer la reconstruction 3D
  • Gérer la reconstruction 2D
  • Gérer les incertitudes et erreurs possibles dûes à la grande variabilité des données d’entrée

Tâches Clés :

  1. Reconstruction 3D avec segmentation d’objets et extraction de leurs propriétés cinématiques et mécaniques (pour des objets rigides ou articulés)
  2. Estimation et visualisation des biais et incertitudes sur les données reconstruites à base de données multi-sources

Workpackage2 : Exploration spatio-temporelle du JN

Partenaires : Inria Seamless, IMT INUIT, Univ. Toulouse 3 ELIPSE, CEA-Tech Occitanie, CESI LINEACT Rouen, Université d’Évry IBISC

Objectifs :

  • Créer des mécanismes d’exploration pour faciliter la navigation spatiale et temporelle dans le JN
  • Faciliter les transitions entre le JN et le monde physique

Tâches Clés :

  1. Capturer et représenter les variations temporelles d’un jumeau numérique et de ses interactions
  2. Permettre des explorations parallèles de plusieurs clones de JN résultant d’évolutions différentes (dûes à des choix et décisions différent.e.s)
  3. Permettre des transitions AR/VR pour passer facilement du monde physique à son jumeau physique, quitte à proposer des vues “distordues” du JN

Workpackage3 : Les opérateurs et leurs Interactions avec le JN

Partenaires : Univ. Toulouse Capitole ICS, CNAM CRTD, Inria DiverSE, UGA-INP G-SCOP, Bretagne INP Énib, CESI LINEACT Rouen, Inria Seamless

Objectifs :

  • Concevoir des approches pour décrire et générer les interactions utilisateur avec les JN
  • Implémenter l’ingénierie d’interaction incluant les interfaces utilisateur tangibles
  • Permettre la co-ingénierie entre plusieurs parties prenantes

Tâches Clés :

  1. Concevoir des techniques et des dispositifs physiques d’interaction
  2. Concevoir des outils pour modéliser les tâches d’interaction
  3. Concevoir des outils pour instancier les scénarios d’interaction

Challenges in Enabling Industrial End-Users to use AR and VR for 3D Authoring of Digital Twins for the Factory of the Future
PC5

Clémence Cunin, Thierry Duval, Cédric Fleury • 2025

4th IEEE VR 2025 Workshop on 3D Reconstruction, Digital Twinning, and Simulation for Virtual Experiences

Engineering Digital Twins: A Research Roadmap
PC1 PC2 PC3 PC4 PC5

Benoît Combemale, Pascale Vicat-Blanc, Arnaud Blouin, Hind Bril El Haouzi, Jean-Michel Bruel, Julien Deantoni, Thierry Duval, Sébastien Gérard, Jean-Marc Jézéquel • 2025

EDTconf 2025 - 2nd International Conference on Engineering Digital Twins