La confiance, c'est bien, mais le contrôle de l'IA, c'est mieux
L'IA des graphes hybrides optimise l'utilisation des matériaux tout au long de la chaîne de valeur et des outils d'évaluation vérifient les faiblesses potentielles des systèmes d'IA.
Quels sont les pires scénarios si certains matériaux ne sont pas disponibles ? Quels sont les substituts appropriés ? Pouvons-nous optimiser l'utilisation des matériaux en réduisant au maximum les déchets ? Et comment atteindre nos objectifs en matière de développement durable ? "C'est là qu'intervient notre graphique des matériaux. Notre IA apprend non seulement à partir de textes ou d'images sur les matériaux, les propriétés ou l'utilisation prévue, mais aussi à partir de connaissances et de savoir-faire pratiques pour identifier les risques liés aux matériaux pour la production ou les services, pour gérer les chaînes d'approvisionnement ou les besoins en pièces et pour optimiser l'utilisation et l'achat des matériaux", explique Hendrik Stange, chef de l'équipe Auto Intelligence au Fraunhofer IAIS à Sankt Augustin. Par exemple, l'IA surveille la date de péremption éventuelle d'un matériau afin qu'il soit utilisé avant la date d'échéance. Ou encore, elle prévoit en permanence les quantités nécessaires pour économiser des moyens ou produire des matériaux de manière rentable.
Un graphe de matériaux est comme un réseau routier dans la gestion des matériaux, à travers lequel l'intelligence artificielle vous guide comme une sorte de système de navigation. L'objectif est d'optimiser et de pérenniser la consommation de matériaux et de réduire les coûts.
Fraunhofer IAIS / SBN Data Technologies
L'outil ScrutinAI est utilisé pour détecter les erreurs dans les modèles d'IA ou les données de formation et pour en analyser les causes. Dans cet exemple, un modèle d'IA pour la détection d'anomalies et de maladies dans les images de tomodensitométrie est étudié.
Fraunhofer IAIS
Mais comment fonctionne exactement un graphe de matériaux ? "Pensez-y comme un réseau routier de votre gestion des matériaux, à travers lequel l'intelligence artificielle nous guide comme une sorte de système de navigation pour atteindre vos destinations. Si les experts souhaitent emprunter l'itinéraire le plus écologique du début à la fin, l'intelligence artificielle recommande un itinéraire qui permet d'économiser du dioxyde de carbone, par exemple en évitant les déplacements pour livrer ou utiliser les matériaux. Si les experts recherchent un effet immédiat, l'IA graphique suggérera la meilleure façon d'obtenir cet effet sous la forme d'un mélange optimisé de matériaux", explique M. Stange.
À la foire de Hanovre, les visiteurs du stand commun du Fraunhofer pourront découvrir un graphe de matériaux en prenant l'exemple d'un fournisseur de soins de plaies. "Notre approche de la solution place l'IA industrielle à un niveau totalement nouveau. De la chaîne d'approvisionnement en amont à l'application, l'ensemble de l'utilisation des matériaux peut être optimisé pour améliorer la rentabilité et, dans le meilleur des cas, raccourcir la cicatrisation des plaies. Dans le même temps, les quantités de matériaux qui devraient être nécessaires au cours d'une thérapie deviennent transparentes afin de maintenir les coûts d'excédent et de transport à un niveau aussi bas que possible", explique l'expert.
Les graphiques de matériaux peuvent être adaptés à différents secteurs : L'IA hybride associe l'intelligence artificielle à l'intelligence humaine des experts pour former des applications d'IA, même avec de petites données. L'objectif principal est d'éviter le gaspillage, d'optimiser la consommation de matériaux, de réduire les coûts et d'anticiper les goulets d'étranglement en matière d'approvisionnement. Hendrik Stange : "Notre IA est un sparring-partner pour les professionnels afin de les aider à prendre plus rapidement des décisions éclairées, soutenues par des recommandations approfondies. Ce n'est pas l'IA qui décide s'il faut prendre la route A ou B. Cela reste du ressort des humains."
Outils d'évaluation pour une utilisation sûre et fiable de l'IA
Maximilian Poretschkin est représenté sur le stand commun du Fraunhofer avec un objectif différent. Le responsable de l'IA sûre et de la certification de l'IA au Fraunhofer IAIS présentera divers outils et méthodes d'évaluation qui examinent et évaluent les intelligences artificielles en termes de fiabilité, d'équité, de robustesse et de transparence. Les critères de test sont basés sur le catalogue d'évaluation de l'IA, une ligne directrice pour la conception d'une intelligence artificielle digne de confiance, qui a été publiée par les experts du Fraunhofer IAIS en 2021. Depuis janvier 2023, il est également disponible en anglais.
Mais pourquoi est-il si important de pouvoir tester systématiquement la qualité et la validité des applications d'IA ? "Les systèmes d'IA doivent fournir des résultats absolument fiables, en particulier dans les domaines d'application sensibles, tels que les diagnostics médicaux, la gestion des ressources humaines, la finance, les applications utilisées par les forces de l'ordre ou les domaines critiques en matière de sécurité. L'AI Act - le projet européen de réglementation des systèmes d'IA - classe nombre de ces exemples dans la catégorie des risques élevés et exige même une évaluation obligatoire dans ces cas", explique M. Poretschkin. "Les entreprises qui développent ou utilisent des applications d'IA à haut risque doivent de toute urgence réfléchir à la manière dont elles peuvent garantir la qualité de leurs applications."
La difficulté réside dans le fait que l'IA fonctionne différemment des logiciels classiques. Ces derniers sont programmés sur la base de règles, ce qui permet de tester systématiquement leur fonctionnalité, c'est-à-dire de vérifier si les réponses ou les résultats sont corrects par rapport aux données d'entrée. Pour les applications d'IA, ces procédures ne sont généralement pas suffisantes, surtout si elles sont basées sur des réseaux neuronaux.
L'outil "ScrutinAI" développé par le Fraunhofer IAIS permet au personnel chargé des tests et aux évaluateurs de rechercher systématiquement les vulnérabilités des réseaux neuronaux et d'évaluer ainsi la qualité des applications d'IA. Un exemple concret est celui d'une application d'IA qui détecte les anomalies et les maladies dans les images de tomodensitométrie. La question qui se pose ici est de savoir si tous les types d'anomalies sont détectés de la même manière ou si certains sont mieux détectés que d'autres. Cette analyse aide le personnel chargé des tests à déterminer si une application d'IA est adaptée au contexte d'utilisation prévu. Dans le même temps, les développeurs peuvent également bénéficier de la possibilité d'identifier les insuffisances de leurs systèmes d'IA à un stade précoce et de prendre des mesures d'amélioration appropriées, telles que l'enrichissement des données d'entraînement avec des exemples spécifiques.
Le cadre logiciel modulaire offre une aide à la sélection et à l'évaluation des systèmes d'IA
D'autres outils et procédures d'évaluation sont intégrés dans un cadre logiciel et peuvent être combinés entre eux de manière modulaire. Par exemple, l'outil dit de "benchmarking" peut être utilisé pour examiner quel modèle d'IA est le mieux adapté à une tâche spécifique. "Il existe une multitude de nouvelles applications d'IA que les entreprises peuvent intégrer dans leurs processus. L'analyse comparative les aide à faire le bon choix", explique le chercheur. La méthode "uncertAInty" peut également être utilisée pour évaluer le degré de confiance d'un réseau neuronal dans le résultat qu'il produit. Il se peut qu'un réseau neuronal soit très incertain parce qu'il a reçu des données d'entrée qu'il ne connaît pas encore grâce aux données d'entraînement précédentes. "Par exemple, un véhicule autonome doit être capable de détecter de manière fiable des objets et des personnes dans son environnement afin de pouvoir y réagir de manière appropriée. L'évaluation de l'incertitude permet de mesurer le degré de confiance que l'on peut accorder à la décision du système, de déterminer si certains mécanismes de secours doivent être activés ou si un humain doit prendre la décision finale", explique M. Poretschkin.
Du 17 au 21 avril, les visiteurs de la Hannover Messe 2023 pourront découvrir en direct divers outils et processus d'évaluation grâce aux experts du Fraunhofer IAIS sur le stand commun Fraunhofer A12 dans le hall 16. Hendrik Stange dirige l'équipe Auto Intelligence, qui se concentre sur l'IA automatisée dans la gestion des matériaux : Cette IA s'appuie sur des graphes de matériaux innovants pour sensibiliser les entreprises aux ressources et leur donner les moyens d'être plus avant-gardistes sur le plan économique et plus durables sur le plan écologique. Maximilian Poretschkin, responsable de l'IA sûre et de la certification de l'IA, utilise divers outils d'évaluation pour montrer comment évaluer la qualité des applications de l'IA et explique pourquoi cela devient de plus en plus important.
Note: Cet article a été traduit à l'aide d'un système informatique sans intervention humaine. LUMITOS propose ces traductions automatiques pour présenter un plus large éventail d'actualités. Comme cet article a été traduit avec traduction automatique, il est possible qu'il contienne des erreurs de vocabulaire, de syntaxe ou de grammaire. L'article original dans Anglais peut être trouvé ici.
Autres actualités du département science
Recevez les dernières actualités du secteur des sciences de la vie
Ne manquez plus aucune actualité : notre newsletter consacrée aux biotechnologies, au secteur pharmaceutique et aux sciences de la vie vous informe tous les mardis et jeudis. Les dernières nouvelles du secteur, les produits phares et les innovations - de manière compacte et compréhensible dans votre boîte de réception. Recherché par nos soins, pour que vous n'ayez pas à le faire.
