L’IA de la Xiaomi SU7 confond les petits yeux d’un conducteur chinois avec un sommeil

L’incident survenu au volant d’une Xiaomi SU7 Max a mis en lumière certaines lacunes des systèmes de détection d’IA. Cet événement a déclenché une série de questions essentielles sur la technologie qui se cache derrière ces véhicules modernes. Le cas d’un conducteur chinois aux yeux naturellement petits, interprétés comme signes de sommeil par l’IA de son véhicule, soulève des préoccupations concernant la sécurité routière et l’efficacité des systèmes de conduite autonome.

Le cas de M. Li et la Xiaomi SU7 Max

Le mercredi 18 juin 2025, M. Li était à bord de la Xiaomi SU7 Max, une voiture qui promet innovation et sécurité. Malheureusement, son expérience s’est transformée en une série d’alertes incessantes l’avertissant de la nécessité de « se concentrer sur la conduite ». Les répétitions de ces notifications vocales et visuelles ont été immédiatement liées à ses paupières naturelles, qui, selon lui, ont été mal interprétées par l’IA comme étant une manifestation de fatigue. Ce sont, en effet, ces petits yeux qui sont à l’origine des alarmes incessantes.

Pour mieux comprendre, voici un récapitulatif des faits :

Date	Événement	Description
18 juin 2025	Alertes d’IA	M. Li reçoit une vingtaine d’alertes de concentration en raison de la forme de ses yeux.
En cours	Réactions sur les réseaux sociaux	La vidéo humoristique de l’incident devient virale, soulevant des questions sur la technologie.

Cette série d’événements a attisé un vif débat sur la capacité des systèmes d’IA à s’adapter à la diversité humaine. Si la détection des signes de fatigue est une fonctionnalité destinée à améliorer la sécurité, elle doit également être suffisamment intelligente pour comprendre les variations morphologiques des conducteurs.

Détection d’IA et diversité humaine

L’incident de M. Li met en lumière un problème fondamental de l’IA de détection de fatigue. En effet, les algorithmes derrière ces systèmes sont souvent entraînés sur des set de données qui ne prennent pas en compte la diversité des visages. Cela peut entraîner des biais, menaçant ainsi la sécurité des conducteurs. Les points suivants résument les enjeux principaux :

• Sensibilité excessive : Le système peut être trop sensible et émettre des alertes injustifiées.
• Diversité morphologique : Une formation insuffisante peut conduire à une mauvaise interprétation des signaux de somnolence.
• Systèmes de sécurité : La surcharge d’informations peut perturber la concentration du conducteur au lieu de l’améliorer.

Les réactions de la communauté autour du cas de M. Li sont partagées. Alors que certains prennent l’incident à la légère, d’autres mettent en avant des sujets plus sérieux relatifs aux algorithmes et leur fiabilité.

Récents accidents et préoccupations croissantes

Cet incident ne se limite pas à une simple alerte sur la Xiaomi SU7 Max. En mars 2025, un grave accident impliquant cette même voiture a provoqué la mort de trois jeunes femmes. Ce drame a eu lieu lorsque la voiture, en mode autopilotage avec le système NOA (Navigate on Autopilot) activé, a heurté un obstacle à 97 km/h, malgré une tentative de freinage. L’accident a soulevé des questionnements autour de la confiance que les conducteurs accordent à ces systèmes d’assistance. En effet, la technologie censée garantir la sécurité peut avoir des conséquences tragiques si elle échoue à fonctionner correctement.

Les circonstances de l’accident et l’incident de M. Li ont mis en lumière la nécessité d’un évaluation rigoureuse des systèmes d’intelligence artificielle utilisés dans les véhicules modernes. Voici quelques éléments de réflexion :

• Surveillance des algorithmes : Un suivi constant des performances des systèmes est indispensable pour garantir leur fiabilité.
• Éducation des conducteurs : Les conducteurs doivent être formés à l’utilisation de ces systèmes et à la vigilance requise, même en mode autonome.
• Débat sur la technologie : La communauté automobile doit engager un débat ouvert sur les biais potentiels et la nécessité d’améliorer la sécurité.

Les réactions à ces incidents amènent les fabricants d’automobiles à reconsidérer les exigences relatives aux tests de sécurité et à la formation des algorithmes. Chaque vie qui se perd à cause de la technologie souligne l’importance d’une véritable responsabilité dans le développement des systèmes intelligents.

Réactions de la marque Xiaomi

Face aux préoccupations soulevées, Xiaomi a confirmé que le système de sécurité pourrait être trop sensible dans son interprétation des signaux d’attention au volant. Bien que l’entreprise ait admis la nécessité d’améliorer cet aspect, elle a également proposé aux conducteurs la possibilité de désactiver cette alerte, bien que cela soit découragé pour des raisons évidentes de sécurité. Dans ce contexte, la transparence de l’IA et de ses limitations est essentielle pour maintenir la confiance du public dans ces avancées technologiques.

Le rôle de l’intelligence artificielle dans l’automobile moderne

L’intelligence artificielle joue un rôle clé dans l’évolution des véhicules modernes, en offrant des fonctionnalités qui améliorent la sécurité routière et l’expérience de conduite. Néanmoins, ses défis doivent être abordés avec prudence. Voici un aperçu des principaux rôles de l’IA dans l’automobile :

• Assistance à la conduite : Les systèmes d’IA aident les conducteurs en surveillant l’environnement et en prenant des décisions éclairées.
• Prévention des accidents : Grâce à des capteurs et à des algorithmes d’analyse, l’IA peut détecter les risques potentiels et alerter le conducteur.
• Personnalisation de l’expérience : Les algorithmes d’apprentissage permettent à la voiture d’adapter le confort et les réglages selon les préférences du conducteur.

Cependant, pour que ces avantages se concrétisent, il est vital que l’IA soit conçue de manière responsable et inclusive. L’adaptation à la diversité des caractéristiques humaines et des variations individuelles est essentielle pour construire une technologie véritablement sécuritaire et efficace.

Rôle de l’IA	Avantages	Défis
Assistance à la conduite	Améliore la sécurité	Dépend des algorithmes
Prévention des accidents	Réduction des sinistres	Sensibilité excessive
Personnalisation	Confort accru	Complexité des préférences

Conclusion sur l’adaptation des systèmes d’IA aux utilisateurs

L’incident de M. Li a révélé un aspect essentiel des technologies modernes : la nécessité d’une adaptation des systèmes d’intelligence artificielle aux utilisateurs humains. Alors que l’IA cherche à rendre la conduite plus sûre, il est fondamental qu’elle puisse évoluer avec les différentes morphologies et situations. La question de la confiance dans ces technologies demeure ouverte, mais elle doit être fondée sur une réalité où chaque aspect de la sécurité routière est pris en compte.