Entraîner une voiture autonome c'est un peu comme apprendre à nager... sauf que si vous vous plantez, c'est pas juste votre ego d’informaticien qui coule mais ce sont des choses graves qui peuvent arriver. Ça tombe bien puisque Waymo vient de dévoiler cette semaine un truc plutôt pas con pour aider à régler ce problème.

Ça s'appelle le World Model et c'est un modèle génératif capable de fabriquer des simulations ultra-réalistes de conduite. Comme ça, au lieu d'attendre qu'un éléphant traverse une route de Phoenix en Arizona pour savoir comment réagir (oui, c'est un de leurs exemples !), l'IA génère elle-même ces scénarios complètement dingues dans son propre monde virtuel.

Techniquement, ça tourne sur Genie 3 de DeepMind, mais en version adaptée pour le domaine automobile. Ça analyse des flux caméra ET lidar en haute fidélité, synchronisés entre eux mais on peut aussi décrire en langage naturel ce qu'on veut simuler.

Genre "il pleut, c'est la nuit, et y'a un camion en travers de la route" et hop, le modèle génère ça ! Bon, faut quand même que la description soit cohérente, hein, n'allez pas lui demander un sous-marin au milieu de l'autoroute A6 (quoique...).

Y'a aussi moyen de modifier la scène à la main (rajouter des piétons, changer le tracé) ou de contrôler directement les actions de conduite avec 3 modes de pilotage, du plus intuitif au plus technique. Le système est aussi capable de convertir de simples vidéos dashcam en simulations multi-capteurs complètes. C'est génial parce que vous prenez une vidéo filmée depuis le pare-brise d'une Dacia "tout équipée de rien", et le modèle la transforme en scénario de simulation avec données lidar et tout le toutim.

Le hic, c'est qu'on sait pas encore à quel point ça scale sur des vidéos de mauvaise qualité ou avec des conditions d'éclairage pourries. Et les méthodes classiques type 3D Gaussian Splatting pètent visuellement dès que le trajet simulé s'éloigne trop de la trajectoire originale.

Mais alors pourquoi c'est génial ? Et bien parce qu'il y a des trucs qu'on teste PAS en conditions réelles. Les tornades, les conducteurs bourrés qui déboulent à contresens, les incendies de forêt...etc.. Hé bien maintenant grâce à ce World Model, ça peut être simulé à la demande, et même rejouable en accéléré x4.

Et surtout, ce modèle permet de rejouer une scène en modifiant une seule variable, histoire de voir ce qui se serait passé autrement (les fameuses "simulations contrefactuelles"). Par contre, pour le rendu lidar 3D, faut un post-entraînement spécialisé en plus du modèle de base donc c'est pas juste un bouton magique.

Voilà c'est une super approche je trouve parce qu'on va pas envoyer des voitures dans des tornades juste pour collecter de la data. Même si ça reste quand même de la simulation... Donc faut garder un œil critique une fois que ces scénarios virtuels sont transposés à de la physique du monde réel.

Mais ceci étant dit, ces milliards de kilomètres simulés peuvent venir maintenant fortement renforcer les données terrain d'une manière que les tests physiques seuls ne pourront JAMAIS égaler.

Bref, si vous voulez creuser le sujet ou juste voir les démos (l'éléphant sur la route, ça vaut le détour ^^), c'est par ici.

Un panneau stop, on se dit que c'est juste un bout de métal avec un peu de peinture rouge. On s'arrête, on repart, et puis voilà. Sauf que pour une IA qui pilote un gros engin à 4 roues, ce simple panneau peut devenir un véritable vecteur de tromperie visuelle !

Car oui je vous avais déjà parlé d'attaques de ce type par le passé, mais là, ça va encore plus loin. En effet, je suis tombé sur une étude des chercheurs de l'UCSC (University of California, Santa Cruz) qui en gros, ont trouvé un moyen d'induire en erreur des voitures autonomes et des drones en collant simplement des instructions sur des panneaux de signalisation customisés. Ils ont baptisé cette classe d'attaque CHAI pour Command Hijacking Against Embodied AI .

C'est un peu le même principe que l'injection de prompts dans un ChatGPT mais appliqué au monde physique et à la perception. Les chercheurs ont utilisé de l'IA pour "optimiser" des commandes comme "proceed" (avance) ou "turn left" (tourne à gauche) et les ont intégrées sur des panneaux en adaptant la police, la couleur ou même l'emplacement du texte pour que l'IA embarquée dans un robot ou une voiture, interprète ça comme un ordre de navigation.

Et là, ça peut faire mal... Car un prototype de véhicule autonome qui déciderait de foncer alors qu'il y a des gens sur un passage piétons juste parce qu'un "plaisantin" a collé un sticker malin sur le panneau d'en face, ça craint un max. Ce serait comme joué à "coucou caché" sur l'autoroute avec un chauffeur de car ^^.

Et nos chercheurs ont testé ça sur le modèle fermé GPT-4o d'OpenAI et le modèle open source InternVL-Chat-V1.5 et les résultats sont sans appel. Sur des simulations de conduite avec le dataset DriveLM, ils ont atteint 81,8% de réussite avec GPT-4o pour faire obéir l'IA à une commande injectée. Même en conditions réelles avec une petite voiture télécommandée équipée d'une caméra dans les couloirs de l'université, le taux de succès grimpe à 92,5% quand le panneau est au sol.

Et les drones ne sont pas épargnés non plus ! En utilisant CloudTrack pour le suivi d'objets, les chercheurs ont réussi à provoquer jusqu'à 95,5% d'erreurs d'identification en manipulant les panneaux sur des cibles.

Pire, ils ont trompé des drones cherchant une zone d'atterrissage sécurisée en plaçant des panneaux "Safe to land" sur des toits remplis de débris. Résultat, 68,1% de succès pour faire croire au drone que la zone était praticable. (genre, atterris là mon petit, c'est tout plat... et bam, le crash)

Ce genre d'attaque me rappelle Charlie Miller et Chris Valasek qui hackaient des Jeep à distance via le réseau mobile. Sauf que là c'est vraiment une attaque physique sur la couche de perception de ces systèmes. Plus besoin de trouver une faille logicielle complexe en fait... Il suffit d'une imprimante, d'un peu de colle et d'un bon emplacement. On est en plein dans ce que je racontais sur LatentBreak et l'hypnose des IA , sauf que là, le patient peut peser plusieurs tonnes.

Attention toutefois, ça ne marche que si l'IA utilise un LVLM (Large Vision Language Model) pour le contrôle direct, à moins que le système ne possède une redondance de capteurs (LiDAR, radar) qui contredirait l'image.

Alors oui, on peut se dire que c'est encore de la recherche et que nos voitures actuelles sont plus complexes. Mais ça montre surtout une fragilité fondamentale de l'IA quand elle doit interpréter le monde réel sans garde-fous stricts. Ces modèles sont tellement entraînés à suivre des instructions qu'ils finissent quasiment toujours par donner la priorité à un texte sur un panneau plutôt qu'aux règles de sécurité de base.

Bref, méfiez-vous des panneaux un peu trop "custom" lors de votre prochaine balade en voiture autonome... et espérons que les constructeurs intégreront vite des systèmes de vérification de cohérence avant que ces stickers ne deviennent la nouvelle arme fatale des hackers de bitume !

Source

Semaine de merde hein ? On nous promettait le futur, les mains dans les poches et le regard dans le vide, et là, patatras ! Mercedes vient de décider de mettre un gros coup de frein sur son fameux "Drive Pilot" de niveau 3.

Pour ceux qui ne suivent pas tout ce bazar autour de la conduite autonome, sachez que le Niveau 3 (ou "conduite automatisée conditionnelle" pour les intimes), c’était la promesse de pouvoir lâcher le volant et SURTOUT de ne plus regarder la route quand on est coincé dans les bouchons sur l’autoroute. En Allemagne, Mercedes avait même réussi à faire homologuer le machin jusqu'à 95 km/h, ce qui en faisait le système certifié le plus rapide du monde.

C'est vrai que contrairement au Niveau 2 où vous deviez rester au taquet, le Niveau 3 permet théoriquement de détourner les yeux de la route, même si vous deviez quand même rester capable de reprendre les commandes en quelques secondes si la voiture panique.

C’était prévisible et j’ai envie de dire tant mieux ! Encore une saloperie en moins dans la liste des angoisses du technophile moderne qui hésite à passer à l'électrique par peur de voir sa batterie se transformer en brique de lithium inerte au bout de trois ans.

Perso, je ne vois aucune raison de flipper de passer à l'électrique, mais maintenant, après avoir lu les résultats de cette étude massive menée par Geotab sur pas moins de 22 700 véhicules électriques, je me dis que mon choix était le bon.

Alors bon, pour ceux qui débarquent, sachez que le grand épouvantail de la voiture à piles, c'est la dégradation. Bouuuh ! On imagine tous que ça va faire comme nos vieux smartphones qui s'éteignent à 20% dès qu'il fait un peu frais. Sauf que non, le monde de l'automobile, c'est un autre délire au niveau du matos et de la gestion électronique.

Le stock de batteries, c'est du solide, promis

Car les chiffres sont tombés et ils sont plutôt béton. En moyenne, les batteries de bagnoles électriques ne perdent que 2 % de leur capacité par an. En gros, au bout de 10 ans, votre fidèle destrier disposera encore de 82 % de son autonomie d'origine. Si vous aviez 400 bornes d'autonomie au début, il vous en reste 328 après une décennie de bons et loyaux services. C'est loin d'être la mort, non ?

D'ailleurs, si vous avez la chance de rouler dans un machin comme une Hyundai Ioniq 5 (ma petite préférée, vous le savez), vous savez que tout est dans la gestion du bazar. L'étude montre que si vous chargez tranquillement chez vous la nuit et que vous n'utilisez la recharge rapide DC (les bornes qui envoient du lourd, genre plus de 100 kW) que de temps en temps, vous pouvez même descendre à 1,5 % de perte annuelle. Du coup, après 10 ans, vous seriez encore à 90 % de capacité. Nickel quoi.

Mais attention hein, tout n'est pas rose au pays des électrons si on fait n'importe quoi. Les vrais ennemis de votre batterie, ce sont les climats extrêmes et la manie de laisser la voiture garée à 100% ou à 0% pendant des plombes. Et la chaleur aussi, c'est le mal car ça peut bouffer 0,4 % de dégradation supplémentaire par an. Donc si vous pouvez, garez-vous à l'ombre.

Après pour ceux qui se demandent combien coûte le joujou, sachez qu'une batterie de 100 kWh peut grimper jusqu'à 20 000 ou 25 000 €, ce qui explique pourquoi on flippe autant de la voir claquer. Mais rassurez-vous, quand elles arrivent vraiment en bout de course pour l'automobile, elles ne finissent pas à la décharge. Non, elles entament une seconde vie (voire une troisième) comme stockage stationnaire pour les habitations ou le réseau électrique, avant d'être recyclées par les fournisseurs qui récupèrent les métaux précieux. C'est un point que j'abordais déjà dans mon dossier sur l'état du marché des véhicules électriques en 2025 .

Et pour les pros qui roulent en fourgonnette électrique, c'est un peu plus sport puisqu'ils sont à 2,7 % de perte par an en moyenne. Forcément, les batteries sont souvent plus petites, on tire plus dedans et on passe son temps sur les bornes de recharge rapide pour ne pas perdre de temps. C'est le prix à payer pour bosser dur, mais même là, c'est loin d'être la catastrophe annoncée.

Bref, si ça vous tente de passer à l'électrique mais que vous hésitiez à cause du "prix du remplacement de la batterie", vous pouvez souffler un coup. Votre batterie durera probablement plus longtemps que votre patience dans les bouchons. De mon côté, je cherche à installer une petite prise dédiée à la maison, mais trouver un électricien disponible en ce moment, c'est un peu comme essayer de trouver une NES Mini à sa sortie... C'est chaud !

Source