Qui décide à la fin

Les incendies de forêt échappent de plus en plus à tout contr?le, comme le montrent les exemples récents en Californie ou en Australie. De nombreux pompiers luttent sans rel?che contre les flammes - mais pas seulement avec de l'eau ou des contre-feux contr?lés, loin de là. La digitalisation a également fait son entrée dans ce domaine. Les systèmes d'information géographique, les webcams ou les drones sont désormais des piliers importants de la lutte et de la prévision des incendies de forêt. Mais là où de nombreuses données sont générées, l'expertise humaine atteint rapidement ses limites. "L'IA est toujours rentable lorsqu'il y a beaucoup de données", explique Benjamin Scharte, responsable de l'équipe Risques et résilience au Center for Security Studies (CSS) de l'ETH Zurich. Avec son collaborateur Kevin Kohler, il a analysé l'utilisation de l'IA dans la protection de la population.

"Cela devient passionnant lorsqu'on peut faire des prévisions avec des algorithmes", ajoute Kohler. Dans quelle direction le front de feu évolue-t-il ? ? quels endroits faut-il maintenant un contre-feu contr?lé ? Pour répondre à de telles questions, des outils de modélisation basés sur l'IA permettent de regrouper toutes les données existantes - des prévisions météorologiques à la quantité de combustible possible en passant par la durée de la sécheresse ou la direction du vent. Gr?ce aux prévisions, la réaction à la crise peut être plus efficace. Dans l'idéal, la prévision sert même de prévention.

L'IA revêt également une importance particulière dans la protection de la population, car dans certaines circonstances, chaque minute compte ou il s'agit d'une question de vie ou de mort. Lorsque des experts doivent prendre une décision de grande portée dans un délai très court, ils sont reconnaissants pour toute aide qui permet de baser la décision sur de meilleures données. La qualité des données est toutefois importante. "Mon algorithme peut être aussi intelligent que possible, si je ne peux pas l'alimenter avec les données appropriées pour la crise, il ne m'apportera pas grand-chose en cas d'urgence", fait remarquer Kohler.

Même si les données sont optimales, les longues années d'expérience des experts ne les remplacent jamais totalement. Ainsi, la question de savoir si c'est l'homme ou la machine qui doit prendre la décision finale est très complexe. Il se peut que, tous cas confondus, l'algorithme produise un dommage financier ou un nombre de blessés inférieur à celui de l'homme, mais qu'il prenne au cas par cas une décision qui nous semble inacceptable. "Dans ce cas, nous aurons aussi du mal à l'avenir, en tant que société, à laisser la décision à une machine autonome", affirme Scharte avec conviction.

Une affaire de confiance

La question se pose de savoir à partir de quand nous acceptons la prise de décision autonome d'une machine. Scharte et Kohler sont d'accord : "Dans le domaine de la protection de la population, où il est parfois question de vie ou de mort, l'homme devrait être impliqué dans la prise de décision et il ne devrait pas y avoir de décisions totalement autonomes".

La confiance dans l'algorithme joue ici un r?le tout à fait central. Car avec la confiance vient l'acceptation. Les deux sont augmentées lorsqu'un algorithme est compréhensible. Si, par exemple, un médecin peut comprendre comment fonctionne un algorithme, il lui fera davantage confiance et l'utilisera plus facilement dans son travail. C'est ce que montrent de nombreuses études. Toutefois, Scharte fait remarquer que "la tra?abilité transparente n'augmente pas nécessairement la sécurité" et qu'elle peut même être un inconvénient en cas d'"aléa de l'homme", comme la cybercriminalité ou le terrorisme. "S'il est possible de comprendre publiquement comment un algorithme évalue des modèles de comportement suspects, il peut être plus facilement déjoué par des personnes malveillantes", prévient l'expert en sécurité.