Salut à tous,

C’est le résumé du vendredi, où on fait le point sur les explorations et les découvertes de la semaine.

Un projet pour "trier des vidéos de drones inutilisées" frappe maintenant 5 000 cibles par jour.

Et aucune loi n'a bougé entre les deux.

“C’est pas ma faute, c'est l'IA qui m'a dit de le faire”. C'est en lisant cet article du Grand Continent que je me suis posé cette question :

• Est-ce que ce n'est pas une phrase qu’on risque d’entendre de plus en plus souvent ?

Par moment j’ai l’impression que l'IA est en train de devenir une espèce de dieu, une nouvelle religion, parce qu’elle en sait plus, parce qu’elle le dit mieux, parce qu’elle nous convainc.

Projet Maven - Le Pentagone fait la guerre avec l’IA

Source : Le Grand Continent, adaptation d’un livre Project Maven par Katrina Manson (Enquête de 200+ entretiens au coeur du Pentagone)

L'article retrace comment Drew Cukor (ancien officier du renseignement qui a dirigé le projet Maven) a imposé l'IA algorithmique dans la guerre américaine en dix ans, contre l'inertie institutionnelle.

Le Maven Smart System est aujourd'hui déployé dans toutes les branches de l'armée américaine et utilisé activement en Iran. 

En 2017, un colonel des Marines a convaincu le Pentagone de déléguer des décisions de ciblage à des algorithmes - et personne n'a encore décidé qui en porte la responsabilité.

1. Maven a multiplié le nombre de cibles “frappables” par jour (cf les chiffres de l’articles)

L’évolution vers l’automatisation

• Avant Maven : 100 cibles/jour

• Avec vision par ordinateur : 1 000/jour

• Avec LLM intégrés : 5 000/jour (source GC)

En Iran : se seraient 1 000 cibles frappées dans les premières 24 heures.

"Selon un responsable de l'Agence nationale de renseignement géospatial, à l'aide de la vision par ordinateur, les États-Unis sont devenus capables de frapper un millier de cibles par jour contre une centaine auparavant."

2. La Silicon Valley est actrice et le processus semble irréversible

Désormais nombreuses sont les entreprises impliquées dans le projet : Google, Palantir (Alex Karp, PDG de Palantir décrit Cukor comme "le père fondateur du ciblage par IA"), Amazon AWS, Microsoft, Scale AI (49 % Meta), Anthropic, OpenAI, NVIDIA.

Seul Apple a refusé.

3. La responsabilité humaine se dilue dans les systèmes automatisés, et c'était l'intention dès le départ.

L’ambition initiale était documentée : raccourcir la kill chain entre détection et frappe.

Un témoignage direct de participants fait froid dans le dos : "On va tuer des gens tout le temps."

Robert Work, sous-secrétaire à la Défense depuis 2014 : "Je veux des applications directes au combat."

Question à se poser : Dans un système que tu construis ou utilises, où se situe le moment où la responsabilité d'une erreur est encore attribuable à une personne identifiable ?

Suivez moi sur LinkedIn ou sur cette Newsletter pour en savoir plus dans les prochains temps.

Explorations

Cours de philosophie de Gilles Deleuze, disponible gratuitement sur le site de la BnF (Bibliothèque nationale de France), et ici un cours de l’année 1979-1980 sur “Appareil d’état et machine de guerre”

Le petit livre rouge de la source, découvert lors de mon interview avec Marie Vaillant (épisode bientôt dispo !). La philosophie du livre : partout où il y a un projet, une boîte, une équipe, une famille, une vie : il y a une Source. Ce livre enseigne à reconnaître, assumer et exercer ce rôle de Source avec clarté et énergie.

🌊 Citation

N’hésite pas à me partager tes retours ici, par mail. Qu’est-ce que tu préfères ? Qu’est-ce que tu voudrais voir plus ou ne plus voir du tout ?

Passez un excellent weekend !​

A bientôt et bonne exploration !

Franck ⟁