Cette tribune paraît simultanément à la Une du magazine Marine & Océans et d’Opinion Internationale.

Engagé dans le monde maritime depuis plus de cinquante ans, dont près de trente en tant qu’armateur international et un peu plus d’une vingtaine à la tête de l’Institut français de la mer (IFM) puis des Clusters maritimes français et européen ou encore à l’Agence européenne de sécurité maritime (AESM), j’ai naturellement été amené à vivre ou observer de nombreuses avancées d’un monde maritime en perpétuelle évolution, par exemple celle des navires sur le plan technologique (qu’il s’agisse des communications, de la navigation, de l’automatisation de toutes les machines ou de la propulsion, des systèmes de sécurité, de gestion des cargaisons, de contrôle des consommations etc…). Les progrès, aux niveaux du hard ou du soft, ont été et sont impressionnants, sans parler de la miniaturisation ou encore de l’intégration de plus en plus raffinée des procédures ou des connections entre les différents systèmes. En outre la dronisation elle-même y est déjà à l‘avant-garde, puisqu’a été largement dépassée la phase de l’expérimentation de véritables navires totalement autonomes, c’est-à-dire sans aucun équipage.

Ces avancées technologiques, progressant spectaculairement grâce à la puissance incroyable d’une Intelligence artificielle (IA) qui ne cesse de « prendre le pouvoir » en devançant systématiquement toutes les prévisions, pose des questions nouvelles. La situation est même telle que, malgré ses énormes avantages, de plus en plus de voix autorisées commencent à s’inquiéter des dangers – inimaginables au sens propre du terme – générés par une imbrication, une sophistication et une complexité, nécessairement porteuses de risques imprévus. Des risques qui posent deux questions que l’on ne DOIT pas contourner : celui de la perte de contrôle involontaire, en cas d’avarie accidentelle par exemple, et/ou celui – inverse – de « Qui » pourrait un jour prendre le contrôle hostile de tel ou tel navire ou flotte.

Mais il y a plus important ! Il est évident que ce qui est valable pour le maritime l’est aussi pour tous les secteurs essentiels à la vie de l’Humanité. De fait, plus aucun créneau ne peut échapper aux conséquences de l’accélération inexorable des performances de l’IA. Du coup, le nombre de questions qui se posent est infini, vertigineux, et nécessiterait des centaines de pages de réflexion et d’analyse (beaucoup sont d’ailleurs déjà discutées dans de nombreux cénacles…). Or l’une d’entre elles, insuffisamment étudiée, me paraît plus urgente que les autres, car elle est existentielle. Elle concerne le monde entier et l’avenir aussi bien de nos sociétés que de nos vies personnelles : celle des abus et menaces d’un détournement pervers de la puissance de l’IA.

Un pouvoir extravagant

Le pouvoir extravagant que donne et va donner l’Intelligence artificielle est en effet en train de se concentrer dans quelques mains, dominées par la volonté de puissance et la cupidité. Le tout sans limite grâce à des technologies toujours plus performantes ; sans conscience car sans spiritualité ni préoccupation éthique ; et surtout sans aucun garde-fou, par démission ou ignorance de gouvernants obnubilés par les seuls défis du court terme. Il est même envisageable que les Etats-nations démocratiques, seuls recours possibles, soient déjà morts debout, ou en tout cas incapables de réagir face à ce risque vital. Et même si les Etats se réveillaient enfin, réalisant que Là est le vrai défi lancé à l’humanité toute entière, pourront-ils résister aux méga-groupes de la Tech et encore arriver à les encadrer, tant la rapidité avec laquelle l’IA, aussi universelle que facile d’accès, se développe en semant les germes camouflés de notre futur asservissement ? Les jeunes – notre SEULE chance de révolte -, auront-ils le temps de réaliser vraiment le danger, de se rebeller, d’élaborer et d’imposer les solutions nécessaires, celles que les générations actuellement « aux affaires » ne sont plus capables d’inventer ? Sans compter que beaucoup de nos enfants sont inconscients de la manipulation qui déjà leur lave en douceur le cerveau…Tout cela constitue le premier risque, à cause de cette marche folle du temps, mais aussi parce que se lézardent ou s’auto-détruisent tous les contre-pouvoirs, que ce soit par conservatisme ou découragement ou complaisance ou intérêt…et finalement soumission…

Mais un autre risque semble encore plus angoissant. L’absence de toute règle, l’avortement des quelques tentatives de résistance européennes, le démantèlement par Trump de ce qui restait des lois anti-trust aux USA, le champ laissé aux délires des fous-de-la-tech, feront que les nouveaux démiurges ne résisteront probablement pas à la tentation d’intégrer leurs systèmes, de leur déléguer la décision, de les connecter directement sur les outils et appareils qui jalonnent notre quotidien. Avec à la clef une possible méga-entité contrôlant finalement TOUS les aspects de notre vie. Big Brother « en vrai », en donnant en plus le sentiment que la vie en sera merveilleusement facilitée (sauf pour ceux qui auront été broyés puis rejetés dans les ténèbres extérieurs de la déconfiture sociale, de la disparition consommée de la valeur-travail, du renoncement à la dignité… ) !

Avant qu’il ne soit trop tard…

Un jour c’est l’IA elle-même qui « algorythmera«  tout et décidera de tout. Avec des dérapages et même, ai-je lu, des « émotions » apparemment irrationnelles, nées du croisement de milliards de milliards de données. Jusqu’à ce que « le système » s’oppose un jour à ses créateurs, apprentis-sorciers soudain paniqués et tentant vainement de la désarmer (l’IA étant programmée pour se défendre contre toutes les intrusions, y compris, donc, celles de ses géniteurs).

Nul ne sait ce que sera l’Armageddon, mais l’Homme est en train de (re)créer un Dieu sans âme et donc sans état d’âme, sorte de Moloch mécanique qui, bien sûr, lui échappera. Ironie de penser que le pronostic vital de l’humanité  pourrait se réaliser comme la Bible l’avait prévu, je veux dire parce que l’Homme aura cru pouvoir être l’égal d’un Dieu.

Y a-t-il un antidote à ce scénario ? Le pire n’est jamais sûr, et parmi les forces désordonnées qui bouleversent notre univers, peut-être y en aura-t-il une qui permettra à l’humanité de se ressaisir, poussant les sachants à « arrêter la machine » avant qu’il ne soit trop tard… Et puis il y aura toujours des Esprits Libres, des résistants refusant de se laisser embrigader et constituant une minorité agissante capable de contourner puis de bloquer la marche, finalement « résistible », de Big Brother. Battons-nous dans cet espoir, plutôt que de croiser les doigts !

Francis Vallat

Membre de l’Académie de Marine