L'automatisation des machines dont les automobiles n'est pas un sujet nouveau. Il s'inscrit dans une tendance de fond des Techniques, au sens large. Les opportunités ont déjà été identifiées dans plusieurs articles. Les risques issus de l'intelligence des machines sont tout aussi essentiels à connaître.
Dans une œuvre Le système technicien, Jacques ELLUL décrivait en 1977 les principales tendances majeures de notre société en plaçant la Technique au centre, en étudiant le système des relations entre les techniques. Pour J.ELLUL, la Technique était en train de devenir un système autonome vis-à-vis de l’homme ; nous devenons obligés non plus uniquement de l’utiliser mais de vivre avec et à travers, modifiant à la fois notre « milieu », mais également l’organisation humaine et notre société en général. « La Technique est milieu de vie non seulement par le fait qu’elle exclut le rapport direct avec les éléments naturels ou qu’elle modifie ceux qui subsistent (l’eau, l’air) ou que l’environnement de l’homme n’est plus fait que d’objets techniques, mais encore par le fait qu’elle intervient directement sur la vie de l’homme et lui demande des adaptations comparables à celles qu’avait exigées primitivement le milieu ».
J.ELLUL différenciait la science de la technique : « pour la Science : pour celle-ci il est important de chercher par exemple la date de la découverte scientifique elle-même, le contexte intellectuel dans lequel elle se situe, etc. Mais pour la technique, ce qui compte ce n’est ni l’invention elle-même ni l’application en laboratoire : c’est la diffusion, c’est l’application adressée à la grande consommation. »
Aujourd’hui il apparaît évident que la théorie de J.ELLUL s’applique parfaitement. Le numérique est en train de tisser de nouveaux liens dans ce système technique. J.ELLUL avait identifié « l’ordinateur » comme futur pièce maîtresse. Peu écouté en France, sa théorie a surtout été étudiée aux Etats-Unis. En reprenant ci-dessous plusieurs extraits de son œuvre, une passerelle sera proposée avec le concept de Singularité Technologique forgée dans les années 1960 et venu de l’Intelligence Artificielle. D’autres citations sont disponibles sur ce lien.
En effet, si J.ELLUL démontrait les nombreux risques du système Technicien, il gardait un espoir : que l’Homme arrive à garder une certaine distance, voire une maîtrise des techniques de ce système qu’il a créé au départ mais qui maintenant se développe sans but. Et il avait identifié le principal danger : que le système devienne clôt, bouclé sur lui-même en trouvant lui-même une finalité sans intervention de l’Homme, et en utilisant des nouvelles techniques lui permettant de se développer. Récemment Ray Kurzweil, un des pionniers de l’Intelligence Artificielle aux Etats-Unis, vient de fonder une Université pour former des ingénieurs au concept de la Singularité Technologique. Pour R.Kurweil, les Techniques vont d’ici quelques dizaines d’années fusionner (nano-bio-numérique), faire système intégré, et se répliquer. J.ELLUL l’avait prévu comme la possibilité « dangereuse et aliénante ».
Les commentaires récents