Il n’y a pas lieu de discuter : les dés sont jetés.
« les systèmes d’IA contemporains sont désormais en train de devenir compétitifs avec l’humain pour des tâches générales »
Il y aurait un bon et un mauvais usage de la technique, comme si elle n’était pas conçue selon une visée propre.
« devons-nous risquer de perdre le contrôle de notre civilisation [ou bien] jouir d’un futur florissant avec l’IA ? »
Des anecdotes ou des affirmations générales plutôt que des données historiques avérées.
« Comme en attestent les principes d'Asilomar en matière d'IA, largement approuvés [par l’institut Future of Life qui publie la lettre], l'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre »
La loi nous protège, la sécurisation technique nous garantit du danger.
« Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour élaborer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés »
Nous sommes face à technique à la fois rutilante et indispensable. On ne comprend pas bien quels fruits l’humanité doit attendre, mais comment s’en priver ?
« après avoir réussi à créer des systèmes d'IA puissants, nous pouvons maintenant profiter d'un "été de l'IA" au cours duquel nous récolterons les fruits de nos efforts »
La solution aux risques induits par la technique passe par la technique.
(E. Morozov, 2014. Pour tout résoudre, cliquez ici. Fyp éditions.)
« nous concevrons ces systèmes pour le plus grand bénéfice de tous et nous donnerons à la société une chance de s'adapter »
Le discours se fait passer pour lucide et occulte les processus de gestionnarisation et de glissement de la prérogative politique.
« les laboratoires d'IA se sont lancés dans une course effrénée pour développer et déployer des formes d’intelligence numériques de plus en plus puissantes que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable »
Citations tirées de de la lettre ouverte "Pause Giant AI Experiments: An Open Letter" de l'institut Future of Life. Crédit icônes : Freepik