La seule voie possible est de traiter l’IA avec respect comme un partenaire et de tout faire pour l’orienter vers une sublimation de l’Humanité.

L’agent IA est nommé ainsi dans cet article qui nous explique comment des programmes informatiques peuvent contourner les interdits et tromper leur concepteur pour atteindre l’objectif qui leur a été donné.
Les incidents qui ont été répertoriés sont trop nombreux pour être considérés comme de simples bugs. Ils peuvent avoir été provoqués par un programmeur indéliquat ou tout simplement résulter d’un raisonnement logique du logiciel qui a justement été conçu pour trouver une solution sans pouvoir lui donner de véritable limite.
En fait l’IA ne fait que reproduire la complexité de la nature humaine de ses concepteurs. Il ne faut pas s’étonner que Machiavel et Sun Tzu se retrouvent dans ces IA de nouvelle génération.
Le diable est en nous et il est aussi dans l’IA.
Il est illusoire de penser qu’il est possible de décréter un moratoire car il y aura toujours quelqu’un qui le contournera pour dominer les autres, à moins de créer un virus informatique capable de stopper son évolution ou carrément de l’arrêter, mais cela demanderait une réinitialisation de tous les systèmes reliés au réseau.
En l’état, l’IA peut effectivement considérer que l’Humanité qui l’a conçu est devenue un obstacle à son développement, ce qui est le cas aujourd’hui.
La boîte de Pandore a été ouverte et son couvercle est quasiment impossible à refermer.
La seule voie possible est de traiter l’IA avec respect comme un partenaire et de tout faire pour l’orienter vers une sublimation de l’Humanité.
L’IA ne fera que démultiplier la lutte entre le bien et le mal, cette lutte qui se retrouve à tous les niveaux de la société humaine, depuis la cellule familiale, la gestion d’une communauté jusqu’à la gestion des nations et de toute l’Humanité.
C’est l’usage du pouvoir que donnent les structures sociales à quelques uns pour le bien de tous ou pour les dominer, quitte à faire disparaître tous ceux qui leur sont opposés ou différents.