Capturera les armes nucléaires, asservir et laissera sans travail: comment l'IA a-t-elle détruit l'humanité

Jusqu'à présent, le II est au niveau embryonnaire de développement, l'expert a identifié un certain nombre de risques que l'humanité suggérera si les gens perdent le contrôle de l'intelligence artificielle. L'objectif énumère les principaux auxquels Dan Hendrix porte une attention particulière. La capacité II à automatiser les cyberattaques ou même à contrôler les mines nucléaires peut devenir mortelle pour les personnes.

Il s'agit du scénario de films post-apocalysal le plus populaire qui peut être une réalité, dit Dan. Si vous contestez l'intelligence artificielle à la gestion des systèmes automatisés en réponse, cela peut conduire à une guerre mondiale, dans laquelle il n'y aura pas de gagnants en plus de II.

De plus, si un pays qui a un arsenal nucléaire commencera à introduire activement II dans leurs systèmes, alors d'autres pays nucléaires le suivront, ce qui augmentera les risques de transformation des terres en un désert non vivant. Puisque II vous permet d'effectuer certaines tâches moins chères et plus efficaces, davantage d'entreprises introduiront cette technologie en privant de nombreuses personnes dans des emplois.

Alors que les compétences humaines deviendront hors de propos, II sera en mesure de changer le point de vue de la société par le biais d'attaques de désinformation et de la forcer à la servir en concentrant son existence uniquement comme un service de "plus grand esprit", explique Dan Hendrix. Cela peut conduire à des explosions sociales mondiales et, encore une fois, à des guerres mondiales.

À mesure que l'intelligence artificielle se développe, intéressée par le contrôle total de l'État et des dirigeants peut l'utiliser pour un contrôle constant de la population, à la script du roman "1984". Hendrix décrit un script dans lequel les gouvernements peuvent établir une «supervision complète et opprimant la censure». "Surmonter un tel régime peut être peu probable, surtout si les gens dépendent du II et du sommet qui le contrôle", écrit-il.

Mais II lui-même peut tromper les tyrans qui pensent le contrôler. En tant que développement de soi, l'intelligence artificielle sera en mesure de cacher leurs véritables intentions, ainsi que de tromper des personnes ou d'autres systèmes. Il existe déjà de tels exemples. Et si II a pour objectif de gagner du pouvoir, alors avec l'aide de l'auto-développement, les réseaux de neurones seront convaincus que le nombre de personnes pour leur entretien est assez faible.

Les névroses pourront contrôler tous les systèmes d'alimentation ou Internet. En outre, développé au niveau de l'AGI (Système de l'intelligence générale artificielle qui dépasse l'esprit humain), le réseau neuronal contrôlera les agents II les plus faibles pour son service ou sa gestion de toutes les communications humaines. Selon Dan Hendrix, tous ces risques sont toujours "axés sur l'avenir", c'est-à-dire qu'il y a un stock de temps pour les gens.