Développement 1629150
Top 9 des enjeux éthiques de l'intelligence artificielle
Optimiser la logistique, détecter les fraudes, composer de l'art, mener des recherches, fournir des traductions : les systèmes de machines intelligentes transforment nos vies pour le mieux. Au fur et à mesure que ces systèmes deviennent plus performants, notre monde devient plus efficace et par conséquent plus riche.
Des géants de la technologie tels qu'Alphabet, Amazon, Facebook, IBM et Microsoft - ainsi que des individus comme Stephen Hawking et Elon Musk - pensent que le moment est venu de parler du paysage presque illimité de l'intelligence artificielle. À bien des égards, il s'agit tout autant d'une nouvelle frontière pour l'éthique et l'évaluation des risques que pour les technologies émergentes. Alors, quels problèmes et conversations empêchent les experts de l'IA de dormir la nuit ?
1. Chômage : Que se passe-t-il après la fin des travaux ?
La hiérarchie du travail concerne principalement l'automatisation. Comme nous avons inventé des moyens d'automatiser les tâches, nous pourrions créer de la place pour que les gens assument des rôles plus complexes, passant du travail physique qui dominait le monde préindustriel au travail cognitif qui caractérise le travail stratégique et administratif dans notre société mondialisée.
Regardez le camionnage : il emploie actuellement des millions de personnes rien qu'aux États-Unis. Que leur arrivera-t-il si les camions autonomes promis par Elon Musk de Tesla deviennent largement disponibles au cours de la prochaine décennie ? Mais d'un autre côté, si l'on considère le moindre risque d'accidents, les camions autonomes apparaissent comme un choix éthique. Le même scénario pourrait arriver aux employés de bureau, ainsi qu'à la majorité de la main-d'œuvre dans les pays développés.
C'est là que nous arrivons à la question de savoir comment nous allons passer notre temps. La plupart des gens comptent encore sur la vente de leur temps pour avoir un revenu suffisant pour subvenir à leurs besoins et à ceux de leur famille. Nous ne pouvons qu'espérer que cette opportunité permettra aux gens de trouver un sens aux activités non professionnelles, telles que prendre soin de leur famille, s'engager dans leur communauté et apprendre de nouvelles façons de contribuer à la société humaine.
Si nous réussissons la transition, un jour nous pourrions regarder en arrière et penser qu'il était barbare que les êtres humains soient obligés de vendre la majorité de leur temps de veille juste pour pouvoir vivre.
2. Inégalité : Comment distribue-t-on la richesse créée par les machines ?
Notre système économique est basé sur la rémunération de la contribution à l'économie, souvent évaluée à l'aide d'un salaire horaire. La majorité des entreprises dépendent encore du travail horaire lorsqu'il s'agit de produits et de services. Mais en utilisant l'intelligence artificielle, une entreprise peut réduire considérablement sa dépendance à la main-d'œuvre humaine, ce qui signifie que les revenus iront à moins de personnes. Par conséquent, les personnes qui détiennent des parts dans des entreprises axées sur l'IA gagneront tout l'argent.
Nous assistons déjà à un écart de richesse grandissant, où les fondateurs de start-up ramènent chez eux une grande partie de l'excédent économique qu'ils créent. En 2014, à peu près les mêmes revenus étaient générés par les trois plus grandes entreprises de Detroit et les trois plus grandes entreprises de la Silicon Valley... seulement dans la Silicon Valley, il y avait 10 fois moins d'employés.
Si nous imaginons vraiment une société post-travail, comment structurer une économie post-travail équitable ?
3. Humanité : Comment les machines affectent-elles notre comportement et nos interactions ?
Les bots artificiellement intelligents sont de mieux en mieux capables de modéliser la conversation et les relations humaines. En 2015, un bot nommé Eugene Goostman a remporté le Turing Challenge pour la première fois. Dans ce défi, les évaluateurs humains ont utilisé la saisie de texte pour discuter avec une entité inconnue, puis ont deviné s'ils avaient discuté avec un humain ou une machine. Eugene Goostman a trompé plus de la moitié des évaluateurs humains en leur faisant croire qu'ils avaient parlé à un être humain.
Cette étape n'est que le début d'une ère où nous interagirons fréquemment avec les machines comme s'il s'agissait d'humains ; que ce soit en service client ou en vente. Alors que les humains sont limités dans l'attention et la gentillesse qu'ils peuvent accorder à une autre personne, les robots artificiels peuvent canaliser des ressources pratiquement illimitées pour établir des relations.
Même si peu d'entre nous en sont conscients, nous sommes déjà témoins de la façon dont les machines peuvent déclencher les centres de récompense dans le cerveau humain. Il suffit de regarder les gros titres sur les appâts à cliquer et les jeux vidéo. Ces titres sont souvent optimisés avec des tests A/B, une forme rudimentaire d'optimisation algorithmique du contenu pour capter notre attention. Cette méthode et d'autres sont utilisées pour rendre de nombreux jeux vidéo et mobiles addictifs. L'addiction à la technologie est la nouvelle frontière de la dépendance humaine .
D'un autre côté, peut-être pouvons-nous penser à une utilisation différente du logiciel, qui est déjà devenu efficace pour diriger l'attention humaine et déclencher certaines actions. Lorsqu'il est utilisé à bon escient, cela pourrait se transformer en une opportunité de pousser la société vers un comportement plus bénéfique. Cependant, entre de mauvaises mains, cela pourrait s'avérer préjudiciable.
4. Stupidité artificielle : Comment se prémunir des erreurs ?
L'intelligence vient de l'apprentissage, que vous soyez humain ou machine. Les systèmes ont généralement une phase de formation au cours de laquelle ils "apprennent" à détecter les bons schémas et à agir en fonction de leurs entrées. Une fois qu'un système est entièrement formé, il peut alors passer en phase de test, où il est frappé avec plus d'exemples et nous voyons comment il fonctionne.
Évidemment, la phase de formation ne peut pas couvrir tous les exemples possibles qu'un système peut traiter dans le monde réel. Ces systèmes peuvent être trompés d'une manière que les humains ne le seraient pas. Par exemple, des motifs de points aléatoires peuvent conduire une machine à « voir » des choses qui ne sont pas là. Si nous comptons sur l'IA pour nous amener dans un nouveau monde de travail, de sécurité et d'efficacité, nous devons nous assurer que la machine fonctionne comme prévu et que les gens ne peuvent pas la maîtriser pour l'utiliser à leurs propres fins.
5. Robots racistes : Comment éliminer les biais de l'IA ?
Bien que l'intelligence artificielle soit capable d'une vitesse et d'une capacité de traitement bien supérieures à celles des humains, on ne peut pas toujours lui faire confiance pour être juste et neutre. Google et sa société mère Alphabet sont l'un des leaders en matière d'intelligence artificielle, comme le montre le service Photos de Google, où l'IA est utilisée pour identifier des personnes, des objets et des scènes. Mais cela peut mal tourner, par exemple lorsqu'une caméra a raté la cible sur la sensibilité raciale, ou lorsqu'un logiciel utilisé pour prédire les futurs criminels a montré un parti pris contre les Noirs.
Nous ne devons pas oublier que les systèmes d'IA sont créés par des humains, qui peuvent être biaisés et critiques. Encore une fois, si elle est utilisée correctement ou si elle est utilisée par ceux qui luttent pour le progrès social, l'intelligence artificielle peut devenir un catalyseur de changement positif.
6. Sécurité : Comment protégeons-nous l'IA des adversaires ?
Plus une technologie devient puissante, plus elle peut être utilisée pour des raisons néfastes aussi bien que pour le bien. Cela s'applique non seulement aux robots produits pour remplacer les soldats humains ou les armes autonomes, mais aussi aux systèmes d'IA qui peuvent causer des dommages s'ils sont utilisés de manière malveillante. Parce que ces combats ne se dérouleront pas uniquement sur le champ de bataille, la cybersécurité deviendra encore plus importante. Après tout, nous avons affaire à un système qui est plus rapide et plus capable que nous par ordre de grandeur.
7. Génies maléfiques : Comment se protéger des conséquences imprévues ?
Ce ne sont pas seulement les adversaires dont nous devons nous soucier. Et si l'intelligence artificielle elle-même se retournait contre nous ? Cela ne signifie pas qu'il faut devenir "mal" à la manière d'un être humain ou à la manière dont les catastrophes de l'IA sont décrites dans les films hollywoodiens. Au lieu de cela, nous pouvons imaginer un système d'IA avancé comme un "génie dans une bouteille" qui peut exaucer des souhaits, mais avec de terribles conséquences imprévues.
Dans le cas d'une machine, il est peu probable qu'il y ait de la malveillance en jeu, seulement un manque de compréhension du contexte complet dans lequel le souhait a été formulé. Imaginez un système d'IA auquel on demande d'éradiquer le cancer dans le monde. Après de nombreux calculs, il crache une formule qui, en fait, provoque la fin du cancer - en tuant tout le monde sur la planète. L'ordinateur aurait atteint son objectif de "plus de cancer" de manière très efficace, mais pas de la manière dont les humains l'avaient prévu.
8. Singularité : Comment garder le contrôle d'un système intelligent complexe ?
La raison pour laquelle les humains sont au sommet de la chaîne alimentaire n'est pas due à des dents pointues ou à des muscles forts. La domination humaine est presque entièrement due à notre ingéniosité et à notre intelligence. Nous pouvons prendre le dessus sur des animaux plus grands, plus rapides et plus forts parce que nous pouvons créer et utiliser des outils pour les contrôler : à la fois des outils physiques tels que des cages et des armes, et des outils cognitifs comme l'entraînement et le conditionnement.
Cela pose une question sérieuse sur l'intelligence artificielle : aura-t-elle, un jour, le même avantage sur nous ? Nous ne pouvons pas non plus nous contenter de "débrancher la prise", car une machine suffisamment avancée peut anticiper ce mouvement et se défendre. C'est ce que certains appellent la « singularité » : le moment où les êtres humains ne sont plus les êtres les plus intelligents de la terre.
9. Droits des robots : Comment définissons-nous le traitement humain de l'IA ?
Alors que les neuroscientifiques travaillent toujours à percer les secrets de l'expérience consciente, nous en comprenons davantage sur les mécanismes de base de la récompense et de l'aversion. Nous partageons ces mécanismes avec même des animaux simples. D'une certaine manière, nous construisons des mécanismes similaires de récompense et d'aversion dans les systèmes d'intelligence artificielle. Par exemple, l'apprentissage par renforcement est similaire à l'entraînement d'un chien : l'amélioration des performances est renforcée par une récompense virtuelle.
À l'heure actuelle, ces systèmes sont assez superficiels, mais ils deviennent plus complexes et réalistes. Pourrait-on considérer qu'un système souffre lorsque ses fonctions de récompense lui donnent une entrée négative ? De plus, les soi-disant algorithmes génétiques fonctionnent en créant de nombreuses instances d'un système à la fois, dont seules les plus performantes « survivent » et se combinent pour former la prochaine génération d'instances. Cela se produit sur plusieurs générations et c'est une façon d'améliorer un système. Les instances non réussies sont supprimées. À quel moment pourrait-on considérer les algorithmes génétiques comme une forme de meurtre de masse ?
Une fois que nous considérons les machines comme des entités qui peuvent percevoir, ressentir et agir, il n'est pas très difficile de réfléchir à leur statut juridique. Faut-il les traiter comme des animaux d'intelligence comparable ? Pensera-t-on à la souffrance des machines « à ressentir » ?
Certaines questions éthiques portent sur l'atténuation de la souffrance, d'autres sur le risque de résultats négatifs. Tout en tenant compte de ces risques, nous devons également garder à l'esprit que, dans l'ensemble, ce progrès technologique signifie une vie meilleure pour tout le monde. L'intelligence artificielle a un vaste potentiel, et sa mise en œuvre responsable dépend de nous.
ChatGPT-4 est un agent conversationnel qui utilise le modèle de langage GPT-4 pour interagir avec les utilisateurs de manière naturelle et fluide. GPT-4 est le système le plus avancé créé par Op...
L'intelligence artificielle est l'une des percées les plus importantes du XXIe siècle. Des experts de différentes industries étudient ses capacités et découvrent de nouvelles façons de son appl...
Laissez votre commentaire :
@j2mCoder
Dev
Je crois que cette idée est mis en place juste pour écarter l'homme à la société