Pourquoi l'IA menace la démocratie et que pouvons-nous faire pour l'arrêter?


Amy Webb, futuriste, professeure à la NYU et auteure primée, a consacré la majeure partie de la dernière décennie à la recherche, à la discussion et à la rencontre de personnes et d’organisations sur l’intelligence artificielle. "Nous avons atteint un niveau de fièvre dans tout ce qui concerne l'IA", dit-elle. Il est maintenant temps de prendre du recul pour voir où cela va.

C'est la tâche de son nouveau livre, , où elle observe de près les tendances qui, at-elle averti, ont mis le développement de la technologie sur une voie dangereuse. Aux États-Unis, Google, Microsoft, Amazon, Facebook, IBM et Apple (le «G-MAFIA») sont paralysés par les demandes incessantes à court terme d'un marché capitaliste, rendant impossible toute planification réfléchie à long terme de l'IA. En Chine, Tencent, Alibaba et Baidu consolident et extraient d’énormes quantités de données pour alimenter les ambitions autoritaires du gouvernement.

Si nous ne changeons pas cette trajectoire, affirme Webb, nous pourrions nous diriger tout droit vers la catastrophe. Mais il reste encore du temps pour agir et un rôle à jouer pour chacun. Le MIT Technology Review s’est assis avec elle pour expliquer pourquoi elle s’inquiète et ce qu’elle pense pouvoir faire.

Les questions et réponses suivantes ont été condensées et éditées pour plus de clarté.

Vous dites que nous assistons actuellement à une convergence d'inquiétantes tendances technologiques, politiques et économiques. Pouvez-vous développer sur les tendances technologiques?

Lorsque vous parlez à un chercheur travaillant sur le terrain, il vous dira qu'il faudra beaucoup de temps avant que nous puissions tenir compte de toutes les promesses faites en matière d'intelligence artificielle: automatisation totale des véhicules, reconnaissance absolue, etc. intelligence générale artificielle – AGI – systèmes capables de cognition et de pensée plus humaine.

De mon point de vue, regarder vers l’horizon pour la journée nous avons une sorte de machine à marcher, à parler, ou une machine à la voix désincarnée prenant des décisions autonomes, manque quelque peu l’essentiel. Nous constatons déjà des milliards de progrès minuscules qui auront un effet composé au fil du temps et aboutiront à des systèmes capables de prendre de nombreuses décisions en même temps de manière autonome.

L’équipe DeepMind, par exemple, a beaucoup travaillé sur les machines à enseigner. Ils ont pris une longueur d’avance considérable dans des domaines tels que l’apprentissage par renforcement hiérarchique et l’apprentissage multitâche. La dernière version de son algorithme AlphaGo, AlphaZero, est capable d’apprendre à jouer à trois jeux à la fois sans être humain. C’est un pas de géant. Il existe également le tout nouveau champ de, où, avec un corpus d’images de taille décente, vous pouvez maintenant générer des visages humains qui ressemblent.

Ces avancées ne sont ni aussi sexy ni aussi excitantes que ce que l’on nous a dit à propos de AGI. Mais si vous parvenez à adopter la vue de 40 000 pieds, vous pouvez voir que nous nous dirigeons vers une situation dans laquelle les systèmes vont faire des choix pour nous. Et nous devons nous arrêter et nous demander ce qui se passe lorsque ces systèmes mettent de côté la stratégie humaine en faveur de quelque chose de totalement inconnu pour nous.

Qu'en est-il des tendances politiques et économiques? Pouvez-vous décrire ceux qui vous inquiètent le plus?

Aux États-Unis, la libre circulation des idées peut se répandre sans être gênée. C'est ainsi que Silicon Valley a été fondée. Il a favorisé à la fois la concurrence et l'innovation, ce qui nous a permis d'atteindre l'IA, entre autres types de technologies.

The Big Nine: Comment les titans de la technologie et leurs machines à penser pourraient déformer l'humanité

par Amy Webb

Cependant, aux États-Unis, nous souffrons également d’un manque tragique de prévoyance. Plutôt que de créer une grande stratégie pour l'IA ou pour notre avenir à long terme, le gouvernement fédéral a retiré le financement de la recherche scientifique et technologique. Donc, l'argent doit venir du secteur privé. Mais les investisseurs s'attendent également à une sorte de retour. C'est un problème. Vous ne pouvez pas planifier vos avancées en R & D lorsque vous travaillez sur la technologie fondamentale et la recherche. Ce serait formidable si les grandes entreprises de technologie avaient le luxe de travailler très dur sans avoir à organiser une conférence annuelle pour montrer leur dernier et leur plus grand succès. Au lieu de cela, nous avons maintenant d'innombrables exemples de mauvaises décisions prises par quelqu'un du G-MAFIA, probablement parce qu'ils travaillaient vite. Nous commençons à voir les effets négatifs de la tension entre faire de la recherche dans le meilleur intérêt de l’humanité et rendre les investisseurs heureux.

Maintenant, ce serait assez grave comme ça, non? Mais tout cela se produit au moment même où une énorme quantité d’énergie est en train d’être consolidée en Chine. La Chine s’est consacrée à la recherche fondamentale fondamentale en matière d’IA. Ils jettent d’énormes sommes d’argent sur AI. Et ils ont une idée totalement différente de celle des États-Unis en matière de confidentialité et de données. Cela signifie qu'ils disposent de beaucoup plus de données pouvant être extraites et raffinées. Avec une autorité centrale, il est très facile pour le gouvernement de tester et de créer des services d’IA qui intègrent les données de 1,3 milliard de personnes. Et cela ne concerne que leur propre pays.

Ils ont ensuite l'initiative Belt and Road, qui ressemble à un programme d'infrastructure traditionnel mais est en partie numérique. Il ne s’agit pas seulement de construire des routes et des ponts; Il s’agit également de la construction de réseaux 5G et de la pose de fibres, ainsi que de l’extraction et du raffinage de données à l’étranger. Le déploiement de ces technologies constitue un risque pour les personnes soucieuses de choses comme la liberté d'expression et les idéaux démocratiques occidentaux.

Pourquoi devrions-nous lutter pour les idéaux démocratiques occidentaux?

C’est une excellente question. J'ai vécu en Chine, au Japon et, bien sûr, aux États-Unis. Et vous pouvez regarder la situation de notre pays en ce moment et ce qui se passe en Chine et vous demander si c’est vraiment la pire chose? Soit dit en passant, le système de notation de la Chine en matière de crédit social semble effrayant et affreux pour les Américains, mais ce que beaucoup de gens ne réalisent pas, c’est que les comportements de rapport et de surveillance dans les villages et les communautés font depuis toujours partie de la culture chinoise. Le pointage de crédit social automatise en quelque sorte cela. Alors oui, c’est une question formidable.

Je suppose que ce que je dirais, c’est que si j’examinais la version idéalisée du communisme chinois et la version idéalisée de la démocratie occidentale, je choisirais la démocratie occidentale car je pense qu’il existe une meilleure opportunité pour la libre circulation des idées et pour le quotidien. les gens à réussir. Je pense que le fait d'inciter les gens à réaliser des réalisations individuelles et personnelles est un excellent moyen d'édifier une société et nous aide à atteindre notre potentiel individuel.

Avec la direction dans laquelle le monde se dirige avec l'IA aujourd'hui, est-ce une comparaison juste? Devrions-nous comparer les versions idéalisées du communisme chinois avec la démocratie occidentale, ou les pires versions des deux?

C’est une excellente question, car vous pourriez affirmer que des éléments de l’écosystème de l’IA ont déjà un impact négatif sur nos idéaux démocratiques occidentaux. De toute évidence, tout ce qui s’est passé avec Facebook sert d’exemple. Mais regardez aussi ce qui se passe dans la communauté anti-vaxxer. Ils diffusent des informations totalement incorrectes sur les vaccins et la science fondamentale. Nos traditions américaines diront liberté de parole, les plateformes sont des plateformes, nous devons laisser les gens s'exprimer. Le problème, c’est que les algorithmes font des choix concernant le contenu éditorial, ce qui pousse les gens à prendre de très mauvaises décisions et à rendre les enfants malades.

Le problème est que notre technologie est devenue de plus en plus sophistiquée, mais notre conception de ce qu'est la liberté d'expression et de ce à quoi ressemble une économie de marché libre n'est pas devenue aussi sophistiquée. Nous avons tendance à recourir à des interprétations très élémentaires: la liberté d’expression signifie que toute parole est libre, sauf si elle s’oppose à la loi sur la diffamation, c’est la fin de l’histoire. Ce n’est pas la fin de l’histoire. Nous devons commencer à avoir une conversation plus sophistiquée et intelligente sur nos lois actuelles, notre technologie émergente et sur la manière dont nous pouvons réunir ces deux personnes au milieu.

En d’autres termes, vous avez l’espoir que nous évoluerons d’ici à une version plus idéalisée de la démocratie occidentale. Et vous préféreriez de beaucoup cela au communisme idéalisé.

Oui, j’ai confiance que c’est possible. Ce qui me préoccupe le plus, c’est que tout le monde attend, que nous nous traînions les talons et que cela prenne une véritable catastrophe pour inciter les gens à agir, comme si l’endroit où nous sommes arrivés n’est pas catastrophique. Mais le fait que la rougeole soit de retour dans l'état de Washington pour moi est un résultat catastrophique. Tout comme ce qui s’est passé au lendemain des élections. Quel que soit votre parti politique, je ne peux imaginer que personne aujourd’hui pense que le climat politique actuel est bon pour notre avenir.

Je suis donc absolument convaincu qu'il existe une voie à suivre. Mais nous devons nous réunir et réduire l'écart entre la Silicon Valley et DC afin que nous puissions tous diriger le bateau dans la même direction.

Que recommandez-vous au gouvernement, aux entreprises, aux universités et aux consommateurs individuels?

Le développement de l'IA pose un problème et chacun de nous a un intérêt. Vous, moi, mon père, mon voisin d'à côté, le type au Starbucks que je passe en ce moment. Alors, que devraient faire les gens ordinaires? Sachez qui utilise vos données et comment. Prenez quelques minutes pour lire le travail de personnes intelligentes et consacrez quelques minutes à comprendre de quoi nous parlons vraiment. Avant de quitter votre vie et de commencer à partager des photos de vos enfants, faites-le de manière éclairée. Si vous êtes d'accord avec ce que cela implique et ce que cela pourrait signifier plus tard, c'est bien, mais au moins, ayez cette connaissance en premier.

Les entreprises et les investisseurs ne peuvent s’attendre à ce qu’un produit se précipite à maintes reprises. Cela nous met en difficulté par la suite. Ils peuvent ainsi renforcer leurs processus d’embauche, accroître de manière significative leurs efforts pour améliorer l’inclusion et s’assurer que leur personnel est plus représentatif de la réalité. Ils peuvent aussi freiner. Tout investissement réalisé dans une société ou un projet d’IA, ou autre, devrait également inclure un financement et du temps pour vérifier des éléments tels que le risque et les biais.

Les universités doivent créer un espace dans leurs programmes pour les diplômes hybrides. Ils devraient inciter les étudiants en sciences sociales à étudier la littérature comparée, les religions du monde, la microéconomie, l’anthropologie culturelle et des cours analogues dans d’autres départements. Ils devraient défendre des programmes à double diplôme en informatique et relations internationales, théologie, sciences politiques, philosophie, santé publique, éducation, etc. L'éthique ne devrait pas être enseignée en tant que classe autonome, mais simplement pour cocher une liste. Les écoles doivent inciter les professeurs, même titulaires, à engager des discussions complexes sur les préjugés, les risques, la philosophie, la religion, le genre et l’éthique dans leurs cours.

L'une de mes principales recommandations concerne la création de GAIA, que j'appelle l'Alliance mondiale pour l'augmentation du renseignement. À l'heure actuelle, les attitudes et les approches en matière de collecte et de partage de données varient considérablement selon les pays. Ce qui peut et doit être automatisé et ce à quoi pourrait ressembler un avenir avec des systèmes plus intelligents. Je pense donc que nous devrions créer une sorte d'organisation centrale capable de développer des normes et standards mondiaux, une sorte de garde-corps pour imprégner non seulement les idéaux américains ou chinois dans les systèmes d'IA, mais une vision du monde bien plus représentative de tous.

Surtout, nous devons être prêts à réfléchir à cette question à plus long terme, pas seulement dans cinq ans. Nous devons cesser de dire: «Nous ne pouvons pas prédire l’avenir. Ne nous inquiétons donc pas pour le moment.» C’est vrai, nous ne pouvons prédire l’avenir. Mais nous pouvons certainement faire un meilleur travail de planification pour cela.

Une version abrégée de cette histoire a paru dans notre lettre d’information sur l’algorithme, The Algorithm. Pour le recevoir directement dans votre boîte de réception, gratuitement.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *