Seulement neuf entreprises technologiques géantes aux États-Unis et en Chine sont à l'origine de la grande majorité des progrès de l'intelligence artificielle dans le monde. Dans son nouveau livre, The Big Nine : comment les Titans de la technologie et leurs machines à penser pourraient déformer l'humanité (PublicAffairs, 5 mars), Amy Webb envisage trois futurs possibles, allant de l'optimisme à l'apocalyptique, qui pourraient résulter des actions que nous prenons - ou ne prenons pas - pour contrôler le développement de l'IA. et façonner son impact mondial. Dans cet extrait, elle pose une série de questions éthiques difficiles que les humains qui construisent l'IA. systèmes devraient utiliser pour guider leur travail.
Les règles - l'algorithme - par lesquelles chaque culture, société et nation vit, et a jamais vécu, ont toujours été créées par quelques personnes. Démocratie, communisme, socialisme, religion, véganisme, nativisme, colonialisme - ce sont des constructions que nous avons développées tout au long de l'histoire pour guider nos décisions. Même dans le meilleur des cas, ils ne sont pas à l'épreuve du temps. Les forces technologiques, sociales et économiques interviennent toujours et nous poussent à nous adapter.
Les Dix Commandements constituent un algorithme destiné à créer une meilleure société pour les humains vivant il y a plus de 5 000 ans. L'un des commandements est de prendre une journée complète de repos par semaine et de ne faire aucun travail du tout ce jour-là. Dans les temps modernes, la plupart des gens ne travaillent pas exactement les mêmes jours ou heures d'une semaine à l'autre, il serait donc impossible de ne pas enfreindre la règle. En conséquence, les personnes qui suivent les dix commandements comme principe directeur sont flexibles dans leur interprétation, compte tenu des réalités des journées de travail plus longues, des entraînements de football et des e-mails. S'adapter, c'est bien, cela fonctionne très bien pour nous et pour nos sociétés, ce qui nous permet de rester sur la bonne voie. Se mettre d'accord sur un ensemble de lignes directrices de base nous permet d'optimiser par nous-mêmes.
Il n'y aurait aucun moyen de créer un ensemble de commandements pour l'IA. Nous ne pouvions pas écrire toutes les règles pour optimiser correctement pour l'humanité, et c'est parce que si les machines à penser peuvent être rapides et puissantes, elles manquent de flexibilité. Il n'y a pas de moyen simple de simuler des exceptions ou d'essayer de réfléchir à chaque éventualité à l'avance. Quelles que soient les règles qui pourraient être écrites, il y aurait toujours une circonstance à l'avenir dans laquelle certaines personnes pourraient vouloir interpréter les règles différemment, ou les ignorer complètement, ou créer des amendements afin de gérer une circonstance imprévue.
Sachant que nous ne pouvons pas écrire un ensemble de commandements stricts à suivre, devrions-nous plutôt concentrer notre attention sur les humains qui construisent les systèmes ? Ces personnes - les tribus de l'IA - devraient se poser des questions inconfortables, à commencer par :
- Quelle est notre motivation pour l'IA ? Est-elle alignée sur les meilleurs intérêts à long terme de l'humanité ?
- Quels sont nos propres préjugés ? Quelles idées, expériences et valeurs n'avons-nous pas réussi à inclure dans notre tribu ? Qui avons-nous oublié ?
- Avons-nous inclus des personnes différentes de nous dans le but de faire de l'avenir de l'IA. mieux--ou avons-nous simplement inclus la diversité dans notre équipe pour atteindre certains quotas ?
- Comment pouvons-nous nous assurer que notre comportement est inclusif ?
- Comment les implications technologiques, économiques et sociales de l'IA. compris par ceux qui ont participé à sa création ?
- Quels droits fondamentaux devrions-nous avoir pour interroger les ensembles de données, les algorithmes et les processus utilisés pour prendre des décisions en notre nom ?
- Qui définit la valeur de la vie humaine ? Contre quoi cette valeur est-elle pondérée?
- Quand et pourquoi les membres des tribus de l'IA estiment-ils qu'il est de leur responsabilité d'aborder les implications sociales de l'IA ?
- Est-ce que le leadership de notre organisation et de notre A.I. les tribus reflètent de nombreux types de personnes?
- Quel est le rôle de ceux qui commercialisent l'A.I. jouer pour aborder les implications sociales de l'IA ?
- Doit-on continuer à comparer A.I. à la pensée humaine, ou vaut-il mieux pour nous la catégoriser comme quelque chose de différent ?
- Est-ce que c'est OK pour construire A.I. qui reconnaît et répond à l'émotion humaine?
- Est-il correct de faire de l'A.I. des systèmes capables d'imiter les émotions humaines, surtout s'ils apprennent de nous en temps réel ?
- Quel est le point acceptable auquel nous sommes tous d'accord avec l'IA. évoluer sans les humains directement dans la boucle ?
- Dans quelles circonstances une A.I. simuler et expérimenter des émotions humaines communes ? Qu'en est-il de la douleur, de la perte et de la solitude ? Sommes-nous d'accord pour causer cette souffrance ?
- Développons-nous l'IA ? rechercher une compréhension plus profonde de nous-mêmes? Pouvons-nous utiliser l'IA pour aider l'humanité à vivre une vie plus examinée ?
Il y a neuf grandes entreprises technologiques - six américaines et trois chinoises - qui sont en grande partie responsables de l'avenir de l'intelligence artificielle. Aux États-Unis, il s'agit de Google, Microsoft, Amazon, Facebook, IBM et Apple (« G-MAFIA »). En Chine, c'est le BAT : Baidu, Alibaba et Tencent.
Le G-MAFIA a commencé à aborder le problème des principes directeurs à travers divers groupes de recherche et d'étude. Au sein de Microsoft se trouve une équipe appelée FATE - pour l'équité, la responsabilité, la transparence et l'éthique dans l'IA. À la suite du scandale Cambridge Analytica, Facebook a lancé une équipe d'éthique qui développait un logiciel pour s'assurer que son A.I. les systèmes ont évité les biais. (Notamment, Facebook n'est pas allé jusqu'à créer un comité d'éthique axé sur l'IA) DeepMind a créé une équipe éthique et société. IBM publie régulièrement sur l'éthique et l'IA. À la suite d'un scandale à Baidu - le moteur de recherche a donné la priorité aux allégations médicales trompeuses d'un hôpital militaire, où un traitement a entraîné la mort d'un étudiant de 21 ans - le PDG de Baidu, Robin Li, a admis que les employés avaient fait compromis pour la croissance des bénéfices de Baidu et a promis de se concentrer sur l'éthique à l'avenir.
Le Big Nine produit des études d'éthique et des livres blancs, il réunit des experts pour discuter d'éthique, et il accueille des panels sur l'éthique - mais cet effort n'est pas assez lié aux opérations quotidiennes des différentes équipes travaillant sur l'IA.
L'IA du Big Nine les systèmes accèdent de plus en plus à nos données du monde réel pour créer des produits qui présentent une valeur commerciale. Les cycles de développement s'accélèrent pour répondre aux attentes des investisseurs. Nous avons été volontaires - si involontairement - des participants à un avenir qui est créé à la hâte et sans d'abord répondre à toutes ces questions. En tant qu'IA les systèmes avancent et plus la vie quotidienne s'automatise, moins nous avons de contrôle sur les décisions prises à notre sujet et pour nous.
Amy Webb apparaîtra au Maison des fondateurs inc. à Austin le 11 mars.
