Sur la base de mon expérience de travail à la fois dans les grandes technologies et pour le gouvernement américain, je propose une nouvelle voie à suivre pour préserver le moteur de l’innovation tout en faisant progresser les valeurs partagées : mettre un représentant citoyen dans la pièce où l’IA se produit.
Cette semaine, Sam Altman, le directeur général d’OpenAI, a témoigné devant le Sénat et a appelé à une nouvelle agence fédérale pour réglementer l’IA. C’est pas la première fois on lui demande la participation du public pour atteindre un objectif largement partagé : un équilibre entre innovation soutenue et valeurs communes. Une nouvelle agence pourrait aider, bien que les processus de réglementation fédéraux aient du mal à suivre le rythme de la technologie. Plus précisément, cependant, une proposition de nouvelle agence de réglementation perpétue le même vieux cadre contradictoire dans lequel les entreprises sont présentées comme des fauteurs de troubles qui doivent être contrôlés par le gouvernement. Ce que je propose est une façon de respecter le rythme et la promesse de l’innovation, tout en faisant entendre dans la salle les voix riches et diverses du public.
Imaginez si le Congrès adoptait une législation obligeant chaque entreprise qui lance un produit d’IA qui compte au moins 10 millions d’utilisateurs à avoir un représentant citoyen intégré dans l’entreprise.
Ce représentant citoyen, choisi par le public, serait payé par l’entreprise, rejoindrait l’équipe de direction de l’entreprise et disposerait d’un budget proportionnel à la taille de l’entreprise, y compris le personnel intégré dans les équipes de produits. Conformément à la loi et imposée par les régulateurs, le représentant des citoyens et son personnel auraient accès au développement interne des produits et participeraient aux décisions critiques de l’entreprise. Dans les limites nécessaires pour protéger la propriété intellectuelle et la vie privée, le représentant des citoyens pourrait communiquer avec le public sur les considérations et les choix de l’entreprise et solliciter les commentaires du public. Les dirigeants de l’entreprise n’auraient pas à accepter les recommandations du représentant des citoyens, mais ils feraient ce choix au grand jour.
L’influence du représentant des citoyens prendrait de multiples formes. Le premier est la possibilité d’un partenariat productif qui établit un programme positif donnant la priorité aux valeurs du public. Les décisions auxquelles sont confrontées les entreprises technologiques sont difficiles et ne font que se compliquer, et la participation du public garantira que les entreprises n’auront pas à prendre ces décisions seules. En effet, le représentant citoyen peut donner à une entreprise une couverture pour faire ce qu’il faut (d’autant plus qu’il y aura également des représentants citoyens chez chaque concurrent). Ce type de voix « supplémentaire » dans la salle s’appuie sur le précédent des équipes de produits qui intègrent un conseiller juridique pour donner des conseils sur la conformité. Dans une culture d’entreprise mature, un membre de l’équipe du représentant citoyen deviendrait de la même manière un partenaire de confiance aidant l’équipe à faire son meilleur travail. De plus, il y a toujours la menace d’une réglementation plus onéreuse, et travailler en étroite collaboration avec le représentant des citoyens aiderait à la tenir à distance.
Une autre forme d’influence est la transparence et le dialogue. Les entreprises technologiques sont sous surveillance constante, avec de moins en moins d’observateurs désireux prendre pour argent comptant les missions et principes déclarés des entreprises. La présence de représentants des citoyens peut aider les entreprises à identifier et à répondre plus rapidement aux préoccupations du public, en particulier si les personnes choisies pour remplir le rôle de représentants des citoyens sont des personnes qui ont une expérience approfondie de l’application des valeurs sociales à la technologie. Si nécessaire, le représentant des citoyens pourrait utiliser sa plate-forme de haut niveau pour inclure le public et les décideurs politiques dans l’élaboration du processus décisionnel de l’entreprise.
Cependant, le véritable pouvoir du représentant citoyen va au-delà des actions spécifiques qu’il entreprend ou de la contribution qu’il fournit. C’est l’impact positif sur la culture d’une entreprise. Finalement, une fois que le représentant citoyen et son équipe auront fait sentir leur présence dans l’entreprise, la question de savoir comment un choix particulier – lancer un produit, ajouter une fonctionnalité, investir dans de meilleures protections – s’alignera sur les valeurs publiques deviendra plus une partie transparente et structurée de chaque décision d’entreprise.
Les représentants des citoyens peuvent sembler une solution modeste, dans la mesure où cette proposition laisse les décisions entre les mains des mêmes acteurs privés qui les prennent aujourd’hui. Mais cette solution changerait radicalement le rapport du public à la technologie. Aujourd’hui, les décisions concernant l’IA et d’autres technologies critiques sont opaques pour le public. Les représentants des citoyens donneraient aux entreprises et au public un meilleur aperçu des ambitions de chacun.
Dans le contexte de la technologie d’aujourd’hui, les bureaucraties traditionnelles seraient un instrument trop rudimentaire pour faire progresser à la fois l’innovation durable et les valeurs partagées. Au lieu de cela, l’IA d’aujourd’hui nécessite une sorte de surveillance plus agile, le “soft power” des représentants dont la participation et la perception leur permettent de fournir des conseils agiles et indépendants. Tout comme les banques centrales s’appuient sur la coordination, les relations et les connaissances partagées pour réglementer le secteur financier très complexe, les représentants citoyens peuvent mieux influencer le secteur technologique très complexe par la participation quotidienne, la persuasion et la transparence.
Finalement, les représentants des citoyens pourraient bien fonctionner dans d’autres industries avec des impacts majeurs sur le bien-être du public. Mais l’IA est logique en tant que lieu pour les présenter, compte tenu de la naissance et de l’importance de l’espace et de l’ouverture de l’industrie à la contribution du public.
L’IA porte à la fois le potentiel du triomphe et de la tragédie. Alors que son impact sur nos vies continue de croître, nous, les gens, pouvons mieux faire progresser nos valeurs communes, y compris un engagement envers l’innovation, si nous sommes là tous les jours – attentifs, alertes et actifs – dans la pièce où cela se produit.
