IGF 2018 WS #209 Artificial intelligence and collective intelligence

Organizer 1: Civil Society, Western European and Others Group (WEOG)
Organizer 2: Civil Society, Western European and Others Group (WEOG)

Speaker 1: Laura Aufrère, Civil Society, Western European and Others Group (WEOG)
Speaker 2: Olivier Ertzscheid, Civil Society, Western European and Others Group (WEOG)
Speaker 3: Antoinette Rouvroy, Civil Society, Western European and Others Group (WEOG)

Artificial intelligence is one of the sub-themes proposed for discussion in the context of this 13th Internet Governance Forum, within the "new technologies" theme.

The originality of the proposal lies in the fact that the focus is on the question of the relationship between Artificial Intelligence and Collective Intelligence, as a challenge for new regulations with a focus on respect for fundamental human rights.

Artificial intelligence and human intelligence are often opposed, but only in the light of the intellectual faculties of the isolated individual. Yet human intelligence is above all a collective fact, a social dynamic made of exchanges, sharing, discussions and controversies, processes that allow the construction of knowledge.

What if the real question was to identify what artificial intelligence does to collective intelligence? If the challenge is to ensure that the technique does not violate human rights, what regulations and governance should be designed and implemented to protect this collective dimension of human intelligence?

Artificial intelligence and collective intelligence: what gouvernance for the respect of human rights ?

Format: 

Panel - 90 Min

Interventions: 

- Laura Aufrère (CEPN, Paris 13) - confirmée
Introduction et modération.

- Boris Cyrulnik : éthologue et neuropsychiatre (Université de Toulon) - en cours de confirmation
Pour mettre en lumière la dimension collective et sociale dans les processus de développement de l'intelligence chez les humains et les effets des technologies dans ces mécanismes.

- Olivier Ertzscheid, chercheur en sciences de l'information (Université de la Roche-sur-Yon) - confirmé
Pour montrer en quoi en quoi le web des documents et de l'hypertexte constituait une certaine expression de l'intelligence collective et comment celle-ci est reconfigurée par les technologies d'intelligence artificielle.

Texte de référence : Le "like" tuera le lien http://affordance.typepad.com/mon_weblog/2010/05/le-like-tuera-le-lien.html

- Dominique Curis : responsable plaidoyer Libertés (Amnesty International France) - confirmée
Pour présenter la Déclaration de Toronto sur le respect des droits humains dans les processus d'apprentissage-machine et les défis qu'elle soulève en terme de gouvernance de l'Internet.

Déclaration de Toronto : https://www.accessnow.org/the-toronto-declaration-protecting-the-rights-...

- Antoinette Rouvroy (Université de Namur), chercheuse en droit - en cours de confirmation :
Pour identifier comment la "fonction anthrolopogique du droit" pourrait se décliner vis-à-vis de l'intelligence artificielle et les pistes en matière de régulation de ces nouvelles formes de "gouvernementalité".

=> Article de référence : "Homo juridicus est-il soluble dans les données ?" http://www.docs-crids.eu/index.php?lvl=notice_display&id=29430

Diversity: 

Gender parity is respected both at the level of the organizers and the panel. Diversity is also present throughout the intervener ages, from 32 to 81 years old. The speakers come mainly from France, but one of them is belgian and the representative of Amnesty International will be able to present the international activities of his organization. At the level of positioning, this debate is a dialogue between academic points of view and civil society actors.

(an english translation can be provided if needed)

Artificial intelligence and collective intelligence: what gouvernance for the respect of human rights ?

Intelligence artificielle et intelligence collective : quelle gouvernance pour le respect des droits humains ?

"Gouvernements du monde industriel, vous géants fatigués de chair et d'acier, je viens du Cyberespace, la nouvelle demeure de l'esprit."

Ainsi s'exprimait en 1986 John Perry Barlow dans la Déclaration d'indépendance du Cyberespace. Du fait même de son architecture décentralisée, Internet fut d'abord avant tout la demeure de l'intelligence collective, grâce aux dynamiques d'interconnexion et de collaboration qu'il favorisait. Le Web a encore amplifié cette tendance, à travers les liens hypertexte qui matérialisent un graphe social non capturé et difficile à soumettre à des logiques d'exploitation purement commerciale. Le web ouvert encourage la sérendipité et la construction du sens, sur une base non-calculatoire et imprévisible, entre des savoirs et des expressions plurielles. Un des enjeux majeurs de la gouvernance d'Internet repose dans les modalités collectives de délibération autour des savoirs et des

L'avènement des grandes plateformes centralisées a provoqué une capture de ce graphe social, qui alimente à présent à travers les données qui en sont extraites le développement des Intelligences Artificielles. Celui-ci repose encore largement sur les interactions avec les humains, par le biais des processus de machine learning. La face cachée de l'intelligence artificielle, c'est bien souvent le Digital Labor et l'exploitation des internautes et/ou des travailleurs astreints à des micro-tâches au service de la machine. Nourrie de données qui sont le produit d'une intelligence collective, l'IA provoque souvent en retour la fragmentation des collectifs humains et l'isolement des individus pris dans les bulles de filtres algorithmiques les renvoyant à la répétition du même.

Quelles régulations et modalités organisationnelles mettre en place pour garantir et développer cette dimension spécifiquement collective de l'intelligence humaine, qui depuis la révolution industrielle a toujours été la première victime de l'automatisation ? Faut-il proclamer la nécessité de protéger une intelligence "réellement humaine", à l'image du "travail réellement humain" qui figure dans la charte fondamentale de l'OIT en tant que condition essentielle au maintien d'une "paix universelle et durable". A l'aune des droits culturels garantis notamment dans l'article 27 de la déclaration universelle des droits de l'homme, les modalités de gouvernance d'internet doivent garantir à toute personne "le droit de prendre part librement à la vie culturelle de la communauté, de jouir des arts et de participer au progrès scientifique et aux bienfaits qui en résultent.". Certaines propositions récentes s'efforcent de retisser ce lien entre technologie et droits fondamentaux, comme la Déclaration de Toronto sur le machine learning qui réaffirme l'importance du respect des principes d'égalité et de respect de la dignité humaine face au risque de discriminations et d'assignation à une identité culturelle figée.

Si comme le dit le juriste Alain Supiot, le droit est "une technique d'humanisation de la technique", un des défis à venir pour la gouvernance d'Internet sera de déterminer démocratiquement les arrangements institutionnels qui permettront de rendre effective cette exigence humaniste. L'Intelligence Artificielle nous est souvent présentée comme un mode de gouvernance a priori et par défaut, dont l'emprise est capable de dégénérer en de nouvelles formes de "gouvernementalité", se substituant aux institutions humaines sous la forme d'une "gouvernance par les nombres". Comment alors la "fonction anthropologique du droit", qui vise à instituer l'humanité dans les individus et les outiller pour faire société, peut-elle continuer à remplir son rôle, si le choix algorithmique remplace la délibération démocratique ?

Discussion Facilitation: 

After a short introduction by the moderator (5 min), four speakers take the floor to present in about 10 minutes one of the aspects of the question. A discussion is initiated between them by the moderator (10 min), then opened to the room through questions (30min). A summary is proposed at the end in about 5 minutes by the rapporteur.

Online Participation: 

A shared document will be circulated online before the event to present the conference and gather feedback from users who will be invited to comment and ask questions.
During the session, this same document can be used as a tool for collaborative note-taking, as well as to allow Internet users to remotely follow and react.
The rapporteur will relay some of the questions asked from a distance by the speakers.
After the session, this shared document will be used to extend the discussion, which can feed into the final report.