Un papier intéressant de Bernard Benhamou.
Toutefois il sera difficile de bien poser les problèmes tant que l'on
restera dans le flou qui est le biais architectural/économique de
l'internet. Celui-ci se présente comme un réseau global, mais il est
en fait le réseau télématique des GAFGovs/BATIX, mode Vint Cerf+Bob Kahn.
Pour avoir été le premier à en connaître l'impact (Louis Pouzin,
devant nous refuser en 1978, la connexion de Cyclades au catenet
international public pour cause du lancement de la télématique d'Etat
française ; en autorisant techniquement le raccordement de l'internet
de l'Etat américain à ce catenet public mondial - 56 pays - en 1984)
je suis "mal payé" depuis pour savoir que le prérequis à toute
solution est une prise de conscience par la multitude humaine de la
nature "réticulaire (en fait, interligentielle : tout est interlié")
de la Raison elle-même en contexte complexe et agorique (tout le
monde se concerte avec tout le monde via le réseau des réseaux).
Ce qu'Olivier Aubert a mis en lumière avec l'anoptikon et la quête
corollaire de l'"être" et de l'"état en réseau" (faisant fort
intelligemment poser l'analogie de la kénose du Père par Philippe
Quéau). C'est la nature diktyologique de la nature ainsi dénommée par
Paul Mathias (quelqu'un a-t-il son email ? Il ne répond plus au comptoir).
Pour que le monde le perçoive, il faut un conflit d'intérêts visible
entre les GAFGovs et la multitude (le peuple c'est la multitude
visible à travers l'organisation de l'Etat) où la multitude ne
subisse pas, comme pour les Gilets Jaunes, mais puisse réagir de
façon constructive et progressivement puissante. Ceci s'appelle "avec
bon sens" : et aujourd'hui sapience partagée entre capacités
individuelles, lorsqu'on se met à la multimatique ("tous à tous" et
non plus "asservis-plateformes").
La difficulté est que nous avons les concepts (fonctionnels), les
outils (applications) et le catenet (internet en tant que
transporteur). Mais nous n'avons pas (encore) les pionniers
développeurs/designeurs libres. Ensuite, il faudra que la manière de
penser apprise sur le tas de l'interligence digitale nous serve
d'éducateur quant à la manière dont fonctionne la pensée, la manière
de voter, et la gouvernance adaptée. Avec face à nous tout
l'e-commerce des vendeurs et acheteurs télématisés. C'est pourquoi il
nous faut des communautés pilotes (globales au sens de la
'<http://tools.ietf.org/html/rfc6852>RFC 6852), ayant le besoin (je
vois les séniors, peut-être les petites collectivités) ou capables
(je vois la recherche "hors mur" citoyenne - la recherche à parité de
compétence ou supérieure à la recherche institutionnelle [telle
qu'identifiée par les Académies des Sciences du G7]). Qui sait ....
survivrons-nous peut-être à la gougle ?
-------
Ce que Margrethe Vestager ne semble pas comprendre à la phase 2 de la
conquête du monde par les GAFAM
Les grandes entreprises des technologies du numérique comme Google ou
Amazon investissent de plus en plus dans la santé, la banque ou bien
encore l'assurance. Margrethe Vestager, la commissaire européenne en
charge de la concurrence, tente de lutter contre l'emprise des GAFAM.
En une semaine, nous apprenons que Google développe des plans très
sérieux tant au niveau des traitements de données de santé qu'au
niveau des services bancaires. Les grandes entreprises des
technologies du numérique, couramment associées sous l'appellation de
GAFAM (Google, Amazon, Facebook, Apple, Microsoft), semblent lancer
dans une course inédite à l'extension de leur pouvoir en investissant
les domaines de la santé, de l'assurance, et de la banque.
Atlantico.fr : Peut-on distinguer des périodes dans les politiques
des grandes entreprises du numériques : une première où ces dernières
se concentreraient sur leurs plateformes et l'acquisition de
monopoles ; et une seconde, actuelle, où elles amorceraient une
diversification vers la banque et la santé ?
Bernard Benhamou : Amazon donne un exemple un peu plus nuancé que ce
découpage. En effet, très vite l'entreprise a développé une activité
technologique à côté de leur place de marché, autour du "cloud" avec
Amazon Web Services. Donc on ne peut pas considérer une coupure aussi
nette. Il y a eu d'autres époques antérieures où il y avait des "Pure
Player", des structures qui n'étaient que dans le domaine
informatique, avec IBM puis Microsoft, qui étaient les géants de
l'informatique, et ont souhaité eux aussi très tôt se diversifier. Je
rappelle par exemple que Microsoft avait tenté à son époque de
rentrer dans le domaine des services financiers et en avait été très
vite dissuadé par les réactions du secteur bancaire et ses relais. À
l'époque, il s'agissait du rachat de la société Intuit avec son
logiciel Quicken, qui a été empêché par le ministère de la Justice
des États-Unis. C'est donc intéressant de voir qu'il y a déjà eu des
précédents. On avait bien compris que le secteur informatique, pour
aussi important qu'il soit, ne résumait pas l'action de ces sociétés
: c'est désormais vrai pour quasiment toutes les grandes sociétés
technologiques. Cela dépasse les GAFAM : globalement, l'ensemble des
sociétés technologiques ont vocations à - selon le terme qu'on
utilisait il y a quelque temps - à pivoter, ou à se redistribuer sur
d'autres secteurs.
Dans le cas spécifique de Google, Facebook, par exemple, leur
puissance de frappe via leurs monopoles sur l'acquisition d'un grand
nombre de données sensibles, ne doit-elle pas inquiéter vis-à-vis de
leurs ambitions à s'étendre à d'autres domaines ? Avec un risque
d'augmenter encore plus leurs pouvoirs ?
C'est, à mon avis, totalement vrai. Je vous citerai comme exemple la
ville de Toronto. La ville de Toronto a laissé à Google le soin
d'organiser la ville intelligente du Waterfront district. Il y a
quelques jours on a découvert des documents de "SideWalk". la filiale
de Google qui évoquaient une reprise en main d'une partie des
services publics, y compris des "punitions" infligées aux citoyens,
faisant preuve d'une volonté qui est quasiment de nature politique.
On peut citer l'ancien patron de Google, Éric Schmidt, qui avait
écrit dans son livre, La nouvelle ère digitale : "Les États sont
lents et incompétents, nous avons vocation à les remplacer". À
l'époque ça n'avait pas fait énormément de bruit. Maintenant on se
rend compte qu'une société comme Google représente un vrai risque
d'ubérisation pour l'État lui-même, et pas uniquement pour tel ou tel
secteur industriel. C'est l'État en tant que tel, avec ses
prérogatives régaliennes, évidemment avec la monnaie mais aussi pour
la sécurité ou encore la santé, qui est face à un risque de
substitution, avec en particulier les nouvelles technologies de
l'intelligence artificielle. C'est là où se pose un véritable
problème politique de souveraineté. Il est évident que nous, citoyens
de sociétés démocratiques, aurons à nous prononcer sur ce que ces
sociétés peuvent ou ne peuvent pas faire.
Indépendamment même des actions en concurrence, par exemple, pour
savoir si le rachat de WhatsApp ou Instagram par Facebook aurait dû
être bloqué (ce que même les Européens admettent aujourd'hui).
L'économiste en chef du département de la concurrence à Bruxelles
avait reconnu je cite "s'être fait avoir" dans le cadre de ce rachat.
Il y a donc deux problèmes : celui de la gestion de la concurrence ;
et celui du risque de l'ubérisation de l'État, qui renvoie à un
ancien concept, celui du risque de démembrement de l'État. Et je
pense que là-dessus, il y a un véritable risque de substitutions de
grands groupes technologiques à des missions essentielles de l'État
en particulier dans le domaine de la couverture sociale.
Dans ce cas-là comment poser une limite ? Ces grandes entreprises
n'ont-elles pas vocation à toujours grandir ? Il semble difficile de
leur interdire un droit à continuer leur croissance ?
Non, je ne suis pas d'accord avec cette idée d'un droit à croître
indéfiniment. Souvenons-nous que le droit antitrust, le Sherman Act
aux États-Unis, est né de la volonté d'éviter effectivement qu'un
acteur économique avec un monopole sectoriel, n'aboutisse à un
monopole et à une hégémonie dans d'autres secteurs. C'est le cas plus
récemment lorsqu'on a fragmenté la société AT&T Corporation dans les
années quatre-vingt, parce qu'ils avaient un monopole important sur
les télécommunications aux États-Unis. L'objectif de la législation
antitrust est d'éviter l'effet domino d'un monopole d'un secteur vers
d'autres. Les États ont jusque-là manqué de volonté politique par
rapport aux acteurs technologiques, alors que les instruments
existaient et existent toujours. Lorsque l'Europe avait décidé
d'empêcher le rapprochement, dans les années 2000, de Général
Electric et Honeywell dans le secteur des turbines d'avion, elle
avait bien bloqué une fusion entre deux entreprises américaines ! Et
le rapprochement avait été bloqué du fait d'une décision européenne.
L'argument selon lequel les grandes sociétés numériques seraient plus
agiles et plus rapides, et que par conséquent, il serait impossible
d'envisager ce genre de mesures conservatoires, avant même que l'on
ait conclu une enquête, me paraît faux. Il n'est en pratique pas du
tout impossible d'intervenir pour bloquer le rapprochement de deux
structures du numérique.
Mais ne risque-t-on pas en se focalisant sur les entreprises
américaines d'oublier qu'il y a aussi la concurrence des géants
chinois, qui eux, semblent beaucoup difficiles à réguler encore que les GAFAM ?
Je pense que la même chose doit être dit et fait vis-à-vis des
sociétés chinoises. L'argument que l'on entend, y compris dans les
sphères gouvernementales, qui consisterait à dire, "sanctionner les
GAFAM (Google, Amazon, Facebook, Apple, Microsoft) serait faire le
jeu des BATIX (Baidu, Alibaba, Tencent et Xiaomi)", est un argument
faux. Ces entreprises ont besoin du marché européen qui reste l'un
des premiers, si ce n'est le premier marché en valeur dans ces
domaines. Nous n'avons aucune raison donc d'avoir un traitement
différencié dans ces domaines.
Donc d'un point de vue pratique, comment cela pourrait-il se
concrétiser ? Pourrait-on aller jusqu'à un démantèlement comme
proposé par Margrethe Vestager, la commissaire européenne en charge
de la concurrence ?
Évidemment, c'est très différent entre les États-Unis et la Chine. La
Chine participe à une économie qui est très contrôlée par l'État, et
les règles, notamment monétaires, y sont profondément inéquitables du
point de vue du commerce international. Mais à défaut de pouvoir
empêcher X ou Y société chinoise de fusionner, ce qui en effet serait
plus complexe - et je ne suis pas sûr qu'on en ait les instruments
pour - ; au moins empêcher l'accès à certains marchés à ces
entreprises serait tout à fait possible. Ce n'est encore qu'une
question de volonté et de « muscles » politiques.
Quant aux déclarations sur un possible démantèlement de Margrethe
Vestager, j'aurais préféré que l'on n'ait pas à s'en préoccuper, en
s'en préoccupant avant et plus en amont ! Je vous invite à regarder
deux chronologies parallèles : la première concerne les sanctions
imposées à Google. Les faits reprochés à Google remontent pour
certains d'entre eux à plus de dix ans. Il se trouve en effet que la
procédure a été extraordinairement longue, avec toutes les formes de
mesures dilatoires utilisées par les avocats de cette grande société
pour éviter d'être sanctionné et reporter le plus loin possible
l'application de la sanction. Et de l'autre côté, vous avez Libra,
l'initiative de Facebook pour construire une crypto monnaie, soutenue
à ses débuts par de grands acteurs bancaires - Visa, Mastercard,
Paypal, et quelques autres-, là vous observez que le jour même où le
projet a été annoncé, l'ensemble des autorités gouvernementales et
des banques centrales, européennes et américaines, se sont levées
pour dire que cela posait un problème majeur de souveraineté. Elles
ont même avancé qu'elles seraient obligées de réguler si ce n'est
d'empêcher que cette initiative aboutisse.
Dans ce cas-là, et on peut le voir avec le retrait progressif des
sponsors de l'initiative, il est probable que le projet Libra tel
qu'il a été prévu ne pourra pas exister en l'état. Alors, est-ce
qu'ils rebaptiseront le projet pour donner l'impression de ne pas
perdre la face ? Cela est tout à fait possible, mais on voit bien que
dans un cas on a une réaction immédiate face à une menace immédiate
de souveraineté, tandis qu'avec Google, il y a eu des tergiversations
sur les abus de position dominante, et sur les enquêtes à mener.
Cette comparaison doit nous inspirer sur les temps à venir pour
réagir rapidement et sans attendre. Quand il s'agit de données aussi
sensibles, que celles liées à la santé, à la protection sociale, ou
encore à la banque, nous n'avons aucune raison de laisser ces acteurs
avoir un rôle de destruction non-créatrice dans ces domaines.
Donc outre la limite en terme de taille, il y a une limite aussi
éthique dans les secteurs concernés par l'usage du numérique ?
Oui, la taille ça été très bien étudié dans un livre de Tim Wu, The
Curse of Bigness. Mais je crois que la taille n'est pas le seul
problème : il y a un problème de danger démocratique et politique
quand ces entreprises peuvent s'approcher de certains secteurs.
L'affaire Cambridge Analytica en donne un bon exemple. Cette affaire
est en effet liée aux conséquences d'une forme de complaisance
vis-à-vis de sociétés comme Facebook : or ce risque était prévisible.
Penser qu'une société, dont le modèle économique est lié à
l'accumulation des données, pourrait se refréner quant à l'usage de
ses données, et pourrait empêcher des usages déviants comme cela
s'est produit dans la période récente, était faire preuve d'une
grande naïveté. Je crois que là encore les risques démocratiques ne
se concentrent pas seulement pendant les campagnes électorales, mais
aussi sur la manipulation permanente des opinions publiques - comme
cela est très bien expliqué dans le livre de Shoshana Zuboff, Le
capitalisme de surveillance. C'est quelque chose qui doit nous
interroger. Aujourd'hui ce n'est que parce qu'il était question du
fonctionnement électoral, que les acteurs politiques se sont
réveillés. Mais cette prise de conscience doit aller beaucoup plus loin !
La manipulation que permettent les données, et que ces plateformes
recueillent, de manière très large, et qui sont agglomérées, par
exemple dans les sociétés qu'on appelle les data brokers, constitue
un danger pour l'ensemble du fonctionnement des débats publics, bien
au-delà des seules périodes électorales. La loi française qui se
concentre seulement sur la lutte contre les fake news en période
électorale, est de ce point de vue, très insuffisante. Il faut une
attitude et une doctrine qui aille jusqu'aux fondamentaux de notre
société : en effet lorsque l'on détient autant d'informations sur
autant de personnes - plusieurs milliers de paramètres sur chaque
individu - on peut deviner, on peut déduire, et ensuite on peut les
manipuler d'une manière infiniment précise ! Bien au-delà de ce qui a
été fait par Cambridge Analytica, qui n'a été probablement qu'une
première étape artisanale des stratégies de manipulation de masse.
Mais comment faire en sorte que les hommes politiques eux-mêmes
n'aient pas la volonté de déléguer des services publics à ces
entreprises privées du numérique ?
Cela se résume très facilement, par une tribune qui avait été publiée
par le Guardian à l'époque, à propos de la délégation d'une
responsabilité politique à Google pour la ville de Toronto. Le propos
était de dire : le patron de Google n'a pas été élu, il n'y a pas de
raison pour qu'il ait une responsabilité politique sur le
fonctionnement de notre ville. Il y a un conflit de légitimité : ces
entreprises ne sont redevables que devant leurs actionnaires ; elles
ne sont pas redevables devant leurs usagers. Car pour Facebook le
client, c'est avant tout l'entreprise qui achète de la publicité ;
Facebook se comportant comme une régie. Donc par définition, ils sont
redevables d'abord devant leurs clients, devant leurs actionnaires,
et ensuite ils sont très marginalement responsables devant les
citoyens. C'est un ordre de priorité qui doit changer et qui doit
changer vite.
Les données de santé ne sont-elles pas un bon exemple de ce risque ?
Les données de santé sont un des domaines d'extension prioritaire des
GAFAM, mais pas sur le plan où on pourrait le penser. C'est-à-dire
qu'ils ne se focalisent pas sur l'innovation technologique médicale
en tant que telle ; leur but n'étant pas de se substituer aux acteurs
de la santé, mais bien plus de se substituer au secteur dit
prudentiel de la banque et de l'assurance qui serait pour eux
infiniment plus rentable. Ils cherchent à produire des technologies
qui éviteront que les gens ne tombent malades. En anglais, on dit que
l'on passe du « cure » au « care ».
On déplace le centre de gravité de l'économie de la santé vers la
prévention et on peut au passage, selon un rapport de Goldman Sachs
2015, économiser jusqu'à 10 % de l'ensemble de la dépense de santé,
grâce à des mesures de prévention que peuvent permettre les
technologies, les objets connectés, et autres dispositifs, capables
de détecter très tôt et très vite des pathologies, avant qu'elles ne
deviennent très coûteuses à soigner. On vise à empêcher que les gens
ne tombent malades. Il y a des études qui montrent que 50 % des
cancers sont liés à des causes - au sens large - environnementales,
c'est-à-dire, comportementales, diététiques, etc. Donc des causes qui
sont évitables. Aujourd'hui avec les nouvelles technologies qui
offrent la possibilité de connaître puis de modifier les
comportements individuels minute par minute, comme la montre, le
téléphone, et bien d'autres capteurs dans les maisons, les
automobiles, et ailleurs, on devient capable d'orienter et
d'influencer le comportement individuel à une très grande échelle. Le
rêve de sociétés totalitaires, qui était de pouvoir rentrer dans les
plus intimes actions et pensées d'une personne, devient possible.
Avec là encore tous les risques de contrôle social, tel qu'on peut le
voir en Chine, avec par exemple ce sinistre système de Crédit social,
donnant accès ou pas à certains services. Ceci constituera l'un des
éléments « durs » de la confrontation des sociétés démocratiques face
aux GAFAM.
Pour l'Europe, ces technologies de la santé constituent aussi une
opportunité de rebond, parce qu'on a justement un savoir-faire et une
tradition de soin et de protection des individus. Mais c'est aussi un
risque de dérive si l'on ne maîtrise pas politiquement ces acteurs :
car ceux-ci peuvent prendre pied dans ces secteurs rapidement en
apportant des promesses de rationalisation des coûts
Apple a déjà
ses propres cliniques, et cette société avance très vite dans ce
secteur. Ils sont aussi des acteurs du paiement via Apple Pay.
Récemment, il y a eu un scandale justement sur leur système de carte
de crédit, l'Apple Card, qui prenait en compte des informations
privées, et accordait moins de possibilités de crédit aux femmes
qu'aux hommes. Le problème était de comprendre pourquoi l'algorithme
fonctionnait comme cela ; car même le cofondateur d'Apple, Steve
Wozniak, a fait lui-même l'expérience de cette discrimination
bancaire avec sa femme. Le risque est alors celui de la
généralisation de la discrimination algorithmique.
Toutes ces questions requièrent une plus grande vigilance et une
exigence de transparence, qui actuellement n'existent pas, face à ces
acteurs. C'est la transparence par rapport au fonctionnement
algorithmique qui est en jeu d'abord, même si cela reste complexe,
car les systèmes d'intelligence artificielle sont difficiles à
analyser ou à auditer. Mais pour revenir aux fondamentaux, il ne faut
pas que les citoyens puissent être soumis à leur insu à des
discriminations par des algorithmes qui se comporteraient comme
autant de « Boîtes Noires » pour reprendre l'expression de Frank
Pasquale. On est là face à des questions qui sont essentiellement et
fondamentalement politiques et qui exigent là encore des réponses
politiques et démocratiques.
_______________________________________________
comptoir mailing list
[email protected]
http://cafedu.com/mailman/listinfo/comptoir_cafedu.com
