Contexte et enjeux

Avant d’aborder concrètement les enjeux de la data responsable, nous vous proposons de revenir rapidement sur le contexte qui nous a amenés à nous poser cette question.

L’avènement du capitalisme digital en quelques dates. En premier lieu, le début du XXIe siècle a vu émerger un premier phénomène : la naissance d’entreprises d’un genre nouveau : les startups. Ces nouveaux modèles offraient pour la plupart des services numériques jugés, à l’époque, innovants et prometteurs. Ce phénomène ne manqua pas d’attirer pléthore d’investisseurs, tous à la recherche d’un nouveau filon porteur de business.

Cependant, en 2001-2002, sans que personne n’ait pu le prédire, le krach survint et la bulle internet explosa. C’est alors que plusieurs questions émergèrent : pourquoi une explosion aussi rapide de ce nouveau modèle ? Et surtout, comment expliquer un effondrement aussi soudain ? L’immaturité d’un marché ne reposant sur aucun business model viable a été la principale raison invoquée.

Les GAFAM, les fondations d’un système durable

Malgré des débuts tumultueux, le capitalisme digital n’a pas dit son dernier mot. En effet, la montée en puissance des Gafam* marque le début d’une seconde phase. Celle-ci s’illustre par l’exploitation numérique de l’expérience humaine, amorcée entre autres par Larry Page et le modèle de Google.

L’avènement du Big Data

La vision était là, avant même que Google ne dispose de la technologie pour arriver à un tel résultat. La démocratisation d’appareils digitaux de plus en plus sophistiqués et le développement exponentiel des réseaux sociaux ont transformé à jamais la place de la donnée dans les sociétés modernes.

Nos vies privées servent désormais de matière première, nos faits et gestes numériques sont collectés, enregistrés, surveillés pour être finalement transformés en données comportementales. Tous les acteurs du secteur ont copié ce modèle, à commencer par les plus importants, comme Facebook et Google. Cependant, l’utilisation responsable de la data et de l’IA ne semble pas être au cœur des préoccupations de ces acteurs.

L’IA, outil de transformation de la donnée

Les usines numériques d’aujourd’hui ne disposent plus de grandes cheminées… Elles reposent sur la collecte, le raffinage et l’exploitation de ces océans de données. L’arrivée de l’intelligence artificielle dans la sphère opérationnelle marque une véritable révolution dans l’usage de la data. Issue de concepts mathématiques parfois empiriques, l’IA se nourrit de ces données pour créer des « produits » comme autant de supports à une économie basée sur l’analyse et la prédiction des comportements humains.

Ces nouveaux marchés destinés entre autres aux annonceurs en ligne sont la source de plus de 90 % des revenus de Google et de Facebook. Ces entreprises ont réussi à faire de nos informations personnelles, l’or noir du XXIe siècle, et poursuivent ainsi l’expansion de leurs empires commerciaux.

Quelle place pour l’éthique dans le Nouveau Monde ?

Ces observations soulèvent inévitablement de sérieuses réflexions autour de l’éthique. En effet, la maîtrise des données et de l’IA conditionnera le quotidien des générations futures.

Une notion qui peine à se faire entendre

Pourtant à ce stade, personne ne semble encore mature sur la notion d’éthique et de responsabilité de l’exploitation des données. Les grandes puissances internationales semblent être profondément convaincues qu’il faut encadrer le secteur, l’Union Européenne en tête. Des règlementations existent, des centaines de projets de loi ont été introduits ces dernières années. Dans la visée du législateur : la protection de la vie privée en ligne et la désinformation numérique.

L’utilisation de l’IA est aujourd’hui tiraillée entre trois facteurs : sa puissance, sa survente et sa dénonciation. Elle reste néanmoins un outil formidable à condition de la doter de principes de responsabilités essentiels :

Des principes de responsabilité éthique en se protégeant des biais qu’elle est susceptible de provoquer ou d’accentuer. Ces derniers pourraient entraîner des bouleversements, des injustices, des inégalités majeurs.
La nécessité d’assurer la transparence et l’explicabilité du fonctionnement des algorithmes et des données à partir desquelles ils ont été entraînés.
Des principes de responsabilité autour des données dont les algorithmes d’IA font usage.
Des principes de responsabilité contre les abus d’éthique commerciale avec de fausses promesses ou l’exploitation frauduleuse et biaisée des concepts d’IA et des données.

Gestion de la data et de l’IA : comment agir en entreprise responsable ?

Du point de vue de l’entreprise, que signifie alors la notion de responsabilité autour de l’IA et de la donnée ? Comment faire pour adopter un comportement responsable ? La réponse se trouve dans la question. Il s’agit à minima de trouver un équilibre responsable et éthique entre les intérêts de l’entreprise, les intérêts de son écosystème et les cadres légaux permettant d’encadrer les comportements et les règles.

L’entreprise faisant usage de ces concepts doit exprimer clairement sa responsabilité quant à la collecte et l’usage de la data, ainsi que des principes d’IA dont elle fait éventuellement commerce :

La responsabilité repose en premier lieu sur l’usage et donc la collecte de données. Plutôt que de poursuivre une stratégie sous l’angle de la profusion ou collecte de data à tout prix, il s’agit davantage de miser sur la qualité (origine, fraîcheur) et le ciblage des données en réfléchissant en amont aux usages.
La responsabilité s’étend sur le fait d’accorder davantage d’importance à l’empreinte écologique du stockage et du traitement de la donnée. La course folle à la collecte et au stockage de la donnée multiplie de manière exponentielle la quantité de données stockée dans les datacenters.
Elle se poursuit sur l’éducation collective : faire de la pédagogie sur l’usage, l’éthique, les responsabilités sociétale et juridique, former le personnel en charge de la collecte pour qu’ils aient les connaissances techniques et légales afin de s’assurer de leur intégrité (éthique).
La classification, la protection des données, en définir une criticité et une portée en termes d’impact, mettre en place des dispositifs de sécurité plus ou moins étendus sont autant de principes directeurs sur lesquels l’entreprise a également une responsabilité.

Data et IA responsables, vers une nouvelle ère

Disposer d’une politique de gestion de la data responsable, c’est aussi jouer la transparence dans la monétisation de la donnée. C’est consentir à rendre explicite et accessible l’explication de l’utilisation des données. In fine, il s’agit surtout de s’inscrire dans une démarche éthique via une logique de réciprocité. Chaque contributeur de la chaîne devrait contribuer à la valeur créée et en retirer un partage des bénéfices.

Pour conclure, nous sommes peut-être à l’aube d’un changement de paradigme. En effet, le monde d’aujourd’hui semble se diriger vers un échange et un partage plus solidaire de la donnée. La data et son exploitation ont probablement un rôle contributif important à jouer pour construire le monde de demain de façon plus durable, sans pour autant remettre en cause le modèle économique des entreprises dans le développement de leur activité.

*GAFAM est l’acronyme des géants du Web — Google, Apple, Facebook, Amazon et Microsoft — qui sont les cinq grandes firmes américaines dominant le marché du numérique. Elles sont parfois également nommées les Big Five, ou encore « The Five ».