Blog & Actualités

Ce n’est pas toujours artificiel : ce qui se cache derrière l’IA

Comment votre « agent conversationnel » pourrait-il exposer des données à des personnes non autorisées ?

De nos jours, les mots « intelligence artificielle » sont largement répandus. Cependant, il existe un nombre croissant de startups censées reposer sur l’IA qui ont, en réalité, un lien infime avec la technologie. Des recherches menées par MMC Ventures n’ont trouvé aucun élément de présence d’intelligence artificielle, chez 40 % des startups européennes dites d’« IA ». Pourtant, l’écrasante majorité, soit 9 sur 10, se trouve sur le marché.

Par ailleurs, même les entreprises qui développent des solutions d’IA la complètent souvent avec des employés à distance. Ces employés interviennent dès lors que la machine ne parvient pas à effectuer une tâche par elle-même.

Il est toutefois convenable de mélanger l’intelligence humaine et artificielle pour fournir un produit supérieur, puisqu’il s’agit, dans une large mesure, de l’avenir du monde du travail. Le problème réside dans le manque de transparence à ce niveau. Comme l’a révélé The Guardian dans un article d’investigation récent, beaucoup ne prennent même pas la peine d’agréer les personnes qui consulteront vos données, mais se contentent en lieu et place de se fier à la sous-traitance, avec des travailleurs indépendants externalisés auprès de services tiers tels que le Mechanical Turk d’Amazon.

Voici leur fonctionnement : Lorsque leurs programmes d’IA ne parviennent pas à comprendre ou à résoudre un problème, cette tâche est envoyée à un service tiers. Il s’agit d’un service au sein duquel une armée de sous-traitants rivalisent pour le résoudre le plus rapidement possible, pour quelques centimes chacun. Il n’existe aucune vérification. N’importe qui peut prendre part en quelques minutes depuis n’importe où, ce qui peut s’avérer idéal pour certaines tâches, mais inacceptable pour d’autres.

Les informations ne se valent pas toutes. Les entreprises doivent pouvoir contrôler qui a accès à quoi. Le manque de transparence limite votre capacité à protéger la confidentialité de vos clients et employés, et aboutit souvent à la divulgation d’informations sensibles à des tiers, sans votre avis éclairé et consentement explicite.

Pour les RH, cela représente un souci majeur. Les CV contiennent des informations personnelles identifiables. Par conséquent, leur traitement relève du RGPD et autres réglementations sur la protection des données au niveau mondial. Comment pouvez-vous garantir que les données personnelles de vos candidats soient protégées si des solutions dites d’IA exposent des données à des étrangers installés dans leur salon ?

Cet argument ne va pas à l’encontre de l’IA, mais incarne plutôt un plaidoyer en faveur de la connaissance de vos fournisseurs, pour vous assurer que vous pouvez leur faire confiance afin de ne pas divulguer d’informations à des tiers à votre insu ou sans votre consentement.

Chez Avature, nous sommes fiers de permettre à nos clients de contrôler les informations qui sont exposées, ainsi que l’endroit où elles sont exposées et quand elles sont exposées. Les clients peuvent accorder et révoquer à discrétion l’accès à des tiers et définir ce qu’ils peuvent voir, sur une période donnée avec une granularité exceptionnelle. Cela leur permet de se conformer à l’ensemble des règles de confidentialité, actuelles et futures, en adaptant la façon dont leurs systèmes traitent les données à la volée.

Notre approche de l’IA est également différente de l’approche « boîte noire » omniprésente dans ce domaine. Nous privilégions la transparence, autrement dit, nous devons développer nos outils d’IA en interne. Dès le départ, nous les concevons pour donner à nos clients toutes les informations utiles à la compréhension du fonctionnement du système. Imaginez qu’un recruteur recherche un poste spécifique, Avature Semantic Search étend sa requête avec des termes apparentés : chacun d’entre eux est affiché et peut être activé et désactivé par l’utilisateur.

Le RGPD, la sécurité et la confidentialité des données sont des facteurs émergents de l’industrie et à ce titre, il convient de regarder de plus en plus au-delà des fonctionnalités et d’évaluer méticuleusement ceux qui vous fournissent cette technologie. Vous devez parfaitement comprendre les valeurs fondamentales de votre fournisseur, ses principes de développement et sa feuille de route stratégique.

Partager

Partager