artificial intelligence, technology, robot, futuristic, data science, data analytics, a.i.
iStockPhoto/Just_Super
Sécurité Technologie

IA et sécurité : des données à ne pas divulguer

27.03.2024
par Léa Stocky

Passionné d’informatique et de technologie, Anees Qureshi est le PDG et fondateur de One Step Beyond, une société axée sur le conseil et l’intégration cloud. Il est également membre du conseil d’administration de Swiss Expert Group, spécialisé dans la cybersécurité et les solutions cloud. Dans son parcours, il a pu vivre toutes les principales transformations du secteur, du web à la nouvelle économie, à la transformation numérique, à la mobilité, au cloud et maintenant à l’IA. C’est sur cette dernière évolution qu’il répond à nos questions dans cette interview.

Anees Qureshi,PDG de One Step Beyond et membre du conseil d’administration de Swiss Expert Group

Anees Qureshi
PDG de One Step Beyond et membre du conseil d’administration de Swiss Expert Group

Anees, pouvez-vous dresser un rapide état des lieux de l’utilisation de l’intelligence artificielle générative par les entreprises ?

Nous observons que nous passons d’une situation où l’IA intéressait surtout les technophiles à une situation où l’accès à l’IA générative via diverses plateformes comme ChatGPT, Bing, Copilot devient accessible à tous les types et à toutes les tailles d’organisations. Cela se remarque aussi à travers l’augmentation de l’offre des solutions, avec des plateformes telles qu’Azure Open AI, AWS Bedrock ou Google Bart.

Quels sont les risques liés à l’utilisation des outils d’intelligence artificielle générative ?

La protection et le contrôle des données sont le principal risque. Il est impératif de connaître ses données et de savoir ce que l’on est prêt à partager et ce qui doit rester privé. Les entreprises ont en effet la responsabilité de ce que l’IA peut faire avec leurs données et comment elle peut les utiliser.

Un exemple simple : votre service des ressources humaines possède la liste de tous vos employés et cette liste est accessible à tous les employés via l’intranet, les équipes ou par courrier électronique. Dans le même fichier, vous disposez également de toutes les informations salariales, mais vous ne souhaitez pas les communiquer à tout le monde. Si vous entraînez votre IA sur tous les actifs de votre entreprise sans aucune limite, vous risquez de divulguer des informations sensibles à la première requête sur le chat de l’entreprise telle que : « Quel est le salaire de mon patron » ?

Quelles sont les mesures que les entreprises peuvent mettre en place pour sécuriser leurs systèmes face aux risques de l’IA ?

Il est nécessaire d’avoir une gouvernance claire sur la protection des données et des informations en suivant les meilleures pratiques, mais toujours adaptées au contexte. C’est similaire à ce que nous voyons dans l’adoption de l’informatique dématérialisée où la technologie peut être déployée rapidement mais où doivent être mises en place la gouvernance et la gestion du changement les mieux adaptées à la taille de son organisation. L’autonomisation et l’éducation des utilisateurs restent essentielles.

Comment voyez-vous l’évolution de l’utilisation de l’intelligence artificielle générative par les entreprises ?

En Suisse romande, l’usage le plus courant de l’IA générative reste celui d’aider à diverses tâches éditoriales, ou comme une alternative à la recherche Google et dans certains cas à la recherche d’entreprise. Nous ne sommes cependant qu’au début d’une transformation étonnante.

Il est nécessaire d’avoir une gouvernance claire sur la protection des données et des informations en suivant les meilleures pratiques, mais toujours adaptées au contexte.

La solution collaborative que permet l’IA fera cependant augmenter la productivité si les entreprises réalisent le potentiel et investissent pour aider les employés à l’utiliser, tout en sachant comment rester critique sur ce qui est livré car l’IA ne peut pas remplacer le cerveau des employés.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Article Précédent
Article Suivant