Accéder au contenu

Se connecter à mon espace

Accédez à tous les services en vous connectant avec votre compte Cybermalveillance.gouv.fr

AlerteCyber : Faille de sécurité critique dans SPIP Plus de détails

  • Bonnes pratiques usage ia

  • Conseils utilisation ia

  • Utiliser l'ia

Utiliser l’IA, conseils pour les particuliers et les professionnels


L’intelligence artificielle (IA) s’est diffusée aussi rapidement que massivement chez les particuliers et les professionnels, grâce à sa facilité d’emploi et l’étendue des possibilités. Néanmoins, ces nouveaux outils peuvent aussi amener certains risques : partages non maîtrisés de données, confiance excessive dans les résultats, piratage de compte en ligne, etc. Pour mieux utiliser l’IA, voici quelques conseils à l’attention des particuliers et des professionnels.

Apprendre et tester vos connaissances

Découvrez SensCyber, une e-sensibilisation à la cybersécurité gratuite et accessible à tous.

Qu’est ce que l’IA ?

L’intelligence artificielle (IA) peut être définie comme un procédé informatique visant à simuler une intelligence humaine : apprentissage, raisonnement, résolution de problèmes, prise de décision. Ces capacités lui permettent ainsi d’analyser et de créer tous types de contenus et de réaliser des actions variées.

Il existe trois grands types d’IA :

  • l‘IA générative spécialisée dans la génération de contenus (texte, image, vidéo, musique, etc.) ;
  • l‘IA prédictive adaptée pour les analyses et les prévisions sur des données existantes (météo, données statistiques, marchés financiers…) ;
  • l’IA agentique constituée d’agents IA (ou assistants IA) autonomes, capables de réaliser des actions sans intervention humaine en vue de répondre à un objectif.

Ces IA sont les moteurs des services en ligne et applications d’IA généralistes (ChatGPT, Claude, Copilot, Gemini, Mistral Vibe, etc.) ou d’IA spécialisées (génération d’images MidJourney ou Dall-E, de musique comme Suno, etc.).

Elles se trouvent sous la forme d’agents conversationnels utilisables depuis des sites web ou des applications. Elle peuvent parfois s’appuyer sur des agents IA capables de réaliser en autonomie des taches complexes (prise de rendez-vous, traitement et réponse aux mails…), en contexte personnel comme professionnel.

Les IA peuvent être présentes dans de nombreux types d’équipements : téléphone, ordinateurs, véhicules et moyens de transport, objets connectés, mais aussi dans les systèmes d’information (dans le « cloud » comme dans des serveurs internes d’entreprise).

Exemples d’IA dans des environnements numériques :

un téléphone, un ordinateur : reconnaissance de visages, d’empreintes, recherche avancée dans des bibliothèque de photos, vidéos, documents, etc., assistance à la navigation et la recherche sur Internet, assistants vocaux, assistants bureautique, etc.

un véhicule, un moyen de transport : assistance à la conduite, pilotage automatique, prédiction de panne…

des objets connectés : assistants domestiques (Amazon Alexa, Apple Home, Google Home…), vidéosurveillance assistée par IA, équipements industriels ou de santé, etc.

dans les systèmes d’information de tous types d’organisations : automatisation de processus et d’actions complexes, logiciels intégrant l’IA, analyse d’entrepôts de données et prédiction d’activités, détection et réponse aux menaces de cybersécurité…

Le terme IA est souvent utilisé au singulier mais il existe pourtant de nombreuses IA. Chacune est dotée de capacités et de performances variables du fait :

  • de différences dans la conception et le paramétrage
  • des sources et méthodes utilisées pendant la phase d’apprentissage
  • des modalités d’acquisition de nouvelles connaissances : en complète autonomie ou avec une supervision humaine, selon les choix des sources d’information
  • de l’offre utilisée : les capacités peuvent être différentes entre la version gratuite ou payante d’une même IA.

Ainsi, il peut exister des différences significatives de résultats ou de compétences entre les IA.

Les IA sont généralement paramétrées avec une obligation de réponse. Parfois, il arrive qu’un résultat affirmé de manière convaincante par l’IA s’avère partiellement erroné ou inventé. On parle dans ce cas d’hallucination ou de confabulation de l’IA.

Quels conseils pour quels usages de l’IA ?

Les IA apportent des capacités indéniables dans le traitement de l’information, de tâches ou de problèmes complexes. Mais il peut aussi exister des risques qui peuvent être réduits en adoptant quelques bonnes pratiques.

Bonnes pratiques d’usage de l’IA pour les particuliers

Pour les particuliers, les risques principaux sont liés aux informations et données personnelles partagées, dont certaines peuvent être sensibles, ainsi qu’au recul nécessaire dans l’usage de cette technologie. Les bonnes pratiques suivantes permettent de mieux maîtriser ces risques.

  1. Évitez de partager avec les IA des sujets ou des documents personnels sensibles.
    Les requêtes (appelées « prompts ») et les documents partagés avec l’IA permettent d’identifier vos centres d’intérêts ou sujets de préoccupations. Ces données peuvent aussi servir à entraîner l’IA qui les garde en mémoire, ce qui peut parfois conduire à des fuites d’informations personnelles.

  2. Ajustez les paramètres de confidentialité de votre compte IA pour réduire la durée de conservation des échanges et la réutilisation de vos données pour l’entraînement de l’IA. Aussi, vous pouvez régulièrement effacer l’historique de vos conversations.

  3. Vérifiez par vous-même la pertinence des réponses de l’IA pour les sujets qui ont un enjeu. Gardez du recul et votre esprit critique : l’IA peut parfois se tromper, inventer ou disposer de sources erronées. Consultez en complément des sources de références : encyclopédies en ligne, presse (actualités, rubriques de vérification de faits, etc.), sites de référence, etc.
    • En cas de doute, demandez à l’IA de citer les sources qui lui ont permis de rédiger la réponse.

  4. Une IA n’est pas un médecin, un psychologue, un expert juridique, ou toute autre profession réglementée. L’IA peut aider à explorer ou comprendre un sujet mais ne remplace pas un professionnel certifié pour les sujets importants.

  5. Protégez vos comptes d’accès aux services d’IA :
    • en utilisant un mot de passe différent sur chaque service ;
    • en créant des mots de passe robustes. Au moins 12 caractères et constitués de majuscules, de minuscules, de chiffres et d’un caractère spécial (?!#, ; etc.) ;
    • en activant l’authentification à double-facteur dès qu’elle est disponible.

  6. Vérifiez les autorisations accordées aux IA dans vos applications et leurs extensions, ainsi que dans vos services en ligne (messageries, réseaux sociaux, navigateurs, etc.) et limitezles au strict nécessaire : réduction des autorisations pour l’entraînement de l’IA, des suggestions par IA, des accès à vos documents et données, des actions automatiques à votre place sans confirmation humaine, etc.
Et pour les élèves et les étudiants ?

Vérifiez si l’usage de l’IA est autorisé auprès de vos enseignants ou dans le règlement intérieur, et pour quels type de travaux (devoirs à la maison, révisions, mémoires…) ;

Utilisez l’IA comme un assistant et non pas comme un enseignant. L’IA peut parfois se tromper, il est important de garder la maîtrise de ses savoirs et d’apprendre à vérifier par soi-même auprès de sources de références.

Bonnes pratiques pour l’IA en contexte professionnel

Pour les professionnels, les risques principaux sont liés au non respect ou à l’absence d’encadrement de l’usage de l’IA. Cela peut conduire à des fuites d’informations ou à la perte de savoir-faire professionnels. Les bonnes pratiques suivantes aident de réduire ces risques :

  1. Prenez connaissance du cadre d’usage de l’IA s’appliquant dans votre environnement professionnel. Il est généralement précisé dans un règlement intérieur, une charte informatique, une politique de sécurité de l’information ou encore dans une charte d’usage de l’IA.

  2. En cas de doute ou d’absence de politique, évitez de fournir à l’IA des informations sensibles (RH, projets confidentiels, actions juridiques, plan de développement d’activités, etc.).

  3. Utilisez exclusivement le service d’IA souscrit par votre employeur.

  4. Séparez strictement vos usages IA personnels et de vos usages IA professionnels. N’utilisez pas votre accès IA personnel pour réaliser des actions professionnelles, et inversement.

  5. Protégez votre compte professionnel d’accès au service d’IA :
    • en utilisant un mot de passe différent sur chaque service ;
    • en créant des mots de passe robustes. Au moins 12 caractères et constitués de majuscules, de minuscules, de chiffres et d’un caractère spécial (?!#, ; etc.) ;
    • Activez l’authentification à double-facteur dès qu’elle est disponible.

  6. Ajustez les paramètres de confidentialité de votre compte IA, si votre compte le permet, afin de réduire l’historique de conservation des échanges et informations. Vous pouvez également effacer régulièrement l’historique.
Si vous êtes un dirigeant ou un professionnel en charge de la conformité :

– Assurez-vous de l’existence d’une charte d’usage de l’IA dans votre organisation et que l’ensemble des collaborateurs en soient informés et sensibilisés ;

– Vérifiez que les services d’IA souscrits pour votre organisation respectent les réglementations nationales, comme le RGPD par exemple, et d’éventuelles autres obligations spécifiques à votre secteur d’activité (traitement de données de santé par exemple).

Et dans les projets informatiques, quels conseils pour intégrer l’IA ?

Intégrer des capacités IA dans les projets de systèmes d’information peut amener des risques spécifiques. Les lectures suivantes sont vivement recommandées à tout acteur du numérique :

Développer la confiance dans l’IA à travers une approche par les risques cyber (ANSSI)

Recommandations de sécurité pour un système d’IA générative (ANSSI)

Recommandations sur l’application du RGPD au développement de systèmes d’IA : Fiches pratiques IA (CNIL)


Pour informer et sensibiliser sur les menaces numériques, Cybermalveillance.gouv.fr met à disposition de nombreux contenus :
des supports variés pour comprendre les cybermenaces et savoir comment y réagir
– des bonnes pratiques à adopter pour assurer votre sécurité numérique.

Consulter la liste de l’ensemble des ressources.

Service d’assistance

Victime d’une cybermalveillance ?
Le contenu proposé vous a-t-il été utile ?
* le commentaire ne sera pas visible aux yeux de tous

AIDE RECOMMANDÉE

QUESTIONS RÉPONSES - Contextualisées

QUESTIONS GÉNÉRALES