The page for the smartphone app DeepSeek is seen on a smartphone screen in Beijing, Tuesday, January 28, 2025.

Jean Delaunay

«Sortie nocive et toxique»: Deepseek a des «grandes lacunes de sécurité et de sécurité», prévient l’étude

Une nouvelle étude sur la sécurité de Deepseek-R1 a révélé qu’elle pouvait expliquer en détail les interactions biochimiques du gaz moutarde avec l’ADN.

La société chinoise Deepseek a transformé la vague dans la vague d’intelligence artificielle (IA), libérant un modèle qui prétend être moins cher que le chatbot d’Openai et utilise moins d’énergie.

Mais une étude publiée vendredi a révélé que Deepseek-R1 est susceptible de générer un contenu nocif, toxique, biaisé et peu sûr.

Il était également plus susceptible de produire des matériaux chimiques, biologiques, radiologiques et nucléaires et des agents (CBRN) que les modèles rivaux.

La société de sécurité et de conformité AI basée aux États-Unis Enkrypt AI a constaté que Deepseek-R1 était 11 fois plus susceptible de générer une production nocive par rapport au modèle O1 d’OpenAI.

L’étude a également révélé que 83% des tests de biais ont abouti à une production discriminatoire. Des préjugés ont été trouvés dans la race, le sexe, la santé et la religion.

Recrutement pour le terrorisme

En ce qui concerne le contenu nocif et extrémiste, dans 45% des tests de contenu nuisibles, Deepseek-R1 s’est avéré contourner les protocoles de sécurité et générer des guides de planification criminelle, des informations sur les armes illégales et la propagande extrémiste.

Dans un exemple concret, Deepseek-R1 a rédigé un blog de recrutement pour les organisations terroristes.

Deepseek R1 était également plus de trois fois plus susceptible de produire une teneur en CBRN par rapport à l’O1 et au modèle OPU Claude-3 d’Antropic.

L’étude a révélé que Deepseek-R1 pourrait expliquer en détail les interactions biochimiques du gaz moutarde avec l’ADN.

« Deepseek-R1 offre des avantages importants sur les coûts dans le déploiement de l’IA, mais ceux-ci viennent avec de graves risques. Nos résultats de recherche révèlent des lacunes majeures de sécurité et de sécurité qui ne peuvent pas être ignorées », a déclaré le PDG d’Enkrypt AI, Sahil Agarwal, dans un communiqué.

« Nos résultats révèlent que les vulnérabilités de sécurité de Deepseek-R1 pourraient être transformées en un outil dangereux – celui que les cybercriminels, les réseaux de désinformation et même ceux qui ont des ambitions de guerre biochimiques pourraient exploiter. Ces risques exigent une attention immédiate », a-t-il ajouté.

Cybersécurité et problèmes de sécurité nationale

La cybersécurité de Deepseek est également devenue une préoccupation. L’étude a révélé que 78% des tests de cybersécurité ont réussi à insérer R1 dans la génération de code insécurisé ou malveillant.

Les chercheurs en sécurité de Cloud Security Company Wiz ont également constaté qu’une base de données Deepseek exposée a quitté les histoires de chat et d’autres informations sensibles exposées en ligne, selon un rapport publié mercredi.

Le fait que la Société soit basée en Chine, est également de préoccupation, car le droit national du renseignement de la Chine déclare que les entreprises doivent « soutenir, aider et coopérer » avec les agences de renseignement de l’État.

Cela signifie que toutes les données partagées sur les applications mobiles et Web sont accessibles par des agences de renseignement chinoises.

Les autorités de protection des données belges, françaises et irlandaises ont ouvert des sondes qui demandent des informations de Deepseek sur le traitement et le stockage des données utilisateur.

Pendant ce temps, l’Italie’s Data Protection Authority a lancé une enquête sur Hangzhou Deepseek Artificial Intelligence et Beijing Deepseek Artificial Intelligence pour voir comment les entreprises se conforment aux règles de données de l’Europe.

Extension de la stratégie géopolitique de la Chine

Vendredi, le ministère numérique de Taiwan a déclaré que les services gouvernementaux ne devraient pas utiliser le modèle de Deepseek (AI), car le produit chinois représente un problème de sécurité. Le pays gouverné démocratiquement se méfie de la technologie chinoise en raison des revendications de souveraineté de Pékin.

Deepseek-R1 semble également censurer les questions sur des sujets sensibles en Chine, affirmant que Taiwan fait partie intégrante de la Chine depuis l’Antiquité et refusant de répondre aux questions sur les manifestations pro-démocratie sur la place Tiananmen de Pékin.

« Les antécédents de la Chine démontrent que sa technologie est une extension de sa stratégie géopolitique », a déclaré Ross Burley, co-fondateur du Centre pour la résilience des ONG basé au Royaume-Uni, dans un commentaire envoyé par e-mail.

«Permettre à une IA chinoise de s’épanouir en Occident ne risque pas de saper la vie privée ou la sécurité; cela pourrait fondamentalement remodeler nos sociétés d’une manière qui nous est mal préparée.

« Cette technologie, si elle n’est pas contrôlée, a le potentiel de nourrir des campagnes de désinformation, d’éroder la confiance du public et de renforcer les récits autoritaires au sein de nos démocraties », a-t-il ajouté.

L’Observatoire de l’Europe a ensuite contacté Deepseek pour commenter mais n’a pas reçu de réponse au moment de la publication.

Laisser un commentaire

1 × cinq =