OpenAI a fait l’objet d’un examen minutieux en raison du traitement des données et de la crainte que l’IA puisse nuire à la société.
OpenAI s’associe à une organisation de sécurité des enfants pour créer des lignes directrices sur l’intelligence artificielle (IA) et du matériel pédagogique destiné aux adolescents et aux familles.
Cette décision intervient alors que l’entreprise derrière ChatGPT fait face à un examen minutieux du traitement des données et à la crainte que l’IA puisse nuire à la société.
La collaboration avec l’organisation à but non lucratif Common Sense Media, qui évalue si les médias et la technologie sont adaptés aux enfants, a été annoncée lundi lors d’un événement à San Francisco.
« Nous voulons trouver comment rendre cet outil sûr, responsable et largement accessible aux adolescents et aux personnes qui vont l’utiliser dans le cadre de leur expérience éducative », a déclaré Sam Altman, PDG d’OpenAI, au public.
L’application a été critiquée pour ne pas avoir protégé les mineurs car il n’existe aucun moyen de vérifier l’âge d’un utilisateur. Il fait également l’objet d’un examen minutieux, car ses outils peuvent provoquer des hallucinations, dans lesquelles les systèmes d’IA inventent des choses en toute confiance ou sont biaisés en raison des données utilisées pour entraîner les outils.
Cependant, Altman a rejeté l’idée selon laquelle l’IA serait mauvaise pour les enfants et que les outils d’IA devraient être exclus des écoles.
« Les humains sont des utilisateurs d’outils et nous ferions mieux d’apprendre aux gens à utiliser les outils qui seront disponibles dans le monde », a-t-il déclaré. « Ne pas apprendre aux gens à les utiliser serait une erreur. »
Common Sense Media a tenté de développer un système d’évaluation de l’IA pour les parents, les enfants et les éducateurs.
Certains universitaires ont exprimé leurs inquiétudes quant à la manière dont les chatbots IA pourraient être utilisés pour rédiger des essais. Mais les enfants et les mineurs utilisent également ChatGPT pour résoudre des problèmes personnels.
Selon une enquête du Center for Democracy and Technology à but non lucratif, 29 pour cent des enfants et adolescents aux États-Unis ont utilisé ChatGPT pour résoudre des problèmes d’anxiété ou de santé mentale, 22 pour cent pour des problèmes avec des amis et 16 pour cent pour la famille. conflits.
