Jimmy Wales raconte à L’Observatoire de l’Europe Next les « terribles » premières étapes de ChatGPT, la leçon pour OpenAI, et sa plateforme de médias sociaux open source.
ChatGPT, l’outil d’intelligence artificielle générative (IA) très populaire d’OpenAI, est actuellement un « gâchis » lorsqu’il est utilisé pour écrire des articles sur Wikipédia, a déclaré le fondateur de la plateforme, Jimmy Wales, à L’Observatoire de l’Europe Next.
Un article de Wikipédia écrit aujourd’hui avec ChatGPT-4 est « terrible » et « ne fonctionne pas du tout », dit-il, car il « manque vraiment beaucoup de choses et il se trompe, et il se trompe de manière plausible ». et ça invente des sources et c’est le bordel ».
Il va même jusqu’à prédire que la réalisation d’une IA surhumaine pourrait prendre au moins 50 ans.
Mais s’il pense qu’il est possible que l’IA dépasse les humains dans un avenir lointain, il est plus probable que les outils d’IA continueront à soutenir les activités intellectuelles, même s’ils n’en sont qu’à leurs débuts pour le moment, dit-il.
Start-up la plus valorisée aux États-Unis, OpenAI a été catapultée sur la scène avec son chatbot ChatGPT l’année dernière.
La technologie prend en compte les instructions et les questions et y répond avec une réponse étrangement humaine, basée sur les sources recueillies en ligne. Il peut être utilisé pour rédiger des essais, des paroles de chansons ou même des conseils de santé, même s’il peut souvent donner des informations erronées, ce que l’on appelle « hallucinant ».
Mais même la start-up d’IA chatbot la plus puissante a été plongée dans le chaos avec l’éviction de son PDG et co-fondateur Sam Altman la semaine dernière, puis sa réembauche quelques jours plus tard après que les employés ont menacé le conseil d’administration de démissionner en masse.
Le Pays de Galles a déclaré qu’il était « inquiétant » que cela se produise pour une entreprise aussi influente, mais que cela « se passerait probablement comme si de rien n’était ».
Au contraire, il a déclaré que l’entreprise mettra probablement de l’ordre dans ses affaires et que c’est « une bonne leçon pour les start-ups de toutes sortes qu’il faut vraiment réfléchir, même à un stade très précoce, à la gouvernance, à la stabilité des décisions ». fabrication ».
Wikipédia et l’IA travaillent ensemble
Malgré ses critiques à l’égard des modèles actuels d’IA générative, Wales n’exclut pas que l’IA soit utilisée pour Wikipédia.
Il a déclaré que si un outil était créé pour trouver les erreurs dans un article de Wikipédia en le comparant aux sources utilisées, cela pourrait aider à corriger les inexactitudes.
Il a même déclaré à L’Observatoire de l’Europe Next qu’il envisagerait une aventure sur Wikipédia avec une société d’IA open source librement utilisable pour correspondre aux principes de Wikipédia, mais a précisé qu’il n’y avait rien de spécifique en préparation.
Toutefois, dit-il, ce serait une décision qui ne serait pas prise à la légère.
« La plupart des entreprises, et pas seulement les organismes caritatifs comme nous, diraient qu’il faut être très très prudent si vous mettez au cœur de votre activité une technologie contrôlée par quelqu’un d’autre, car si elles vont dans une direction différente, votre toute l’entreprise pourrait être en danger », a-t-il déclaré.
Il réfléchirait donc attentivement à tout partenariat, mais a ajouté qu’il était ouvert aux programmes pilotes et aux modèles de test.
Wikipédia reste essentiel à l’IA générative car il s’approvisionne en informations publiées en ligne pour produire du contenu. Par conséquent, l’encyclopédie en ligne doit être précise et ne pas produire de biais, ce dont l’IA et Wikipédia ont été accusés.
Pour créer un équilibre entre les sexes et lutter contre la désinformation, Wikipédia dispose de sa propre armée de « Wikipédiens » qui sont pour la plupart des rédacteurs bénévoles masculins. Wales a déclaré que les Wikipédiens peuvent voir la différence entre les faux sites Web et peuvent facilement dire si le texte a été écrit par un humain.
Mais les préjugés sont beaucoup plus difficiles à combattre car ils peuvent être historiques ; par exemple, il y avait moins de femmes scientifiques au 19ème siècle et peu de choses ont été écrites à leur sujet à l’époque, ce qui signifie que les Wikipédiens ne peuvent pas écrire grand-chose à leur sujet. Ou encore, il peut s’agir d’un préjugé inconscient, selon lequel un wikipédien passionné de technologie de 28 ans peut avoir des intérêts différents de ceux d’une mère de 55 ans.
La diversité est essentielle pour lutter contre les préjugés, un objectif que l’entreprise s’efforce d’atteindre.
« C’est un vrai problème et nous ressentons évidemment une lourde responsabilité dans la mesure où le monde dépend de Wikipédia et les modèles d’IA dépendent de Wikipédia », a-t-il déclaré.
« Nous ne voulons pas apprendre aux robots à être partiaux, nous voulons donc bien faire les choses en ce qui concerne le cœur humain de tout cela ».
Le boeuf avec Elon Musk
La désinformation et la haine en ligne ont été un grief pour le Pays de Galles et qui ont conduit à des coups avec le patron de X (anciennement Twitter), Elon Musk, qui a offert 1 milliard de dollars (915 millions d’euros) pour que Wikipédia change son nom en « Dickipedia ».
Le Pays de Galles n’a jamais répondu au commentaire de Musk, affirmant qu’il n’avait pas besoin de réponse. « Tout le monde regarde ça et dit : « Tu as 12 ans, Elon ? » », a-t-il déclaré à L’Observatoire de l’Europe Next.
L’offre d’un milliard de dollars est intervenue après que le Pays de Galles ait critiqué Musk pour avoir licencié le personnel de modération chez X, ce qui, selon le chef de Wikipédia, avait accru toutes sortes de racisme grave et de comportements toxiques sur la plateforme et est susceptible d’affecter les revenus publicitaires.
« Vous ne pouvez pas à la fois gérer une plateforme toxique et attendre des annonceurs qu’ils vous donnent de l’argent, ce qui pourrait changer les choses », a déclaré Wales, ajoutant que lui et Musk étaient « amicaux » et échangeaient des SMS et que les échanges étaient « agréables ».
Il a déclaré qu’il utilise toujours X mais qu’il a supprimé l’application de son téléphone, ce qui a rendu sa vie « bien meilleure » car il peut faire d’autres choses moins toxiques.
Sa propre expérience sur les réseaux sociaux
Le Pays de Galles a lancé sa propre plateforme de réseau social qui, selon lui, a une approche « complètement différente » de X.
Lors du Web Summit de cette année, Wales a annoncé la version bêta de son projet appelé Trust Cafe, une nouvelle communauté en ligne qui, selon lui, donnera du pouvoir à ses membres les plus fiables.
Révélé pour la première fois en septembre, il le décrit comme son expérience sur une plateforme de médias sociaux conviviale et open source qu’il ne prend pas trop au sérieux en tant qu’entreprise commerciale.
Il l’a appelé un croisement entre X et Reddit, où vous pouvez discuter de certains sujets mais n’êtes pas limité à un certain nombre de personnages et où il n’y a pas un seul propriétaire d’une discussion.
« Reddit est à la fois fantastique et horrible. Alors que nous poursuivons vraiment un modèle qui est bien plus axé sur la gouvernance », a déclaré Wales.
Même s’il admet que la haine en ligne et les comportements toxiques se produiront toujours chez certains utilisateurs, il reste optimiste.
« Si vous avez des gens fondamentalement sensés qui ont suffisamment de pouvoir, vous obtiendrez une plate-forme fondamentalement sensée et il y aura toujours quelqu’un de fou. Il y aura toujours un débat qui tourne un peu mal. C’est juste la nature humaine », dit le Pays de Galles.
« Mais tant que vous pouvez en conserver l’essentiel dans un canal sain, vous pouvez alors avoir une sorte de plate-forme ouverte vraiment intéressante où les gens peuvent vraiment véritablement interagir avec des idées ».
