J'utilise ChatGPT pour mon travail et c'est généralement assez utile, mais parfois il me dit des choses qui sont juste factuellement incorrectes en ayant l'air complètement certain. Par exemple la semaine dernière il m'a donné une date historique spécifique qui était complètement fausse. Est-ce que je dois juste supposer que c'est toujours potentiellement faux, ou est-ce qu'il y a un moyen de le rendre plus fiable ?
Le truc vraiment problématique, c'est la confiance - il génère du texte qui a l'air plausible sans aucune vérification interne des faits, donc les mauvaises réponses sortent aussi fluides que les bonnes. Ce qui aide vraiment, c'est de le traiter moins comme une source et plus comme un partenaire de brainstorming : utilise-le pour la structure, les idées ou les explications de concepts, puis vérifie les affirmations spécifiques (dates, noms, stats) contre quelque chose de fiable avant de t'y fier. Un truc pratique que la plupart des gens zappent : quand tu obtiens une réponse factuelle, demande-lui de citer des sources ou d'expliquer d'où vient l'information - parfois il se rendra compte de son erreur ou au moins tu auras quelque chose à vérifier. Pour le boulot surtout, cette vérification supplémentaire prend peut-être 30 secondes et t'évite de faire mauvaise figure plus tard.
Ce n'est pas qu'il se trompe *parfois* - c'est plutôt qu'il fait fondamentalement des suppositions sur le prochain mot en se basant sur des motifs, donc il peut sembler complètement confiant tout en étant totalement à côté de la plaque, surtout pour des faits spécifiques comme les dates ou les noms. Ta meilleure stratégie, c'est de le traiter comme un point de départ qui a besoin d'être vérifié, particulièrement pour tout ce qui est factuel ou critique pour ton travail.
Vérifiez tous les faits avant de vous y fier - c'est la seule vraie défense ici. J'ai appris cela à mes dépens en utilisant divers outils pour la recherche : ces systèmes sont des machines de reconnaissance de motifs qui peuvent produire des absurdités avec exactement le même ton que des informations précises. La partie effrayante, c'est que ChatGPT n'a aucun moyen de savoir ce qu'il ne sait pas, donc il remplit les lacunes avec du texte qui semble plausible. Vous obtenez une réponse fluide et confiante dans les deux cas.
Le piège que tout le monde oublie, c'est de penser que vous pouvez repérer les mauvaises réponses juste en les lisant. Vous ne pouvez pas, surtout pas sur les détails spécialisés ou historiques. Une date inventée aura exactement la même apparence qu'une vraie quand elle est tapée. La seule méthode fiable est de vraiment vérifier par rapport à une source - Wikipédia pour l'histoire, les documents officiels pour les spécifications techniques, peu importe ce qui s'applique. C'est du travail supplémentaire mais nécessaire quand les enjeux sont élevés.
Pour améliorer la fiabilité dans votre flux de travail réel : demandez-lui de citer des sources ou d'expliquer son raisonnement étape par étape, ce qui expose parfois des lacunes dans sa logique. Utilisez-le comme point de départ ou outil de brainstorming plutôt que comme source de vérité. Et si vous l'utilisez régulièrement pour le même type de tâche, vous allez commencer à reconnaître les motifs dans les domaines où il a tendance à échouer. Après avoir travaillé de cette façon pendant un moment, vous développez un instinct pour savoir quels résultats ont besoin de vérification et lesquels sont probablement solides.
Pour n'importe quel fait spécifique - dates, noms, statistiques - demande-lui de citer ses sources ou d'expliquer d'où vient l'info, et ça va souvent la faire se rendre compte qu'elle invente. Si elle ne peut pas pointer vers quelque chose de réel, ne lui fais pas confiance. Et le vrai truc, c'est de poser des questions de suivi qui contredisent ce qu'elle a dit : si elle s'accroche avec confiance à la même mauvaise réponse, c'est ton signal pour vérifier ailleurs avant de l'utiliser.
Se connecterpour répondre.
