La face cachée de l’IA
Dans la réalité de tous les jours, nos gestes et paroles ont des conséquences graves, ou tout à fait bénignes, avec toute une gamme entre les deux. En tout temps nous devons exercer notre jugement, notre expertise et assumer la responsabilité de ce que l’on avance. Les technologies se suivent et font leur chemin, c’est le rôle des professionnels, ingénieurs et scientifiques d’en fixer les limites.
On se doit d’être sérieux et responsable, et vérifier ce que dit l’IA, de bout en bout. Le processus de déconstruire un raisonnement absent ou fautif est-il plus laborieux que de réfléchir et chercher les références ? Certainement, pour plusieurs d’entre-nous.
L’IA présente un piège majeur, celui de la responsabilité. Dans le monde de la santé, de l’ingénierie et des sciences, on a besoin de vérifier et de comprendre, car le discours, la réponse exigent la responsabilité. Les compagnies d’assurance chercheront des coupables à faire payer d’ailleurs. On fouille dans une montagne de données, codées par des non-experts, la Common Crawl, et on ressort sans aucune preuve. L’Ia nourrit notre intellect sans y mettre de références. Je crois qu’il faudrait alors payer des droits d’auteur dans le cas contraire. On a beau dire que l’IA s’améliore, jamais la responsabilité ne pourra être éludée, un algorithme ne vit pas, il s’exécute bêtement.
Malheureusement, les chantres irresponsables ont poussé des gens à croire qu’ils pouvaient se soigner eux-mêmes avec l’IA, des avocats à inventer de la jurisprudence et l’IA elle-même à inventer des maladies. On a inventé la bixonimanie, une fausse ville, et une fausse université. Des médecins y ont cru. Grâce aux chatbots, on peut diagnostiquer cette maladie inventée. Heureusement, des experts scientifiques réalisent des exploits en générant par exemple, des milliards de modèles 3D de protéines, à valider bien sûr, avec un outil IA, ESMFold2.
Les outils qui nous aident à écrire, dont les dictionnaires, sont tous référés sauf l’IA. Quand on utilise l’IA pour développer nos idées, on perd la partie la plus importante de l’écriture : la réflexion. Je préfère ceux qui apprennent à penser plutôt que les copieurs. J’ai moi-même expérimenté la capacité de l’IA à caractériser une écriture avec Vladimir Nabokov. Le résultat est à vérifier, nous indique l’IA, mais vous devez le lire pour vous faire une idée.
Nos écrits, nos oeuvres, nos constructions reflètent ce que nous sommes. Quelle image de nous-mêmes veut-on présenter ? Les copieurs sont faciles à débusquer, il suffit de les rencontrer et de les confronter. L’IA ne doit pas être seulement une nouvelle façon de tricher, elle peut aider ceux qui comprennent déjà et tromper ceux qui veulent apprendre.
– Jacques Gagnon, ing., Président-directeur général d’Imagem