Le gouvernement Carney lance un nouveau Conseil sur l’IA (ici.radio-canada.ca)

submitted 5 days ago* (last edited 5 days ago) by theprogman@lemmy.ca to c/quebec@lemmy.ca

8 comments fedilink hide all child comments

"Le nouveau Conseil national sur l’intelligence artificielle informera et conseillera le gouvernement sur la manière la plus efficace de déployer l’IA au Canada, notamment la façon de gérer les risques, de saisir les occasions et de veiller à ce que l’IA serve à améliorer la vie de l’ensemble des Canadiennes et des Canadiens", a déclaré M. Carney, cité dans le communiqué.

L'expert en éthique de l'IA, [Frédérick Plamondon, professeur au département de management de l'UQAM], déplore en revanche que certains profils soient trop représentés au sein du Conseil. Il pointe notamment le secteur plus industriel de l'IA, dont le capital de risque, qui est amplement représenté parmi les membres.

you are viewing a single comment's thread
view the rest of the comments

[-] theprogman@lemmy.ca 5 points 5 days ago* (last edited 5 days ago)

M. Plamondon reconnaît que la proximité avec ces secteurs ainsi que les parcours professionnels similaires de certains membres soulèvent des questions. Le message envoyé par la création de ce conseil est clair pour lui : "C'est vraiment un conseil qui est tourné vers l'industrie de l'intelligence artificielle et qui vise clairement des résultats économiques, d'abord et avant tout", remarque-t-il en entrevue avec Radio-Canada.

Parmi les grands absents du Conseil, M. Plamondon note les arts et la culture. "Pour un gouvernement qui vient d'annoncer qu'il allait protéger la souveraineté culturelle […] ne pas voir personne de la culture et des arts, je trouve ça étonnant." Il souligne aussi l'absence de représentants des travailleurs, alors que la protection et la création d'emplois étaient centrales à la stratégie sur l'IA dévoilée en juin. Le manque d'intervenants avec une expertise indépendante sur l'éthique de l'IA, l'éducation et l'environnement le déçoit également.

"Dans les faits, il y a beaucoup de connaissances, il y a beaucoup d'amis, il y a des gens qui se parlaient déjà au départ [...] Ça va être une belle place d'influence pour pousser leur agenda. Moi, j'aurais voulu voir plus de place pour le public, pour des chercheurs indépendants dans les domaines mentionnés qui ne sont pas là du tout", observe-t-il. "On veut une souveraineté, mais on ne veut pas nécessairement un regard indépendant sur la forme et les modalités qui permettraient sa mise en œuvre", ajoute M. Plamondon.

C'est plate, mais depuis les commentaires de Yoshua Bengio qui va dans l'alarmisme sur les capacités des GMLs plutôt que leurs impacts nocifs sur l'environnement, l'éducation et les médias, je ne lui fais pas confiance pour mettre un frein à l'utilisation illégitime de ces technologies dans la sphère publique. Je suis du même avis que M. Plamondon, c'est une gang d'amis qui vont se donner des tapes dans le dos. J'avançerais aussi que ça va juste ouvrir encore plus la porte aux entreprises détentrices de GMLs pour venir siphonner l'argent public.

[-] isVeryLoud@lemmy.ca 3 points 2 days ago

Il fait juste répéter les points de OpenAI et Anthropic.

[-] luciole@beehaw.org 3 points 1 day ago

Tellement. Imagine demander à des homéopathes si l’homéopathie fonctionne. Faudrait que les personnes en position de gestion arrêtent de baser leurs décisions en matière d’IA sur l’avis de personnes dont le succès dépend de l’adoption de l’IA.

[-] isVeryLoud@lemmy.ca 3 points 1 day ago

C'est parce que les personnes en position connaissent rien à rien, donc ils laissent le vent les soupirer, et le vent qui souffle plus fort, ou amène de l'argent dans le courant, gagne.

Perso j'ai très peu de respect pour l'autorité entre autre pour cette raison.

[-] luciole@beehaw.org 3 points 1 day ago

Sentiments semblables à la job. Même combat.

[-] isVeryLoud@lemmy.ca 3 points 1 day ago

Ouf mood, justement j'ai des directeurs qui m'obstinaient comme quoi que nos données sortaient pas quand on utilisait les LLMs parce que c'est ça qu'il s'est fait dire. On utilise un modèle OpenAI 🤦 ça se host pas à l'interne, y'a juste OpenAI qui peut rouler l'infra pour les modèles GPT.

[-] luciole@beehaw.org 3 points 1 day ago

Il s’est ptête mêlé avec la promesse que les données des utilisateurs payants vont pas être utilisés pour le machine learning, ou une shit de même. lol. OpenAI (et les autres) se sont pas gênés jusqu’à maintenant pour utiliser des données sans permission. Je suis sérieusement écœuré de travailler en TI. Réorientation de carrière, here I come.