this post was submitted on 29 Jan 2025
12 points (100.0% liked)
Technologie - 🤖
647 readers
5 users here now
Ici concerne le champs de domaine large de la technologie : actualités sur l'informatique, partage de programme informatique et de code, montrer vos projets Arduino, ect.
founded 2 years ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
Je comprends le sentiment, mais je compare ça à pisser dans l'océan en pensant que ça va gêner les poissons.
Vous vous êtes déjà amusé à suivre des liens d'une ferme à lien SEO? Y a des milliers, sûrement des millions, c'est un trou sans fin de pages de textes du genre "Buy cheap Armani, Trump will declare nuclear war, Armani DEALS NOW! Macron secret hideout. Get Armani sales...." et eux sont très robots friendly.
Y a une étape de nettoyage des datasets qui tente de filtrer au max tout ça.
Et même là si ça passe, ces textes n'ayant aucune articulation logique, les LLMs ne vont en apprendre aucune. Leur perplexité restera haute sur cette partie du dataset. Ça peut rendre leur apprentissage un peu plus lent et consommateur en énergie mais ça va pas les troubler plus que ça.