À mon avis, le plus important serait surtout de savoir sur quelles données les modèles sont entraînés, on en revient toujours à la même chose, la source de l'information. Faire avaler le Web entier à des LLM peut paraître une bonne idée, mais si les LLM sont incapable de distinguer des données qui font consensus, de celles largement réfutées, le résultat est catastrophique. Il manque également une dîmension d'analyse temporelle, qui permet de comprendre d'une théorie, une analyse, ou une étude réalisée à un instant T paraît plausible, alors que des éléments futurs viendront les discréditer.
Faute de mieux, l'esprit critique doit rester activer en permanence et reste notre seule défense lorsque l'on interroge une IA.
À mon avis, le plus important serait surtout de savoir sur quelles données les modèles sont entraînés, on en revient toujours à la même chose, la source de l'information. Faire avaler le Web entier à des LLM peut paraître une bonne idée, mais si les LLM sont incapable de distinguer des données qui font consensus, de celles largement réfutées, le résultat est catastrophique. Il manque également une dîmension d'analyse temporelle, qui permet de comprendre d'une théorie, une analyse, ou une étude réalisée à un instant T paraît plausible, alors que des éléments futurs viendront les discréditer.
Faute de mieux, l'esprit critique doit rester activer en permanence et reste notre seule défense lorsque l'on interroge une IA.