Intelligence artificielle

la Toile du digital - Intelligence artificielle

L’arrivée d’outils tels que ChatGPT influence notre façon de construire nos décisions. Qu’en est-il de l’autonomie humaine ?

Références

L'homme diminué par l'IA https://www.pensercestchouette.com/debat/lhomme-diminue-par-lia

"ces systèmes ne sont entraînés que sur la forme. Ils n'ont pas accès au sens et n'ont pas d'intention dans leur communication, ils ne cherchent pas à exprimer quelque chose. Cela a l'air d'être du langage mais ça n'en est pas. "

"Il n’y a pas de langage sans intention de communiquer. Or, c’est bien le problème des IA génératives : même si ChatGPT nous dit qu’il est heureux de nous voir, il ne l’est pas."

"Utiliser ChatGPT pour terminer ses devoirs, c’est comme amener un chariot élévateur dans la salle de musculation : vous n’améliorerez jamais votre forme cognitive de cette façon."

"L’Homme, autrefois au centre de la pensée depuis Descartes, perd cette position privilégiée, il n’est plus le maître et possesseur de la technique mais devient une ressource scrutée et manipulée par le système d’objets intelligents."

Réflexions sur l'IA

"Selon Crawford, l’IA est une « industrie extractive » dont les créations « reposent sur l’exploitation des ressources énergétiques et minérales de la planète, sur la main-d’œuvre bon marché et sur les données à grande échelle. »"

"Au fond, l’IA telle qu’elle se fait aujourd’hui n’est que le symptôme d’une organisation sociale (relevant elle-même d’un rapport au monde) qui la précède et la rend possible. Cette organisation fonde et se fonde sur une crise de la sensibilisé morale qui nous incite au mieux à considérer l’exploitation d’autrui comme une fatalité et au pire à s’en moquer. L’enjeu moral auquel nous confronte l’intelligence artificielle est donc aussi un enjeu politique attaché à cette question : comment créer les conditions d’un vivre-ensemble favorable à l’épanouissement de l’expérience morale ?"

https://maisouvaleweb.fr/intelligence-artificielle-un-dispositif-de-froideur-bourgeoise/

Stratégie nationale pour l’intelligence artificielle : un référentiel pour mesurer et réduire l’impact environnemental de l’IA https://www.boutique.afnor.org/fr-fr/norme/afnor-spec-2314/referentiel-general-pour-lia-frugale-mesurer-et-reduire-limpact-environneme/fa208976/421140

IA et pensée critique en éducation https://epi.asso.fr/revue/articles/a2406d.htm

"Le travail qui nous incombe, c’est de favoriser une posture de déconstruction : les élèves doivent développer un regard critique sur les productions générées par l’IA. Savoir analyser, comparer, vérifier, sélectionner, hiérarchiser, sourcer, corriger, enrichir, restructurer … les propositions de l’IA supposent bien des connaissances, des capacités et des entraînements, ce qui fait de l’EMI plus que jamais une urgence et un impératif, et ce dans toutes les disciplines tant chacune est impactée. « Ces technologies de l’artefact, insiste l’auteur, réclament d’urgence la construction d’une heuristique de la preuve, de la traçabilité de la preuve, une heuristique qui tienne compte de ces phénomènes, qui les explicite, et qui permette (c’est le plus délicat) de les « monitorer » non pas tant en temps réel mais bien a posteriori, c’est-à-dire dans l’optique d’une rétro-ingénierie documentaire. »

A titre d’exemples, Olivier Ertzcheid rappelle les pistes tracées par Antonio Casilli dont le souhait est d’« intégrer la prétendue menace dans le dispositif pédagogique de [ses] cours » : le prompt parfait (« étant donné un sujet, formuler un prompt qui soit unique et donne lieu au résultat le plus original ») ; la convergence (« en utilisant des prompts disparates, tou·tes les membres de l’équipe doivent arriver au même texte – ou du moins à des textes qui se ressemblent le plus possible ») ; le cadavre exquis (« le même prompt répété 3 fois donne lieu à 3 variations du même texte, contenant des inexactitudes ; en copiant/collant des passages, il faut ensuite concocter un quatrième texte contenant le moins d’erreurs factuelles possible »)."

https://www.cafepedagogique.net/2024/07/04/intelligence-artificielle-la-pedagogie-contre-lillusion/

"la technique de l’écriture est décrite par Platon comme un « pharmakon », terme grec qui signifie à la fois le remède et le poison. L’écriture comme pharmakon constitue autant un remède qu’un poison pour les capacités mémorielles des populations : la mémoire artificielle risque toujours de se substituer à la mémoire psychique, l’auxiliaire risque toujours de détruire ce qu’il était censé soutenir."

"De même que les savoir-faire avaient été extériorisés dans les machines-outils sous forme d’automatismes mécaniques, conduisant à ce que Karl Marx décrivait comme un processus de prolétarisation des ouvriers, de même, le savoir-écrire (et avec lui le savoir-penser), a ici été extériorisé dans la machine numérique sous forme d’automatismes algorithmiques, conduisant à ce que le philosophe Bernard Stiegler décrivait comme un processus de « prolétarisation généralisée », touchant non seulement les savoir-faire, mais aussi les savoir-vivre et les savoir-penser."

https://www.pensercestchouette.com/debat/le-pharmakon-de-lia-generative-comment-les-automates-algorithmiques-transforment-nos-esprits

Jeux

Explication et jeu en ligne : biais de données, biais sociétal https://mi.hepl.ch/projects/ia/ia.html

Aïe Aïe iA ! Le jeu pour démystifier l'intelligence artificielle https://lesbases.anct.gouv.fr/ressources/aie-aie-ia-le-jeu-pour-demystifier-l-intelligence-artificielle

La bataille de l'IA https://www.batailledelia.org/

Voir aussi

Marge d'indétermination, imprévisibilité, probabilité, normativité Variabilité

La bulle de l'IA https://www.arretsurimages.net/chroniques/clic-gauche/monopoly

Infographie : Historique de l'IA https://alpict.ch/en/infographie-historique-de-lia/

Animer un café IA, de nombreuses ressources d'animation https://cnnumerique.fr/cafe-ia/animer

"Si ces usages se généralisent, on pourrait aller vers une homogénéisation de notre culture, due à des outils créés par des entreprises privées dont les algorithmes aussi bien que les valeurs sont souvent obscurs." https://theconversation.com/chatgpt-ma-dit-que-lillusion-de-la-discussion-avec-lia-nous-mene-a-lerreur-238443

Une IA par jour https://www.uneiaparjour.fr

https://chaireunescorelia.univ-nantes.fr/2024/07/17/vers-une-maitrise-de-lia-100-pratiques-perspectives-et-objectifs/

Éthique [1]

ComparIA, le comparateur d'IA conversationnelle [2]