Framamia · Concilier IA et lowtechisation

Framasoft a démarré le projet Framamia en 2024 afin de participer à comprendre le phénomène IA et à imaginer des alternatives aux projets des géants du numérique. IA libres ? IA modestes ? IA transparentes ? IA choisies ? IA éthiques ? IA et vie privée ? IA et éducation ? IA et capitalisme ? IA et impacts socio-écologique ? IA et emplois ? IA et savoirs ? IA et démocratie ?

Fasse à l'ampleur de ce questionnement, l'association a choisi de participer au mouvement IA, pour essayer, comme elle l'a fait avec succès avec la campagne Degooglisons Internet il y a 10 ans, de participer, même modestement, à construire un numérique plus convivial et à maintenir la possibilité d'un choix.

Objectifs du projet

  • Sensibiliser, informer et former aux enjeux de l'IA en général et de l'IAG en particulier (éducation populaire)

  • Aider à la mise en place d'usages réflexifs(c'est à dire qui permettent de développer l'esprit critique)

  • Proposer des alternatives aux outils des géants du web (décentralisation, logiciel libre...)

Portage du projet

Martin Gubri ?, membre bénévole de Framasoft

Pyg ? & Booteille ?, membres salariés de Framasoft

Sous-projet 1 : FramaToolbox

Fonctions principales :

  • Transcription (audio/vidéo → texte)

  • Résumé

  • Traduction

Exemple d'applications :

  • FramaPDF (signer et arranger des PDF)

  • Framacount (cf https://fr.wikipedia.org/wiki/Tricount)

  • Empreinte (évaluer des empreintes carbone, voire des impacts écologiques plus complexes, voire des impacts sociaux)

  • Manip textes, images, vidéos (convertir, extraire...)

  • PairDrop

  • QRCode

  • DigiPad

  • ...

Sous-projet 2 : FramaLLM

FramaLLM aurait pour objectif de proposer une véritable alternative aux usages actuels (sur le modèle de Degooglisons Internet) associée à des fonctions permettant la réflexivité sur les usages.

Exemple d'applications :

  • Résumé de textes

  • Recherche (cf https://github.com/ItzCrazyKns/Perplexica)

  • RAG (fr.wikipedia.org) : réaliser des opérations sur des gros fichiers sans programmation (cf https://github.com/infiniflow/ragflow)

  • FramaGPT

  • FramAgent : des outils qui intègrent des agents et permettent des actions poussées sur les outils de Framasoftn par exemple : « mets dans mon framaspace les infos de ce framadate ». 

  • OCR et analyse d'image

  • Ajout automatique de textes alternatifs pour l'accessibilité

  • ...

ExemplePistes de recherche

  • Étudier les impacts socio-environnementaux des alternatives :

    • consommation d'énergie, de ressources à la production

    • consommation d'énergie à l'usage

    • discrimimation

    • inexplicabilité, hallucinations

    • fake news

    • support émotionnel

    • impact socio-économiques (sur la transformation des emplois typiquement)

    • ...

  • Étudier l'explicabilité et la réappropriabilité des solutions afin d'estimer les possibilités de contrôles

  • Étudier les impacts cognitifs et culturels

  • Étudier les impacts sur la démocratie (le projet permet de se tenir à distance du TESCREAL (« transhumanisme, extropianisme, singularitarisme, cosmisme, rationalisme, altruisme efficace et long-termisme » https://fr.wikipedia.org/wiki/TESCREAL)

ExemplePistes fonctionnelles

  • Mise en garde avant usage : « Vous allez utiliser un LLM qui a nécessité des ressources... consomme de l'énergie... »

  • Information sur les autres LLM : « Vos données ne serviront pas à entraîner... ni ne participeront au capitalisme de surveillance... contrairement à...»)

  • Double check : « Êtes vous sûr de vouloir effectuer cette action sachant que... »

  • Sensibilisation avant/pendant/après : « L’IA c’est caca... » (ou « L'IA n'est pas neutre... » « vous auriez pu utiliser votre cerveau par exemple ;) »

  • Alternatives : « Savez-vous que vous pouvez utiliser cet autre outil... faire appel à ces humains... à la la place pour réaliser la même action, sans mobiliser d'IA... »

  • Mise en garde après usage : Évaluation de l'impact socio-environnemental de la requête...

  • Auto-limitations ou limitations par l'outil lui même, potentiellement fortes (par exemple : 1 requête max par IP et par heure)

ExemplePistes techniques

  • Étudier les solutions existantes à base de logiciel libre permettant la décentralisation (différencier le moteur et le jeu de données)

  • Étudier comment objectiver les informations qui serviront aux actions de sensibilisation associées aux usages

ComplémentLowtechisation du numérique

Le projet est orienté vers la lowtechisation de l'IA.