< Retour aux articles

[RETRANSCRIPTION] Le numérique responsable

Pour la première fois, Insitoo déplace son webinar à Nantes pour échanger autour de l’éco-conception, de l’accessibilité et de l’IA responsable, soulignant la cybersécurité, l’intégration précoce de l’accessibilité et la diversité pour contrer les biais des IA. Vous retrouverez ci-dessous la restitution de ce webinar tourné au mois de juin en présence de nos invités :

Chloé Corfmat – Ingénieure web et consultante en accessibilité numérique, Chloé aide les entreprises à rendre leurs services numériques accessibles à tous.
Estelle Lambert – Responsable Impact chez BeApp, Estelle est spécialisée en éco-conception et travaille sur des stratégies pour réduire l’empreinte environnementale des services numériques.
Aurélien Binder-Meunier – CTO freelance, expert en IA et en stratégie Tech & Produit pour start-ups SaaS, Aurélien se concentre sur les aspects éthiques du numérique et de l’IA.

Un webinar réalisé avec l’équipe WeLoveDevs.com & animé par Damien Cavaillès :

Introduction :

Aujourd’hui, lors de notre webinar sur le numérique responsable, nous avons le plaisir d’accueillir trois invités d’exception avec qui nous allons explorer des thèmes essentiels tels que l’éco-conception, le RGESN, l’accessibilité et l’IA responsable. Insitoo nous présente son service Insitoo Portage, une plateforme permettant de mettre en relation des freelances et des clients tout en assurant une protection adaptée pour les freelances. En compagnie de nos experts invités, nous plongeons au cœur des enjeux du numérique responsable, promettant des discussions riches et animées sur des sujets cruciaux tels que l’éco-conception, l’accessibilité et l’IA responsable. Rejoignez-nous pour une exploration approfondie de ces thématiques fondamentales !

Au cours de notre conversation, je souligne l’importance cruciale de la cybersécurité, en particulier pour les entités gouvernementales, comme en témoigne récemment le piratage subi par la ville de Lille. Il devient impératif de se conformer aux réglementations à venir, notamment en termes d’éco-conception et d’accessibilité numérique, dès les prémices des projets afin d’éviter des dépenses excessives et des complications futures. L’accessibilité et l’éco-conception ne doivent plus être considérées comme des aspects secondaires, mais comme des éléments intégrés dès la phase de conception du produit. Cette approche permet de créer des services plus efficaces et économes. En outre, l’accessibilité ne concerne pas uniquement les personnes en situation de handicap, mais l’ensemble de la population, car tout individu peut se retrouver confronté à une situation de handicap à un moment donné. Il est donc primordial d’intégrer ces principes dès la genèse des services numériques pour les rendre accessibles à tous.

Au fil de la discussion, nous abordons les problématiques liées à l’accessibilité et à la formation des ingénieurs et développeurs. Nous mettons en lumière l’importance cruciale de la sensibilisation et de la formation, souvent sous-estimées. Des exemples concrets illustrent l’importance de l’accessibilité. Nous évoquons la législation européenne sur l’accessibilité, soulignant les obligations des entreprises en la matière, et examinons les amendes éventuelles pour non-conformité, mettant en exergue les conséquences financières potentiellement lourdes pour les entreprises. Nous discutons également de l’impact des IA et de la nécessité de concevoir des IA éco-responsables et raisonnables pour contrer les biais cognitifs récurrents. Enfin, nous soulignons l’importance de la diversité au sein des équipes pour limiter les biais des IA.

Le numérique responsable

Damien : Alors, nos invités aujourd’hui, on va commencer par, à ma droite, c’est Chloé Corfmat •. Exactement. Yes. Tu es ingénieure web et consultante en accessibilité numérique. Tu es basée à Nantes. Tu aides les entreprises à rendre leurs services numériques accessibles à tous et à toutes. C’est vraiment toi aujourd’hui l’experte sur l’accessibilité. C’est ça. J’essaie de partager mes connaissances au grand public. Je viens de me rendre compte que le texte, j’avais écrit trois fois la même chose. Ça marche. Merci d’être avec nous. Enchanté, c’est la première fois qu’on se rencontre. C’est cool. Estelle, c’est aussi la première fois qu’on se rencontre. Tu es responsable Impact chez Biap à Nantes. C’est Biap qui est labellisé numérique responsable. C’est pas toi ? Tu seras notre référente, notre experte aujourd’hui sur le sujet de l’éco-conception. Tout à fait. Le RGESN, c’est toi qui vas tout nous expliquer ? Moi je suis impatient parce que j’ai lu un peu le site du gouvernement, j’ai pas tout compris.

Et Aurélien c’est toi qui as invité du coup Estelle aujourd’hui et Chloé à venir donc merci beaucoup, tu es CTO en freelance, tu es basé à Nantes et aujourd’hui tu seras notre expert en IA, tu es également expert sur la LDS, tu aides aussi tes clients sur les stratégies tech et les produits surtout sur les startups, sur du SaaS c’est vrai que.

Depuis un certain temps ton activité elle s’en vient de plus sur les aspects éthiques du numérique et de l’IA. Aurélien, Le numérique responsable c’est devenu vraiment ton cœur de métier.

Aurélien : En fait ça fait très longtemps que je suis dans la tech, et on a tendance à parler d’immatériel, de cloud et donc du coup de se dire que ça n’a pas beaucoup d’impact le numérique et en fait plus on creuse, plus on se rend compte qu’il y a des impacts, environnementaux, ça commence à se savoir quand même que le numérique a plus d’impact, plus d’émissions GES que de l’aviation, par exemple. Et du coup, je pense que c’est hyper important aujourd’hui de s’engager dans le numérique, de faire en sorte qu’on utilise, les technologies, l’IA, pour des bonnes raisons, pour avoir plus d’impact, pour que ça serve à quelque chose, et puis aussi d’essayer de faire en sorte qu’on diminue les impacts, quels qu’ils soient, le social, le fait qu’il y ait moins d’impact sur tout ce qui est citoyen. Par exemple, on est dans les élections, d’éviter les fake news, les Cambridge Analytica, ce genre de choses. En fait, il y a plein, plein, plein, plein de problèmes qui sont liés au numérique. Donc, pour moi, c’est fondamental de m’engager en participant à des projets qui ont des impacts positifs, et puis d’essayer de sensibiliser et de former sur les impacts négatifs du numérique.

Damien : Il y a deux sujets. On a déjà abordé sur les webinaires précédents. Alors, tous les webinaires précédents d’Insitoo, vous pouvez les retrouver sur la chaîne YouTube d’Insitoo. Sur le numérique responsable sur la partie CO2 on a déjà abordé le sujet avec une intervenante qui avait fait du numérique responsable chez un gros retailer avec un oiseau rouge, c’est vrai que pendant le webinaire on lui avait dit l’impact au final de CO2 de ton entreprise c’est plutôt les cartons qui sont déplacés par centaines de milliers et elle nous avait dit oui mais en fait ça concerne tout le monde et on ne peut pas juste dire qu’il n’y a que la logistique qui doit réduire son impact si nous on réduit notre impact sur l’informatique et sur les bureaux aussi du coup tout le monde s’y met et ça implique quelque chose il y a un effet domino, un effet rebond positif, et je pense que ce que tu as souligné là qui est super intéressant c’est aussi que finalement le numérique, le digital l’informatique est devenu tellement central dans la société que l’impact sur la société il est non négligeable, même si l’impact CO2 on peut le dire au regard de d’autres il est négligeable ou pas, l’impact sociétal il est incontournable.

Aurélien : Il est énorme il n’y a plus aucun service, plus aucune boîte qui aujourd’hui tourne sans informatique et puis même d’un point de vue individuel il suffit de regarder le nombre d’heures qu’on passe sur ses ordinateurs, sur son téléphone, en termes de charge mentale, d’informations, de quantité d’informations, etc. En fait, à la fois au titre individuel et au titre sociétal, l’impact, il est énorme.

Damien : Est-ce que c’est pour ça que le numérique responsable s’est devenu incontournable en 2024 ?

Estelle : Clairement, et puis ça a pris d’autant plus d’ampleur, parce que le numérique responsable, ça fait déjà bien une dizaine d’années qu’on en parle, mais que ça n’intéresse personne. Ce qui se passe concrètement, c’est qu’il y a trois ans, il y a la Covid qui passe par là, donc explosion exponentielle des usages. On est tous enfermés. La seule chose qui nous permet de communiquer, de consommer, c’est le digital. Et là, il y a une prise de conscience importante à ce moment-là de l’impact et de l’importance d’en tenir compte, de le mesurer. Impact environnemental, on en parlait déjà un petit peu. Je pense que l’impact social avait été complètement mis de côté. La fracture numérique, qui a été justement un vrai problème au moment du confinement, pour plein de raisons. Donc oui, le numérique responsable, aujourd’hui, c’est indispensable. Et je pense qu’on va pouvoir reboucler sur d’autres impacts plus globaux, dont on parle, mais peut-être pas assez, qui justifie aussi qu’on mette en place des référentiels comme le RGV-SEN qui répondent à des problématiques et des enjeux beaucoup plus larges.

Damien : Et toi, Chloé, est-ce que tu étais déjà experte dans l’accessibilité avant le Covid ou pas ?

Chloé : Je commençais à m’y mettre, oui. Le déclencheur, c’est quand je suis alternante pour un département et à ce moment-là, on parle d’accessibilité et je commence à comprendre les enjeux à la fois humains et co-responsable du numérique. Et donc, je me dis que c’est plus possible aujourd’hui de créer des services numériques, de créer des sites internet, sans penser à ce qui va se passer demain et sans penser à l’humain.

Damien : Je pense, moi, j’ai eu le déclic. J’ai vu des gens qui se plaignaient du fait que Doctolib soit pas accessible et que ce soit pas juste. Alors maintenant, c’est plus accessible, mais quand ça a commencé à se populariser, il y avait des gens qui disaient, ben ouais, mais moi, je peux pas te rendre mon rendez-vous médical sur Doctolib aujourd’hui, tu vois.

Chloé : Oui, et puis les médecins, c’était pas aussi développé non plus. En ville, à Nantes, par exemple, on n’avait pas trop de problèmes pour prendre des rendez-vous chez des spécialistes, chez des médecins généralistes. Si on va en campagne, c’est beaucoup moins le cas, parce que les médecins sont encore sur des méthodes plus traditionnelles de secrétariat, etc. Le téléphone, c’est bien, sauf quand on est sourd, sauf quand on n’est pas à l’aise avec le téléphone. Donc c’est vrai que le numérique il aide aussi tout un tas de personnes à accéder à devenir autonome finalement.

2. Explication du RGESN et son origine

Damien : Mais là, tout de suite, on part sur le RGESN. Et donc le RGESN, j’ai compris qu’il y avait une publication de l’ARCEP sur le sujet mais le RGESN c’est pas publié uniquement par l’ARCEP c’est ça ?

Estelle : Alors pas vraiment, déjà ça fait l’ARCEP a fait une publication de la version 2 enfin si on veut dire comme ça, là en mai 2004, mais le RGESN il existe déjà depuis fin 2021, 2022 Et du coup le RGESN c’est pas le règlement général des ESM ? Non pas du tout, c’est un référentiel ce qui n’a rien à voir, ça donne déjà aussi une notion, la grosse différence entre un règlement où on est vraiment très contraignant et le référentiel qui est plus orienté bonne pratique. Et donc, c’est le référentiel général d’éco-conception des services numériques.

Damien : J’ai vu qu’il y avait l’ADEME aussi qui avait contribué sur la première version. Et c’est la DINUM aussi, c’est ça ?

Estelle : Alors, en fait, le RGSN, initialement, s’est porté par la DINUM. On est à ce moment-là, on est 2021, j’en parlais tout à l’heure, ça fait écho à une loi à une loi qui sort en novembre 2021, qui s’appelle la loi Rennes, qui vise à réduire l’empreinte environnementale du numérique. Dans le cadre de cette loi, j’en reparlerai un petit peu plus précisément, il y a le RGSN qui vient s’inscrire, comme un outil, qui est porté par la DINUM pour faire de la green tech. La DINUM, si ce n’est pas forcément clair pour tout le monde, c’est la DSI du gouvernement, qui porte le projet avec l’ADEME, également avec l’INR, l’Institut Numérique Responsable. Et le projet a été repris par l’ARCEP récemment en 2023 enfin en 2023 ce qu’il faut savoir sur le RGVSN c’est que c’est, un référentiel plutôt orienté bonne pratique, sur la première version on a 79 critères qui visent à améliorer la conception des services numériques sur tout le cycle de vie de la conception c’est vrai que je suis partie sur la réponse à la future question que tu n’as pas posée d’ailleurs. Donc de la conception à sa fin de vie et qui mélange toutes les familles métiers tous les acteurs qu’on peut trouver sur un projet de service numérique donc on parle de la strat déjà, des specs, du design, du back, du front-end de l’archi, de l’hébergement ça c’est la première version, vous avez plein de critères qui vous permettent de vous interroger et de discuter entre vous et de vous positionner, j’en suis où en fait ? Dans la démarche d’éco-conception est-ce que j’en ai conscience ? Est-ce que j’ai fait des choses ? est-ce que j’ai rien fait ?
Et puis ça permet aussi de prendre des décisions. Ça, c’est la première version, et l’ARCEP récupère le projet fin 2023. Et c’est intéressant parce qu’en un an, on passe d’une DSI à une autorité de contrôle. Donc déjà, ça donne un petit peu le tempo de l’importance que le RGSN va prendre, ou prend déjà. Parce que l’ARCEP, pour ceux qui ne connaissent pas, c’est une autorité de régulation d’un certain nombre d’éléments, dont les communications électroniques. L’ARCEP, c’est eux qui font les fréquences et le Wi-Fi, les plans de réseau pour qu’on ait tous accès C’est la fibre, quoi. C’est ça. Ils font plein de trucs, mais ils ont surtout une mission de réguler. Et donc, ils ont la capacité à contrôler.

Damien : Oui, oui, ils régulent, ouais. Et en fait, c’est parce qu’il faut réguler ce marché-là, parce que sinon, comme les infrastructures sont tellement importantes, s’il n’y avait pas aussi un régulateur qui met en concurrence les télécoms, les consommateurs, ils seraient perdants aussi. On serait dans un système à l’américaine où il y a un oligopole de Comcast. Donc là, l’ARCEP a aussi ça de défendre le droit des usagers vis-à-vis des puissants de l’informatique, tu vois.

Estelle : Oui, et puis là, je pense qu’il y a vraiment… Je ne sais pas ce qui se passe MARCEP, comment ça marche le truc, mais en tout cas, s’il veut récupérer le bébé, c’est qu’il y a quand même un sujet important et qu’on peut supputer quand même que c’est un des enjeux du gouvernement que d’avancer sur ça.

Aurélien : Globalement, on a quand même vu que tant qu’on ne réglemente pas et qu’on ne force pas les entreprises, c’est vrai que c’est des sujets qui sont plutôt vus de manière secondaire.

Estelle : On n’en est pas encore sur une réglementation contraignante, on y viendra tout à l’heure, mais oui, en tout cas, ça dit quelque chose, ce passage.

Damien : Parce que c’était ça la question que j’avais, moi j’ai l’impression que l’RGESN, on n’en parle pas parce que ce n’est pas contraignant. On est d’accord Du coup, ce n’est pas contraignant aujourd’hui, le RGSN, c’est plus une recommandation ?

Estelle : Exactement. En fait, ça rentre dans le cadre d’une loi qui s’appelle la loi Rennes, qui est sortie fin 2021, qui doit répondre à un certain nombre d’enjeux pour réduire l’impact environnemental du numérique. Et en l’occurrence, le RGSN va permettre de travailler sur deux de ces enjeux. Le premier, c’est comment on ralentit le renouvellement des appareils, de l’achat des équipements. Et puis comment on favorise des usages numériques vertueux qui vont justement permettre de contribuer à allonger la durée de vie de ces équipements. Et en fait, le RGSN, c’est un outil, un moyen qui s’inscrit dans cette loi. Enfin je fais de la traduction, qui va permettre de contribuer à l’atteinte de ces objectifs-là. Mais sans contraintes, sans obligations aucune. C’est-à-dire qu’il n’y a pas de loi encore, il n’y a pas d’amende ou de contrôle de t’as fait, t’es puni, t’as pas fait, t’as pas fait, t’es puni.

Damien : Parce que sur les normes de cybersécurité, par exemple, il y a le NIS2 qui va bientôt arriver ou qui rentre cette année, où ce qui est intéressant, c’est que les pouvoirs publics et les services publics, les communautés sont obligées de s’y conformer, tu vois. Et c’est intéressant de dire que, avant que les entreprises soient forcées de se conformer à la norme, les pouvoirs publics, les services publics, eux, s’y conforment. Parce que, pour le coup, sur la cybersécurité, ils partent beaucoup plus loin que les entreprises, vu qu’ils n’ont pas d’intérêt économique à protéger leurs données. Malheureusement, tu vois. Peut-être pas économique, mais il y a quand même d’autres enjeux sur la cybersécurité au niveau des gouvernements. Tu vois, par exemple, nous, on est lillois, du coup. La ville de Lille, elle a été victime d’un piratage. Alors, piratage, ok, l’état civil a été piraté. C’est grave, c’est pas grave, on sait pas, vu qu’ils n’ont pas dit ce qui était sorti donc déjà eux ils ne se conforment pas à dire ce qui est sorti ou pas mais ils ne savent pas en fait et puis surtout les services n’ont pas rétabli depuis deux ans t’imagines une entreprise où la DSI elle dit les services ont été piratés et ça fait deux ans qu’on ne les a pas rétablis le patron de l’entreprise il vire le DSI directement, mais en attendant du coup comme c’est un service public les agents de l’état civil ils disent il n’y a pas de prise de rendez-vous en ligne, il suffit d’appeler et on vous répond tu vois ce que je veux dire ?

3. Dilemme entre éco-conception et accessibilité

Estelle : Là je pense qu’on s’éloigne un petit peu du sujet je voudrais pas m’embarquer sur des sujets que je maîtrise moins pour le coup ça risque d’être déceptif mais non, effectivement c’est pas encore on est pas sur un référentiel contraignant, c’est pas la même chose que sur l’accessibilité dont on parlera tout à l’heure, par contre c’est important d’avoir en tête que on tout porte à penser que dans un. Temps relativement court ça va le devenir, déjà ne serait-ce que par ce jump en très peu de temps enfin la loi elle sort en 2021, quelques mois après on a un brouillon du RGESN qui sort, un an après on a une V1 qui est portée par la DINUM qui est quand même relativement sérieuse et un an après c’est récupéré par une autorité de contrôle qui optimise en plus la version qu’on passe d’un cran au-dessus, alors elle sera encore perfectible dans les années à venir mais tout nous porte à croire que de toute façon ça va arriver, donc ça c’est hyper important de l’avoir en tête parce que dans les pourquoi s’intéresser au RGESN déjà au-delà des enjeux environnementaux dont les entreprises doivent, et des impacts que les entreprises doivent prendre en compte autour des services numériques, il y a aussi la question de la réglementation, l’anticipation de la réglementation, parce qu’on sent qu’elle va arriver. Donc si là, vous êtes en train de travailler sur des projets de conception, de nouveaux services ou de refonte, n’oubliez pas de penser à l’éco-conception. C’est hyper important.

Aurélien : C’est quand même beaucoup plus facile de le penser dès le début que de le faire après.

Damien : Parce que c’est ça Aurélien, dans la vision produit, c’est ça qui est intéressant, c’est de penser à l’éco-conception au début plutôt qu’à la fin ?

Aurélien : En fait, de toute façon, tu peux tout à fait l’amener de manière itérative, mais ça reste de l’ingénierie et si jamais tu conçois ton système dès le début pour qu’il soit plus sobre, ça va être beaucoup plus facile derrière parce que tu l’auras pensé initialement et que tu auras mis les grandes briques on va dire dès le début, tu pourras rendre plus accessible tu pourras le rendre encore plus sobre petit à petit mais si jamais tu ne te préoccupes pas de ce genre de sujet, ton système il ne va pas être conçu pour être sobre il va être conçu pour être performant, efficace ce genre de choses, mais du coup il va peut-être falloir revoir de manière très en profondeur faire des énormes refactorings voir redémarrer de zéro, et ça on n’est pas trop dans la sobriété.

Chloé : Et en terme de coût aussi !

Damien : Parce que c’est le sujet… Est-ce que l’accessibilité, aujourd’hui, c’est… Moi, quand je codais encore à l’époque, l’accessibilité, c’était à la fin, si on a le temps, tu vois.

Chloé : L’accessibilité, c’est pareil. C’est quelque chose qu’il faut prendre en compte dès le début. Alors, on verra ensuite qu’il y a des lois, maintenant, qui l’imposent. Mais ça sera toujours plus simple de prendre en compte l’accessibilité dès le début du projet et à chaque étape. Parce que si on n’y pense qu’à la conception et qu’ensuite, on l’oublie, on retombe sur le même problème. Mais si on y pense à chaque étape, évidemment que ce sera plus efficace.

Damien : Est-ce qu’on doit faire des compromis entre l’éco-conception et l’accessibilité parfois ?

Chloé : Ça peut arriver sur des sujets qui sont très spécifiques mais globalement un site accessible peut être aussi un site éco-conçu.

Estelle : Je pense que on ne peut pas regarder dans ce sens-là c’est-à-dire que quand on fait du numérique responsable on a une vision globale donc effectivement il faut avoir une petite expertise ou en tout cas des connaissances sur l’ensemble des piliers, les principaux en tout cas sur les services numériques ça va être l’accessibilité, l’éco-conception et la gestion de la donnée. On travaille vraiment sur ces trois piliers, donc c’est important d’avoir cette vision haute qui permet de regarder ça de façon systémique. Et effectivement, je pense que ça peut se poser la question de, ah oui, alors là je vais être accessible, je vais répondre à ce critère-là, pour répondre à ce critère-là, je dois rajouter du code. Là, ça peut arriver. Et à ce moment-là, tu vas te poser la question c’est quoi la priorité en fait ? Par rapport à mon service, par rapport à ce que je propose, par rapport à mes usagers, la priorité c’est quoi ? C’est d’être propre ou c’est d’être accessible ? Et je pense que l’arbitrage, il se fait naturellement en fonction de l’ensemble de ces éléments. L’éco-conception, l’accessibilité, c’est se poser des questions en permanence sur le sens qu’on donne aux choses, à quoi ça sert, enfin, je rebondis sur un… quand on parlait d’intégrer l’éco-conception, mais comme l’accessibilité d’un d’ailleurs dès le démarrage, mais sur l’éco-conception, ça va au-delà de ça, c’est-à-dire que c’est même pas « j’ai commencé mon projet », que je m’interroge de savoir s’il est utile, s’il est pertinent. Est-ce que je vais le développer ? Parce qu’est-ce que ça sert à quelque chose ? je pense que la majorité des services numériques aujourd’hui, J’exagère, mais beaucoup de services numériques n’ont aucune raison d’existence. Déjà même quand tu intègres cette question, la base de l’éco-conception, c’est de s’interroger là-dessus.

Damien : Je trouve que tu as des exemples concrets parce que moi je n’arrive pas à cliquer.

Aurélien : De base, si tu veux, je crois que dans les services numériques, tu as 80% de fonctionnalités qui ne sont jamais utilisées. Oui. Donc en fait, même sans parler du service et ce qu’il est utile lui-même, rien que déjà dans son service, en général, on cherche à accumuler les fonctionnalités, on cherche à rajouter, rajouter, rajouter, alors qu’en fait, ce n’est pas forcément nécessaire. Ca fait longtemps que je parle de l’IN et là on voit depuis un an notamment pour des raisons de budget parce que l’avouer ça joue on commence à reparler de l’IN.

Damien : La question que j’avais en tête depuis le début c’est parce que c’est vrai que l’accessibilité, on a dit l’éco-conception quand on l’a fait à la fin ça coûte plus cher que si on l’avait fait dès le début en même temps ça coûte aussi plus cher si on l’a fait dès le début c’est plus cher que si on l’avait pas fait non plus.

Estelle : Pas forcément je suis pas d’accord ça prend du temps parce qu’il faut se poser les bonnes questions surtout quand c’est un démarrage parce qu’il faut se sensibiliser quand on n’est pas habitué à ces sujets-là. Globalement, quand même, l’éco-conception, aujourd’hui, c’est beaucoup de bon sens. C’est vraiment des bonnes pratiques de développement. Donc, c’est déjà ancré. Il y a pas mal de choses qu’on oublie de faire, clairement. Déjà, se poser la question de savoir si mon service, il est utile ou pas. C’est la première chose. Généralement, on fonce un peu bien en tête sur un projet et on oublie de se poser la question de base. Bon, ça, c’est à faire. Et après, il y a plein d’autres questions qui viennent se poser, qui vont te permettre… Alors, OK, tu passes un peu plus de temps dans des marges, mais globalement, tu vas faire des choix techniques. Tout ce qui va être fonctionnel et inutile, tu ne vas pas le faire. Donc, ça veut dire quoi ? Des specs plus light et donc des devs plus light. Donc, ça te coûte moins cher en développement et donc moins cher en TMA. Et globalement, un site qui est plus performant, il peut te coûter moins cher sur les hébergements. Alors là, je parle de projets avec des énormes écosystèmes, des gros infras, tu vois. Donc non, globalement, c’est une erreur de penser que c’est plus cher parce qu’en fait, de faire de l’éco-conception, c’est une intelligence que tu vas mettre dans ton projet qui va te permettre d’optimiser toute ta chaîne de valeur, de la processiser. Par exemple, tout ce qui est lié à des questions autour des revues de code, des décommissionnements. Donc en plus, ça t’oblige à analyser ton outil, ton service numérique, une fois qu’il est en prod, pour vérifier que tout est utile, que tout fonctionne bien, d’optimiser tes parcours utilisateurs. Un parcours utilisateur performance, normalement, ça te ramène aussi de l’efficacité économique.

4. Débat sur les outils de surcouche en accessibilité

Damien : On va faire la transition avec le sujet suivant. Dans la même question, Chloé, est-ce que tu penses que faire l’accessibilité dès le début, ça ne coûte pas plus cher que de ne pas la faire du tout ?

Chloé : Je sais qu’il y a beaucoup d’entreprises qui comptent sur les outils de surcouche, notamment pour rendre un site accessible, qui sont des plugins qu’on va installer sur des sites pour permettre aux personnes handicapées ou avec des difficultés de modifier la taille de la police, de modifier les couleurs, etc. Ces produits-là, ils sont super lourds. Alors, ils sont super lourds, et surtout, on sait aujourd’hui qu’ils sont efficaces que sur maximum 30% des critères. Et aujourd’hui, on a la Commission européenne qui les déconseille concrètement, qui a publié un article là-dessus, et qui déconseille aujourd’hui les outils de surcouche. Déjà parce que ça couvre trop peu de critères, et en plus, on peut avoir des interférences avec des technologies d’assistance, donc des aides logicielles ou matérielles qui vont être utilisées par les personnes handicapées, et donc qui va va compliquer leur navigation. Donc, l’accessibilité, on n’a pas besoin de ce genre de plugin. Il faut le faire au fur et à mesure du projet, choisir les bonnes options pour permettre l’accessibilité. Et donc, ensuite, en maintenance, etc., on aura moins de travail aussi. Les outils de surcouche, c’est un sujet dont tu dis, ils sont moins accessibles, ils sont ici que dans 30% des cas. C’est quoi, là ? Je me rappelle que 14% des Français ont une déficience.

Damien : Les outils de surcouche, c’est un sujet dont tu dis, ils sont moins accessibles, ils sont ici que dans 30% des cas. C’est quoi, là ? Je me rappelle que 14% des Français ont une déficience. Mais toutes les déficiences ne sont pas concernées par l’intellectualité. Une déficience de mobilité, ce n’est pas pertinent dans l’accessibilité web, non ?

Chloé : Alors si, bien sûr, parce qu’évidemment, si on a des tremblements ou si on va avoir un membre en moins, on ne va pas pouvoir utiliser, par exemple, sa souris. Et donc, du coup, il faut que la personne puisse utiliser uniquement son clavier, par exemple, pour pouvoir accéder à l’information et à toutes les fonctionnalités d’un site Internet. Ça couvre aussi, par exemple, les personnes qui vont avoir des difficultés à lire avec les troubles de dys, etc. On va adapter la police pour eux. Et on peut même aller encore plus loin avec l’épilepsie. On sait, par exemple, que les JO de Londres, c’était en 2012, donc je crois que le clip est sorti en 2007. Il y a eu un clip promotionnel sur les JO qui a été publié partout et qui a été retiré très vite des plateformes parce qu’il a causé trop de crises d’épilepsie.

Damien : Ça, c’est l’histoire de Pokémon en France. C’est un peu l’idée, ouais. La première saison de Pokémon, quand elle a été diffusée au Japon, il y avait beaucoup de flashs. Il y a eu vraiment beaucoup de gens qui ont fait des crises d’épilepsie. Et du coup, Pokémon, le dessin animé, a eu une mauvaise réputation dans le reste du monde pendant plusieurs années. Vraiment. Là, c’est la même chose. Il y a eu trop de flashs et du coup, il y a eu trop de crises d’épilepsie. C’est pour ça qu’on a encore en France, sur tous les animés, attention, c’est des animés qu’on peut contenir des flashs pour en défoncer. C’est vrai. Je l’ai appris récemment, je voulais vous le partager. De manière générale, il faut avoir l’idée, quand on est décideur, que 14% des Français peuvent ne pas avoir accès à nos services, parce qu’ils ne sont pas accessibles.

Aurélien : Ça peut arriver à n’importe qui d’entre nous. Si jamais tu as un bébé, un nourrisson, tu dois t’en occuper, tu ne peux avoir qu’une seule main de disponible. Si jamais tu te pètes un bras ou ce genre de choses, pareil, tu ne peux avoir qu’une main disponible. On peut avoir aussi, à certains moments, des burn-out qui te causent d’avoir moins de concentration, d’avoir peut-être des difficultés auditives, ce genre de choses. En fait, tu as les personnes qui ont un handicap, mais on peut aussi tous être en situation de handicap à n’importe quel moment. Je pense même, par exemple, aux personnes qui sont dans les transports en commun. Si jamais tu es un peu respectueux de ton entourage, tu ne vas pas mettre le son à fond. et donc du coup potentiellement tu peux pas entendre le son donc avoir les sous titres ça te permet de regarder ta vidéo.

Chloé : Après, il faut quand même garder en tête que l’accessibilité, c’est d’abord fait pour les personnes handicapées. Et qu’après, évidemment, on peut en détourner des usages, comme ce que tu disais dans les transports en commun. Mais il ne faut pas oublier que ce n’est pas parce qu’une règle d’accessibilité n’aide pas tout le monde, ne concerne par exemple que les personnes handicapées, qu’il ne faut pas la mettre en œuvre, au contraire même.

Aurélien : En fait, je pense même qu’il faut voir que ce n’est pas une question. Aujourd’hui, on ne peut plus se poser la question de est-ce qu’on fait nos services de manière accessible ou pas ? C’est-à-dire que, ok d’accord t’as peut-être 14 ou 15% quelque chose comme ça, mais si jamais tu dis ça, t’as des dirigeants qui vont peut-être te dire, oui bon 85% moi du public ça me suffit, mais en fait c’est plus une question c’est nécessaire et c’est et ça devient obligatoire de toute façon, oui.

Estelle : Je pense que le problème c’est que ça n’a pas été intégré dans les pratiques au départ parce qu’en fait je comprends, enfin moi ça fait pas très longtemps que je suis dans le numérique responsable en termes d’expérience pro, mais le premier constat que je fais c’est, mais putain, mais pourquoi on en est là quoi ? Pourquoi on en est encore là en en 2024 à se dire je fais de l’accessibilité ou j’en fais pas je comprends même pas que la question elle se pose en fait c’est quand même une loi sur le sujet depuis 2005.

Damien : L’industrie du logiciel c’est une industrie qui est plus grosse que la pharmaceutique ou l’aviation.

Estelle : C’est comme tout, si les ingénieurs apprennent directement dans leur cursus scolaire à faire de l’éco-conception, à faire de l’accessibilité, la question ne se posera plus.

Damien : Il y a une priorité économique. On rend nos sites web plus accessibles à Google qu’aux humains. Il y a déjà une priorité économique. Pour le SEO, on est tous d’accord qu’il faut mettre les balises correctement.

Chloé : Aujourd’hui, on ne se pose plus la question de savoir si le bâtiment qu’on construit doit être accessible PMR. C’est obligatoire et on ne se pose pas la question. Donc on ne devrait même pas non plus se poser la question sur les sites internet.

Damien : Je suis d’accord avec toi. Est-ce qu’il y a une normalisation, une banalisation de l’accessibilité tu penses ?

Estelle : Un manque d’intérêt ou de conscience de ce que ça peut représenter pour une personne en situation de handicap. Je pense qu’on est peut-être que beaucoup trop de commanditaires de sites et de toute façon, on a aussi des difficultés d’intégration du handicap dans les entreprises. Donc forcément, ils ne sont pas très représentatifs et représentés dans les services IT. Donc forcément, ça ne peut pas être pensé sous le prisme du handicap. Déjà, on a un problème là-dessus. Donc en fait, c’est juste que ce n’est pas intégré. Et à partir du moment où tu n’as pas de handicap, tu ne penses pas en fait à ce que ça peut représenter. Et essaye d’ouvrir ton téléphone de discuter avec ton téléphone de faire des choses avec ton téléphone en ayant les yeux fermés tu vas te marrer.

Aurélien : Les ingénieurs, les développeurs la plupart ne sont pas formés il y a un vrai sujet à la fois de sensibilisation et de formation.

Chloé : je pense qu’il y a un peu de mauvaise foi parfois des développeurs et des équipes mais il y a aussi beaucoup de personnes qui ne sont pas formées et qui n’en ont pas conscience

Estelle : la sous-représentation du handicap dans les entreprises et dans les services forcément on n’est pas dans l’inclusion on ne peut pas, on regarde que sous un seul prix en fait c’est celui d’un utilisateur qui n’a pas de handicap, c’est problématique.

Damien : Moi en 2013, quand j’ai commencé à travailler, je faisais des applis mobiles, et c’est vrai que le chef de projet avait fait venir un consultant qui était malvoyant pour qu’il passe sur notre appli en voice-over. Alors nous on avait fait l’accessibilité mais pour pouvoir faire des tests automatisés dessus, donc ça faisait n’importe quoi pour lui, mais ça marchait à peu près. Je me rendais bien compte effectivement, je trouvais ça intéressant. Encore une fois, tu vois, c’était pas chiffré dans le projet. Donc on a fait 200 jours au lieu de 120, tu vois. Ça arrive à la fin, on a demandé aux devs de travailler plus pour le faire, tu vois. Donc nous, on s’est retrouvés à faire tout de l’overtime, qui n’était pas facturé, etc., pour le faire en plus. Et le client, en plus, on n’avait rien à faire.

Chloé : Mais même dans les formations, on en parle très peu. Il y a beaucoup de formations aujourd’hui où on n’entend pas du tout parler de l’accessibilité, qu’on n’entend pas du tout parler non plus d’éco-conception, et c’est un vrai problème pour les futurs professionnels.

Estelle : Là, ça arrive avec la fonction publique, parce qu’ils sont sous injonction gouvernementale, enfin. Mais globalement, dans les cahiers des charges, t’as pas la ligne accessibilité. T’as presque plus la ligne éco-conception aujourd’hui, ce qui est complètement c’est pas que c’est aberrant, tant mieux qu’il y ait au moins des piliers qui soient pris en compte.

Damien : Je suis allé à des copilages de FIP il y a quelques années où on faisait venir les OF, les organisations de formation et puis à la fin de la réunion je lui ai demandé, mais oui, mais c’est quoi le taux de TH, de RQTH dans les OF parce que si vous formez pas 6% de TH, comment on peut les recruter en vrai, le sujet à l’école, ils peuvent pas être formés à l’accessibilité il n’y a déjà personne qui est handicapé dans l’école.

Chloé : Mais nous, on le voit bien. Moi, j’ai des clients, quand je fais un devis, je l’inclus de base, parce que pour moi, c’est impossible de me faire un site qui n’est pas accessible. J’ai des clients qui me disent « Bah oui, mais c’est trop cher. Ça coûte combien sans accessibilité ? ».

Estelle : Ça coûte vraiment plus cher dans ton devis quand tu fais de l’accessibilité ? Si tu enlèves l’audit, qui est vraiment une prestation à part entière ?

Chloé : Si je ne fais pas d’audit, non, je ne passe pas plus de temps. De toute façon, je ne sais pas faire un site pas accessible. Par défaut, ça ne coûtera pas plus cher. Moi, quand on me demande d’enlever l’accessibilité, je ne sais pas faire.

Damien : Tu as mis combien de temps à te former à ça ? Parce qu’effectivement, c’est pareil. En fait, on m’a fait la formation à la fin. C’est encore ça le sujet.

Chloé : La formation des devs, moi, je me suis formée d’abord grâce à des collègues. Et puis une formation vraiment technique par un prestataire c’est trois jours à partir du moment où on maîtrise le développement c’est trois jours de formation pour être après c’est de la pratique.

Estelle : je pense que le RG2A il est quand même costaud c’est plus d’une centaine de critères et même pour des développeurs quand tu commences à lire le RG2A c’est pas forcément hyper c’est un peu… Ouais tu te poses des questions si on fait 100 critères en trois jours ça fait quand même… En 3 jours ça te donne une méthode de compréhension ça te permet de rentrer dans le sujet après t’as du taf derrière, c’est de l’expérience et puis c’est comme tous les sujets qu’on aborde aujourd’hui, cool, on commence tranquille on y va par étapes, c’est comme quand tu commences à René tu fais pas 50 bornes du premier coup donc l’accessibilité, l’éco-conception c’est étape par étape déjà prends conscience que c’est important, fais un audit, regarde où t’en es, mets tes curseurs et puis hop tu vas et tu te donnes un plan d’évolution sur 3 à 5 ans

5. European Accessibility Act

Damien : Chloé, le European Accessibility Act c’est quoi ?

Chloé : Une loi, une norme qui permet d’harmoniser toutes les normes d’accessibilité des pays européens. Et d’imposer aussi l’accessibilité à de plus en plus de sites, notamment les services bancaires, les services de transport. À la fois, par exemple, pour les services bancaires, ça va être le site sur lequel on va se connecter pour avoir accès à ses comptes, mais ça va aussi être le distributeur de billets. Pour les transports, ça va être pareil, ça va être les sites internet, mais ça va être aussi les bandes d’achat de billets, les bornes qui permettent de s’enregistrer à l’aéroport, etc. On va avoir les téléservices de téléphonie, les sites de commerce en ligne, etc. Et les objectifs, ça va déjà être de réduire les inégalités et de favoriser l’inclusion sociale. Et ça va aussi être de simplifier le cadre réglementaire pour les entreprises qui vont travailler à la fois en France, mais aussi dans d’autres pays européens. Donc, on aura une loi commune pour tout le monde.

Damien : Est-ce que du coup la France on a moyenné les niveaux d’exigence des différents pays européens ? C’est comment on a aligné sur le pays le plus exigeant ?

Chloé : Pour ça on a les VCAG c’est une norme internationale liée à l’accessibilité qui a été créée par le W3C et donc on se base là-dessus pour définir tous les critères qui doivent être respectés par tous les sites concernés.

Damien : où commence la contrainte ici ?

Chloé : La contrainte elle commence dans le fait qu’il faut déjà s’y intéresser se former, et ensuite on va avoir des coûts notamment pour les PME, des coûts de formation des coûts de sensibilisation

Damien : La loi elle oblige quoi ? On a une amende si on n’est pas accessible ?

Chloé : Alors on a une amende on a une amende pour le niveau d’accessibilité on va aussi avoir des amendes pour les obligations déclaratives, il y a des obligations qui vont être juste d’afficher une déclaration d’accessibilité d’afficher si le site est conforme ou pas au RG2A et à la norme européenne sur la page d’accueil du site. Et si ces obligations-là ne sont pas respectées, on va avoir une amende qui s’élève à 25 000 euros par site qui ne respecte pas l’amende et qui est renouvelable tous les six mois si l’infraction n’est pas corrigée. Et pour les défauts d’accessibilité, c’est 50 000 euros par site. Et également renouvelable tous les six mois. Tout est cumulable et renouvelable tous les six mois et par site. Donc si tu as trois sites, par exemple, tu peux faire trois fois 50 000 euros plus trois fois 25 000 euros. Et si en plus, tu n’as pas affiché que ton site était conforme ou pas conforme, c’est encore 25 000 euros. Donc tu peux aller jusqu’à 100 000 euros par site tous les six mois, si les anomalies ne sont pas corrigées. Aujourd’hui, c’est des amendes qui sont appliquées pour les gros sites, les services publics et notamment notamment les sites qui font un chiffre d’affaires de plus de 250 millions d’euros annuels. D’accord. Et donc là, on attend, du coup, avec les nouvelles lois qui vont apparaître, les sanctions qui vont être appliquées au plus vite.

Aurélien : C’est comme l’RGPD, si tu veux. Même si tout le monde est soumis au RGPD, en fait, c’est les sites les plus communs, les plus utilisés, qui vont être les premiers ciblés par la vérification.

Damien : C’est quoi la bonne solution qu’on a dit de faire depuis le début est-ce qu’il y a une tendance qu’on a mentionné beaucoup pendant quelques années c’était de mettre de faire l’accessibilité dès le design system c’est encore le sujet ça ?

Chloé : Oui bien sûr parce que il y a forcément des choses qui vont être liées aux couleurs qui vont être liées au contraste, qui vont être liées à la taille des typos donc c’est hyper important de le faire dès le début dès le design system. Et ensuite il y a aussi il faut faire attention à tous les plugins tous les scripts qu’on va ajouter alors qu’ils ne sont même pas forcément liés à l’accessibilité mais qui vont être par exemple de la carto des vidéos etc et qui peuvent ne pas, être accessibles et donc qui peuvent compliquer la navigation d’une personne handicapée il faut savoir qu’avec des technologies d’assistance il y a certaines personnes qui vont mettre 30 fois plus de temps qu’une personne, valide à faire la même action donc si nous on met 4 minutes à la faire, si elle en met 30 fois plus, potentiellement elle va mettre 2 heures.

Damien : Je comprends. Est-ce que maintenant on commence à avoir des IA qui vont nous décrire ce qu’il y a sur une image, est-ce que l’IA, ça commence à… Est-ce que les LLM, en l’occurrence, ça apporte quelque chose en termes d’accessibilité ?

Chloé : Alors, ça peut aider. Par exemple, notamment sur les sous-titres, ça va éviter à quelqu’un de devoir taper manuellement tous les sous-titres. Par contre, ça ne suffit pas, et on le dit bien dans le RG2A qui est utilisé en France qu’est le référentiel général d’amélioration de l’accessibilité on dit bien que que les IA ne suffisent pas et que même si on génère par exemple des sous-titres ou des attributs alt pour les images grâce à l’IA il faut les vérifier et les faire vérifier par une personne humaine.

Damien : Tu vois par exemple ce podcast là il ne sera pas forcément bien transcrit sous-titré tu vois ça prend un humain qui fait alors sans l’IA on mettait quasiment 8 fois la vitesse de la musique pour faire le transcript, et c’est pas un sous-titrage avec de l’IA on arrive à, faire une fois la vitesse de la musique mais tu vois ça prend tout de suite une personne de plus dans la pièce. Il faut le corriger mais tu passes d’une journée à 45 minutes et puis rien ne t’empêche c’est ça on le faisait pas avant maintenant on peut le faire mais encore ça prend un budget à chaque fois, et quand c’est pas scripté si le texte qu’on enregistre sur la vidéo est pas scripté c’est hyper compliqué de refaire la retranscription même tu vois sur les conférences il commence à y avoir la vélo-tipi maintenant, souvent encore des erreurs parce que c’est un humain qui va aussi vite que la musique ça prend une capacité, de tout faire,

Chloé : après sur les événements directs on n’a pas de contraintes actuellement liées au sous-titrage ou à la vélo-tipi, c’est des choses qui sont faites en plus, mais par contre oui pour tout ce qui va être diffusé en direct normalement, les entreprises et les organismes qui sont qui ont une obligation d’accessibilité doivent s’assurer qu’il y a une transcription textuelle sous leurs vidéos etc c’est encore pas à chaque fois que le président parle qu’il y a quelqu’un qui en fait des signes à côté, non parce que c’est du direct en général. Par contre sur les rediffusions s’ils publient ça par exemple sur le site, ils sont censés fournir au moins une transcription textuelle le contenu qui sera de toute façon accessible pour tout le monde c’est le texte donc quand on a un doute il vaut mieux, écrire du texte et c’est le plus simple

6. Les IA

Damien : Ouais je comprends c’est la transition sur l’IA où vous êtes K.O. Non d’accord vous écoutez Chloé je vous propose de passer au troisième sujet GL, IA responsable. Alors, qu’est-ce que j’ai marqué comme introduction ? Aux Etats-Unis, il y a des IA recruteuses qui ont reproduit des biais cognitifs discriminatoires. Alors, je ne dirais pas quelle entreprise, mais c’est une entreprise qui livre beaucoup de paquets, quoi. Il n’y en a pas qu’une, non plus. Et entraîner une version de chat GPT, ça prend plus d’énergie qu’un décollage de fusée SpaceX. Je crois que l’image, elle, était visible. Alors, c’est une version, c’est un modèle, bien sûr, en entier. Mais il y a un sujet sur… En fait, c’est ça la question que je voulais te poser, Aurélien, c’est est-ce que la dimension, enfin l’IA donne une dimension au numérique aujourd’hui qui est vraiment un climax, c’est vraiment genre on est on s’est dit tu vois l’impact du numérique il augmente comme ça et puis là d’un coup on sort de la route c’est ça ?

Aurélien : Globalement si tu regardes l’histoire du numérique on a toujours été dans une accélération et une augmentation des impacts.

Damien : On suivait la loi de mort tu vois.

Aurélien : Ouais exactement et clairement avec l’IA, si jamais, moi j’ai déjà entendu des personnes dire bah oui mais du coup avec l’IA on va gagner du temps et puis on va faire les choses de manière plus facile, plus sobre donc du coup on va avoir un impact qui est positif. Et en fait à chaque fois tu as cet effet rebond, donc de toute façon c’est certain que là l’IA, on démultiplie les usages, on démultiplie les impacts. Typiquement je crois qu’il y a eu une estimation que si on continue à accélérer à la même vitesse la taille des modèles, l’entraînement des IA, etc., on va utiliser la totalité de l’énergie mondiale pour l’entraînement des modèles en 2035. Donc, on a peut-être intérêt à ralentir un petit peu. Donc, c’est certain que l’impact environnemental, mais aussi social des intelligences artificielles, et là, on parle quand même beaucoup en ce moment d’une sous-partie des IA, tout ce qui est de Gen AI, il est énorme. Je ne sais pas si on peut parler d’IA responsable. c’est très difficile de parler d’IA responsable aujourd’hui on peut par contre parler d’IA éco-conçue d’IA peut-être raisonnable et en fait essayer de minimiser ne pas prendre un très gros modèle quand on n’en a pas besoin prendre un modèle spécifique plutôt qu’un modèle général, questionner l’usage comme on en parlait tout à l’heure en éco-conception et RGESM.

Damien : Tu t’es arrêté trop brutalement j’ai pas eu le temps de préparer une relance je comprends l’idée, il y a ça la question sur l’éthique c’est souvent tu vois Lydia qui a fait la discrimination en recrutement, en fait elle a juste reproduit ce que faisaient les humains avant elle.

Estelle : Parce que le jeu de données devait pas être bon au départ.

Damien : bah ouais c’est ça, mais les humains sont déjà tous racistes même s’ils le nient.

Aurélien : On va rejoindre en fait les mêmes sujets qu’on a évoqué avant, c’est à dire que si jamais dans tes équipes tu n’intègres pas une représentation de la population à la fois en termes de, sexe, est-ce que t’as des équipes qui sont aussi féminines que masculines est-ce que t’as des équipes qui ont des origines différentes, est-ce que t’as des équipes qui ont des handicaps ou ce genre de choses en fait tes IA en général vont reproduire ces biais là déjà par la qualité de ta donnée et par la constitution de tes équipes donc en fait si tu veux avoir une IA qui évite autant que possible les biais, il faut non seulement y penser, déjà se poser la question c’est une bonne chose, le tester et essayer d’avoir des équipes qui sont diverses et s’assurer que tu fais un maximum tu pourras pas éviter tous les biais en tout cas pas aujourd’hui mais par contre plus tu vas te poser la question et plus tu vas le prendre en compte plus tu vas les éviter.

Damien : Il y a un reportage d’Arte sur Instagram, sur les algorithmes, et ils ont tout un arc dedans où ils vont interviewer Luc Julia, par exemple, qui est le créateur de Siri, sur l’ambiance dans les équipes de Software Engineer aux Etats-Unis. Et ils ont l’air de dire que si Instagram est devenu un peu misogyne, c’est aussi parce que l’équipe d’Ingé d’Instagram, c’est un boys club.

Estelle : Ah, mais carrément, tu reboucles, on sort un peu du sujet de l’IA, parce que ça, c’est pas contraire à l’IA, c’est le problème de l’inclusion dans la tech, en fait.

Damien : L’IA c’est qu’un algorithme de plus c’est un algorithme un peu plus intelligent mais les algorithmes étaient déjà biaisés avant.

Estelle : Mais oui parce que la tech est portée sous le regard masculin en fait, et en plus sans handicap alors c’est magnifique, donc tout va être fait dans ce sens là

Aurélien : Et typiquement on le voit avec le petit oiseau bleu qui est devenu une lettre blanche sur fond noir, et où en fait si tu regardes des photos des équipes avant le rachat et après le rachat et bien en fait t’as une perte de diversité qui est énorme et si on regarde aujourd’hui l’impact que ça a eu sur ce réseau social que je ne citerai pas on voit que ça va de plus en plus dans les extrêmes, que ça va de plus en plus vers du climato-sceptisme, vers des propos qui sont qui sont moins inclusifs.

Damien : Là clairement je suis parti les no de communauté etc tu m’as fait relancer, tu m’as fait repenser à tous les trucs que j’ai lu sur Twitter mais moi j’ai mis

Aurélien : On avait dit qu’on ne le citerai pas On le coupera au montage

Damien : On n’est pas à la télé, on a le droit de citer les marques. Et puis Twitter, on s’en fout vraiment Je me suis mis une limite sur mon téléphone, J’arrive pas J’ai mis une limite sur mon téléphone, je dois pas laisser plus d’une heure par jour, sinon j’attends le lendemain.

Aurélien : Moi je l’ai carrément enlevé.

Estelle : C’est terminé, je n’y vais plus C’est horrible.

Damien : Comment les entreprises elles peuvent faire pour faire que leurs IA ne deviennent pas non éthiques on utilise chaque GPT mais on ne sait pas ce qu’on fait avec ?

Aurélien : on en revient toujours à la même question c’est est-ce que déjà on y pense c’est à dire qu’en fait si jamais tu te poses la question de l’accessibilité, si tes équipes au moment de, ah bah tiens on va se lancer ce projet là dans un atelier de conception ou dans l’atelier, le kick-off, posent la question, y réfléchissent brainstorment sur le sujet, déjà on a fait un bon premier pas parce qu’en fait on va tenir, on va prendre ça en compte. Si tu te dis comme c’est un peu le cas, j’ai été à Vivatech il n’y a pas très longtemps c’était il y a partout, il y a partout, Et globalement, tu sens qu’on se précipite sur le sujet parce qu’il y a de l’argent à se faire, il y a du business et clairement, il y a des nouvelles possibilités qui sont ouvertes aujourd’hui avec tout ce qui est GNI. Mais en fait, c’est primordial de se poser la question de quelles données tu veux utiliser, quel modèle tu veux utiliser, par qui il est construit, quels sont les impacts de ce modèle, comment il va être utilisé par tes utilisateurs. En fait déjà il faut se poser les bonnes questions et on le voit dans la nouvelle version du RGESN où ils ont rajouté en fait toute une catégorie de fiches pratiques qui sont labellisées algorithmies et qui sont autour de l’usage de l’IA où en fait ils parlent de en gros est-ce que vous en avez besoin donc on en revient à la question de l’utilisabilité et de l’usage ils posent la question de est-ce que vous utilisez le modèle le plus sobre possible etc. Donc je pense que pour des entreprises qui veulent se questionner et vraiment essayer d’avoir une IA qui est aussi, responsable et aussi éco-conçue que possible il y a cette question de quelle est la taille du modèle, d’où vient le modèle, d’où viennent les données, à quelle fréquence on va l’utiliser. Est-ce qu’on en a vraiment besoin à tous les étages ou pas et puis voilà il y a plein d’autres questions qui peuvent…

Damien : C’est quand même pas du tout le même effort alors déjà tu vois il y a deux ans dès qu’on voulait mettre de l’IA il fallait une équipe de data scientists qui travaillent en interne sur le sujet aujourd’hui un développeur il peut brancher une API d’OpenAI et avoir un résultat assez rapidement au moment où un Vertex un Gemini de toute façon si on a un provider cloud on a un provider IA derrière à part Apple on est à deux jours après la WWDC donc ça fait deux jours qu’Apple a des services donc. Ce que je voulais dire, c’est que plutôt que d’utiliser un SaaS ou un service ou un web-service, dire on va prendre notre modèle sur Hugging Face et aller l’héberger nous-mêmes chez AWS, ce n’est pas du tout la même ingénierie. C’est un effort qui est quand même beaucoup plus grand.

Aurélien : Oui, mais après, aujourd’hui, tu appuies sur un bouton et tu as de l’IA, de la GNI qui est branchée. Ça n’a jamais été aussi facile et c’est un petit peu le danger, quand tu parlais des impacts et du climax de l’IA, donc des impacts et donc du coup du contraire du numérique responsable en fait aujourd’hui limite un enfant peut facilement branché du GenieAIe et c’est ça qui est problématique parce qu’en fait du coup ça veut dire que tu peux très facilement le brancher alors qu’on n’a pas besoin maintenant c’est certain que tout le monde déjà aura pas besoin de réentraîner des modèles donc ça faut l’éviter si jamais c’est pas absolument nécessaire parce que plus on va entraîner le modèle plus on va construire de modèles plus on va avoir un impact et alors alors que ce n’est pas forcément justifié. Et déjà, commencer par brancher les API de Mistral, par exemple, si c’est un modèle qui est plutôt français, un peu plus open source. C’est beaucoup plus facile que de réentraîner un modèle. Et après, c’est en fonction de la complexité de ton projet et des nécessités que tu vas aller plus loin en termes d’ingénierie. Par contre, se poser la question de l’origine de tes données et de que fait ton IA, ce n’est pas quelque chose qui va te prendre beaucoup de temps et ce n’est pas quelque chose qui va forcément démultiplier ton budget.

Estelle : Et puis là, on est sur la partie environnement. Plus, pour se poser ces questions-là, sur la partie environnementale, mais sur l’IA, il y a l’enjeu. Enfin, l’IA responsable, pour moi, l’enjeu, il est aussi très orienté sur l’humain, enfin, sur la société, etc. Là, on a l’IA Act qui arrive et qui va quand même nous protéger, je l’espère, en tout cas en Europe, de certaines choses, de grosses déviances qu’on peut déjà même observer à l’échelle internationale. D’ailleurs, petite précision, on est quand même les premiers au monde sur beaucoup de sujets, sur la partie numérique responsable. L’IAAC, c’est une première au monde. Le RGESN, il n’y a que nous. Il vient juste d’être traduit en anglais en espérant que ça se diffuse justement à l’international. Mais il y a tous les… Enfin, on ne peut pas trop digresser, il y a tout l’impact sur la partie sociétale qui m’en suit.

Damien : Mais du coup, on est en train d’arriver à la fin. Il faut conclure. L’IAAC, il y a quoi dedans ?

Aurélien : En fait, c’est une approche par les risques. c’est-à-dire que le but de l’AI Act c’est d’entourer quand même un petit peu l’usage des IA parce que jusqu’à présent on s’est lancé en plein dedans sans vraiment. Analyser et sans être très transparent, c’est-à-dire qu’il y a beaucoup d’usages aujourd’hui dans le numérique de l’IA où il n’y a rien qui est documenté et il n’y a rien qui est expliqué. Donc en fait le but de l’AI Act c’est de donner un peu plus d’explicabilité, un peu plus de transparence et ensuite le cœur, enfin un des gros sujets au niveau de l’AI Act c’est de donner une pyramide des risques, donc en fait on va de définir en fonction du but de ton IA. Est-ce que c’est un risque inacceptable ? Par exemple, donner un score social à une personne en fonction de… De plein de critères. Le scoring, on l’a mentionné dès le début. Le scoring, c’est vraiment un des gros sujets. On l’a vu, il y a eu en Chine, il y a eu des sujets là-dessus. Je pensais au chauffeur sur Uber en premier. Oui, il y a ce genre de choses aussi, mais on ne veut pas qu’une personne puisse ou ne puisse pas accéder à des services en fonction d’un scoring social. Ça, typiquement, ça a été catégorisé dans les risques inacceptables et donc ça sera purement et simplement interdit.

Damien : Il y a aussi beaucoup d’interventions sur le recrutement.

Aurélien : Alors ça ça va être dans le risque qui est juste en dessous qui est le risque élevé c’est à dire que si jamais t’as quelque chose qui est lié à ta vie de tous les jours ou à des événements de vie par exemple faire un prêt, trouver un emploi ce genre de sujet ou alors en termes de traitement médical. Ça c’est considéré comme hyper important donc avec un haut niveau de risque, et donc ces IA là devront avoir un effort de transparence supplémentaire et devront être, alors je sais pas si le terme c’est labellisé, certifié, ce genre de choses mais en gros il y aura tout un processus pour s’assurer que n’importe qui ne puisse pas déployer un service à base d’IA là-dessus sans avoir vérifié l’impact. Donc typiquement le tri de CV ou des sujets comme tu l’as évoqué là, ça sera un haut niveau de risque et ce sera très encadré. Puis après derrière tu vas avoir deux autres niveaux plus faibles il y en a un qui est un risque limité donc typiquement tout ce qui est GENE AI on va dire en général c’est considéré comme un risque éliminé, ça veut dire que tu devras avoir un peu de transparence, donc expliquer, quelles sont les étapes que tu fais, comment tu utilises la donnée, avec quoi, etc. Donc ça, je trouve que c’est la base même pour les équipes, déjà de faire cet effort, parce qu’ils vont mettre sur le papier ce qu’ils font, donc ça va leur permettre aussi à eux d’avoir une documentation et d’avoir une meilleure compréhension de ce qu’ils font. Et puis après, tu as des risques qui sont considérés comme mineurs, minimaux, et donc là, il n’y aura pas d’encadrement, donc c’est par exemple filtrer du spam, c’est dans les jeux vidéo, ce genre de choses, où là on considère qu’il n’y a pas vraiment de risque, et donc du coup il n’y aura pas de limitation, pas d’obligation.

Damien : Pour clôturer Estelle et Chloé est-ce que vous avez un point de vue un opinion sur le sujet, est-ce que vous utilisez de l’IA au quotidien ?

Estelle : Moi je l’utilise un petit peu pas plus que ça en fait je suis pas hyper satisfaite pour l’instant mais je pense que je sais pas faire de prompt tout simplement, je suis jamais satisfaite de la réponse de ChatGPT, même en version premium donc non je l’utilise encore très peu c’était pourtant, je me souviens ma résolution janvier j’avais dit je me mets à l’IA, c’est impératif j’ai pas le choix, sinon dans 6 mois je suis complètement has-been, bon bah je l’ai pas fait puis visiblement ça pose pas trop de problèmes pour l’instant donc je l’utilise pas beaucoup. Pour le moment, je pense qu’effectivement ça va venir moi l’avis que j’ai c’est juste de pas foncer de baisser là-dedans pour toutes les boîtes en fait c’est ce que tu disais, c’est on remet un petit peu de sens on y va cool, on ne parle que de ça moi ce qui me fait flipper c’est qu’on se fasse se dépasser complètement par la puissance que ça va prendre, et puis qu’on est en train de détourner les regards de d’autres sujets qui nous animent d’ailleurs depuis une heure, c’est-à-dire l’impact. L’IA, on y va, on y va, on y va, on parle d’y un petit peu responsable, mais en fait, c’est pas du tout ce qu’on… Là, tu prends tous les webinars, toutes les confs sur l’IA, c’est pas du tout le propos, en fait. Donc, on est en train de détourner tous les regards sur lesquels l’entreprise devrait avoir, c’est-à-dire comment j’intègre l’impact environnemental, social et sociétal dans mon entreprise, dans mon business model, etc. Et là, tout ça ça s’est tombé par terre. On ne parle que de l’IA. Moi, ça me fait un petit peu peur. Il faut y aller, certes, mais attention à bien penser, à ne jamais encore oublier, comme on l’a déjà fait, dans quel monde on a envie de vivre demain.

Chloé : Moi, je l’utilise un peu, mais assez peu sur un peu de création de contenu ou pour créer des sujets pour des cours que je pourrais donner pour des étudiants, ou je vais créer des sujets d’exercice. Mais c’est à peu près tout. Pareil, ça me fait un peu peur et je pense qu’on n’a pas besoin d’IA partout donc j’ai tendance à toujours réfléchir à est-ce que ça me sert vraiment ou est-ce que je vais juste passer du temps à essayer de comprendre comment ça marche et comment l’utiliser etc comment faire des promptes pertinentes pour qu’au final ça ne me serve pas plus que ça.

Damien : Est-ce qu’il y a vraiment des gens qui demandent ChatGPT avant de demander à Google ? Est-ce que tu fais déjà partie de ces gens-là ?

Chloé : Non Je reste pour l’instant sur Google perso.

Estelle : Par contre ça c’est un truc de dingue que j’ai appris, il y a des études, des observatoires, qui, mettent en avant le fait que les adolescents, alors je sais pas quel pays, je sais pas, j’ai pas les chiffres, il y a des adolescents qui vont carrément demander à ChatGPT, qui sont dans des situations de difficultés psychologiques, qui ont des troubles, des peurs sur l’avenir, sur quoi faire par rapport à une situation donnée, scolarité, etc., et qui vont demander l’avis à ChatGPT. Et toi, tu ferais quoi ? C’est des maths, c’est des probabilités de réponses. Donc lui, il n’a aucun… Il n’y a pas d’analyse, il n’y a pas de pensée, il n’y a pas de conseil vrai. C’est juste des maths. Probable de mots qui s’emboîtent bien les uns entre les autres. Il n’y a qu’une émotion, il n’y a qu’une analyse de la situation. Donc il faut faire gaffe quand même.

Aurélien : Sujet un peu désimpacté du mur responsable, là on parle d’usage qui est volontaire, c’est-à-dire quand tu vas sur le chat GPT et que tu lui poses une question ou que tu lui dis bon aide-moi à formuler ça de manière un petit peu plus neutre et sans prendre trop en charge mes émotions, c’est un usage qui est volontaire. Mais en fait aujourd’hui il y a partout en fait, c’est déjà intégré dans quasiment tous les services, tu vas même sur Gmail, tu commences à écrire un mail, tu as des suggestions ça c’est l’IA qu’il y a derrière, tu commences à regarder tous les services numériques, les figs.

Damien : il y a de l’autocompression sur les claviers des smartphones depuis 10 ans oui ouais ouais mais alors c’est encore autre chose ça c’est un TSM au lieu d’un LLM c’est le bébé du gros

Aurélien : Puis même bon quand on parle de Gen AI c’est un sous-ensemble d’un sous-ensemble des IA donc t’as tout ce qui est deep learning t’as après plein d’autres types d’intelligence artificielle, mais il faut voir qu’en fait ça va être partout c’est un truc c’est l’appendicite qui est devenue une géante c’est vraiment le truc qui est petit en fait il est extrême à la base c’est un sous-ensemble mais il est devenu tellement gros, il est très à la mode aussi et puis c’est surtout qu’en fait ils ont rendu ça hyper utilisable avec chat GPT ça a fait le buzz et d’ailleurs si t’écoutes, Yann Lequin il disait qu’en fait eux ils ont pas du tout été surpris donc c’est le chief scientist de Meta qui est français.

Damien : Mais oui Estelle est-ce que c’était bien ? Ouais je trouvais ça cool C’est pas souvent qu’on a le fait que c’est nos métiers c’est notre job, alors on en parle quand on se voit ensemble mais voilà, de partager ça avec une approche assez construite c’est plutôt pas mal, moi j’ai bien apprécié c’était bien Chloé ? Très sympa du coup, pensez à suivre également Estelle, Aurélien et Chloé sur les réseaux sociaux, mais en particulier sur LinkedIn sur LinkedIn c’est le plus approprié, d’accord ? Et si vous avez des questions supplémentaires auxquelles on n’a pas eu le temps de répondre dans le chat, la conversation continue on est des gens accessibles ? Bon, oui, on est des gens accessibles on essaie en tout cas C’était cool, je pense que le générique est déjà lancé Au revoir Salut.

Vous pouvez retrouver ce webinar sur notre page INSITOO FREELANCES

Où sur notre chaîne Youtube !

Nous sommes également sur « la lettre blanche sur fond noir »

< Retour aux articles