Les jeux de rôles créés par IA

Inspis, théories, conseils ...
Avatar de l’utilisateur
mithriel
Dieu du funky soul
Messages : 6805
Inscription : jeu. juil. 31, 2003 9:00 am
Contact :

Re: Les jeux de rôles créés par IA

Message par mithriel »

Morningkill a écrit : sam. mars 23, 2024 4:52 pm
mithriel a écrit : sam. mars 23, 2024 2:00 pm Vous me faites presque flipper en personnalisant les IA. Ce sont des algorithmes. Quelqu'un les a conçus et programmés.
Euh... je programme des choses bien plus simples que des IAs, et pourtant, je suis réguliérement surpris par ce qu'il en ressort.

Alors un truc aussi complexe, qui "s'auto-modifie".. sans aller jusqu'a SkyNet, je pense clairement qu'on peut pas esperer les comprendre , en tout cas, pas sans analyses poussés de logs complets

Ça ne s'auto-modifie aucunement. :gné
Image Image
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 2668
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Libourne / Bordeaux

Re: Les jeux de rôles créés par IA

Message par Morningkill »

Je ne me prononcais pas sur la personnification, mais sur l'idée que j'ai cru lire que qu'un 'algorithme' "conçus et programmés" est totalement compris/maitrisé par son créateur.
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11755
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les jeux de rôles créés par IA

Message par Qui Revient de Loin »

Je ne crois pas que ce soit le cas lorsqu’il s'agit du deep learning. J'ai souvent entendu parlé de "boîte noire" dans ce cas.
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
mithriel
Dieu du funky soul
Messages : 6805
Inscription : jeu. juil. 31, 2003 9:00 am
Contact :

Re: Les jeux de rôles créés par IA

Message par mithriel »

Qui Revient de Loin a écrit : sam. mars 23, 2024 7:41 pm Je ne crois pas que ce soit le cas lorsqu’il s'agit du deep learning. J'ai souvent entendu parlé de "boîte noire" dans ce cas.

La combinatoire est telle qu'il peut y avoir un effet boite noire, mais il n'y a rien de magique là dedans. Ca reste des modèles qui peuvent se combiner. Bref, à la base, des algos. Par ailleurs, depuis plusieurs années, les chercheurs travaillent sur l'explicabilité des IA. Question de confiance, il faut savoir comment les résultats sont produits.
Image Image
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 2668
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Libourne / Bordeaux

Re: Les jeux de rôles créés par IA

Message par Morningkill »

mithriel a écrit : sam. mars 23, 2024 5:52 pm Ça ne s'auto-modifie aucunement. :gné
J'avais mis entre guillemet, mais c'est quoi une phase d'apprentissage si ce n'est une "auto modification" ?

Ok, le programme ne se modifie peut etre pas tout seul au sens "je reecris mes lignes de codes", il modifie juste ses "parametrages internes" (par exemple un réseau neuronaux avec des poids qui changent sur les noeuds) sauf que comme ca se compte en millions, le déterminisme assumé du binaire devient pour nous pauvres humains : indeterminés. (et aussi qu'on peut considérer que le parametrage du reseau neuronal est aussi au final le programme)
Avatar de l’utilisateur
Loris
Dieu des cataphiles argentiques
Messages : 18724
Inscription : mer. juil. 30, 2003 3:04 pm
Localisation : Singapore sling
Contact :

Re: Les jeux de rôles créés par IA

Message par Loris »

Ce sont des (meta)heuristiques. Pas des algorithmes. Il s’avère que Bob Darko et moi en avons codé une en 2005.
Et ca n’a absolument aucune « intelligence ». Ce buzzword pour racler du pognon…
"Over the centuries, mankind has tried many ways of combating the forces of evil... prayer, fasting, good works and so on. Up until 'DooM', no one seemed to have thought about the double-barrel shotgun. Eat leaden death, demon!"
~Terry Pratchett
Avatar de l’utilisateur
mithriel
Dieu du funky soul
Messages : 6805
Inscription : jeu. juil. 31, 2003 9:00 am
Contact :

Re: Les jeux de rôles créés par IA

Message par mithriel »

Morningkill a écrit : sam. mars 23, 2024 8:34 pm J'avais mis entre guillemet, mais c'est quoi une phase d'apprentissage si ce n'est une "auto modification" ?

Absolument pas. Tu prends un échantillon de tes données, tu "apprends" (c'est des stats) un modèle et tu généralises avec le reste de tes données en espérant que ça marche (et ça peut très bien marcher).
Image Image
Avatar de l’utilisateur
mithriel
Dieu du funky soul
Messages : 6805
Inscription : jeu. juil. 31, 2003 9:00 am
Contact :

Re: Les jeux de rôles créés par IA

Message par mithriel »

Loris a écrit : sam. mars 23, 2024 8:40 pm Ce sont des (meta)heuristiques. Pas des algorithmes. Il s’avère que Bob Darko et moi en avons codé une en 2005.
Et ca n’a absolument aucune « intelligence ». Ce buzzword pour racler du pognon…

Ton heuristique, il faut bien la coder.
Image Image
Avatar de l’utilisateur
Loris
Dieu des cataphiles argentiques
Messages : 18724
Inscription : mer. juil. 30, 2003 3:04 pm
Localisation : Singapore sling
Contact :

Re: Les jeux de rôles créés par IA

Message par Loris »

mithriel a écrit : sam. mars 23, 2024 10:08 pm
Loris a écrit : sam. mars 23, 2024 8:40 pm Ce sont des (meta)heuristiques. Pas des algorithmes. Il s’avère que Bob Darko et moi en avons codé une en 2005.
Et ca n’a absolument aucune « intelligence ». Ce buzzword pour racler du pognon…

Ton heuristique, il faut bien la coder.

C’est du code, oui. Mais, en algorithmique, la part d’aléatoire fait qu’on ne parle plus d’algorithme (« suite finie et non ambiguë d'instructions et d’opérations permettant de résoudre une classe de problèmes ») mais d’heuristique.
En gros, à paramètres absolument identiques, un algorithme par définition te donnera un résultat systématiquement identique. Pas une heuristique.
Pour continuer dans la pédanterie (quitte à m’enfoncer dans la cuistrerie depuis plusieurs messages, autant aller jusqu’au bout) : le code n’est que la mécanisation d’un algorithme ou d’une heuristique. L’algorithme (ou heuristique) est la séquence d’opérations en elle-même, indépendamment du langage pour l’exprimer (que ce soit du français, du Google Angular, du Java ou un rébus ou des pictogrammes). En gros, c’est le _sens_ du message là où le code n’est que le langage utilisé pour transporter ce sens.

Je serais curieux (mais j’ai la flemme de chercher) de savoir quel est l’assemblage de ces LLMs. J’ai le vague sentiment qu’il s’agit d’imbrications d’heuristiques qui permettraient de jouer aussi sur les paramètres de qualification des solutions et de définition/constitution de l’espace de solutions en plus de jouer sur la manière de se déplacer dans l’espace de solutions (ce qui était l’unique truc qu’on avait appliqué). Balaise.
"Over the centuries, mankind has tried many ways of combating the forces of evil... prayer, fasting, good works and so on. Up until 'DooM', no one seemed to have thought about the double-barrel shotgun. Eat leaden death, demon!"
~Terry Pratchett
Avatar de l’utilisateur
mithriel
Dieu du funky soul
Messages : 6805
Inscription : jeu. juil. 31, 2003 9:00 am
Contact :

Re: Les jeux de rôles créés par IA

Message par mithriel »

Mouais, je ne suis pas convaincu de ta définition d'une heuristique. Pour moi (et j'en ai conçu quelques-unes), une heuristique, c'est une méthode (qui se traduit en informatique par un algo/du code) qui permet d'obtenir des solutions acceptables dans un temps limité lorsque qu'on ne peut pas atteindre un résultat exact en un temps fini (ou juste pas raisonnable) en raison de la complexité de la tâche. La variabilité ou pas du résultat dépend de si l'heuristique est stochastique (aléatoire) ou pas. Il y a pas mal d'heuristiques stochastiques (ça évite de tomber dans des optimums locaux), mais aussi des heuristiques déterministes. Dans les deux cas, tu conçois un algo et tu le programmes ou quelqu'un d'autre l'a fait et tu l'utilises, y'a pas de miracle.
Image Image
Gwénolé
Zelateur
Messages : 84
Inscription : sam. mars 27, 2010 10:13 am

Re: Les jeux de rôles créés par IA

Message par Gwénolé »

Macbesse a écrit : mer. mars 20, 2024 9:56 pm
Ensuite, se pose la question du coût écologique. J'ai lu qu'une requête représentait un litre d'eau, ça me semble une curieuse façon de compter mais c'est une question à creuser.

L'enjeu écologique est énorme. L'impact environnemental du numérique est déjà très significatif, et il est en croissance (voir par exemple ce document de l'ARCEP). Je travaille dans le secteur du numérique depuis bientôt 25 ans, et depuis trois ans je me focalise de plus en plus sur le sujet du numérique responsable.

Cette croissance de l'impact du numérique est fortement alimentée par le boum de l'IA, à la fois à cause du nombre d'utilisateurs qui s'y mettent, et par l'accroissement du nombre de paramètres des modèles, à chaque génération: en gros, plus un modèle est puissant, plus il manipule de paramètres, et plus la puissance de calcul nécessaire pour l'alimenter est importante.

Qui dit puissance de calcul dit serveurs et réseaux, donc du matériel à produire, de l'énergie à consommer, de l'eau pour refroidir, etc. La seule fabrication d'un ordinateur de 2 kilos nécessite 1,5 tonnes d'eau (voir cet article de l'ADEME). Les datacenters utilisent également de l'eau à l'usage, pour refroidir. C'est pour ça que ramener le coût d'une requête IA à une consommation d'eau est pertinente.

Quand on parle d'impact environnemental, en général on tente donc de faire des analyses multi-critères et ce sur l'ensemble du cycle de vie:
  • multi-critère, c'est prendre en compte le dégagement de CO2 (et de ses impacts sur le réchauffement climatique), l'eau, l'énergie primaire (qui est limitée pour sa partie énergie fossile), les terres rares (qui deviennent de plus en plus coûteuses à extraire), etc.
  • l'ensemble du cycle de vie c'est tenir compte de la fabrication des équipements, de la phase d'entrainement (pour l'IA), de la phase d'utilisation, du fait que les serveurs et terminaux utilisés ont une fin de vie fortement polluantes (on recycle très mal les équipements numériques, en partie par manque d'efficacité des filières, en partie à cause des limites physiques, en partie à cause du manque de rentabilité des opérations), etc.
Si vous voulez mieux comprendre ça, vous pouvez vous inscrire à des ateliers de Fresque du Numérique, qui permettent de comprendre ces impacts, d'avoir quelques ordres de grandeur, et d'identifier les actions individuelles et collectives que nous pouvons mettre en place pour un usage plus responsable du numérique. Il y a des ateliers citoyens gratuits organisés sur toute la France et au-delà.

Le calcul de l'impact écologique de l'IA est encore en train de mûrir, le chiffre d'une requête qui représente 1l d'eau me parait démesuré. Une des études disponibles sur Chat-GPT dit plutôt 25 à 50 questions pour 0,5L d'eau (voir cet article qui donne ses sources). Mais ça va augmenter puisque les modèles se complexifient. Et ça va se démultiplier par le nombre de requêtes.

La question que ça pose, au-delà des questions d'éthique sur le droit des artistes et auteurs, c'est donc de savoir faire un usage raisonné de l'IA, en sachant estimer si la valeur ajoutée dégagée contrebalance le coût environnemental (et on pourrait rajouter le coût humain et sociétal). A terme (et on parle pas d'un siècle, mais d'un horizon de 20 à 50 ans), on va devoir faire des choix sur nos usages du numérique et sans doute renoncer à tout ce qui n'est pas indispensable.

La réponse dans le domaine du jeu de rôle me parait clair. J'aime notre loisir, mais ce n'est qu'un loisir. Faire appel à l'IA pour ça est une absurdité. 
Gwen,
www.scenars.net, les one-shots c'est bon, mangez-en!
Avatar de l’utilisateur
Macbesse
Dieu en cyrillique
Messages : 6034
Inscription : jeu. sept. 07, 2006 8:48 pm
Localisation : Paris-Tachkent

Re: Les jeux de rôles créés par IA

Message par Macbesse »

Merci d'avoir creusé la question pour nous ! :-)
Et carrément d'accord avec ta conclusion. Autant utiliser l'IA pour faire la recherche sur de nouveaux médicaments, c'est légitime, autant pour générer des listes de PNJ ou faire ses devoirs, c'est futile.
 
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11755
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les jeux de rôles créés par IA

Message par Qui Revient de Loin »

Cela permet tout de même d'apprendre à utiliser l'IA.
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Gwénolé
Zelateur
Messages : 84
Inscription : sam. mars 27, 2010 10:13 am

Re: Les jeux de rôles créés par IA

Message par Gwénolé »

Qui Revient de Loin a écrit : dim. mars 24, 2024 1:59 pm Cela permet tout de même d'apprendre à utiliser l'IA.

A mon sens, ce n'est pas parce qu'on peut le faire qu'on doit le faire.

Après chacun prend ses responsabilités, en fonction de son contexte.

Si tu as peur pour ton avenir professionnel si tu n'as pas un minimum de maîtrise de l'IA générative, je comprends que tu cherches des occasions pour apprendre à rédiger des prompts, et que le jdr soit un bon prétexte pour le faire. De même si tu l'utilises pour des projets qui ont un impact positif.

Au final, la question, c'est quand même "est-ce que je fais plus de mal que de bien en l'utilisant?".

Il faut en être conscient, on fait _systématiquement_ du "mal" en utilisant les solutions d'IA: on impacte la planète, on alimente la hype et on crédibilise des solutions que leurs vendeurs souhaitent rendre indispensables (pas de philanthropie derrière, ChatGPT ne restera gratuit que si derrière ils savent monétiser quelque chose).

Evidemment, ce n'est pas binaire, puisque l'usage de l'IA peut avoir un impact positif: recherches médicales, lutte contre le réchauffement climatique, etc.

Il s'agit donc d'essayer de peser si les impacts positifs contrebalancent les impacts négatifs. Pour ça, il faut être capable d'estimer les 2. On va collectivement progresser sur le sujet, même si les boîtes derrière feront tout le lobbying nécessaire pour brouiller le message. D'où mon message qui visait à donner des billes sur les impacts négatifs.

Mais l'utiliser pour du jeu de rôles? C'est à mon sens irresponsable. Nous savons nous en passer pour notre loisir. Et je ne vois pas d'impact positif. En tout cas aucun qui peut contrebalancer les impacts négatifs.

Désolé si je parais donneur de leçons.

En tant qu'ingénieur spécialiste du numérique et responsable des formations dans une grosse boîte d'ingés, le sujet du numérique responsable me touche: former à l'IA sans former à l'usage responsable de l'IA est un contresens profond. 
Gwen,
www.scenars.net, les one-shots c'est bon, mangez-en!
Avatar de l’utilisateur
vivien
Dieu d'après le panthéon
Messages : 2468
Inscription : mer. avr. 19, 2006 1:24 pm
Localisation : Le Puy-en-Velay

Re: Les jeux de rôles créés par IA

Message par vivien »

Cette question sur l'IA m'amène à me questionner sur l'apprentissage par l'humain. Qu'en est il de la recherche aujourd'hui sur les modalités d'apprentissage? Comment fonctionne-t-il, comment est il envisagé, y a-t-il une biologie, une histoire, une sociologie, une anthropologie de l'apprentissage humain ?
ok on a rien a se dire, mais on a tout le temps de trouver avant que le réchauffement climatique nous tue tous.
Répondre