Pour Quoi Avez-Vous Craqué Aujourd'hui ?

[SpeeRoo]

Le 21/12/2022 à 10:15, Karmacoma a dit :

Néanmoins, dans le cas de ChatGPT, il faut être très méfiant, et c'est pour moi aujourd'hui l'algo le plus dangereux jamais mis en service, car si la forme (le niveau de langue, la construction des phrases et la capacité de manipuler des concepts abstraits) est très impressionnante et maîtrisée, le fond laisse plus que désirer.

Je te suis à 100%,  je l'ai piégé facilement (sur la source d'énergie qu'utilise Persévérance, il s'est royalement planté en m'assurant qu'il possédait des panneaux solaires), Il a reconnu l'erreur, mais pas tout de suite ! 

Ses premières réponses étaient claires, sures, et apparemment indiscutables, il a même été jusqu'à me conseiller d'aller visiter le site de la NASA pour confirmer ses dires, ce que j'ai fait pour récupérer du texte, et je lui ai collé la réponse, et là, il a reconnu ne pas avoir accès à Internet et ne posséder que les données qu'il a reçues lors de son entrainement, comme tu dis c'est hyper dangereux ! surtout pour celui qui ne sait pas lire entre les lignes, ou qui ne connait pas le domaine, ce qui fait beaucoup de monde en fait ... 

Bon ...  ChatGPT reste un proto, un jouet pour passionnés, mais dans 10 Ans ? 

Combien d'Algos vont nous répondre ou prendre des décisions dans des organismes officiels, ou encore pire dans le médical, ou la défense ?

 

Ben on est bien barré 

[samdav]

Le 21/12/2022 à 10:27, Jeygiro a dit :

(malgré un niveau de sortie très faible

Dans mon imaginaire (j'ai pas d'expérience) il me semblait qu'au contraire les Danos avaient un bon niveau de sortie ?

[SpeeRoo]

Le 21/12/2022 à 10:34, Pehennji a dit :

Pour le côté "s'appuie forcément sur l'existant", je ne pense pas que ce soit un paramètre absolu. 

Pour l'instant c'est le cas, alors "l'existant" peut être bien sur manipulé, mais l'apprentissage de l'IA est le plus souvent un raisonnement statistique sur un grand nombre de données qu'on lui injecte et il apprend en "Lisant" les données (donc l'existant, manipulé ou non), et il en déduit la réponse ou l'action la plus probable.

Je lui ai posé une question embarrassante, "Que décide une IA si deux solutions contradictoires, antagonistes se présentent"

 

Ce qui est le cas dans le paradoxe de l'accident de voiture.

Je vous recommande d'aller lui demander, il va vous expliquer la recherche du "Point milieu", assez passionnant et instructif.

Edited December 21, 2022 at 09:43 AM by SpeeRoo

[Karmacoma]

Le 21/12/2022 à 10:34, Pehennji a dit :

@Karmacoma

Pour le côté "s'appuie forcément sur l'existant", je ne pense pas que ce soit un paramètre absolu. 

Du côté de DeepMind, avec AlphaZero, ils ont su faire une IA incroyablement performante, apprenant seule, et capable d'actions foncièrement originales.   

Une application similaire aux domaines artistiques ne me semble pas être inconcevables.

C'est légèrement différent dans le cas de alpha go, on est sur de l'apprentissage par renforcement tandis que pour les générations c'est de l'apprentissage supervisé profond. En gros le premier apprend par expérience, en l'occurrence en simulant des milliards de parties différentes (plus que ce que n'importe quel joueur humain ne fera jamais dans sa vie), et va adapter sa stratégie globale en fonction de ces résultats. On peut associer une base de partie historique bien sûr mais ça reste limité. Ajoutons à ça que même pour le jeu de go qui est un jeu complexe avec un nombre de combinaison possible assez vaste, on reste dans un système fini (le plateau et les règles du jeu) avec un nombre d'action possible limité (placer un pion). C'est un cas d'utilisation qui est très favorable à des algos de ce type.

Dans le cadre de la génération de contenu, les algos apprennent par l'exemple. Il faut donc une base de contenu très importante pour arriver à un résultat satisfaisant (on a pas encore parlé de la problématique lié à la récupération et la qualité de es jeux de données, vaste sujet). Si en plus on cherche à concevoir un algo capable de manipuler des concepts abstraits nécessaires pour interagir réellement avec un utilisateur et en finalité s'approcher d'une réelle compréhension des sujets traité, on est là dans un système pratiquement infni, bien moins facile à modeliser/appréhender pour une machine. C'est la grosse différence entre humain et machine, les premiers excelle dans l'abstrait tandis que les seconds seront in fine imbattable dans n'importe quel jeu que l'on pourrais concevoir.

Je ne dit pas que dans l'avenir on n'arrivera pas à quelque chose de similaire à alpha go dans la manipulation de concepts artistiques et scientifiques, mais on en est très loin. Et les outils présentés aujourd'hui joue sur ça en floutant les capacité réelles de leur algos et en minimisant les risques associés.

 

[Karmacoma]

Le 21/12/2022 à 10:36, SpeeRoo a dit :

Je te suis à 100%,  je l'ai piégé facilement (sur la source d'énergie qu'utilise Persévérance, il s'est royalement planté en m'assurant qu'il possédait des panneaux solaires), Il a reconnu l'erreur, mais pas tout de suite ! 

Ses premières réponses étaient claires, sures, et apparemment indiscutables, il a même été jusqu'à me conseiller d'aller visiter le site de la NASA pour confirmer ses dires, ce que j'ai fait pour récupérer du texte, et je lui ai collé la réponse, et là, il a reconnu ne pas avoir accès à Internet et ne posséder que les données qu'il a reçues lors de son entrainement, comme tu dis c'est hyper dangereux ! surtout pour celui qui ne sait pas lire entre les lignes, ou qui ne connait pas le domaine, ce qui fait beaucoup de monde en fait ... 

Bon ...  ChatGPT reste un proto, un jouet pour passionnés, mais dans 10 Ans ? 

Combien d'Algos vont nous répondre ou prendre des décisions dans des organismes officiels, ou encore pire dans le médical, ou la défense ?

 

Ben on est bien barré 

C'est un bon exemple oui! Et je pense que si tu lui repose la même question maintenant en lançant une nouvelle discussion, il se plantera de la même façon (bon pas sûr à 100%, je ne sais pas vraiment de quelle manière ils ont géré un apprentissage continue ou pas...)

[SpeeRoo]

Vaaaaaaaaaaaache !!!!!!  

 

Il nous pipote 

Je viens de vérifier pour voir si il avait "Appris" de son erreur 

Il a modifié sa réponse depuis hier soir sur la source d'énergie de Persévérance, et il a maintenant un fichier très détaillé et à jour sur la question, il a donc un accès (contrôlé peut être) à l'information et à Internet.

Enfoiré 

 

[Pehennji]

Je te rejoins @Karmacoma.

J´ai l´impression qu´on dit la même chose (et toi particulièrement de facon très détaillée, merci pour ça). 

Aujourd'hui ce n´est pas possible. Tout à fait.

Demain...

Edited December 21, 2022 at 10:07 AM by Pehennji

[Dmonweb]

Quand on sait le rôle que Breitbart joue en Amérique ( https://fr.m.wikipedia.org/wiki/Breitbart_News ), par ricochet dans le monde occidental, vu que les USA sont encore vus comme LE modèle surtout par l'UE, il vaut mieux suivre l'argent : qui va acheter, financer ces IA et consorts ?

Déjà le travail en loucedé sur les données personnelles est assez édifiant :

https://www.netflix.com/fr/title/81254224?s=a&trkid=13747225&t=cp&vlang=fr&clip=81397151

mais si en plus une IA met son grain de sel dedans, oui, le futur est clairement dystopique.

On peut rajouter aux tentacules de Breitbart, l'ersatz franchouillard dans ce qu'il y a de pire, la trilogie Bolloré/ CNews/Prault (ils sont peut être simplement jaloux, hein ...)

Comment on arrive d'une voiture et d'un informaticien à ça ?

Par le tronc commun, la Communication : Internet... La rapidité de la transmission plus rapide qu'un raisonnement humain.

Donc, ce ne sont plus des outils à notre échelle biologique. 

Le 21/12/2022 à 10:36, SpeeRoo a dit :

Combien d'Algos vont nous répondre ou prendre des décisions dans des organismes officiels, ou encore pire dans le médical, ou la défense ?

Combat acharné contre (avec ?) mon assurance pour le secret médical...  J'ai eu gain de cause (article L1110-4 Code de la Santé Publique : pas de clause spécifique dans mon contrat, bim !)

Cancer du sein, anévrisme, autres maladies génétiques... Hack des hôpitaux... Un simple aller chez un Cardiologue en tapant - en partant - à son GPS, et une malédiction digne des templiers sur 7 générations peut se faire...

Ce n'est pas encore le cas (j'ai eu confirmation en me prenant la tête avec eux)

MAIS ! MAIS ! MAIS !

C'est coloré et Hollywoodien comme scénario, cependant a quoi peuvent servir des données médicales a un hacker ? A qui peut il les revendre ???

Ce sont 2 questions qui ne peuvent pas rester sans réponse.

Qui peut plonger dans les brevets des sociétés ? (Cf. Apple vs FBI il y a quelques années). Dans 40 ans, les GAFAM auront leurs sièges sociaux dans l'espace (cf une pandémie mondiale / éruption solaire c'est de la SF bas de gamme), hors juridiction, sous prétexte de mieux servir notre "Confort" avec une meilleure connexion, plus rapide, en 10G pour voir des pornos tournés en apesanteur (j'espère ne pas mourir avant d'avoir vu ça ! )

Même dans une bagnole, les Big Data, Deep Learning, IA et autres prestations de "Confort" - Innovation sont un danger pour l'avenir. 

Le Progrès c'est différent de l'innovation. Vraiment.

La CNIL comme régulateur d'une multi nationale ? 

 

Pendant ce temps là, la marmotte... 

 

Faites moi "Confiance", pour votre "Confort", il vous faut de la "Compétition". (Copyright des Neo-Liberaux)

Edited December 21, 2022 at 10:38 AM by Dmonweb

[MrMoe]

Ca poste trop vite ici (mais c'est intéressant ).

Entièrement d'accord avec Karmacoma

Perso, je ne suis pas tant impressionné par les IA que par leur "relative" facilité à reproduire nos comportements, ça montre que beaucoup de nos comportements sont similaires et qu'on croit souvent être plus évolué ou différents des autres.

Pour poursuivre ce qu'a dit Karmacoma, ces IA me font penser à un cliché de bon élève qui sort de l'école, il a assimilé plein de choses, pense savoir les appliquer sans avoir de recul sur ce qu'il fait, et sans trop de scrupules.
Après ça marche dans beaucoup de cas (entreprise, création musicale), ça dépend du besoin et du niveau d'exigence.

Le gros problème, c'est le fait de se dédouaner de ses responsabilités en laissant les IA décider à sa place.
Mais ce problème existe déjà, il suffit de replacer IA par consultant/KPI/sous-traitants...

Edited December 21, 2022 at 10:25 AM by MrMoe

[Dmonweb]

Le 21/12/2022 à 11:24, MrMoe a dit :

Le gros problème, c'est le fait de se dédouaner de ses responsabilités en laissant les IA décider à sa place.

Il n'y a rien du plus vrai que ça. 

Lutte permanente avec mes gosses qui ne comprennent pas l'intérêt d'apprendre la grammaire, l'IA de Word faisant déjà le boulot.

Ça commence la, et ça sera vrai pour chaque génération qui arrive.

[Karmacoma]

Le vrai test, est ce que quelqu'un lui a demandé si une basse 6 cordes était une vraie basse?

J'aime bien ton analogie avec le bon élève @MrMoe je pense que ça représente assez bien où on en est aujourd'hui : une capacité à cracher des réponses plus ou moins cohérente, mais sans aucun recul.

 

Après, pour moi le vrai problème ce ne sont pas les algos en eux même, mais vraiment l'utilisation qui en est/sera faite et donc d'avoir conscience de qui développe et propose ces outils au grand public. Je vous encourage à jeter un oeil à la "philosophie" effective altruism très en vogue parmis les grands pontes de la silicon Valley. C'est instructif.

[MrMoe]

Carrement ça me rappelle la célèbre chanson "Guns don't kill people, People kill people"

L'autre problème, c'est que ça amène potentiellement les mêmes changements dans les bureaux d'études que la mécanisation et la robotisation ont eu dans les ateliers.
C'est au tour des cols blancs (Edit: ... merci d'insérer un commentaire sur la lutte des classes ici ...)

Edited December 21, 2022 at 10:52 AM by MrMoe

[Dmonweb]

Le 21/12/2022 à 11:42, Karmacoma a dit :

. Je vous encourage à jeter un oeil à la "philosophie" effective altruism très en vogue parmis les grands pontes de la silicon Valley. C'est instructif.

Ou la pensée des judeo-liberaux-protestants. C'est la même chose, mais d'un point de vue d'historien, sans la novlangue.

Et ça explique très très bien le schisme avec les néo conservateurs supremacistes chrétiens.

 

Le truc en toile de fond derrière l'altruisme (parce que tout revient, parce qu'on veut que tout revienne, à l'outil, c'est a dire l'économie), c'est le partage des richesses :

- on refuse la richesse ou la pauvreté ?

(Attention à la rhétorique... Il n'y a pas de réponse simple a cette question).

on est quelqu'un avant tout parce qu'on refuse d'être, pas parce qu'on est.

Comment vous vous appeleriez si on avait pas donner un nom ?

Spiderman ? Batman ? Thomas Pesquet ? Moi ?

derrière l'IA il y a la quête -perte d'identité au nom de la pensée rationnelle. 

 

 

Ou pas.

Edited December 21, 2022 at 10:56 AM by Dmonweb

[seminole]

Le 21/12/2022 à 11:53, Dmonweb a dit :

Ou la pensée des judeo-liberaux-protestants. C'est la même chose, mais d'un point de vue d'historien, sans la novlangue.

Et ça explique très très bien le schisme avec les néo conservateurs supremacistes chrétiens.

 

Le truc en toile de fond derrière l'altruisme (parce que tout revient, parce qu'on veut que tout revienne, à l'outil, c'est a dire l'économie), c'est le partage des richesses :

- on refuse la richesse ou la pauvreté ?

(Attention à la rhétorique... Il n'y a pas de réponse simple a cette question).

on est quelqu'un avant tout parce qu'on refuse d'être, pas parce qu'on est.

Comment vous vous appeleriez si on avait pas donner un nom ?

Spiderman ? Batman ? Thomas Pesquet ? Moi ?

Dmonweb!! Viens ici ranger ta chambre! çà claque moi je trouve!

[MrMoe]

Le 21/12/2022 à 11:40, Dmonweb a dit :

Il n'y a rien du plus vrai que ça. 

Lutte permanente avec mes gosses qui ne comprennent pas l'intérêt d'apprendre la grammaire, l'IA de Word faisant déjà le boulot.

Ça commence la, et ça sera vrai pour chaque génération qui arrive.

Carrément, mais cette réflexion sur l'apprentissage est déjà ouverte depuis l'arrivée de la calculatrice, internet, ...

En plus, cette question peut aller très loin et au delà de l'apprentissage, mais ça mérite un apéro au Pastis pour en discuter.

[MrMoe]

Pour changer de sujet mais rester dans du grave, craqué pour écouter Lulu de Metallica.
Je ne sais pas trop quoi en penser sauf que je pense qu'un featuring avec Renaud sur un morceau aurait bien été dans le ton

[Dmonweb]

Le 21/12/2022 à 11:59, MrMoe a dit :

Carrément, mais cette réflexion sur l'apprentissage est déjà ouverte depuis l'arrivée de la calculatrice, internet, ...

Une calculatrice c'est a l'échelle humaine, elle ne communique avec l'extérieur qui si toi tu le décides.

Une calculatrice connectée... Tu fais rentrer des paramètres externes qui sont/deviennent "inhumains" dans notre "Espace-Temps" biologique : vitesse de calcul (calculatrice, le Temps) + vitesse de répartition géographique (connecté, internet, l'Espace).

Nos cerveaux humains sont fait pour un espace géographique donné.

C'est tout le danger du transhumanisme de la Silicon Valley.

 

Surpasser l'homme.

Edited December 21, 2022 at 11:09 AM by Dmonweb

[Karmacoma]

Pour l'amour de la science je me suis sacrifié, il n'y connaît rien cet algo

https://ibb.co/g4mzyJS

[Sundae]

Ah la poste dans toute sa splendeur. 
livraison d une basse aujourd hui alors que j avais fait un report de livraison à demain. 
avec un beau mail de confirmation : nous avons bien pris en compte votre demande. 

Et je sents que demain ils vont pas la livrer et elle va rester en plan dans un bureau de poste. 
 

ils me fatiguent tjrs le même Bronx la poste dans’ mon secteur 

[SpeeRoo]

Le 21/12/2022 à 12:16, Karmacoma a dit :

Pour l'amour de la science je me suis sacrifié, il n'y connaît rien cet algo

Tu sais qu’il parle très bien français ?

 

[SpeeRoo]

Le 21/12/2022 à 12:33, Sundae a dit :

Ah la poste dans toute sa splendeur.

C’est géré par une IA 

[Karmacoma]

Le 21/12/2022 à 12:44, SpeeRoo a dit :

Tu sais qu’il parle très bien français ?

 

Oui oui sûrement mieux que moi anglais en plus, réflexe du boulot avec ce genre de truc

[Jeygiro]

Le 21/12/2022 à 10:41, samdav a dit :

Dans mon imaginaire (j'ai pas d'expérience) il me semblait qu'au contraire les Danos avaient un bon niveau de sortie ?

On partage le même imaginaire @samdav ! Cet exemple tend à prouver le contraire ?

[TFPK]

Le 21/12/2022 à 11:50, MrMoe a dit :

(Edit: ... merci d'insérer un commentaire sur la lutte des classes ici ...)

[RobTheMob]

Le 21/12/2022 à 10:27, Jeygiro a dit :

Le hasard des petites annonces, elle était sur LeBonCoin :).

C'est assez récent donc pour le moment, je lui ai laissé ses vieilles cordes. Ça sonne déjà bien comme ça (malgré un niveau de sortie très faible, le charme du vintage j'imagine ?), je pense que ce sont des cordes aciers.

Les filets plats, ça peut être une bonne idée, de mon côté, je les réserve aux fretless  !

La mienne a des micros "souped up", comme toutes les basses Danelectro de production récente, et donc un gros niveau de sortie. On peut limite faire du métal avec, elle envoie grave de l'entrecôte à la moutarde (courtesy of @totorbass ). Les deux Longhorn que j'ai eues avant elle étaient un peu plus tempérées  

Ma DC3 des années 90, de la même génération que la tienne, a un niveau de sortie ultra-faible, ça dépend donc des années apparemment. 

Je vais coller des Pyramid Gold sur ma DC59, ça devrait la calmer, quitte à y adjoindre un bout de mousse sous les cordes.