Pour Quoi Avez-Vous Craqué Aujourd'hui ?

[RobTheMob]

Le 20/12/2022 à 15:38, Jeygiro a dit :

...bon, ben craqué pour une nouvelle...

Bienvenue à la Danelectro 59 DC Bass ! (les paillettes ont eues raison de moi)

Pour la voir en action avec ses collègues :

 

Waouh ! Où l'as-tu trouvée si ça n'est pas indiscret ? Tu as quel type de cordes dessus ? J'ai sensiblement la même, mais plus récente, une des dernières rééditions. J'attends le passage du Père Noël pour lui installer des filets plats, parce qu'en l'état elle est vraiment super agressive avec ses cordes nickel-plated

[SpeeRoo]

Le 20/12/2022 à 17:57, sansal a dit :

on trouve ça épatant et marrant aujourd'hui, mais je pense qu'on ne se rend pas compte du bordel qu'on est entrain de créer et qui va nous retomber sur la tronche.

Sisi ! on se rend très bien compte, ne nous prend pas pour des billes 

C'est un peu pour ça que j'ai balancé le truc, et les questions que je lui ai posées ne sont pas innocentes.

Par contre la progression est impressionnante, ça commence à être sacrément Bluffant.  

Forcement, il y aura une Grosse bande de connards pour dévoyer l'outil et s'en servir à des fins maléfiques, c'est inévitable  C'est comme çaaaaaaaa La La La La Laaaaaa

[AdHoK]

https://www.moralmachine.net/hl/fr

La discussion autour de l'IA m'a fait me souvenir de ça : la moral machine.

Il va falloir apprendre à une voiture autonome à faire des choix en cas d'accident inévitable. Que privilégier?

[Pehennji]

Avec un respect strict de chez strict de la totalité des règles, il ne devrait pas y avoir de situation "d´accident inévitable".

Jusque là, 100% des scénarios du genre que j´ai vu s´appuient sur des comportements très humains et habituels de non respect des distances de sécurité et de non adaptation de la vitesse aux conditions de visibilité.

Les véhicules autonomes (et sans aucune possibilité de reprise de contrôle par les humains qu´elles embarquent) ne souffriront pas de cette irrépressible envie de ne respecter que les règles qui les arrangent par esprit de "non mais c´est bon, t´inquiète, moi je gère."

[AdHoK]

@Pehennji

Le 21/12/2022 à 07:08, Pehennji a dit :

Avec un respect strict de chez strict de la totalité des règles, il ne devrait pas y avoir de situation "d´accident inévitable".

alors là je ne comprends pas, Les véhicules autonomes ne pourront contrôler que ce qu'ils peuvent contrôler, pas le gamin qui traverse en courant devant la voiture pour récupérer son ballon, pas le cycliste qui grille le feu rouge. Bref, pas le fait d'un tiers qui n'est pas "soumis" aux règles du véhicule autonome, C'est ce que je voulais dire par "accident inévitable". Les véhicules auront également des défaillances, tout tombe en panne à un moment ou un autre. 

c'est l'objet du questionnaire "moral machine": tu as le choix entre écraser 4 piétons ou sauver les 4 passagers du véhicule, tu fais quoi? Et que fera la machine? Elle fera ce qu'on lui enseigne?

 

 

[SpeeRoo]

Le 21/12/2022 à 07:35, AdHoK a dit :

c'est l'objet du questionnaire "moral machine": tu as le choix entre écraser 4 piétons ou sauver les 4 passagers du véhicule, tu fais quoi? Et que fera la machine? Elle fera ce qu'on lui enseigne?

Il tombera dans une boucle de Mœbius, ne fera plus rien et tuera les 8 .

OOoooops    
 

problème résolu , responsabilité partagée 

Edited December 21, 2022 at 07:05 AM by SpeeRoo

[Pehennji]

Le 21/12/2022 à 07:35, AdHoK a dit :

@Pehennji

alors là je ne comprends pas, Les véhicules autonomes ne pourront contrôler que ce qu'ils peuvent contrôler, pas le gamin qui traverse en courant devant la voiture pour récupérer son ballon, pas le cycliste qui grille le feu rouge. Bref, pas le fait d'un tiers qui n'est pas "soumis" aux règles du véhicule autonome, C'est ce que je voulais dire par "accident inévitable". Les véhicules auront également des défaillances, tout tombe en panne à un moment ou un autre. 

c'est l'objet du questionnaire "moral machine": tu as le choix entre écraser 4 piétons ou sauver les 4 passagers du véhicule, tu fais quoi? Et que fera la machine? Elle fera ce qu'on lui enseigne?

 

 

Si justement.

Et c´est d´ailleurs bien écrit dans le code.

Si tu es dans une rue et que tu ne vois pas ce qui se passe entre des bagnoles garées, qu´un gamin POURRAIT surgir, tu DOIS adapter ta vitesse pour être capable de piler.

Oui, il ne doit y avoir que 0,5% des conducteurs qui le font. Il n´empêche c´est la règle.

Tu dois toujours être maître de ton véhicule et toujours capable de l´arrêter en adaptant préalablement ta distance et ta vitesse.

Évidemment on ne demandera pas à une IA d´éviter un rocher qui se décrochera d´une falaise pour venir t´écraser. Mais on pourra demander à l´IA de la voiture derrière de s´arrêter à temps car elle n´était pas dans ton cul à rouler trop vite pour la dangerosité de la zone. 

[SpeeRoo]

Le 21/12/2022 à 08:08, Pehennji a dit :

Et c´est d´ailleurs bien écrit dans le code.

Si tu es dans une rue et que tu ne vois pas ce qui se passe entre des bagnoles garées, qu´un gamin POURRAIT surgir, tu DOIS adapter ta vitesse pour être capable de piler.

Mouai .... La bonne vitesse, adaptée, pour éviter un gamin qui court derrière un ballon, c'est 0 Km/h

et encore ! , il peut venir se fracasser la gueule sur ton capot, tu seras responsable 

Mais si c'est dans le Code ! On est sauvés 

 

Sainte éthique priez pour nous 

 

[Pehennji]

Quant à l´habituel "4 piétons vs 4 passagers", si tu en arrives là c´est que déjà il y a eu défaillance dans la prise de décision en amont.

Ce que n´autorisera pas ta voiture autonome.

Tout est question de situation et celles avancées dans xes exemples n´en sont précisément pas des situations.

Non, ton véhicule autonome ne t´amènera pas à écraser des gens ou mourir parce que l´ensemble de ses décisions préalables empêchera la situation de survenir.

Oui tu trouveras ça chiant mais ça aura l´avantage de nous permettre de lire/dormir/jouer de la basse en voiture. 

[SpeeRoo]

ça fait rêver ! 

@AdHoK va au bureau 

 

[TFPK]

 @Pehennji J'avais lu je ne sais plus où que la conduite autonome était obligée de "prendre des risques" et les mecs avaient du programmer des "entorses" à la règle pour pouvoir s'insérer dans le trafic humain, sinon la bagnole était capable de rester coincée en boucle sur un périph' de ville ou de ne jamais sortir d'un rond point...

De toute façon d'ici à ce que la conduite 100% autonome partout arrive, la voiture individuelle ne sera plus le moyen de transport n°1 en ville, ni même peut-être ailleurs.

A mon avis la voiture pour tous partout est née avec le pétrole et mourra avec lui, aussi chiant que ça puisse être si on regarde comment est fait notre système de transports et nos infrastructures. Et la conduite autonome ne pourra rien y changer.

[AdHoK]

Le 21/12/2022 à 08:17, Pehennji a dit :

Quant à l´habituel "4 piétons vs 4 passagers"

ça pourrait être 1 vs 1, on s'en fout. 

Il y a réellement des gens qui se jettent sous les voitures ou du haut d'un pont. Même si c'est marginal, il faut faire un choix: éviter et prendre un risque pour le passager ou ne pas être en capacité d'éviter sans faire prendre de risque au passager etc...

Cette idée rationnelle que le programme pourrait réponde à toutes les situations est illusoire. En tout cas je la souhaite illusoire. 

Après, c'est pas facile d'échanger par écrit sur ces sujets dans un forum mais c'est une discussion que j'aimerais bien avoir en vrai.

 

[Pehennji]

Le 21/12/2022 à 08:14, SpeeRoo a dit :

Mouai .... La bonne vitesse, adaptée, pour éviter un gamin qui court derrière un ballon, c'est 0 Km/h

et encore ! , il peut venir se fracasser la gueule sur ton capot, tu seras responsable 

Mais si c'est dans le Code ! On est sauvés 

 

Sainte éthique priez pour nous 

 

Autre point de réflexion découlant de l'exemple du gamin. une voiture autonome a un potentiel de détection bien supérieur au tien. Tes 2 yeux placés à un endroit unique du véhicule avec un capot plus ou moins gros en limitant les capacités sont ridicules comparés à des capteurs externes placés à 360°.

Elle pourrait aussi voir dans des spectres plus intéressants que le tien.

Encore mieux, si les voitures en circulation malgré ça ne voient pas Bibou-le-bébé qui s'est fourbement caché entre 2 bagnoles garées, ces dernières le voient forcément et pourraient facilement avertir toutes les voitures proches en mouvement.

Okay, les centaines de millions d'Ayrton qui n'ont pas besoin de respecter les règles parce que fuck it baby, born to be wild ont toutes les raisons du monde de ne pas vouloir d'un parc automobile automatisé mais il n'en reste pas moins que ça a une puissance potentielle considérable, particulièrement pour la sécurité des gens.

 

Le 21/12/2022 à 08:43, TFPK a dit :

 @Pehennji J'avais lu je ne sais plus où que la conduite autonome était obligée de "prendre des risques" et les mecs avaient du programmer des "entorses" à la règle pour pouvoir s'insérer dans le trafic humain, sinon la bagnole était capable de rester coincée en boucle sur un périph' de ville ou de ne jamais sortir d'un rond point...

De toute façon d'ici à ce que la conduite 100% autonome partout arrive, la voiture individuelle ne sera plus le moyen de transport n°1 en ville, ni même peut-être ailleurs.

A mon avis la voiture pour tous partout est née avec le pétrole et mourra avec lui, aussi chiant que ça puisse être si on regarde comment est fait notre système de transports et nos infrastructures. Et la conduite autonome ne pourra rien y changer.

Évidemment, ce ne sera optimal que quand il sera strictement interdit à un humain de prendre des décisions dans sa caisse. 

Avant ça, faudra forcément composer avec et ce ne sera pas parfait (et la phase de développement actuelle montre bien qu'on est encore très loin du compte).

Il va y en avoir des gars pour truander les bagnoles autonomes autour d'eux. 

 

Edited December 21, 2022 at 07:59 AM by Pehennji

[SpeeRoo]

La fiabilité sans faille d'un automate reste complètement illusoire,

sinon, il n'y aurait pas 1000 mecs qui hurlent et qui sautent en l'air à chaque retour

du 1er étage de la Falcon 9. 

Une fois ça posé, c'est vrai que le nombre d'accidents à la con dus à des erreurs humaines

devrait drastiquement diminuer avec l'arrivée très prochaine des voitures autonomes, et ça, ça reste positif

quand même ! 

Il y a déjà eu un Paris <> Barcelone effectué par une Audi avec des journaleux à bord, sans aucune intervention humaine durant le trajet, donc ça arrive normalement Bientôt.

Edited December 21, 2022 at 08:16 AM by SpeeRoo

[SpeeRoo]

Le 21/12/2022 à 08:58, Pehennji a dit :

Évidemment, ce ne sera optimal que quand il sera strictement interdit à un humain de prendre des décisions dans sa caisse. 

Putain, vivement que ce soit pareil avec les musiciens, parce que des fois on entend des trucs 

Remarque, là aussi ça arrive 

Quel bonheur de voir se profiler ce monde parfait dans l'avenir 

 

 

[Pehennji]

Des musiciens, même terriblement mauvais, ne tuent pas des gens. 

Enfin moi en tout cas j'ai jamais réussi. alors que je suis abominablement mauvais. 

[TFPK]

Dans la musique à proprement parler je sais pas si c'est le cas mais chez les artistes/graphistes et les écrivains/auteurs l'IA commence à poser de sérieux problèmes éthiques et juridiques.

Toutes ces machines sont censées nous faciliter la vie, on les aime tellement qu'on ne peut plus s'en séparer !

[sansal]

Le 21/12/2022 à 08:43, TFPK a dit :

A mon avis la voiture pour tous partout est née avec le pétrole et mourra avec lui, aussi chiant que ça puisse être si on regarde comment est fait notre système de transports et nos infrastructures. Et la conduite autonome ne pourra rien y changer

Je ne suis pas Nostradamus mais j’en doute, les pays du Moyen Orient qui se remplissent les poches et n’ont que ça comme ressources ne sont pas prêt de vouloir lâcher le filon surtout que le plan des nappes qui se vident serait du pipeau en constatant que les niveaux ne baissaient pas, je mets tout ça au conditionnel bien sur  mais  lu dans un article pas récent que je ne saurait retrouver.

De plus le jour où on saura se passer du pétrole dans l’industrie n’est pas pour demain vu notre consommation 

Edited December 21, 2022 at 08:25 AM by sansal

[SpeeRoo]

Le 21/12/2022 à 09:11, Pehennji a dit :

Des musiciens, même terriblement mauvais, ne tuent pas des gens. 

 

C'est pas faux 

par contre ils peuvent défoncer les oreilles, c'est grave quand même docteur 

Génération de sourdingues qui se profile 

"Hey ! Jean Claude, refais ta prise, c'est à chier ! "

"Que je change de chemise ??? Je l'aime pourtant bien moi Animal  "

 

[TFPK]

@sansal Je ne parle pas de demain, mais presque quand on voit la taille démentielle du chantier devant nous. Pour le pic de production possible c'est pas du pipeau, le pic était attendu pour 2005/2008, la découverte du pétrole de schiste en Amérique l'a repoussé vers 2025/2030 environ. Pour le gaz on a plus de temps jusqu'en 2050 a priori. Les pays producteurs se rempliront toujours autant les poches mais nous on va le payer de plus en plus cher, jusqu'au moment ou ça ne sera plus soutenable.

Il y a des gisements qui ne sont pas exploités car ne seraient pas rentables aujourd'hui, mais pourraient le devenir avec une hausse du prix mondial, c'est le discours des producteurs qui s'en foutent si les Français lâchent 50% de leur salaire en carburant et chauffage. Bref, le pétrole n'est pas éternel, en imaginant qu'il l'est si on ne s'y prépare pas (comme tu dis l'industrie en est dépendante, mais c'est même tout notre mode de vie qui l'est) ça risque de faire mal.

Et bien sûr je ne parle ici même pas des émissions de CO2... 

[Karmacoma]

Dans la musique aussi il existe des modèle de génération basés sur de l'apprentissage profond. Il y avait magenta depuis quelques années qui était capable d'improviser en temps réel à partir de n'importe quel accord (https://magenta.tensorflow.org/) .

Plus récemment on a flow machine de Sony (https://www.flow-machines.com/) qui a écrit plusieurs morceaux pop après avoir ingéré un nombre important de morceau (l'intégrale de Beatles notamment). Un producteur c'est ensuite chargé de reprendre le résultat pour le rendre écoutable. on entend bien "l'influence" Beatles :

 

Dans le milieu des graphistes, l'utilisation des algos types Dall-E ou Midjourney permettant la génération d'images à partir d'une courte description commence a être critiqué depuis quelque temps. Si c'est outils sont impressionnant et fun à utiliser, il faut bien comprendre que pour en arriver là les algos sont entraînés à partir de données existantes, et donc directement à partir des images que des artistes humains postent sur des plateforme comme art station. Du coup, les images générées s'apparente souvent à du plagiat voir à de la copie d'éléments pur et simple dans certains cas. Les artistes ont d'ailleurs posté par centaines des images contenant le mot IA dans un cercle barré rouge, et quelques temps après les images générées par midjourney à partir d'une demande type "tendance sur art station", se sont retrouvé avec ces no ia intégrés un peu partout dans les images (du beau hacking!!).

 

Donc, plus largement pour les algos générationnel, que ce soit du texte, des images ou du son on aura cette question de récupération légitime ou non du travail d'autres artistes, bien que on puisse arguer qu'un être humain fait le même travail en agrégeant ces influences pour créer quelque chose de nouveau. Pour moi, ces algos sont aujourd'hui capable de généré facilement la même qualité de travail qu'un artiste lambda (sans être péjoratif) ou amateur, mais bien loin du niveau de " grands artistes" qui arriveront à révolutionner leur art en apportant quelque chose de nouveau qui n'aura jamais été fait. Peut-être que les machines y parviendront dans le futur.

Néanmoins, dans le cas de ChatGPT, il faut être très méfiant, et c'est pour moi aujourd'hui l'algo le plus dangereux jamais mis en service, car si la forme (le niveau de langue, la construction des phrases et la capacité de manipuler des concepts abstraits) est très impressionnante et maîtrisée, le fond laisse plus que désirer. Si on reste sur des questions un peu générales ou même un peu technique mais dont la réponse peut être trouvé est détaillé facilement (la procédure d'une opération chirurgicale, ou la description des éléments principaux d'une théorie physique par exemple), l'algo s'en sortira plutôt bien. Par contre, dès qu'on arrivera sur des choses un peu plus poussées ou sortant du champ de la technique/ingénierie et demandant un peu plus d'abstraction l'algo continuera à répondre avec un ton précis et sûr de lui, mais avec des réponses fausses ou imparfaites (de nombreux scientifique on tenté l'expérience de leur côté). C'est le ton de la réponse qui pour moi pose soucis, car on voit bien qu'un orateur parlant avec assurance sera plus écouté que quelqu'un qui amènera des nuances (l'effet éditorialiste vs scientique d'un plateau TV). Et ces algos ne sont que des outils de formes, pas de fond.

L'autre point qui pose problème, c'est que ces algos sont incapable de fournir une source à propos des certitudes qu'ils assènent. Ceux qui parlent de futur moteur de recherches type Google se trompent ou mentent. En l'état ces algos sont incapable de gérer la notion de source, de graphe entre plusieurs sources. Des éléments indispensable à un moteur de recherche.

 

Je pourrais rajouter encore quelques lignes à propos des véhicules autonomiste mais on va s'arrêter là... Ces nouveaux algos sont à la fois extrêmement performant et impressionnant, mais aussi profondément imparfaits et limités. Cette combinaison augmentant les risques pour la société liés à leur uutilisation. De nombreux chercheurs en IA ont alertés sur ces problèmes, car il faut bien garder en tête que derrière la mise en ligne de ces outils il y a des multinationales qui n'ont pas forcément le bien commun comme principal objectif (sans verser dans du complotisme primaire, c'est juste que  mettre en ligne un outil non finalisé, pas complètement sécurisé peut être privilégier pour des questions de communication, d'images par exemple). Pour les anglophone je conseille cette article concernant les modèles de langages naturels tels que ceux utilisés par ChatGPT (https://dl.acm.org/doi/10.1145/3442188.3445922)

 

Ou plus simple d'accès la chaîne YouTube de Science4All qui en parle également.

https://m.youtube.com/channel/UC0NCbj8CxzeCGIF6sODJ-7A

 

Voilà désolé du pavé

 

[Dmonweb]

Le 21/12/2022 à 07:08, Pehennji a dit :

 non respect des distances de sécurité et de non adaptation de la vitesse aux conditions de visibilité.

Ça va être sympa les bouchons avec distance de sécurité ! 

Le 21/12/2022 à 07:35, AdHoK a dit :

@PehennjiLes véhicules auront également des défaillances, tout tombe en panne à un moment ou un autre. 

En 2019, si j'avais parlé de Pandémie, on m'aurait pris pour un taré, moi je vous en propose une autre, prévisible, inévitable, et tout le monde s'en fout prodigieusement :

https://fr.m.wikipedia.org/wiki/Tempête_solaire_de_1859

Le 21/12/2022 à 07:35, AdHoK a dit :

@Pehennji

 Et que fera la machine? Elle fera ce qu'on lui enseigne?

L'erreur par omission, le pire qui puisse arriver à une IA : malgré sa puissance de calcul, le pire c'est la ligne de code oublié.

C'est pas de l'incompétence, c'est pas de la mafia... C'est juste un oubli dans une situation improbable, dans le cahier des charges des programmeurs. 

Il faudra toujours un humain comme arbitre à l'IA : dans une situation chaotique, inadapté, inapproprié, il est le plus souvent capable de trouver "le bien", "le mieux". Il faudra un conducteur responsable.

De toutes façons les assureurs auront besoin d'un coupable.

Un peu comme les impôts : on peut très bien voir ça comme un abonnement pour ne pas aller en prison..?

(Sophisme, mais c'est une vision qui fonctionne également).

 

[Jeygiro]

Le 21/12/2022 à 00:16, RobTheMob a dit :

Waouh ! Où l'as-tu trouvée si ça n'est pas indiscret ? Tu as quel type de cordes dessus ? J'ai sensiblement la même, mais plus récente, une des dernières rééditions. J'attends le passage du Père Noël pour lui installer des filets plats, parce qu'en l'état elle est vraiment super agressive avec ses cordes nickel-plated

Le hasard des petites annonces, elle était sur LeBonCoin :).

C'est assez récent donc pour le moment, je lui ai laissé ses vieilles cordes. Ça sonne déjà bien comme ça (malgré un niveau de sortie très faible, le charme du vintage j'imagine ?), je pense que ce sont des cordes aciers.

Les filets plats, ça peut être une bonne idée, de mon côté, je les réserve aux fretless  !

[Dmonweb]

Le 21/12/2022 à 08:59, SpeeRoo a dit :

Une fois ça posé, c'est vrai que le nombre d'accidents à la con dus à des erreurs humaines

Cool ! On va pouvoir repicoler au volant !

Mais qu'est ce qu'on va bien pouvoir faire de tous ces radars.?

[Pehennji]

@Karmacoma

Pour le côté "s'appuie forcément sur l'existant", je ne pense pas que ce soit un paramètre absolu. 

Du côté de DeepMind, avec AlphaZero, ils ont su faire une IA incroyablement performante, apprenant seule, et capable d'actions foncièrement originales.   

Une application similaire aux domaines artistiques ne me semble pas être inconcevables.

Edited December 21, 2022 at 09:35 AM by Pehennji