La pollution numérique prise très au serieux pour le futur des IA
Répondre à la discussion
Page 1 sur 3 12 DernièreDernière
Affichage des résultats 1 à 30 sur 72

La pollution numérique prise très au serieux pour le futur des IA



  1. #1
    ArchoZaure

    La pollution numérique prise très au serieux pour le futur des IA


    ------

    Bonjour.

    Des chercheurs alarment et appellent à prendre des mesures avant la crash.

    Il est fascinant de constater combien l’avancée technologique influence le paysage numérique. L’IA se tient à la proue de cette révolution contemporaine. Mais, à mesure que l’IA progresse, elle semble devenir le reflet de l’ouroboros, ce serpent antique qui se mord la queue.

    Le monde virtuel subit une transformation. Partout sur Internet, le contenu généré par l’IA gagne du terrain.
    Cette évolution peut sembler une menace pour les futurs modèles d’IA. Pourquoi ? Parce que des modèles comme ChatGPT se basent sur des informations glanées en ligne pour se former. Si cette source est polluée par du contenu « synthétique », cela peut entraîner ce que l’on appelle un « effondrement du modèle ».


    Le danger est tel que le filtrage de ces données synthétiques est devenu un champ de recherche crucial. Les experts s’y penchent, car l’ampleur du contenu de l’IA ne cesse de grandir.
    A New Study Says AI Is Eating Its Own Tail https://t.co/hSHKT47uq4
    — Popular Mechanics (@PopMech) October 20, 2023

    Par ailleurs, une autre recherche montre que les images générées par l’IA, lorsqu’elles sont uniquement basées sur des données d’IA, finissent par être floues et non identifiables. Ces erreurs, bien qu’apparemment bénignes, pourraient amplifier des biais discriminatoires, rendant la tâche encore plus ardue.


    Pour contrer cela, nous devons miser sur des données non corrompues par du contenu synthétique. Comme l’évoque Alex Dimakis de l’Institut national de l’IA, la qualité intrinsèque des modèles est tributaire de la qualité des données. Même une modeste quantité de données de haute qualité pourrait surpasser un vaste ensemble synthétique.
    Ainsi, les ingénieurs restent sur le front, veillant à ce que l’IA ne s’entraîne pas sur des données qu’elle a elle-même produites. Car, malgré les prouesses de l’IA, la touche humaine demeure irremplaçable.
    https://www.lebigdata.fr/ia-commence-mord-la-queue

    One recent study, published on the pre-print arXiv server, used a language model called OPT-125m to generate text about English architecture. After training the AI on that synthetic test over and over again, the 10th model’s response was completely nonsensical and full of a strange obsession with jackrabbits.
    https://www.popularmechanics.com/tec...c=socialflowTW

    -----

  2. #2
    Flyingbike
    Modérateur*

    Re : La pollution numérique prise très au serieux pour le futur des IA

    voilà, c'est plus constructif
    La vie trouve toujours un chemin

  3. #3
    pm42

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par Flyingbike Voir le message
    voilà, c'est plus constructif
    Bof. C'est le discours habituel "l'IA est nulle" par quelqu'un qui n'y connait rien et fait du cherry-picking d'articles grand public à coup de biais de confirmation.

    Effectivement, si on entraine une IA en boucle 10 fois de suite, on n'obtient pas un résultat convaincant. Ca tombe bien, on ne fait pas ça.

    C'est l'équivalent en IA des messages du genre "El Nino va tous nous tuer", "les vaccins du Covid ne marchent pas" ou "le réchauffement climatique n'est pas réel et il n'est pas du aux humains et il n'est pas dangereux".

  4. #4
    ArchoZaure

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par pm42 Voir le message
    Bof. C'est le discours habituel "l'IA est nulle" par quelqu'un qui n'y connait rien et fait du cherry-picking d'articles grand public à coup de biais de confirmation.

    Effectivement, si on entraine une IA en boucle 10 fois de suite, on n'obtient pas un résultat convaincant. Ca tombe bien, on ne fait pas ça.

    C'est l'équivalent en IA des messages du genre "El Nino va tous nous tuer", "les vaccins du Covid ne marchent pas" ou "le réchauffement climatique n'est pas réel et il n'est pas du aux humains et il n'est pas dangereux".
    Ouais c'est ça, de l'article grand public.
    Vous n'avez même pas fait l'effort de ne serait ce que vérifier les sources et vous vous permettez l'emploi d'un ton suffisant.

    Moi je suis sûr, que dis-je, je suis 200% certain, que ces individus en connaissent très largement plus que vous sur le sujet et que leur étude sert à quelque-chose.
    THE CURSE OF RECURSION:
    TRAINING ON GENERATED DATA MAKES MODELS FORGET

    Ilia Shumailov*
    University of Oxford

    Zakhar Shumaylov*
    University of Cambridge

    Yiren Zhao
    Imperial College London

    Yarin Gal
    University of Oxford

    Nicolas Papernot
    University of Toronto & Vector Institute

    Ross Anderson
    University of Cambridge & University of Edinburg
    https://arxiv.org/pdf/2305.17493v2.pdf

    N'oubliez pas de leur envoyer un mail pour leur dire que leurs travaux sont inutiles et leurs recommandations sans intérêts...
    6 Discussion and Conclusion
    We now discuss the implications of Model Collapse on the underlying learning dynamics of LLMs. Long-term poisoning attacks on language models are not new. For example, we saw the creation of click, content, and troll farms – a form of human ‘language models’, whose job is to misguide social networks and search algorithms. The negative effect these poisoning attacks had on search results led to changes in search algorithms: e.g., Google downgraded farmed articles5, putting more emphasis on content produced by trustworthy sources e.g. education domains, while DuckDuckGo removed them altogether

    What is different with the arrival of LLMs is the scale at which such poisoning can happen once it is automated.
    Preserving the ability of LLMs to model low-probability events is essential to the fairness of their predictions:
    such events are often relevant to marginalised groups. Low-probability events are also vital to understand complex systems [Taleb, 2007].
    Our evaluation suggests a “first mover advantage” when it comes to training models such as LLMs.

    In our work we demonstrate that training on samples from another generative model can induce a distribution shift, which over time causes Model Collapse.


    This in turn causes the model to mis-perceive the underlying learning task. To make sure that learning is sustained over a long time period, one needs to make sure that access to the original data source is preserved and that additional data not generated by LLMs remain available over time.

    The need to distinguish data generated by LLMs from other data raises questions around the provenance of content that is crawled from the Internet: it is unclear how content generated by LLMs can be tracked at scale. One option is community-wide coordination to ensure that different parties involved in LLM creation and deployment share the information needed to resolve questions of provenance.

    Otherwise, it may become increasingly difficult to train newer versions of LLMs without access to data that was crawled from the Internet prior to the mass adoption of the technology, or direct access to data generated by humans at scale
    https://arxiv.org/pdf/2305.17493v2.pdf
    Dernière modification par ArchoZaure ; 16/11/2023 à 19h38.

  5. A voir en vidéo sur Futura
  6. #5
    jiherve

    Re : La pollution numérique prise très au serieux pour le futur des IA

    bonsoir
    toujours aussi sensible des que l'on aborde l'IA c'est tout de même inquiétant car cela démontre une absence totale de recul, aucune technologie n'est absolument dénuée de défauts.
    Il n’écrit pas que l'IA c'est nul mais que cela peut induire des problèmes non prévus, ce n'est pas(encore) blasphématoire!
    JR
    l'électronique c'est pas du vaudou!

  7. #6
    ArchoZaure

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par jiherve Voir le message
    bonsoir
    toujours aussi sensible des que l'on aborde l'IA c'est tout de même inquiétant car cela démontre une absence totale de recul, aucune technologie n'est absolument dénuée de défauts.
    Il n’écrit pas que l'IA c'est nul mais que cela peut induire des problèmes non prévus, ce n'est pas(encore) blasphématoire!
    JR
    Exact mais non seulement ils alertent mais aussi ils prévoient avec certitude ce qui va se passer à plus ou moins long terme (là on est dans le spéculatif au niveau des durées vu que ça dépend du développement de l'usage, qu'on ne connait pas à l'heure actuelle) si on ne prend pas des mesures pour savoir distinguer la source de données.

    A mon avis et ce n'est qu'un avis bien sûr.
    Si rien n'est fait, on va se retrouver à devoir se limiter aux archives ... avec ce que ça implique au niveau de l'usage.
    Et que vaudront ces archives subitement hors de prix ? (car il faudra DÉJÀ les avoir...et les conserver)

  8. #7
    Tannhauser

    Re : La pollution numérique prise très au serieux pour le futur des IA

    J'avais vu passer qu'ils avaient fait une grosse réunion d'éditeur d'IA et que le sujet avait été évoqué.
    Je pense aussi qu'ils le prennent au sérieux, et franchement il n'y a rien d'étonnant.

    https://www.lesechos.fr/tech-medias/...de-lia-1964287
    https://deepmind.google/technologies/synthid/

    Là, ils en parlent pour identifier les fausses info mais j'avais entendu parler que c'était aussi pour protéger leur IA.
    Tout ce que je viens de dire je ne sais pas le retrouver, c'est de mémoire donc à prendre avec des pincettes même moi je ne suis pas sur.
    Pas le temps de rechercher où j'avais vu ça.

  9. #8
    oualos

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Tu te compliques trop la vie Archozaure je trouve même si tu as raison de le signaler.
    comment maitrise-t-on la production des langages comme les langages cinématographique, textuel ou visuel -destiné avant tout à produire par les moyens communicationnels que sont le texte, les images et bientôt le cinema- avec la croissance rapide de l'IA ?
    Sans trop faire de la SF, il est vraisemblable que les IA sauront un jour produire et réaliser des films, qu'on leur donne un scénario avant ou pas...donc l'idée que nous serions très vite submergés par la création numérique tient la route effectivement.
    donc c'est le concept de création -celui impliquant le création humaine étant celui qui nous intéresse reste le plus- qui va se retrouver en première analyse appauvri et dévalorisé.
    Parce que noyé dans la masse de ce que produiront les IA... Et dans le domaine de l'Art cela va ajouter certainement une grande confusion.
    Et faire que nous serons -et que nous sommes déjà un peu désorientés.

  10. #9
    Liet Kynes

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Il ne faut pas négliger l'étiquetage des données qui se fait par des humains, un contenu est correct ou pas et ce, quoi que soit ce qui l'a généré.
    Les contenus audio sont aussi convertibles en texte et je ne suis pas certain qu'une IA puisse générer massivement des contenus audio parfaitement indistinguable des contenus naturels..
    Sans questions il n'y a que des problèmes sans réponses.

  11. #10
    sunyata

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Pourquoi ? Parce que des modèles comme ChatGPT se basent sur des informations glanées en ligne pour se former. Si cette source est polluée par du contenu « synthétique », cela peut entraîner ce que l’on appelle un « effondrement du modèle ».
    Salut

    Je ne suis pas sûr de comprendre ce qui se passe :

    Si l'IA se forme de plus en plus à partir de contenu générés par l'IA, cela provoque un effondrement du modèle ?

    Autrement si l'IA fait une synthèse des données humaines, cela produit quelque-chose d'intéressantes. Mais si rétroactivement elle récupère trop de données qu'elle a elle-même produites, le fonctionnement de l'IA se dégrade.
    C'est bien cela ?

    Comme de faire une photocopie, d'une photocopie, d'une photocopie va augmenter l'entropie du document produit, diminuant par là même sa lisibilité ?

    En se nourrissant de l’Internet, l’IA, telle un serpent mordant sa propre queue, risque d’intégrer des erreurs, créant une spirale infinie d’imperfections. Une récente étude met en exergue ce phénomène : après plusieurs cycles de formation sur du contenu synthétique, les résultats devenaient incompréhensibles.
    Une espèce d'effet Larsen, en somme...

    Cordialement,

    Ai-je bien compris ?
    Dernière modification par sunyata ; 17/11/2023 à 12h39.

  12. #11
    sunyata

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Ce problème montre aussi les limitations de ce que peut apporter un IA fondée sur des statistiques.
    Cela produit de la synthèse, mais pas de nouveauté.
    La créativité n'est pas réductible à un savant mélange d'informations du passé, à une forme de calcul.

    Le philosophe Bernard Stiegler a beaucoup écrit sur ce sujet et a mis en garde sur le danger d'un appauvrissement de la pensée, qui ne peut se réduire à une simple recombinaison d'éléments du passé.

    C'est pourquoi il opposait la computation numérique à la raison humaine qui seule est capable d'opérer ce qu'il appelle des bifurcations.

    La computation numérique nous renvoie au rêve du mathématicien Hilbert qui pensait qu'on pourrait un jour mécaniser la pensée et obtenir une réponse à toutes les questions qu'on se pose à partir d'une nombre limité d'axiomes.

    Hors les travaux de Goedel, d'Alonzon Church, et d'Alan Turing ont prouvé que cela n'était pas possible.
    Cela devrait nous questionner sur l'usage que nous faisons de ce type d'IA, et sur ses dangers.

    Cordialement
    Dernière modification par sunyata ; 17/11/2023 à 12h59.

  13. #12
    ArchoZaure

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par sunyata Voir le message
    Autrement si l'IA fait une synthèse des données humaines, cela produit quelque-chose d'intéressantes. Mais si rétroactivement elle récupère trop de données qu'elle a elle-même produites, le fonctionnement de l'IA se dégrade.
    C'est bien cela ?
    Oui c'est ça.
    Tout est bien expliqué dans la publication.
    Definition 3.1 (Model Collapse). Model Collapse is a degenerative process affecting generations of learned generative models, where generated data end up polluting the training set of the next generation of models; being trained on polluted data, they then mis-perceive reality. We separate two special cases: early model collapse and late model collapse. In early model collapse the model begins losing information about the tails of the distribution; in the late model collapse model entangles different modes of the original distributions and converges to a distribution that carries little resemblance to the original one, often with very small variance.
    https://arxiv.org/pdf/2305.17493v2.pdf

  14. #13
    sunyata

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par ArchoZaure Voir le message
    Oui c'est ça.
    Tout est bien expliqué dans la publication.

    https://arxiv.org/pdf/2305.17493v2.pdf
    On peut analyser cela d'une manière thermodynamique :

    Si il y a trop d'information synthétique dans les données qui nourrissent l'IA, celle-ci se comporte comme un système thermodynamiquement isolé. Le second principe nous dit que l'entropie va avoir tendance à augmenter.

    (Stiegler considérait la pensée humaine comme quelque chose de complexe et de profondément enraciné dans notre être, qui ne peut être pleinement capturé ou reproduit par des processus calculables. C’est une perspective qui met en valeur la richesse et la profondeur de la pensée humaine, tout en soulignant les limites des tentatives pour la réduire à des algorithmes ou à des processus calculables. )
    Dernière modification par sunyata ; 17/11/2023 à 13h16.

  15. #14
    polo974

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Super, ils ont inventé le jeu du "téléphone arabe" (petit aparté: "Chinese whispers" en anglais, ce serait drôle de savoir dans ces 2 langues) en mode IA.

    De même on avait les moines copistes, certes, il a dû y avoir de la perte (intentionnelle?), mais au final, on est loin d'avoir tout perdu...

    (sinon, non, l'effet larsen, c'est autre chose, ici, c'est plus du flou et du bruit de quantification)
    Jusqu'ici tout va bien...

  16. #15
    sunyata

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Oui,

    ou comment l'IA générative est victime de son succès...
    Je pense qu'on a tord d'appeler le produit de l'IA, de la "création de contenu".
    C'est de la synthèse de contenus.

  17. #16
    oualos

    Re : La pollution numérique prise très au serieux pour le futur des IA

    La computation numérique nous renvoie au rêve du mathématicien Hilbert qui pensait qu'on pourrait un jour mécaniser la pensée et obtenir une réponse à toutes les questions qu'on se pose à partir d'une nombre limité d'axiomes.
    Les méta-mathématiques, un rêve fou selon moi mais je ne suis pas spécialistes des maths...
    Je crois que le groupe Bourbaki est parti là-dedans et s'est finalement arrêté: ça a donné comme résultat l'enseignement des mathématiques modernes dans les petites classes du lycée en tout cas.

    Un de mes profs de fac faisait un cours d'IA intitulé "Métaconnaissances".
    Le réquisit ou présupposition de départ était qu'il existait une base de méta-connaissances dont on pouvait déduire les connaissances ou de nouvelles connaissances.
    Ce cours était vraiment intéressant mais ça paraît un rêve fou car on tend vers l'omniscience, une régression infinie des moteurs de connaissance.
    Ce passage au niveau -méta qui devrait s'arrêter un moment comme le supposait Aristote parlant de Moteur Immobile, sinon on tend fatalement vers l'infini.
    Dernière modification par oualos ; 17/11/2023 à 14h38.

  18. #17
    RiketRok

    Re : La pollution numérique prise très au serieux pour le futur des IA

    A mon avis, tout ira bien, on a largement assez de données, et on peut noter qu' :
    - il est probable que 99.999% du nouveau contenu sur internet est soit de la répétition, soit de l'actualité, qui ne sont pas nécessaire pour rendre le système intelligent (essayez de parcourir une banque d'image, c'est ennuyant à mourir tellement ça se répète)
    - les grands acteurs bossent tous sur la génération de données synthétiques, on pourrait penser à une cartographie du réel, ou une cartographie des données déjà acquises, y'a moyen de faire du remplissage assez facilement.
    - de toute il faut bosser sur l'amélioration des capacités de généralisations de ces systèmes, c'est peut-être une bonne chose que ce ne plus pouvoir faire du tout schuss sur cette piste verte du scaling over all, ça va obliger les ingénieurs à viser plus haut

  19. #18
    pm42

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par RiketRok Voir le message
    de toute il faut bosser sur l'amélioration des capacités de généralisations de ces systèmes, c'est peut-être une bonne chose que ce ne plus pouvoir faire du tout schuss sur cette piste verte du scaling over all, ça va obliger les ingénieurs à viser plus haut
    Personne n'a attendu cet éventuel problème de données pour dépasser cette piste du scaling over all qui est tout sauf verte de plus en IA.
    C'est même un des gros axes actuels : modèles plus petits avec notamment en ce moment toute la recherche sur les Small Language Models, apprentissage one-shot, etc.

    Et la recherche n'est pas spécialement faite par des ingénieurs : il y a pas mal de PhD.

  20. #19
    Deedee81
    Modérateur

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Salut,

    Tiens, pour revenir au sujet initial (de cette discussion qui m'avait curieusement échappé). Je suis étonné par l'usage du terme "alarme". Car les problèmes sont connus.

    Dès le début du deep learning, il y a eut des dérapages. Par exemple, une IA chargé d'analyser les résultats scolaires (aux USA) et qui s'est vite avérée "raciste". Bien entendu, ce n'était pas la machine qui était raciste mais les données qui avaient été utilisées pour alimenter l'IA. C'est à cette époque (et donc très tôt) que les chercheurs se sont rendus comptent qu'il ne suffisait pas de fournir tout un tas de données. Il fallait aussi les trier soigneusement sur base de nombreux critères.

    Ensuite il faut tenir compte de l'usage de l'IA.

    - On conçoit énormément d'IA pour toutes sortes d'usages y compris "à risque" (pilotage, médecine,....). Et outre les nombreux progrès réalisés (discutés dans les derniers messages), les concepteurs font très attention aux données pour nourrir l'IA : tri, annotations, contrôles,....
    - Et il y a les IA très généraliste comme ChatGPT. Et là on lui donne tout et n'importe quoi (sans négliger quand même toute la machinerie et certains garde fou, sont pas si idiots !) ou presque (on peut éviter certaines sources comme conspirovniscience ). Et forcément là l'IA est alimentée aussi avec des données inappropriées (fakes news, données erronées....). Mais ce n'est pas gênant, c'est juste une IA conversationnelle. Maintenant celui qui veut développer une activité professionnelle utilisant ChatGPT le fait aussi en son âme et conscience (mais je sais aussi que ce qui est mis à disposition et payant est bien meilleur que le ChatGPT public, mais je ne sais pas dans quelle mesure).

    La pollution numérique n'est pas un problème spécifiquement "IA" mais un problème très général qui affecte les médias (on a connu de jolies perles dont les fameuses pyramides Maya découvertes par des étudiants québécois ), les réseaux sociaux.... On sait combien le problème de la désinformation et des petits mondes grève le bon fonctionnement de la communication. C'est un problème sérieux et étudié. Et évidemment si on puise des données publiques pour les IA, c'est le même soucis. Mais l'alarme est inutile, les chercheurs en sont conscient. Mieux encore : des IA sont mise au point pour faire la chasse aux fakes news. Forcé, vu le volume d'information. Par contre si j'ai lu plusieurs articles de recherches, dans le concret je n'ai pas encore entendu de retombée (mais comme je n'ai pas suivi, il y en a peut-être déjà). Un des soucis est purement légal : la libre expression. Si quelqu'un sur Twitter dit "le père noël a un caleçon à fleurs" ou "la terre est plate" ou "le centre de la lune est du fromage", c'est son droit. Les bêtises et mensonges ne sont pas illégaux (ce qui l'est c'est le racisme, l'incitation à la haine, etc...). De même la lute contre les petits mondes est très difficile car on ne peut pas forcer les gens à communiquer (ou ne pas communiquer) avec tel ou tel autre personne.

    Le seul truc peut-être inquiétant, mais là non plus pas spécifique des IA, est que cette pollution numérique augmente plus vite que les mesures mises en place pour la contrer. Hélas. En tout cas pour le moment.
    Dernière modification par Deedee81 ; 05/12/2023 à 07h00.
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  21. #20
    pm42

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par Deedee81 Voir le message
    Maintenant celui qui veut développer une activité professionnelle utilisant ChatGPT le fait aussi en son âme et conscience (mais je sais aussi que ce qui est mis à disposition et payant est bien meilleur que le ChatGPT public, mais je ne sais pas dans quelle mesure).
    Il y a de nombreux modèles hors ChatGPT et GPT-4. Même si la plupart ne sont pas forcément aussi à l'aise dans d'autres langues et peuvent manquer de mécanismes de modération.
    Aucun n'échappe aux problèmes connus notamment les "hallucinations" et d'autres moins vulgarisés mais en pratique, on peut atteindre un taux de pertinence très élevé.

    Pour un usage professionnel, il faut effectivement faire attention mais il y a beaucoup qui ne mettent pas le grand public directement en face de ces IAs.
    Par exemple, on peut s'en servir pour poser des questions sur une base documentaire. Je m'en sers déjà et c'est redoutable. Au lieu de devoir lire pleins de documents ou d'utiliser un moteur de recherche plus d'aller piocher dedans, on les fait "apprendre" par l'IA avec différents mécanismes puis on pose une question et on a la réponse synthétisées et les sources.
    Cela revient à avoir un expert sous la main, on le fait souvent avec du RAG (Retrieval Augmented Generation) qui est considéré comme le "Hello World!" de l'IA générative.

    On peut également faire en sorte que si la question nécessite d'interroger une base de données ou une application par API, l'IA le fasse et retourne la réponse.

    Elle est également utilisée par des gens qui ne sont pas des programmeurs professionnels, par exemple des statisticiens & co mais qui doivent coder en Python : l'IA leur écrit le gros du code, la partie mécanique et ils complètent.

    Il y a plein d'autres usages très variés qui sont déjà possibles même si vu que ce degré d'efficacité des IA a à peine 1 an, l'adoption n'est pas encore généralisée.

    Sinon, voici un exemple d'un truc rigolo qui illustre ce concept d'assistant IA, ça vaut la peine de regarder la vidéo de démo :

    https://github.com/KillianLucas/open...reter?search=1
    Dernière modification par pm42 ; 05/12/2023 à 07h12.

  22. #21
    Deedee81
    Modérateur

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Merci de toutes ces précisions. Sympa la vidéo

    Concernant l'usage grand public, reste de bon aloi de croiser intelligemment les sources d'information. Enfin, pour ceux qui le font évidemment.
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  23. #22
    pm42

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par Deedee81 Voir le message
    Concernant l'usage grand public, reste de bon aloi de croiser intelligemment les sources d'information
    Oui mais là aussi, il y a des outils qui commencent à devenir intéressant comme perplexity.ai.
    En gros, c'est un moteur de recherche qui donne les résultats les plus intéressants et qui en produit une synthèse.

    Par exemple, si je tape "quel est le meilleur écran 27" 4K" dans un moteur de recherche, je vais avoir plein de liens en partie bidon, devoir lire plusieurs tests, etc.
    Dans perplexity, je vais avoir les liens les plus pertinents et un résumé du résultat.

    Quand on a un compte et qu'on active le mode "copilot", il est même capable de poser des questions pour aider à la recherche en générant l'interface utilisateur à la volée.
    Cette partie là est encore un poil primaire mais à terme, on peut imaginer que c'est ce qui se passera : on dialoguera directement et au lieu en face d'avoir des applis classiques avec un jeu d'écrans fixes codés par les programmeurs, ceux ci seront dynamiques pour s'adapter à la volée à l'utilisateur aussi bien en input qu'en output.

    C'est déjà en partie ce que font les GPT qui sont capable de poser des questions et de formater leur réponse sous différentes formes.

  24. #23
    Deedee81
    Modérateur

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par pm42 Voir le message
    Oui mais là aussi, il y a des outils qui commencent à devenir intéressant comme perplexity.ai.
    En gros, c'est un moteur de recherche qui donne les résultats les plus intéressants et qui en produit une synthèse.
    Ah dis donc, c'est intéressant ça ! Car croiser n'est pas toujours facile (à la main)
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  25. #24
    pm42

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par Deedee81 Voir le message
    Ah dis donc, c'est intéressant ça ! Car croiser n'est pas toujours facile (à la main)
    Oui. Au delà des débats sur "l'IA va t'elle tous nous tuer" et des "je vais trouver comment la coincer pour me rassurer", c'est avant tout un outil qui bien utilisé et maitrisé est très efficace.

  26. #25
    Deedee81
    Modérateur

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par pm42 Voir le message
    Oui. Au delà des débats sur "l'IA va t'elle tous nous tuer" et des "je vais trouver comment la coincer pour me rassurer", c'est avant tout un outil qui bien utilisé et maitrisé est très efficace.
    Je suis entièrement d'accord. Mauvais usage il peut y avoir, problèmes il peut y avoir (ponctuels ou plus général). Mais pour l'essentiel de ce que je vois actuellement, il s'agit surtout de craintes irraisonnées (ou de profs qui râlent ).

    Et sans boule de cristal je ne veux ni ne peux m'avancer sur ce qui se passera disons dans 20 ans.
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  27. #26
    pm42

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Citation Envoyé par Deedee81 Voir le message
    Et sans boule de cristal je ne veux ni ne peux m'avancer sur ce qui se passera disons dans 20 ans.
    Pareil et notamment si on finit par avoir des IA fortes ou presque. L'impact que cela peut avoir est en partie prévisible et en partie pas du tout.
    Pour le moment, je n'ai pas vu de scénario détaillé de la part de ce qui annoncent la fin du monde et je me demande si ce n'est pas un biais culturel occidental du genre "l'apocalypse est proche" qu'on ne retrouverait pas en Asie.

    Mais je disgresse. Toujours est il que pour faire des formules Excel à ma place ou me donner les lignes de code pour utiliser une librairie que je ne connais pas par coeur, l'IA actuelle est très bien.

  28. #27
    Deedee81
    Modérateur

    Re : La pollution numérique prise très au serieux pour le futur des IA

    La peur de la nouveauté

    Citation Envoyé par pm42 Voir le message
    Mais je disgresse.
    Pas tellement, c'est dans le ton du message initial plutôt alarmiste
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  29. #28
    jiherve

    Re : La pollution numérique prise très au serieux pour le futur des IA

    bonjour
    il y a tout de même des personnes qui ont perdu leur travail!
    https://seo.ai/blog/ai-replacing-jobs-statistics
    ce n'est que le début!
    JR
    l'électronique c'est pas du vaudou!

  30. #29
    Deedee81
    Modérateur

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Ces chiffres me semblent énormes (et ne correspondent pas à ce que je vois dans mon entourage mais il est évidemment biaisé).

    A-t-on une source plus fiable ?
    "Il ne suffit pas d'être persécuté pour être Galilée, encore faut-il avoir raison." (Gould)

  31. #30
    jiherve

    Re : La pollution numérique prise très au serieux pour le futur des IA

    Re
    pas forcement une revue avec comité de lecture :
    https://www.cbsnews.com/news/ai-job-...lenger-report/
    Bon ce n'est pas le sujet du fil qui pour certaine intervention relève de la philosophie de comptoir!
    JR
    l'électronique c'est pas du vaudou!

Page 1 sur 3 12 DernièreDernière

Discussions similaires

  1. Colle spéciale pour projet très sérieux
    Par Emoglobine dans le forum Chimie
    Réponses: 11
    Dernier message: 25/11/2016, 13h40
  2. Le futur pour la modélisation numérique
    Par invite768a4862 dans le forum Mathématiques du supérieur
    Réponses: 4
    Dernier message: 21/06/2006, 07h33