Hello!

bon slrpnk.net a l’air d’être dans les choux alors je lance ce post avec mon compte de secours jlai.lu

Alors je lance cet AMA car ça fait un moment que je bouffe du machine learning à temps plein et pour suivre les news technique, je passe le plus clair de mon temps à lire de l’anglais. Et je trouve qu’en français, ben y a pas grand chose. C’est presque uniquement du discours dystopique mal informé.

Rien sur la recherche sur l’alignement, rien sur les modèles open source (condition sine qua non pour que ça se passe bien), rien sur les évolutions sociales positives que ça peut amener.

On parle juste de OpenAI, Google et Musk qui ne sont que quelques arbres malades d’une forêt bien plus grande.

Perso ça va faire 5 ans que je fais du deep learning professionnellement. J’ai travaillé pour Skymind, qui développait deeplearning4j. Ça vous dira rien, c’est un projet plus ou moins mort, mais c’était une tentative de faire un framework alternatif avant que tout le monde passe à pytorch. Puis je suis devenu principalement utilisateur des gros modèles entraînés par d’autres.

J’ai travaillé sur les modèles de vision au départ et maintenant presque exclusivement sur des modèles de langage. J’ai réussi à passer au 4/5e l’année dernière pour me consacrer aussi avec le fablab local à de la robotique open hardware (où bien sur j’utilise des modèles de deep learning pour la vision).

Ça fait plus de 20 ans que j’ai réalisé que l’IA a le potentiel de changer le monde pour le mieux, c’est pas par hasard que j’ai essayé de m’orienter le plus possible là dedans et ça me fait mal au cœur de voir tant de gens croire que notre seul but est d’aider Sam Altman à se faire quelques milliards de plus, qui ne voient pas les capacités de transformation de cette tech.

J’ai déjà donné quelques avis en anglais pour éviter le “doomism” dans des romans de SF (https://slrpnk.net/post/6100538) mais le faire dans ma langue natale ferait du bien!

Et, si, le titre est correct, ça me fait 6/5 de boulot, mais quand on aime on ne compte pas!

Voila, je préférerais qu’on reste sur ces thèmes mais AMA anyway!

  • Noo@jlai.lu
    link
    fedilink
    Français
    arrow-up
    2
    ·
    edit-2
    6 months ago

    Le truc c’est que tu confond les législations, au US oui les tribunaux font en large partie la lois, mais ça n’est pas le cas ni en France, ni en Europe. Donc ce que tu racontes ne concerne pas tous les auteurs et pas les auteurs français. Du coup même si je te sors un contre-exemple, vu que tu mélange les juridictions et les procésus qui permettent de parvenir aux jugements tu pourra toujours t’en tirer.

    Le droit d’auteur francais il dit : tout ce qui n’est pas prévus par la loi et/ou qui est réalisé sans consentement de l’auteur est interdit. C’est pas flou du tout. C’est flou seulement si le but est de jouer au con.

    Dans la questions de l’IA, il y a le fait que les seuls outils sur le web qui permettent de respecter les volontés des auteurs sont les licences libres et ouvertes, c’est pour ça que les boites tech sont des pirates, c’est pas les lois sur la PI qui les emmerde, c’est le fait qu’il y des alternatives pour la construction de dataset dont elles ne veulent pas se servir en les respectant complètement.

    Les problèmes de l’Open source rapido : absence d’historicité, sans obligation de paternité on ne sait pas qui a fais quoi. On ne sort pas les oeuvres du système capitaliste (qui se conjugue en l’occurrence très bien avec ton anarchie communisme) grâce a l’absence de clause share alike. Enfin sans auteur, plus de responsabilité de l’auteur sur son oeuvre (argument du “c’est la communauté qui veut ça hein”). L’Open source c’est libertaire et libertarien, anar ok, communiste : sûrement pas!

    L’Open source et le mouvement libriste ne peuvent exister sans les législations actuelles sur la PI, ces mouvements s’appuient directement dessus même. C’est pas une opposition, ce sont des usages que permettent les lois.

    Les techs devraient comprendre que la société évolue plus lentement sur ses sujets et qu’elle a besoins d’un minimum de recul sur les pratiques pour créer de la législation. Dans le même temps les boites techs devraient suivrent les lois. C’est plus clair ? J’ai pas eu l’impression de faire des amalgames pourtant…

    Après c’est bien d’avoir sa propre lecture des choses (notion de publication), mais historiquement dans le droit d’auteur il y a une notion de responsabilité de l’auteur sur sa production. C’'est pas parce qu’une oeuvre est publiée que l’auteur doit pouvoir se laver les mains de ses effets ou de se qu’elle devient. Or c’est exactement ce que tu décris : un auteur irresponsable qui peut faire n’imp sans en assumer les conséquences vu que “l’oeuvre appartient au publique”. Ça, ça s’appelle dissocier l’artiste de son oeuvre. Je suis pas sur que ça soit une bonne chose de revenir en arrière sur ce point…

    • keepthepace_@jlai.luOP
      link
      fedilink
      Français
      arrow-up
      2
      arrow-down
      1
      ·
      6 months ago

      Le droit d’auteur francais il dit : tout ce qui n’est pas prévus par la loi et/ou qui est réalisé sans consentement de l’auteur est interdit. C’est pas flou du tout. C’est flou seulement si le but est de jouer au con.

      Bah si c’est flou. C’est prévu par la loi de pouvoir regarder une oeuvre et de s’en inspirer. C’est interdit d’en faire une oeuvre dérivée. Miyazaki a eu le droit de regarder Le Roi et l’Oiseau et de s’en inspirer pour ses oeuvres aériennes et oniriques. Un auteur n’a heureusement pas le droit de t’interdire de nourrir ton imaginaire avec ses oeuvres.

      Tu as également le droit de faire des stats sur le nombre d’apparition de Haddock dans Tintin. De faire des analyses de la colorimétrie, des apparitions de mots, etc. et c’est pas considéré comme une oeuvre dérivée et l’auteur ne peut l’interdire. Un modèle de génération d’images fait ça à l’échelle au dessus, en faisant des stats au niveau du coup de crayon. On peut arguer qu’il est d’un coté ou de l’autre de la ligne. C’est pas jouer au con: la loi est totalement floue là dessus.

      Les problèmes de l’Open source rapido : absence d’historicité, sans obligation de paternité on ne sait pas qui a fais quoi. On ne sort pas les oeuvres du système capitaliste (qui se conjugue en l’occurrence très bien avec ton anarchie communisme) grâce a l’absence de clause share alike. Enfin sans auteur, plus de responsabilité de l’auteur sur son oeuvre (argument du “c’est la communauté qui veut ça hein”). L’Open source c’est libertaire et libertarien, anar ok, communiste : sûrement pas!

      Euh… quoi?

      1. Historicité: les projets open source publient généralement tout l’historique de leur développement. Tu peux littéralement dire qui a écrit quelle ligne d’un projet. Dans le dernier auquel j’ai contribué je devais même signer cryptographiquement chaque commit. C’est le seul endroit à ma connaissance où ça marche comme ça! Aucun éditeur de boite privée ne te donnera un tel détail.

      2. Les clauses “share alike” ça a été inventé par le mouvement open source. Les licences GPL à l’origine, que perso je préfère aux licences BSD et Apache qui permettent de fermer le produit plus tard. Un soft sous la GPL, si, il est largement sorti du système capitaliste car il ne peut plus devenir un “produit de propriété intellectuelle”. Il peut être utile à une boite capitaliste, principalement parce que ça diminue leurs coûts, mais l’écosystème open source existe en dehors ou en parallèle du capitalisme

      3. Le fait que l’on possède collectivement les moyens de production logiciel, j’ai la faiblesse de penser que c’est pas mal communiste si. C’est pas anti-capitaliste en soi, c’est un modèle post-capitaliste, non-capitaliste, qui pour beaucoup de monde semble être l’état stable logique de n’importe quelle tech: ouverte, possédable par tout le monde.

      L’Open source et le mouvement libriste ne peuvent exister sans les législations actuelles sur la PI, ces mouvements s’appuient directement dessus même. C’est pas une opposition, ce sont des usages que permettent les lois.

      Oui, parce que l’open source est un mouvement né de l’opposition à la propriété intellectuelle et qui a décidé de combattre cette dernière par la subversion. La plupart des libristes seraient heureux qu’on retire toute propriété intellectuelle à tous les programmes. Tu n’imagines pas à quel point l’informatique serait différente si on avait le droit de s’échanger des binaires propriétaires sans être accusés de piratage. À quel point on pourrait facilement rendre plein de systèmes plus compatibles et secure.

      L’open-source est un pis-aller, un compromis auquel nous a forcé la propriété intellectuelle.

      Les techs devraient comprendre que la société évolue plus lentement sur ses sujets et qu’elle a besoins d’un minimum de recul sur les pratiques pour créer de la législation. Dans le même temps les boites techs devraient suivrent les lois. C’est plus clair ? J’ai pas eu l’impression de faire des amalgames pourtant…

      C’est quoi “les techs”?

      Et sur le web, y a 30 ans de “recul sur les usages” sans qu’on ait remis à plat le copyright (qui a beaucoup plus d’influence à l’échelle mondiale que le droit d’auteur). La législation est allée dans le sens des boites qui avaient les moyens de violer la loi parce qu’in fine le législateur a été incapable de comprendre que streaming et download sont la même chose. Cette semi-liberté a été conquise en démontrant des usages qui ont demandé à ignorer la loi. C’est ça le problème. “Obéissez à la loi mais démontrez les usages que d’autres lois pourraient permettre” est une contradiction et c’est pourtant comme ça que ça a évolué.

      Alors je suis d’accord que c’est nul, que la loi devrait comprendre et protéger les usages qui vont dans l’intérêt du plus grand nombre, mais ni en France, ni aux US ça ne marche comme ça. C’est de la défense des intérêts de ceux qui crient le plus fort, avec un fort bonus au conservatisme quand les choses sont trop compliquées.

      Les nouveaux usages, on doit les démontrer en marge des lois. La génération d’image en est un bon exemple: si tout le monde prenait ton acceptation de “ne faisons surtout rien qui puisse être considéré un jour illégal”, personne ne prendrait aux sérieux la possibilité de génération d’images de qualité professionnelle. Le débat ne se poserait jamais et la techno n’aurait jamais émergé.

      C’est un problème sérieux, et les deux seules positions semblent être “interdisons tout” et “ignorons les lois”. J’aimerais bien qu’on réinstalle un peu le dialogue entre ces deux positions extrémistes qui n’ont pas l’air de comprendre ce que l’autre fait.

      • Noo@jlai.lu
        link
        fedilink
        Français
        arrow-up
        1
        arrow-down
        1
        ·
        edit-2
        6 months ago

        Je pense qu’on est d’accord sur le fond et c’est l’essentiel :)

        Quelques précisions cependant.

        Sur les inspirations, en France c’est relativement clair : une oeuvre doit porter la marque de son auteur, bien sur il y a une part de subjectivité, mais bon faut bien conserver de l’humain quelque part… Globalement si beaucoup de gens confondent ta prod avec celle d’un autre il faut se poser des questions sinon RAS.

        Sur les usages aux fins de recherches, analyses, études et autres : en France se sont des exceptions au droit d’auteur, donc c’est l’égal. Voilà, pas d’ambiguïté. Dans le copyright, je ne sais pas.

        Sur l’open source. Déjà il existe 2 mouvements : le libre et l’open source. Tu as l’air de faire comme si c’était la même chose, mais c’est pas le cas du tout philosophiquement parlant. Sur l’historicité : le fonctionnement des forges comme git sont une solution technique, mais elles sont beaucoup plus difficile d’usage sur des oeuvres qui ne sont pas du code. De plus cette solution technique n’est pas se qui caractérise la philosophie open source, qui est plutôt l’idée qu’il faut le moins de barrières possible au partage de l’oeuvre. La CC0 est ainsi un bien meilleur exemple, c’est une licence non-libre (puisque pas de paternité, ni de clause share-alike), mais bien une licence open source. Or une oeuvre sous CC0 peut être reproduite sans citer l’auteur, puis peut être refermée (revendu sous licence proprio). = plus d’historicité, plus de sortie du capitalisme (moins en tout cas). Pourquoi l’open source est plus populaire ? Parce que c’est plus simple a gérer. Après est-ce que ce qui est plus simple est forcément meilleur, je ne sais pas.

        Enfin les licences libres et ouvertes sont un pis aller dans le monde du copyright oui (un hack en fait). Mais pas en France, c’est une possibilité que permet le droit d’auteur et c’est hyper bien, car ça donne un accès facilité aux possibilités d’usages d’une oeuvres aux usagés. Cela rétablie ainsi un dialogue entre l’auteur et le receveureuse.

        Les techs c’est les devs, les ingés, etc, tous celleux qui développent directement les nouvelles technologies.

        On a 30 ans de recul sur le web oui. Et bien 30 ans c’est que dalle. Le code civil français a à peine 200 ans. Pour comparer l’Empire romain c’est environ 1200 ans et l’Égypte antique plusieurs millénaires. La on parle d’un sujet qui bouleverse complètement l’un des instinct grégaire de l’être humain : la propriété. Je crois qu’il faut se rendre compte à la fois du défi que ça pose a l’échelle de l’humanité alors que sur des sujets plus ‘simple’ (genre le mariage) on galère encore a faire évoluer les mentalités. A la fois il faut aussi se rendre compte de la vitesse et de la brutalité avec laquelle les technologies évoluent.

        Tu parlais des possibilités d’un monde dans lequel les logiciels s’échangerai sans barrières. Et bien moi j’aimerai bien voir un monde ou on respecte les volontés des auteurs. Ou un auteur qui ne veut pas être diffuser en ligne ne l’est pas, par personne et ou ceux qui diffusent sous licence libre ou ouverte le sont massivement. Dans un tel monde, je pense que bien vite tous les auteurs libéreraient leurs oeuvres, car ils verraient par la pratique qu’ils n’y perdent rien et que tout le monde y gagne. Différentes stratégies j’imagine…

        Tu justifies la fraude a des fins de recherches, c’est un peu douteux (au hasard tu penses quoi du clonage humain ?). Est-ce que c’est parce qu’on parle de PI qu’on peut violer les lois ? Est-ce que c’est moins grave qu’autre chose ? Je ne sais pas.

        Tu parles de “possibilités de génération d’images de qualité professionnel”, c’est quoi la qualité professionnel ? Pour moi c’est un truc de capitalistes servant a rabaisser toute production artistique qui n’entre pas dans la case du “à la mode” ou de l’efficacité. Alors qu’une prod pro c’est une prod qui rapporte de l’argent et rien d’autre (dans le domaine artistique j’entends hein pas dans la fabrication de machine à laver). Pourquoi on veut une production artistique par IA qualité professionnel déjà ?