Blog

Jul 12, 2023

L'artefact de l'application d'actualités des fondateurs d'Instagram est en fait un jeu d'IA

Steven Levy L'invasion des chatbots a perturbé les plans d'innombrables

Steven Levy

L’invasion des chatbots a perturbé les plans d’innombrables entreprises, y compris certaines qui travaillaient sur cette technologie depuis des années (en vous regardant, Google). Mais pas Artifact, l’application de découverte de nouvelles créée par les cofondateurs d’Instagram, Kevin Systrom et Mike Krieger. Lorsque j’ai parlé à Systrom cette semaine de sa start-up – une suite très attendue du réseau social d’un milliard d’utilisateurs qui soutient Meta depuis quelques années – il a insisté sur le fait qu’Artifact est un produit de la récente révolution de l’IA, même s’il a été conçu avant que GPT ne commence à discuter. En fait, Systrom dit que lui et Krieger ont commencé avec l’idée d’exploiter les pouvoirs de l’apprentissage automatique, puis se sont retrouvés avec une application d’actualités après avoir cherché un problème sérieux que l’IA pourrait aider à résoudre.

Ce problème est la difficulté de trouver des articles de presse pertinents et de haute qualité – ceux que les gens veulent le plus voir – et de ne pas avoir à patauger dans des pièges à clics non pertinents, des dévers partisans trompeurs et des distractions hypocaloriques pour obtenir ces histoires. Artifact fournit ce qui ressemble à un flux standard contenant des liens vers des articles d’actualité, avec des titres et des extraits descriptifs. Mais contrairement aux liens affichés sur Twitter, Facebook et d’autres médias sociaux, ce qui détermine la sélection et le classement n’est pas qui les suggère, mais le contenu des histoires elles-mêmes. Idéalement, le contenu que chaque utilisateur veut voir, à partir de publications dont la fiabilité a été vérifiée.

L’application d’actualités Artifact peut désormais utiliser la technologie de l’IA pour réécrire les titres que les utilisateurs ont signalés comme trompeurs.

Ce qui rend cela possible, me dit Systrom, c’est l’engagement de sa petite équipe dans la transformation de l’IA. Bien qu’Artifact ne converse pas avec des utilisateurs comme ChatGPT, du moins pas encore, l’application exploite son propre grand modèle de langage local qui joue un rôle déterminant dans le choix de l’article de presse que chaque individu voit. Sous le capot, Artifact digère les articles de presse afin que leur contenu puisse être représenté par une longue chaîne de chiffres.

En comparant ces hachages numériques d’articles disponibles à ceux pour lesquels un utilisateur donné a montré une préférence (par ses clics, son temps de lecture ou son désir déclaré de voir des choses sur un sujet donné), Artifact fournit une collection d’histoires adaptées à un être humain unique. « L’avènement de ces grands modèles linguistiques nous permet de résumer le contenu en ces chiffres, puis de trouver des correspondances pour vous beaucoup plus efficacement que par le passé », explique Systrom. « La différence entre nous et GPT ou Bard est que nous ne générons pas de texte, mais que nous le comprenons. »

Cela ne signifie pas qu’Artifact a ignoré le récent boom de l’IA qui génère du texte pour les utilisateurs. La startup a une relation commerciale avec OpenAI qui donne accès à l’API pour GPT-4, le dernier et le plus grand modèle de langage d’OpenAI qui alimente la version premium de ChatGPT. Lorsqu’un utilisateur d’Artifact sélectionne une histoire, l’application offre la possibilité de faire en sorte que la technologie résume les articles de presse en quelques puces afin que les utilisateurs puissent comprendre l’essentiel de l’histoire avant de s’engager à lire. (Artifact avertit que, puisque le résumé a été généré par l’IA, « il peut contenir des erreurs. »)

Aujourd’hui, Artifact fait un autre saut sur le vaisseau-fusée de l’IA générative pour tenter de résoudre un problème ennuyeux: les titres clickbaity. L’application offre déjà aux utilisateurs un moyen de signaler les histoires de pièges à clics, et si plusieurs personnes marquent un article, Artifact ne le diffusera pas. Mais, explique Systrom, parfois le problème ne vient pas de l’histoire mais du titre. Cela pourrait promettre trop, ou induire en erreur, ou inciter le lecteur à cliquer juste pour trouver des informations qui sont retenues dans le titre. Du point de vue de l’éditeur, gagner plus de clics est un gros plus, mais c’est frustrant pour les utilisateurs, qui pourraient avoir l’impression d’avoir été manipulés.

Systrom et Krieger ont créé un moyen futuriste d’atténuer ce problème. Si un utilisateur signale un titre comme risqué, Artifact soumettra le contenu à GPT-4. L’algorithme analysera ensuite le contenu de l’histoire, puis écrira son propre titre. Ce titre plus descriptif sera celui que l’utilisateur verra dans son flux. « Quatre-vingt-dix-neuf fois sur 100, ce titre est à la fois factuel et plus clair que celui original que l’utilisateur interroge », explique Systrom. Ce titre n’est partagé qu’avec l’utilisateur plaignant. Mais si plusieurs utilisateurs signalent un titre clickbaity, tous les utilisateurs d’Artifact verront le titre généré par l’IA, pas celui fourni par l’éditeur. Finalement, le système trouvera comment identifier et remplacer les titres offensants sans intervention de l’utilisateur, dit Systrom. (GPT-4 peut le faire tout seul maintenant, mais Systrom ne lui fait pas assez confiance pour confier le processus à l’algorithme.)

Lauren Goode

Personnel de WIRED

Julien Chokkattu

Will Knight

Je fais remarquer à Systrom que cette pratique peut rendre les éditeurs maladroits. Après tout, ils dépensent énormément d’énergie à réfléchir aux titres (comme le fait WIRED dans un canal Slack où je n’ose pas m’aventurer) et testent souvent plusieurs versions pour voir laquelle attire le plus de clics ou de balayages. Qui diable est Artifact pour réécrire les titres de WIRED, Bleacher Report ou le New York Times ?

Systrom dit qu’Artifact n’appâtera qu’une petite minorité d’histoires. Mais il ne s’excuse pas de réécrire ceux que les utilisateurs signalent comme trompeurs. « Il n’y a pas de règle qui dit que tout lien vers le contenu doit être le titre que quelqu’un d’autre a décidé de vous montrer, car cela peut être manipulateur ou trompeur », dit-il. Je dirais qu’il existe au moins une règle tacite selon laquelle les tiers ne devraient pas jouer avec le contenu des histoires auxquelles ils renvoient, et les titres – même ceux qui baisent à clics – sont en effet du contenu.

La nouvelle fonctionnalité illustre à quel point les fondateurs d’Artifact prennent au sérieux leur mission avouée de fournir les histoires les plus pertinentes aux utilisateurs. Mais cela ne signifie pas que le destin ultime de la startup se limitera à améliorer la qualité de la consommation d’informations. Rappelez-vous, dès le début, l’objectif de Systrom et Krieger était d’utiliser l’IA pour résoudre un problème, pas pour améliorer les habitudes de lecture. Alors ne soyez pas surpris quand Artifact se ramifie. En effet, lorsque j’ai demandé à Systrom si le journalisme n’était qu’un point d’entrée pour Artifact – de la même manière qu’Amazon a commencé sa marche vers la domination du commerce électronique grâce à la vente de livres – sa réponse a été un oui direct !

La réponse complète de Systrom est un bon résumé de la façon dont l’un des fondateurs les plus avisés de la Silicon Valley voit une opportunité dans le moment actuel de l’IA. « Dans les nouvelles entreprises, vous commencez toujours avec quelque chose d’assez spécifique, qu’il s’agisse d’Apple et des ordinateurs personnels, ou d’Amazon et des livres, ou de Facebook et des collèges. Vous commencez avec cette spécificité, vous construisez l’adéquation du marché des produits, et à mesure que vous gagnez en succès, vous élargissez l’ouverture de votre mission. Ce qui m’importe le plus, c’est que les gens consomment ce qui compte le plus pour eux, et non ce qui compte le plus pour quelqu’un qui décide de le publier. Cela peut être des articles de presse, de la musique ou du shopping. Mais le principe de base ici est que l’apprentissage automatique va conduire la prochaine vague. »

Cela ressemble à un excellent « hed », comme nous l’écrivons dans l’industrie de l’information. ChatGPT, qu’en pensez-vous ?

L’idée de Systrom selon laquelle Artifact évoluera vers quelque chose de différent est enracinée dans l’expérience que lui et Krieger ont eue avec Instagram. L’application a commencé comme Burbn, conçue comme un moyen de savoir ce que vos amis faisaient à ce moment-là. Le comportement des utilisateurs a conduit à une direction différente, à un nouveau nom et à une acquisition par Facebook. J’ai écrit sur les origines d’Instagram dans mon livre de 2020, Facebook: The Inside Story.

Au cours des semaines suivantes, les bêta-testeurs de Burbn sont devenus une petite mais fidèle communauté. Soulignez petit. « Cela ne mettait pas vraiment le feu au monde », écrira plus tard Krieger dans un compte rendu des débuts d’Instagram. « Nos tentatives d’expliquer ce que nous construisions ont souvent été accueillies par des regards vides, et nous avons culminé à environ 1 000 utilisateurs. » Les fondateurs ont noté que le partage de photos, qui était envisagé comme un diaporama dans l’application, semblait être la fonctionnalité la plus populaire. Systrom et Krieger ont décidé de réécrire Burbn pour se concentrer sur cet aspect. L’application, écrite pour l’iPhone, s’ouvrirait à une caméra, prête à capturer et à transmettre un signal visuel au monde qui montrerait non seulement où vous étiez et avec qui vous étiez, mais qui vous étiez. Il serait primitif, prélinguistique, et se prêterait à une créativité sans fin. Les photos apparaîtraient dans un flux, un flux constant partagé par les personnes que vous avez choisi de « suivre ». Il a également poussé les utilisateurs dans un mode de performance, car par défaut, tout utilisateur pouvait voir vos photos. C’était beaucoup plus Twitter que Facebook-ish.

Lauren Goode

Personnel de WIRED

Julien Chokkattu

Will Knight

Transformer Burbn en une application axée sur la caméra a ravi Systrom. Il avait toujours aimé la photographie. Il avait aussi une affinité pour les vieilles choses funky. C’était le genre de gars qui achetait une vieille Victrola et l’exposait comme une œuvre d’art. C’était aussi un artisan dans l’âme ; ses normes de détail étaient jobsiennes, sans les insultes sarcastiques à ceux qui osaient lui donner un travail qui n’était pas à la hauteur. Lui et Krieger passaient des heures sur les moindres détails, comme obtenir les coins arrondis directement sur l’icône de l’appareil photo. C’était l’antithèse de « Move Fast and Break Things ».

L’une des percées clés de l’application remaniée est survenue lorsque Systrom était en vacances au Mexique avec sa petite amie, Nicole. À sa grande consternation, elle lui a dit qu’elle serait réticente à utiliser le produit qu’il construisait 24 heures sur 24, 7 jours sur 7, car elle aurait du mal à égaler la qualité des photos prises par un certain ami. Systrom lui a dit qu’elles avaient l’air bien parce que l’amie utilisait des filtres pour rendre les images plus intrigantes. Nicole a donc suggéré qu’il devrait peut-être utiliser des filtres dans son produit. Il a rapidement ajouté un filtre à l’application et l’a utilisé le lendemain alors que le couple était à un stand de tacos pour prendre une photo d’un chiot avec le pied à bascule de Nicole dans le coin. C’était la première photo qu’il a postée sur la version bêta du successeur de Burbn, qui a été appelée Instagram, un mot-valise de « instantané » et « télégramme ».

John demande: « Les éducateurs de la maternelle à la 12e année aux États-Unis – et les législatures et les conseils qui les réglementent – sont partout pour déterminer quel plan d’action est le plus logique pour les enseignants confrontés aux chatbots IA. Qu’en pensez-vous? »

Merci, John. L’avènement des chatbots super-intelligents est un défi à deux niveaux. Le problème le plus fondamental et le plus urgent est qu’à l’heure actuelle, les étudiants utilisent quelque chose comme Bard, Bing ou ChatGPT pour les aider dans leur devoir. Ce n’est pas nécessairement si mal, mais le temps gagné pourrait se faire au détriment des découvertes lors de la recherche. Ou ils peuvent utiliser un chatbot comme moyen de plagiat, ce qui est carrément mauvais. Il s’avère difficile d’éliminer la tricherie, mais ce problème pourrait conduire à des réformes des méthodes d’enseignement qui pourraient finalement être bénéfiques. Je parle d’examens plus personnalisés où les étudiants expriment leurs idées directement aux enseignants. S’il n’y a pas de temps pour cela (et il devrait y en avoir), peut-être devrions-nous revenir aux essais en classe écrits à la main dans ces vieux livres bleus?

Lauren Goode

Personnel de WIRED

Julien Chokkattu

Will Knight

L’autre niveau que j’ai mentionné est la question de savoir si les chatbots omniprésents modifieront ce que signifie l’éducation elle-même. Si nous pouvons obtenir des machines pour écrire pour nous, cela signifie-t-il que l’écriture devient moins importante à apprendre? Le dilemme est similaire, bien que beaucoup plus tendu, que les questions qui ont surgi lorsque les moteurs de recherche ont commencé à fournir des réponses à des questions factuelles si facilement. Pourquoi mémoriser une date historique, ou l’adresse de Gettysburg, alors que l’on pourrait accéder instantanément à de telles données?

Je crois qu’il serait tragique que nous dépriorisions la capacité d’organiser les pensées, de rassembler les preuves et d’exprimer des idées dans une prose claire et raisonnée – simplement parce que l’IA sera désormais toujours là pour le faire pour nous. Ces outils mentaux s’appliquent non seulement à l’éducation, mais aussi à la façon dont nous menons nos vies. C’est pourquoi les meilleurs éducateurs modifieront la nature de leur pédagogie pour s’assurer que les élèves seront en mesure de s’envoler sur leur propre matière grise. Ces apprenants bien éduqués feront de meilleurs penseurs, de meilleurs résolveurs de problèmes et de meilleurs partenaires pour leurs compagnons persistants de l’IA.

Vous pouvez soumettre des questions à [email protected]. Écrire DEMANDEZ À LEVY dans la ligne d’objet.

La qualité de l’air à Philadelphie est mauvaise, à cause des feux de forêt en Nouvelle-Écosse.

De nombreux scientifiques de l’IA avertissent que le travail qu’ils font, et continueront de faire, est une menace majeure pour l’humanité.

Le cas du désinfectant pour les mains qui explose. Vous ne pourrez plus jamais désinfecter.

Lauren Goode

Personnel de WIRED

Julien Chokkattu

Will Knight

Un chatbot IA est licencié après avoir recommandé la perte de poids aux patients souffrant de troubles de l’alimentation.

Pendant ce temps, le PDG de WeightWatchers, qui recommande une perte de poids plus sélective, navigue dans un monde de positivité corporelle et d’Ozempic. Mais d’abord, le dessert.

Ne manquez pas les futures éditions de cette chronique réservées aux abonnés. Abonnez-vous à WIRED (50% de réduction pour les lecteurs de texte en clair) Aujourd’hui.