juin 24, 2024

BreaGeek News

Obtenez toutes les dernières nouvelles et rapports sur la FRANCE ici. Manchettes, politique et culture françaises sur une chaîne d'information

Recherche basée sur l’IA et montée en puissance du « Concierge Wikipedia » de Google.

Recherche basée sur l’IA et montée en puissance du « Concierge Wikipedia » de Google.

18 avril 2024 : Sundar Pichai est PDG d’Alphabet Inc. Et sa filiale Google. New York. Lutte boursière

Le 14 mai, Google a annoncé le lancement de son nouvel outil de recherche basé sur l’IA, AI Overviews, un modèle Gemini personnalisé pour la recherche Google. Cette nouvelle expérience de recherche promet de créer un contenu dynamique adapté aux requêtes individuelles, fournissant des résultats plus diversifiés et plus complets. Selon Google, il sera déployé auprès de plus d’un milliard de personnes D’ici la fin de l’année. En tant que premier utilisateur bêta de cette technologie et professionnel de l’information ayant une formation en maîtrise de l’information, j’attendais cette annonce et regardais la discussion se dérouler. Vous explorez de nombreuses conversations autour de la présentation de l’IA La capacité d’influencer de manière significative le commerce en ligne En affectant les flux de trafic Web. L’impact économique pourrait être important. Mais ce que la plupart des discussions ont jusqu’à présent ignoré, c’est le changement plus important que cela va créer dans l’écosystème de l’information.

alors que n’importe lequel Un outil de découverte d’informations façonne les interactions des utilisateurs avec les informations, de la même manière que les aperçus IA permettent de poser des questions fréquentes aux utilisateurs, génèrent des réponses instantanées et présentent les informations et les sources différemment pour redéfinir la manière dont les utilisateurs accèdent et comprennent ces informations. L’aperçu de l’IA apparaît en haut de la page des résultats de recherche, au-dessus de la liste traditionnelle de classement des pages des hyperliens sources et des aperçus, et sert de réponse personnalisée à la recherche de chaque utilisateur. Cette technologie se targue d’offrir un confort d’utilisation amélioré tout en soulevant des inquiétudes quant à la façon dont les utilisateurs percevront la manière dont ils créent, diffusent et accèdent à l’information – compétences essentielles de la maîtrise de l’information.

Alors que la recherche et les politiques s’intéressent de plus en plus au fonctionnement de l’IA Transformer les informations sur le paysage, Affecte le régime informationnelEt Impact sur la démocratie mondiale,Surveiller la manière dont les utilisateurs utilisent ces outils de recherche dans divers contextes sera essentiel pour surveiller la santé des écosystèmes d’information en ligne. Cela est vrai non seulement en raison de l’intérêt croissant porté à la recherche et aux politiques, mais aussi parce que ces outils et leurs outils associés vont complètement changer la façon dont nous accédons à l’information et l’utilisons – avec des conséquences imprévues et imprévues que nous pourrions être mal préparés à surveiller, a fortiori. seul atténuer.

Combinaison séduisante

Les aperçus basés sur l’IA sont attrayants car ils résument et compilent les résultats de recherche en quelques secondes. Cette commodité cache souvent le merveilleux fait que nous assistons à la naissance d’un tout nouvel objet d’information, une sorte de troisième source comme le service de conciergerie Wikipédia, qui vise à répondre avec ses capacités logiques avancées aux requêtes de plus en plus complexes des utilisateurs. Contrairement aux formes de recherche plus anciennes, ces réponses tertiaires sont générées en mettant beaucoup moins l’accent sur les sources primaires et secondaires d’où est tirée la réponse générative.

READ  Palworld sur Xbox n'a pas de serveurs dédiés, la coopération est limitée à 2 à 4 joueurs tandis que Steam peut accueillir jusqu'à 32 joueurs

La synthèse est une compétence cognitive de haut niveau, similaire à l’analyse. Avec les aperçus IA, l’effort de réglage est allégé en promettant que le temps et l’énergie économisés pourront être consacrés à d’autres tâches plus significatives. Mais la nature de ces tâches reste à déterminer. Une dépendance excessive à l’égard de tels systèmes comporte des risquesdouble« , ce qui mine la capacité de synthèse et d’analyse de soi. Bien qu’il s’agisse de compétences cognitives, Prise de décision éthique D’autres processus et compétences moraux peuvent également être affectés.

En fin de compte, l’évaluation des informations devient un exercice difficile pour naviguer et évaluer l’incertitude et la complexité. Le déclin collectif dans ce domaine, alors que les consommateurs d’informations cèdent de plus en plus les décisions fondées sur des valeurs aux systèmes automatisés et externalisent efficacement leurs compétences de pensée critique vers l’intelligence artificielle, aura certainement un impact sur la capacité du public à s’engager dans une compréhension approfondie et précise du monde. autour.

Médiation artificielle

Les aperçus de l’IA agissent comme un voile semi-transparent entre ce qui est traditionnellement une relation utilisateur-source. Les itérations précédentes de la recherche Google l’ont certainement fait également, en proposant des aperçus dans les résultats de recherche qui répondaient à une question. Alors que l’algorithme de recherche de Google a été amélioré Prédire les résultats Basé sur le comportement de l’utilisateur et d’autres points de données utilisateur (Y compris la publicité), et la fonctionnalité AI Overviews va plus loin, guidant les utilisateurs dans la compréhension des informations collectées. Il agit comme un médiateur, façonnant l’interaction de l’utilisateur avec le contenu de recherche.

En aidant les utilisateurs à comprendre ces informations, il a également la capacité d’influencer subtilement ce qu’ils pensent. Le pouvoir de ces aperçus est énorme et doit être compris au sein de diverses communautés. Cela implique de comprendre les effets de la dépendance croissante de l’utilisateur à des aperçus d’informations pratiques mais potentiellement superficiels, le potentiel de ces aperçus d’influencer une compréhension plus large de sujets sensibles et leur capacité à inciter à une polarisation accrue des opinions. Les communautés en ligne sont déjà motivées par la méfiance à l’égard des médias grand public.

READ  Samsung Galaxy Watch 6 pourrait obtenir un écran MicroLED

Informations hors contexte

AI Overviews se concentre sur la réponse générée sur des sources individuelles, en extrayant ces sources de leur contexte d’origine et en les intégrant. Les sources sont incluses via des îlots extensibles ou dans une fonction de défilement de carrousel horizontal et, comme les sources sont intégrées dans la réponse, les aperçus donnent un sentiment d’exhaustivité qui décourage subtilement les comportements exploratoires plus profonds tels que la comparaison et le contraste des sources ou la corroboration personnelle des informations à l’aide de sources primaires. En ce sens, le panorama ultime de l’intelligence artificielle Résumé de la franchise Au détriment de l’exploration et de la navigation.

Les professionnels de l’information tentent (et échouent) d’enseigner cela aux utilisateurs depuis un certain temps déjà. Les premiers résultats de recherche ne sont pas toujours les meilleurs; « AI Overviews » est l’un des premiers résultats de recherche et représente également le consensus déterminé par la machine pour de nombreux résultats de recherche. Mais en réalité, ils ne pourront jamais tous les représenter. Bien qu’un aperçu de l’IA semble exhaustif, étant donné les préjugés bien documentés de tout système LLM en conjonction avec le paysage informationnel déjà peu représentatif sur le Web, un aperçu de l’IA risque de négliger diverses perspectives, en particulier celles des communautés historiquement marginalisées.

Qu’il s’agisse du manque d’informations diversifiées dans les aperçus générés ou des efforts supplémentaires que les utilisateurs doivent déployer pour explorer et contextualiser plusieurs sources plutôt que de se référer aux résultats générés par l’IA, la représentation ne réside pas seulement dans les réponses mais dans l’interaction de l’utilisateur avec le sources Divers. Puis après ça Soulève des questions sur l’attribution de la source Si les utilisateurs s’appuient et citent uniquement la réponse générée et non le matériel source à partir duquel cette réponse a été extraite.

Objectivité et fiabilité artificielles

Google expliquer Dans sa version bêta d’AI Overviews, il a « ajusté le modèle pour fournir des réponses objectives et neutres étayées par des résultats Web ». Cela a été fait pour que le modèle n’adopte ni ne reflète aucun type de personnalité qui pourrait affecter les utilisateurs sur le plan émotionnel. Cependant, un ton neutre et désintéressé a également un attrait émotionnel et logique pour les lecteurs et peut masquer tout préjugé inhérent au système. Une offre neutre est très convaincante, surtout lorsque les réponses sont généralement utiles et fiables. Mais mange Les LLM ont encore des hallucinations Ils génèrent en toute confiance des informations incorrectes ou dénuées de sens, soulignant encore davantage la nécessité d’évaluer de manière critique leurs résultats.

La possibilité d’hallucinations, combinée à des données d’entraînement incomplètes/biaisées, rend impossible la neutralité dans tout système créé par l’homme, tandis qu’adopter un ton neutre donne l’impression que c’est exactement le contraire. Les documents sources, même le contenu basé sur des données, peuvent être trompeurs en fonction de leur emballage et de leur présentation. Les utilisateurs recherchent souvent des signes rapides de fiabilitéLa présentation objective des aperçus de l’IA offre un vernis de fiabilité mais donne finalement la priorité à la commodité et aux jugements rapides plutôt qu’à une analyse complète. En fin de compte, les aperçus de l’IA sont conçus pour promouvoir des regards rapides et superficiels plutôt qu’une exploration en profondeur, et le ton neutre garantit que les utilisateurs ne s’attardent pas trop longtemps au même endroit ou ne réfléchissent pas trop à quoi que ce soit parce que les résultats semblent « réels ».

READ  WhatsApp vous donne jusqu'à 2 jours pour supprimer un message, au lieu d'une heure

Recommandations

Compte tenu des impacts potentiellement importants sur les comportements des utilisateurs et des implications qui en résultent pour les écosystèmes d’information, je recommande ce qui suit :

  1. Accès chercheur L’obtention de données robustes sur les utilisateurs sera cruciale pour comprendre comment les écosystèmes d’information évoluent et modifient les modèles de consommation d’information affectant tout, de l’économie à la démocratie. Rendre ces données largement disponibles pour les études scientifiques sera essentiel pour renforcer les interfaces de recherche éthiques, donner la priorité à la transparence et améliorer les outils permettant aux utilisateurs d’accéder aux sources originales et de les évaluer de manière critique.
  2. En rapport, Les écoles doivent développer des programmes solides Ce qui implique d’enseigner aux étudiants comment effectuer des recherches critiques à l’aide d’outils de découverte d’informations utilisant l’intelligence artificielle générative. La maîtrise de l’information a été enseignée de manière inégale jusqu’à présent, c’est pourquoi l’élaboration rapide et prochaine de programmes d’études sera essentielle pour aider les utilisateurs à utiliser cette technologie de manière responsable.
  3. Google doit constamment surveiller et développer la conception de l’interface Pour garantir que les utilisateurs comprennent les limites des aperçus d’IA. Google devrait également analyser les données des utilisateurs en visant à aider les utilisateurs non seulement à obtenir des réponses rapides, mais également à encourager des comportements de recherche en ligne réfléchis.

Les aperçus de l’IA ne représentent qu’une petite partie de l’impact productif de l’IA sur les écosystèmes d’information en ligne. Parce que ce n’est qu’un début, il est essentiel d’avoir dès le début des conversations significatives sur la manière dont les utilisateurs adapteront leurs comportements et quelles en seront les conséquences sur le paysage de l’information en ligne, afin que nous puissions continuer à comprendre le fonctionnement des systèmes et leurs impacts évolutifs sur les personnes qui les utilisent. Utilise les.