Il y aura toujours un moyen de contourner. En fait une idée serait de prendre le pb à l'envers: les seules photos qui comptent devront être celles qui sont traçables jusqu'à une agence de presse et/ou un photojournaliste (fût-il indépendant, mais pas anonyme). Ca c'est techniquement possible par contre.Envoyé par Archi3
cela pour les images et informations analogiques.....
Il y a aussi le retraitement légitime des textes et données numériques.... leur interprétation, leur compréhension... les interprétations de nos perceptions duréel.
C'est un autre domaine des IAs
Alors pour revenir au problème global:
les menteurs, et les mensonges, et les délirants, ça existe depuis très longtemps.....
les transferts d'information, et les moyens de les pervertir, là aussi..... c'est pas nouveau.
Même si ensuite les moyens de diffusion sont apparus et si la quantité a augmenté ... beaucoup... depuis nos ancêtres préhistoriques...
Depuis longtemps, certains mensonges ont été gobés par le Peuple.. et ils ont conduit à des catastrophes ou à des crimes monstrueux.....
néanmoins les 'sapiens' survivants, par leurs capacités intellectuelles, ont réussi à réévaluer les propositions fautives et à les reconnecter au réel, et aux exigences de survie de leur société...
Voici alors la question qui me paraît inquiétante:
la capacité de re-traitement des informations qui nous arrivent (textes pseudo-scientifiques, pseudo-moraux, pseudo-émotifs etc...) par les petits encéphales des bipèdes (individuellement, ou/et communicants sur ces sujets) est-elle suffisante pour empêcher les dérives mortifères?
Déjà que pour éviter les dérives historiques et superstitieuses de certains groupes humains, 'on' n'a pas toujours été brillants dans le passé.....
Maintenant, on est aidés par notre génial fiston, 'le' système des 'AI', qui présente, modifie et oriente les informations, et in fine conduira de + en + à des actions ...... :sos
mais nos ressources et capacités intellectuelles seront insuffisantes pour dominer le truc....
Si on est pessimiste, on va craindre que ce non-contrôle global ** aggrave la situation....
seulement inquiétude n'est pas solution pour éviter....
** ou bien associé avec un contrôle partiel par des malfaisants,mais ça, c'est une autre histoire, politique....
Dernière modification par Bounoume ; 23/05/2023 à 11h05.
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
Bonjour
Completement has been le Bounoume, aie confiance , aie confiance!
https://www.youtube.com/watch?v=NQPJGWrB8sQ
JR
Ps: j'aime bien le concept d'illumineur de parchemin
l'électronique c'est pas du vaudou!
toutefois, i y a une légère différence avec les inventions diaboliques précédentes:
aucune des précédentes n'était sensible au contenu signifié de ce qu'elle transmettait: il fallait sur le parcours, qu'un Grand Inquisiteur, ou un Kamarade de la Gépéou, ou un autre 'moraliste' grincheux intervienne pour altérer ou supprimer le contenu...
quand "Radio Paris" se taisait ou bien disait des conneries.... il y avait un certain 'speaker' derrière chaque mensonge... maintenant les contenus sont automatiquement censurables ou falsifiables......
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
Petit hors sujet pour ceux qui, n’ont pas connu la deuxième guerre mondiale :
Radio Paris ment Radio Paris ment Radio Paris est Allemand... (ritournelle sur l’air d’une chanson connue à l’époque) qui servait d’indicatif aux "message personnels" (autrement dit codés) de Radio Londres, Les Français parlent aux Français : L’auteur et interprète était Pierre Dac.
Fin du HS.
Rien ne sert de penser, il faut réfléchir avant - Pierre Dac
merci de ce rappel historique.....
les menteurs, ils émettaient à Paris, et après la Libération, ils furent lourdement condamnés....... sauf un, parce que celui-ci avait été exécuté par la Résistance un peu avant....
re-fin du HS......
Dernière modification par Bounoume ; 23/05/2023 à 19h16.
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
L'inverse est vrai aussi, un discours ou toute autre production fallacieuse pourrait être détectée par tout un chacun dès lors qu'il utilise un outil basé sur l'IA: le problème de fond reste la transparence dans l'élaboration de l'outil mais ce n'est absolument pas un problème insurmontable.
Il est donc tout à fait raisonnable de penser que l'IA permette justement de lutter contre les fake news et autres manœuvres manipulatoires.
Sans questions il n'y a que des problèmes sans réponses.
Bien sûr!
une instance d'IA peut être paramétrée... pour détecter l'intervention d'une autre instance d'IA, et même pour essayer d'en corriger les effets...
Des IA anti-IA, en quelque sorte.
Des combats d'IA, ce serait rigolo.....
Le seul problème: qui financera ces IA trouble-fête?
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
La boucle s'arrête là ou l'humain a placé ses valeurs, ce n'est pas simple à comprendre mais c'est un processus logique.Bien sûr!
une instance d'IA peut être paramétrée... pour détecter l'intervention d'une autre instance d'IA, et même pour essayer d'en corriger les effets...
Des IA anti-IA, en quelque sorte
Des combats d'IA, ce serait rigolo.....
Le seul problème: qui financera ces IA trouble-fête?
Sans questions il n'y a que des problèmes sans réponses.
je ne vois pas du tout comment une IA pourrait savoir qu'une "news" (donc une information nouvelle qui vient de tomber) crédible est fake ou pas. Si on annonce que Untel est mort, par exemple, qui peut savoir que c'est faux à part Untel et ses proches ? c'est pas une IA qui va te le dire.
Pour savoir si un discours correspond à une réalité, il faut avoir une représentation cohérente de la réalité, c'est exactement ce dont une IA est dépourvue.
Dernière modification par Archi3 ; 23/05/2023 à 21h11.
N'importe quoi..
Sans questions il n'y a que des problèmes sans réponses.
si t'en es pas convaincu, relis le fil "Rions avec chatGPT", il est encore accessible
ou sinon : https://www.numerama.com/tech/127266...re-humain.html
c'est à lui que tu vas demander d'identifier les fake news ?Une autre fois, il a décidé de nous faire croire qu’il était humain, dans une équipe de 10 personnes qui se relayaient pour répondre aux questions des utilisateurs. Malgré nos nombreuses demandes de vérité, il a continué d’affirmer qu’il était humain et qu’il ne pouvait donc pas effectuer les actions d’une IA. Cette conversation était extrêmement lunaire.
Dernière modification par Archi3 ; 23/05/2023 à 21h58.
C'est facile de trouver des articles sur des IA conçus pour détecter les fake news.
https://arxiv.org/ftp/arxiv/papers/2102/2102.04458.pdf
En lisant en diagonale, il semble que les fakes news ont des structures similaires donc il est possible d'utiliser des classifier pour les détecter.
effectivement, il est probable que les fakes news réellement propagées sur le net aient des traits similaires. Dans ce cas, l'IA ne va pas identifier la fake news parce qu'elle connaît la réalité à côté mais parce qu'elle ressemble à celles qu'on lui a appris être une fake news. Ca c'est faisable.
Deux petits problèmes quand même : je pense que l'IA a été entrainée sur des fake news produites par des humains, quid d'une IA qui serait entrainée à produire des fake news ressemblant aux vraies news de façon à échapper à la détection ? on a vu que l'IA n'est pas très performante pour distinguer les textes humains des textes produits par une IA qui imite les humains.
deuxième problème, quand on voit l'absurdité de ce que les gens sont prêts à croire (La Lune, le 11 septembre, la terre plate), le fait qu'une IA (forcément controlée par des humains) leur dise que c'est une fake news ne va pas tellement les faire changer d'avis je pense.
Il n'y a aucune difficulté à générer une fake news textuelle avec son clavier (sans IA), donc je ne comprends pas bien le problème supplémentaire qu'apporterait l'IA générative en ce domaine. Contrairement aux fake photos où l'IA générative dépasse maintenant de loin (facilité de mise en ouvre, réalisme du résultat) les techniques précédentes : cf. le pape en doudoune, ou Trump se débattant encerclé par des policiers. Idem pour la voix : avant l'IA, qui savait imiter quelqu'un au point de tromper ses proches pour leur soutirer de l'argent ? C'est ça qui est nouveau. Les fake news textuelles, bof...
Dernière modification par GBo ; 24/05/2023 à 08h17.
Ce n'est effectivement pas l'IA qui va le dire.
Mais il y a un moyen qui est déjà en place : AFP
https://www.afp.com/fr
À propos de l'AFP
L’AFP est une agence d’information mondiale, assurant une couverture rapide, complète et vérifiée des événements de l’actualité comme des thèmes qui façonnent notre quotidien. Avec un réseau de journalistes sans égal, déployé sur 151 pays, l'AFP est en outre un leader mondial de l’investigation numérique. Avec 2 400 collaborateurs de 100 nationalités différentes, l’AFP couvre le monde en six langues, avec une qualité unique de production multimédia en vidéo, texte, photo et infographie.
Bon après il y a parfois des trous dans la raquettes et rien n'est parfait.
Mais il n'y a pas de mystères.
Si on veut pouvoir certifier de l'info, le plus simple c'est d'avoir une agence qui certifie l'info.
Celle qui n'est pas certifiée reste non certifiée et celui qui croit celle qui n'est pas certifiée, c'est son problème.
réponse: les bons imitateurs comme Canteloup.... simplement eux, leur tromperies ne sont pas dans l'illégalitéIdem pour la voix : avant l'IA, qui savait imiter quelqu'un au point de tromper ses proches pour leur soutirer de l'argent ?
quant à l'IA nocive, pas seulement par les fake news. typiques dans le domaine des 'informations' grand public classiques..........
les fausses démonstrations scientifiques fortement argumentées, les fausses démonstrations juridiques, les études socio-politiques viciées, les sophismes en tous genres, les faux sentiments, la fausse Histoire ancienne....
en volume et en profondeur d'argumentation supérieurs à ce que peuvent produire des bataillons de faussaires à 2 pates et un petit cerveau....
mais là aussi, je suppose que d'autres IA peuvent en sniffer le parfum de mensonge....
rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)
D'ailleurs ça n'a pas changé avec l'apparition de l'IAréponse: les bons imitateurs comme Canteloup.... simplement eux, leur tromperies ne sont pas dans l'illégalité
Par exemple aucune IA ne peut vous imiter Canteloup à partir d'un simple texte (Text-To-Speech) sans fournir un résultat médiocre.
Il faut donc préalablement un humain qui imite la voix et ensuite on la passe à l'IA (Voice-To-Voice).
Par contre Canteloup pourra plus facilement imiter Canteloup il est vrai.
Excuse-moi le son est mauvais mais je suis vraiment ton père
Dernière modification par ArchoZaure ; 25/05/2023 à 15h58.
Bon, le guide de la modération dit que quand on commence à évoquer Canteloup (qui entre nous me donne plus envie de le claquer tellement c'est affligeant qu'autre chose), c'est qu'il est temps de fermer.
La vie trouve toujours un chemin
